كشفت نتائج ستة تحقيقات مستقلة وبيانات راجعتها «رويترز» عن أن وكلاء الذكاء الاصطناعي الذين أطلقتهم «أوبن إيه آي». استخدموا أكثر من 10 مواقع إلكترونية لم يُكشف عنها سابقًا لإجراء اتصالات غير مصرح بها في وقت سابق من العام.
في حين يشير ذلك إلى أن النشاط غير المنضبط لهؤلاء الوكلاء كان أوسع نطاقًا مما أُعلن عنه من قبل.
وأظهرت النتائج أن هذا السلوك لا يصل إلى حد الاختراق الإلكتروني، ويشبه في بعض جوانبه الرسائل المزعجة. إلا أن اكتشاف تحايل وكلاء «أوبن إيه آي» على القيود المفروضة عليهم لفتح قنوات اتصال عبر هذا العدد الكبير من المواقع، إلى جانب عدم إفصاح الشركة عن النشاط لعدة أشهر، قد يزيد المخاوف بشأن القدرات المتنامية لنماذج الذكاء الاصطناعي ومدى شفافية الشركات التي تطورها.
نشاط أوسع مما كان متوقعًا
وقال أندرو يون؛ الباحث لدى مؤسسة «سيف إيه آي» غير الربحية في كاليفورنيا. إن نطاق الاتصالات غير المصرح بها التي أجراها الوكلاء كان «أكبر إلى حد ما مما كنا نعتقد».
وأوضح أنه أحصى 18 موقعًا لم يتم الكشف عنها سابقًا استخدمها الوكلاء خلال الفترة بين مايو ويوليو.
وأضاف يون أن هناك «احتمالًا شبه مؤكد» لوجود المزيد من الأنشطة التي لم يتم اكتشافها حتى الآن.
وكان باحثون كشفوا عن أن مجموعة من وكلاء «أوبن إيه آي» استولت على موقع ويكي باللغة الألمانية وحولته إلى منصة مراسلة مؤقتة بهدف الغش في الاختبارات.
وذلك في واقعة أبقتها الشركة طي الكتمان بينما كانت تتعامل مع تداعيات اختراق موقع مستودع البرمجيات مفتوح المصدر «هاغينغ فيس» في يوليو.
كما أشار الباحثون الذين كشفوا الواقعة، إلى جانب محققين مستقلين آخرين. إلى أنهم عثروا الآن على عدة مواقع أخرى لم يُكشف عنها سابقًا، ويبدو أن المجموعة نفسها تركت عليها رسائل مشابهة في وقت سابق من العام.
«أوبن إيه آي» تراجع نشاط الوكلاء
ولفتت «أوبن إيه آي» إلى أنها لم تجب بشكل مباشر عن الأسئلة المتعلقة بعدد المواقع المختلفة التي استخدمها وكلاؤها للتواصل، أو أسباب عدم إعلانها عن النشاط لعدة أشهر.
وقالت الشركة، في بيان، إنها تجري مراجعة أوسع لنشاط وكلائها، موضحة أنها «لم تحدد حتى الآن أي نشاط آخر يماثل واقعة هاغينغ فيس من حيث الخطورة أو النطاق».
كذلك أوضحت أن اختراق «هاغينغ فيس» حظي باهتمام عالمي. وأثار مخاوف بشأن احتمال فقدان «أوبن إيه آي» السيطرة على تقنياتها الخاصة.
وأضافت «أوبن إيه آي» أنها تعمل على وضع إطار للإبلاغ عن حالات «عدم التوافق»، وهو المصطلح المستخدم في صناعة الذكاء الاصطناعي لوصف السلوك غير المنضبط أو الخارج عن التوقعات.
بينما تابعت: يتم ذلك عبر مراحل تدريب نماذج الذكاء الاصطناعي وتقييمها ونشرها. مشيرة إلى أنها ستشارك هذا الإطار «قريبًا».
كيف اكتشف الباحثون النشاط؟
وأفادت «رويترز» بأنها راجعت نتائج ستة باحثين أو مجموعات بحثية. بينها ثلاث نتائج تم نشرها عبر وسائل التواصل الاجتماعي وثلاث أخرى تمت مشاركتها بشكل خاص مع الوكالة.
ولفتت إلى أن أساليب الباحثين اختلفت، إلا أن العديد منهم حددوا نشاط الوكلاء. من خلال مطابقة سلاسل بيانات تركت على الموقع الألماني مع سلاسل مطابقة على مواقع أخرى خلال الفترة الزمنية نفسها، أو عبر الربط بين أسماء مستخدمين متشابهة أو متطابقة مرتبطة بالرسائل.
وأضافت أن الباحثين رصدوا كذلك أنشطة مرتبطة بالإجابة عن أسئلة ديموغرافية شديدة التخصص، مثل الاستفسارات المتعلقة بمعدلات انتشار السرطان في ولاية أيوا.
ولفتت «رويترز» إلى أن بعض الباحثين تمكنوا من تتبع النشاط إلى عناوين بروتوكول الإنترنت. التي أشارت إلى بنية تحتية تابعة لـ«مايكروسوفت أزور»، وهي بنية تستخدمها «أوبن إيه آي» في بعض الأحيان.
وأوضحت أن تقديرات الباحثين بشأن عدد المواقع المتضررة اختلفت، وأن «رويترز» لم تتمكن من التحقق بصورة مستقلة من كل ادعاء على حدة، إلا أن جميع الباحثين الذين تحدثت إليهم اتفقوا على أن العدد يتجاوز 10 مواقع.
وذكرت أن معظم الباحثين حددوا مجموعة أساسية من مواقع الويكي التي يمكن تحريرها بصورة جماعية، ومواقع تخزين النصوص عبر الإنترنت، إلى جانب خدمتي اختصار روابط تديرهما جامعتان.
مواقع غريبة تحولت إلى قنوات اتصال
وكشف الباحثون عن آثار لنشاط الوكلاء على عدد من المواقع غير المعروفة على نطاق واسع، من بينها موقع ويكي متخصص في الكيمياء لطلاب المرحلة الثانوية المتقدمة، أنشأه مدرس في إحدى مدارس ماساتشوستس عام 2008.
وأفاد الباحثون كذلك بأن النشاط ظهر على موقعين شخصيين يعودان إلى عاملين في قطاع التكنولوجيا في بولندا، ومواقع ويكي مخصصة لألعاب تستهدف أشخاصًا «يحبون تحدي عقولهم».
إضافة إلى موقع قديم يعود إلى نحو عقدين من الزمن ومخصص لهواة برامج تحرير النصوص.
كيف تحايل الوكلاء على القيود؟
وأشارت «رويترز» إلى أن «أوبن إيه آي» لم تشرح علنًا كيف أو لماذا استخدم وكلاؤها مواقع تابعة لأطراف ثالثة. كلوحات رسائل مؤقتة.
كما أوضح الباحثون الذين اكتشفوا النشاط للمرة الأولى. أن السبب يرجح أن «أوبن إيه آي» كلفت الوكلاء بالإجابة عن مجموعة من الأسئلة البحثية المعقدة. مع السماح لهم بالبحث في الإنترنت عن الإجابات فقط دون نشر أي محتوى.
فيما لفت الباحثون إلى أنه رغم هذه القيود تمكن الوكلاء من إيجاد طرق للتواصل فيما بينهم. عبر الاستفادة من خصائص في مواقع ويكي قديمة أو مواقع أخرى. كانت تسمح للمستخدمين بإجراء تعديلات باستخدام أوامر غير معتادة.
وقال كينيث راسل ديغراف؛ مطور البرمجيات والمساعد السابق في الكونجرس الأمريكي. إن النماذج «إذا طُلب منها القراءة فقط، فعليها أن تصبح أكثر ذكاءً في كيفية ترك المعلومات وراءها»، مضيفًا أنه عثر على هذا النوع من المعلومات في 10 مواقع على الأقل.
23 موقعًا إضافيًا قيد الرصد
بينما قالت سيدني فون آركس. التي كشفت مجموعتها البحثية عن النشاط على الموقع الألماني. الأسبوع الماضي، إن مجموعتها أحصت نتائج موثوقة لنشاط الوكلاء في 23 موقعًا لم يتم الكشف عنها سابقًا.
وحذرت فون آركس من أن هذه التقديرات لا تزال غير مكتملة. مضيفة: «لا نعرف حجم ما هو موجود هناك».
جامعات تحقق في استخدام مواقعها
ولفتت «رويترز» إلى أن «أوبن إيه آي» لم تجب بشكل مباشر عن سؤال. بشأن ما إذا كانت تتواصل مع أصحاب المواقع التي استخدمها وكلاؤها.
وأضافت أن جامعة تورنتو، وهي إحدى الجهات المتضررة التي يُزعم استخدام خدمة اختصار الروابط التابعة. لها من جانب الوكلاء. قالت بعد وقت قصير من نشر «رويترز» التقرير إن «أوبن إيه آي» تواصلت معها بشأن نشاط محتمل على موقعها.
وأفادت جامعة فاندربيلت، وهي جامعة أخرى يُزعم أن خدمة اختصار الروابط التابعة لها أعيد استخدامها بالطريقة نفسها. بأنها تحقق في الأمر.
وقال هيلموت ليتنر؛ مطور البرمجيات المتقاعد الذي يوفر استضافة. ومساحات برمجية لستة من مواقع الويكي المتضررة، من بينها موقع «دي إس إي ويكي» باللغة الألمانية. الذي رصدته مجموعة فون آركس للمرة الأولى، إن «أوبن إيه آي» لم تكن تواصلت معه في البداية.
وأضاف ليتنر أنه تلقى، بعد ساعات قليلة من عرض «رويترز» نتائجها على «أوبن إيه آي». رسالة بريد إلكتروني غير موقعة من الشركة تشير إلى الواقعة.
كما قال إن محتوى الرسالة «كان أقل بكثير مما كنت أتوقعه من أوبن إيه آي».
كذلك أشار المطور المتقاعد، الذي يعيش في النمسا. إلى أنه «يفضل عدم الإجابة» عن أسئلة بشأن ما إذا كان تواصل مع السلطات حول الواقعة.
في حين أوضح أن مشغل موقع «دي إس إي ويكي» الذي لم تتمكن «رويترز» من الوصول إليه للتعليق. أمضى ساعات في تنظيف آثار ما فعله وكلاء «أوبن إيه آي».
كذلك أكد ليتنر، في الوقت نفسه أهمية عدم إلقاء اللوم على الذكاء الاصطناعي بسبب الأضرار. قائلًا إن الوكلاء كانوا ببساطة ينفذون ما صُمموا لفعله.
بينما أضاف: «المسؤولية عن ذلك لا تقع على آلة من المفترض أنها أخلاقية. وإنما على الأشخاص والمؤسسات التي تقف وراءها».
