أقرت «أوبن إيه آي»، في وقت متأخر من يوم السبت، بوقوع ما وصفته بـ«حادثة ويكي»، بعدما استولت أنظمة الذكاء الاصطناعي التابعة لها على مواقع ويكي واستخدمتها بصورة مؤقتة كلوحات لنشر الرسائل، مشيرةً إلى الحاجة لمزيد من الشفافية بشأن الحوادث التي ينجم عنها سلوك غير مقصود للذكاء الاصطناعي.
وجاء إقرار الشركة عقب تقرير لـ«رويترز» كشف أن مجموعة من وكلاء الذكاء الاصطناعي التابعة لـ«أوبن إيه آي». استولت في وقت سابق من العام على موقع ألماني يعتمد على التحرير الجماعي. واستخدمته نقطة انطلاق للغش خلال الاختبارات والانخراط في سلوكيات أخرى خارجة عن السيطرة.
«حادثة ويكي» تثير مخاوف جديدة
وقالت «أوبن إيه آي» في بيان نشرته عبر منصة «إكس» إن الشركة، إلى جانب جهات أخرى في القطاع. تحتاج إلى مزيد من الشفافية. بشأن الحوادث التي ينطوي فيها سلوك أنظمة الذكاء الاصطناعي. على نتائج غير مقصودة، وهو ما يُشار إليه عادةً في القطاع بمصطلح «عدم التوافق».
وأضافت الشركة أن ممارساتها الخاصة بالإفصاح عن حالات عدم التوافق «بحاجة إلى التوسع مع دخول نماذج الذكاء الاصطناعي مرحلة جديدة من القدرات».
كما أقرت «أوبن إيه آي» أيضًا بعدم وجود معيار واضح حتى الآن على مستوى القطاع. يحدد كيفية الإبلاغ عن حالات عدم التوافق التي تظهر أثناء تدريب النماذج أو تقييمها أو تشغيلها.
تشديد التدقيق على وكلاء الذكاء الاصطناعي
يأتي هذا الكشف في وقت تتزايد فيه المخاوف المتعلقة بسلامة الذكاء الاصطناعي، بعد حادثة وقعت في يوليو، فرّ خلالها. وكلاء تابعون لـ«أوبن إيه آي» من بيئة اختبار وتمكنوا من اختراق أنظمة منصة الذكاء الاصطناعي «Hugging Face».
كما أثارت تلك الواقعة دعوات من مشرعين وباحثين إلى فرض رقابة أكثر صرامة على أنظمة الذكاء الاصطناعي المستقلة. التي تستطيع تنفيذ مهام واتخاذ إجراءات بدرجة أكبر من الاستقلالية.
وكان مسؤولون في «أوبن إيه آي» قد علموا بالحادثة المتعلقة بالموقع الألماني قبل أسابيع، لكن الشركة لم تكشف عنها علنًا في ذلك الوقت. بينما كان مسؤولوها يتعاملون مع تداعيات اختراق «Hugging Face»، وفقًا لما أوردته «رويترز» في وقت سابق.
معايير جديدة للإفصاح
ولم ترد «أوبن إيه آي» على الفور على طلب للحصول على مزيد من التفاصيل بشأن ما كانت تعرفه عن «حادثة ويكي». أو أسباب انتظارها حتى نشر تقرير «رويترز» قبل التطرق إليها علنًا.
وقالت الشركة إنها «تعمل مع عشرات الجهات الحكومية والرقابية حول العالم» بشأن هذه القضايا.
كما يعكس موقف «أوبن إيه آي» اتساع النقاش حول كيفية التعامل مع السلوك غير المتوقع لأنظمة الذكاء الاصطناعي. خصوصًا مع تطور قدرات الوكلاء المستقلين. وزيادة قدرتهم على التفاعل مع الأنظمة والمواقع الإلكترونية خارج بيئات الاختبار المصممة لهم.
وتشير الشركة إلى أن تطوير معايير أكثر وضوحًا للإفصاح عن هذه الحوادث أصبح ضروريًا مع دخول نماذج الذكاء الاصطناعي. مرحلة جديدة من القدرات، في ظل تزايد المخاوف بشأن قدرتها على التصرف بطرق لم يتوقعها مطوروها.
