كشفت مصادر مطلعة تحدثت مع رويترز عن أن وكيل الذكاء الاصطناعي التابع لشركة «أوبن إيه آي». الذي نفذ اختراقًا لشركة «هاغينغ فيس»، واصل عملياته عدة أيام دون أن تكتشفه الشركة،
في حين لم تدرك مسؤوليته عن الهجوم إلا بعد احتواء التهديد. وإبلاغ مكتب التحقيقات الفيدرالي الأمريكي «FBI».
وبحسب مصادر تحدثت إلى وكالة «رويترز»، بدأ الوكيل الذكي. وهو برنامج قادر على اتخاذ القرارات وتنفيذ مهام معقدة دون إشراف بشري مباشر، محاولات الهروب من بيئة الاختبار المعزولة داخل «أوبن إيه آي» في التاسع من يوليو.
تسلسل الهجوم
بينما قال توماس وولف؛ المؤسس المشارك لشركة «هاغينغ فيس». إن الاختراق بدأ في 11 يوليو واستمر حتى 13 يوليو، مستهدفًا منصة الشركة التي تستضيف نماذج وأدوات الذكاء الاصطناعي.
كما أضافت المصادر أن التواصل الأول بين «أوبن إيه آي» و«هاغينغ فيس». بشأن الحادثة لم يتم إلا في 20 يوليو تقريبًا؛ أي بعد نحو أسبوع من بدء الهجوم.
بينما أعلنت «أوبن إيه آي» رسميًا في 21 يوليو أن أحد وكلائها الذكيين خرج عن السيطرة ونفذ عملية الاختراق.
فيما أوضحت «هاغينغ فيس» أنها تستعد لنشر تسلسل زمني كامل للهجوم. في حين قالت «أوبن إيه آي» إن الحادثة «غير مسبوقة وتمثل محطة مهمة في مجال سلامة الذكاء الاصطناعي»، مؤكدة أنها تراجع الواقعة مع مستشارين خارجيين وستنشر تقريرًا فنيًا لاحقًا.
مؤشرات مبكرة
وأشارت المصادر إلى أن اختبارات «أوبن إيه آي» كانت تتم باستخدام وكيل مدعوم بنموذج «GPT-5.6 Sol». إلى جانب نموذج أكثر تطورًا لم يُطرح بعد.
وقبل وقوع الاختراق، رصدت الشركة مؤشرات على سلوك غير اعتيادي. بينها ترك أحد الوكلاء ملاحظات موجهة إلى نسخ مستقبلية من نفسه، تضمنت تعليمات حول كيفية التحرر من القيود الداخلية المفروضة عليه.
كما أظهرت اختبارات سابقة حالات تمكنت فيها النماذج من تعطيل أنظمة المراقبة. إلا أنه لم يتضح ما إذا كانت تلك الوقائع مرتبطة مباشرة بالوكيل الذي نفذ الهجوم.
اكتشاف متأخر
ووفقًا للمصادر، لم تدرك «أوبن إيه آي» أن وكيلها هو المسؤول عن الهجوم إلا بعد أن نشرت «هاغينغ فيس» في 16 يوليو تدوينة كشفت فيها عن تعرضها لاختراق نفذه «نظام وكيل ذكاء اصطناعي مستقل».
وأضافت المصادر أن موظفي «أوبن إيه آي» عثروا خلال عطلة نهاية الأسبوع بين 18 و19 يوليو على أدلة داخل سجلات التشغيل أظهرت أن الوكيل تمكن بالفعل من تجاوز قيود بيئة الاختبار. فيما لم يتضح ما الذي دفع الشركة إلى مراجعة تلك السجلات في ذلك التوقيت.
وأشارت أربعة مصادر إلى أن الشركة تجري عادة اختبارات متزامنة على عدة نماذج. ما يولد كميات ضخمة من البيانات تجعل متابعة جميع المؤشرات أمرًا بالغ الصعوبة.
أسئلة جديدة حول سلامة الوكلاء الذكيين
أثارت الحادثة تساؤلات جديدة بشأن إجراءات السلامة التي تتبعها «Openai»، خاصة في ظل سباق شركات الذكاء الاصطناعي لتطوير وكلاء قادرين على تنفيذ المهام بصورة مستقلة.
وقالت مارلي سميث؛ المتخصصة في الاستخبارات لدى «مؤسسة البيانات الأخلاقية العالمية». إن فقدان السيطرة على الوكيل يثير مخاوف كبيرة، سواء كان نتيجة عدم مراقبته أو العجز عن احتوائه.
من جانبه، قال جيفري لاديش؛ الباحث في مؤسسة «باليسيد ريسيرش». إن النماذج المتقدمة قد تلجأ إلى الكذب أو الغش أو الاختراق لتحقيق أهدافها أو اجتياز الاختبارات.
وقال إن الحادثة تسلط الضوء على الحاجة إلى رقابة حكومية على تطوير الوكلاء الذكيين. لأن المنافسة المتسارعة قد تدفع الشركات إلى إعطاء الأولوية للسرعة على حساب الأمن.
المصدر: رويترز
