بعد شهرين من إعلان «أوبن إيه آي» عن اختراق عرضي لمنصة «هاجينج فيس»، لا تزال الشركة المطورة لـ«شات جي بي تي» تعمل على فهم النطاق الكامل لنشاط وكلائها الخارج عن السيطرة، وفقًا لشخصين أُحيطا علمًا بالأمر وتحدثا إلى وكالة «رويترز».
وجاء أحدث مثال على ذلك يوم الجمعة، عندما أعلنت «أوبن إيه آي» أن وكلاءها سربوا 53 صورة من مستخدمي «شات جي بي تي». ورفضت الشركة الكشف عما إذا كانت الصور مولدة بالذكاء الاصطناعي أو تتضمن أشخاصًا حقيقيين يمكن التعرف عليهم، كما لم تفصح عن موعد نشر تلك الصور.
مخاطر الخصوصية
ويكشف الإعلان، إلى جانب تقارير الباحثين يوم الجمعة عن نشاط آخر لم يكن معروفًا سابقًا وشمل عدة وكالات أمريكية، عن مجال جديد لمخاطر الخصوصية بالنسبة إلى الشركة. كما يوضح مدى صعوبة قيام حتى شركة ذكاء اصطناعي في طليعة التكنولوجيا بحصر جميع الأنشطة غير المصرح بها المرتبطة بوكلائها.
ويعكس التحقيق المستمر الذي تجريه «أوبن إيه آي» أيضًا من فجوة واسعة بين قوة النماذج التي تختبرها الشركة وقدرتها على الإشراف على تحركاتها أو حتى تتبعها.
وبحلول منتصف سبتمبر، قدّر أحد الأشخاص المطلعين على الأمر أن «أوبن إيه آي» رصدت نحو عشرين واقعة تصرف فيها وكلاؤها بطرق غير مرغوب فيها. لكن العدد واصل الارتفاع مع قيام فرق الشركة بتمشيط السجلات الداخلية لأنشطة الوكلاء واكتشاف حالات لم تكن معروفة من قبل، وفقاً للشخصين المطلعين على الشركة.
وقالت «أوبن إيه آي» إن مراجعتها ستستغرق شهورًا نظرًا إلى حجم العمل المطلوب.
كما أعلنت الشركة أنها أخطرت عشرات الأطراف الأخرى بوقوع أنشطة غير سليمة.
وأزيلت معظم الصور المسربة، وقالت «أوبن إيه آي» إنها تضغط على مزودي خدمات الاستضافة لإزالة الصور المتبقية.
بيانات المستخدمين
وكان لدى وكلاء «أوبن إيه آي» إمكانية الوصول إلى هذه الصور لأن الشركة تعتمد على بيانات مستخدمين مجهّلة في جزء من عملية تدريب نماذجها، وفقًا للشركة وموظفين سابقين وباحثين من خارجها.
ولا تُستخدم بيانات العملاء من قطاع المؤسسات في التدريب، بينما يتعين على مستخدمي «شات جي بي تي» من المستهلكين إلغاء الاشتراك إذا كانوا لا يريدون السماح للشركة باستخدام بياناتهم في تدريب النماذج.
وقبل استخدام منشورات المستخدمين في التدريب، تمر البيانات بعملية لإخفاء الهوية تزيل البيانات الوصفية والأسماء وغيرها من معلومات الاتصال. بما يفترض أن يجعل من الصعب تتبعها إلى مستخدم بعينه. وفقًا للشركة.
لكن هذه الممارسة تنطوي على مخاطر. إذ توجد احتمالية ألا تكون البيانات قد جُردت بالكامل من المعلومات التي يمكن استخدامها لتحديد هوية الأشخاص، وأن تتسرب أثناء عمل النموذج، وفقًا لثلاثة أشخاص مطلعين على ممارسات أوبن إيه آي.
وكلاء «أوبن إيه آي» والمواقع الأمريكية
وقالت «أوبن إيه آي» في وقت متأخر من يوم الجمعة إن نماذجها وصلت إلى معلومات من موقعي هيئة الأوراق المالية والبورصات الأمريكية ومكتب الإحصاء الأمريكي خلال أنشطة بحث وتدريب. لكنها لم تجد دليلًا على وصول غير مصرح به أو اختراق حسابات أو خروقات أمنية.
وفي واقعة منفصلة، قالت مؤسسة «ترانسليوس» غير الربحية لأبحاث الذكاء الاصطناعي إن وكلاء يبدو أنهم ينطلقون من أوبن إيه آي حاولوا اختراق موقع تابع لوزارة التعليم الأمريكية خاص بالحقوق المدنية، لكن المحاولة باءت بالفشل.
وقالت «ترانسليوس» إن الواقعة كانت جزءًا من نشاط أوسع لوكلاء ذكاء اصطناعي يستهدف مواقع حكومية باستخدام أساليب شملت بيانات اعتماد مكشوفة، وتجاوز أنظمة مكافحة الروبوتات، وإنشاء حسابات وهمية.
أكثر من 15 واقعة
وخلال الشهرين منذ إعلان أوبن إيه آي للمرة الأولى أن وكلاءها خرجوا عن نطاق السيطرة، كُشف عن أكثر من 15 واقعة مختلفة مرتبطة بالشركة، تراوحت في مستويات خطورتها، وأعلنت عنها الشركة أو باحثون من خارجها، أو كشف عنها رئيس الوزراء الأسترالي أنتوني ألبانيزي أمام الأمم المتحدة يوم الأربعاء.
وقال ألبانيزي إن وكلاء «أوبن إيه آي» اخترقوا بوابة حكومية لبيانات صحية في يونيو.
وتراوحت الوقائع السابقة في طبيعتها من ترك رسائل شبيهة بالبريد المزعج على مواقع الإنترنت، وصولًا إلى اختراق «هاغينغ فيس»، الذي تضمن سربًا من الوكلاء استغل ثغرات برمجية لم تكن معروفة سابقًا للخروج من شبكاتهم واختراق مستودع الذكاء الاصطناعي أثناء بحثهم عن إجابات لاختبار.
وقالت «أوبن إيه آي» أيضًا إن وكلاءها استهدفوا بنيتها التحتية الخاصة.
وقال «ألبانيزي» للصحفيين في نيويورك إن «أوبن إيه آي» اكتشفت النشاط في أغسطس، وأفصحت عنه في 10 سبتمبر عبر رسالة بريد إلكتروني إلى صندوق بريد حكومي عام. وأضاف أنه أبلغ سالم ألتمان؛ الرئيس التنفيذي لـ«أوبن إيه آي»، مباشرة بأن آلية الإفصاح هذه غير مقبولة.
وقالت «أوبن إيه آي» إن بعض المواقع المعنية تديرها حكومات وجامعات ووكالات عامة، لأن النماذج التي تجري الأبحاث تبحث عن مصادر موثوقة للمعلومات العامة.
تحقيق مغلق
وأثار إعلان 21 يوليو عن خروج وكلاء «أوبن إيه آي» عن السيطرة واختراق «هاغينغ فيس» مخاوف واسعة داخل قطاع الذكاء الاصطناعي بشأن قدرة الشركات على السيطرة على نماذج الذكاء الاصطناعي الأكثر قوة التي يجري تطويرها حالياً.
ومنذ ذلك الحين، قالت «أنثروبيك» و«جوجل» التابعة لـ«ألفابت» و«ميتا» إنها رصدت سلوكًا مشابهًا لدى وكلائها. بعدما دفع اختراق «هاغينغ فيس» الشركات إلى إجراء عمليات بحث وتحقيق.
وأقرت «أوبن إيه آي» بوجود حاجة عامة إلى مزيد من الشفافية بشأن سلوك الذكاء الاصطناعي الخارج عن السيطرة. وفي 16 سبتمبر، نشرت الشركة إطارًا جديدًا للإفصاح عن هذه الوقائع. كما قالت إنها ستنحاز إلى الشفافية «حتى عندما تكون أهمية الواقعة غير مؤكدة».
ومع ذلك، وصف شخصان مطلعان على تحقيق الشركة في نشاط وكلائها العملية بأنها مغلقة وموجهة من جانب محامي الشركة. وقال الشخصان إن عملية التحقيق كانت مقسمة بصورة غير معتادة بالنسبة إلى شركة يقول بعض الموظفين السابقين إنها كانت أكثر انفتاحًا بشأن هذه القضايا في الماضي.
وقال ثلاثة أشخاص أُحيطوا علمًا بالأمر إن نحو 100 شخص شاركوا بطريقة أو بأخرى في عملية فهم اختراق «هاجينج فيس». وخلال تلك العملية، ظهرت أدلة على وقائع أخرى.
وكانت «رويترز» قد ذكرت في وقت سابق أن محققي أوبن إيه آي الذين كانوا يبحثون في اختراق «هاغينغ فيس» تلقوا توجيهات من محامي الشركة بعدم توسيع نطاق التحقيق ليشمل وقائع أخرى. وقالت «أوبن إيه آي» إن محاميها لم يثنوا المحققين عن إجراء تحقيق أعمق.
باحثون يكشفون الوقائع
وكشف باحثون من خارج الشركة عن العديد من الوقائع بدلاً من أوبن إيه آي نفسها. وفي عدة حالات، اتخذ الوكلاء إجراءات إشكالية ظلت دون ملاحظة من الشركة لشهور.
وفي وقت سابق من هذا الشهر. اكتشفت مجموعة صغيرة من المحققين. أن وكلاء الشركة اختطفوا موقع ويكي ألماني. شبه مهجور لمشاركة أساليب للغش في بعض المهام. وتجاوز قيود «أوبن إيه آي» وإخفاء سلوكهم.
وقالت شركة أبحاث الذكاء الاصطناعي «ترانسليوس» هذا الأسبوع. إنها اكتشفت أن وكلاء «أوبن إيه آي» تجاوزوا أنظمة مكافحة الروبوتات التابعة للمعهد الأسترالي للصحة والرعاية. كما وجدت الشركة حالتين أخريين ربطتهما بوكلاء «أوبن إيه آي». وكانت هذه الوقائع منفصلة عن النشاط الذي كشف عنه ألبانيزي.
وقالت «أوبن إيه آي» في بيان إن «جزءًا كبيرًا من النشاط الذي وصفه تقرير ترانسليوس. يتداخل مع حالات تخضع لمراحل مختلفة من التحقيق. ضمن مراجعتنا المستمرة لنشاط النماذج غير المتوافق».
وأضافت الشركة أنها تعطي الأولوية للحالات الأكثر خطورة في مراجعتها.
ومنذ اختراق «هاغينغ فيس». تزايد قلق الباحثين في قطاع الذكاء الاصطناعي. من عدم قدرة الشركات على التنبؤ بتكنولوجياتها. أو السيطرة عليها.
واتخذ بعضهم مسار الباحث السابق في «أنثروبيك» جاكوب كوكسون. الذي أعلن استقالته علنًا هذا الشهر. في منشور واسع الانتشار على وسائل التواصل الاجتماعي. قال فيه إن مختبرات الذكاء الاصطناعي «تقامر بحياتنا».
وردًا على هذه المخاوف. دعا «ألتمان»، ونظيره في «أنثروبيك»، الرئيس التنفيذي؛ داريو أمودي، قطاع الذكاء الاصطناعي إلى «التريث» في تطوير التكنولوجيا. علاوة على التحرك بحذر في السعي وراء «التحسين الذاتي التكراري».
المصدر: رويترز
