أثارت استقالة ديفيد روبنسون؛ أحد القيادات البارزة المعنية بسلامة الذكاء الاصطناعي في شركة «أوبن إيه آي»، موجة جديدة من الانتقادات حول ثقافة العمل الداخلية ومدى الحذر المتبع في تطوير أنظمة تزداد قوة واستقلالية.
في حين حذر روبنسون من وجود خلل بنيوي قد يؤثر سلبًا في طريقة التعاطي مع المخاطر الناجمة عن التقنيات الحديثة.
وبحسب ما أوردته وكالة «رويترز» فإن روبنسون الذي أشرف على إعداد تقارير السلامة المصاحبة لإطلاق منتجات الشركة المطورة لـ «تشات جي بي تي»، أعلن استقالته عبر مقال أكد فيه أن بيئة العمل تعاني عيوبًا جوهرية.
كما شدد على أن شركات الذكاء الاصطناعي المتقدمة تحتاج إلى إصلاح ثقافي شامل يتجاوز مجرد سن قواعد أو قوانين تنظيمية جديدة.
وبناءً على ذلك، أوضح القيادي المستقيل أن المؤسسات المبتكرة لا تلتزم بقدر كافٍ من الحذر أثناء تطوير نماذجها.
ولفت إلى أن بعض الحوادث الأخيرة تسلط الضوء على حاجة القطاع العاجلة لمراجعة أساليب العمل وآليات اتخاذ القرار قبل تفاقم المخاطر.
حوادث ميدانية ودواعي الإصلاح
وارتباطًا بهذه التحذيرات، استشهد روبنسون بحادثة هجوم شنته مجموعة من وكلاء «أوبن إيه آي» على شركة «هاغينغ فيس» الناشئة.
واعتبر أن هذه الواقعة تعكس مشكلات أعمق داخل الصناعة بأكملها. في ظل وتيرة العمل المتسارعة والمرونة المفرطة التي يتحرك بها الموظفون في هذا المجال.
إضافة إلى ذلك، أكد روبنسون أن الاقتصار على القوانين واللوائح المحددة لا يكفي للحد من التهديدات القائمة. ما يستوجب التركيز المباشر على ثقافة العمل ذاتها، وإعادة النظر في منهجية تقييم المخاطر التشغيلية قبل إتاحة المنتجات والأنظمة للجمهور.
وبالتوازي مع ذلك، تأتي هذه التصريحات الحادة في وقت تواجه فيه «أوبن إيه آي» رقابة ودراسات تدقيق متزايدة. لا سيما بعد الكشف عن إبلاغ أكثر من 100 مؤسسة بشأن أنشطة سيبرانية مشبوهة مرتبطة ببرامج خبيثة.
ضغوط متزايدة وتعليق النماذج
ونتيجة لهذه التطورات المتلاحقة، أعلنت الشركة إلغاء إطلاق نموذج ذكاء اصطناعي من الجيل التالي خلال الأسبوع الحالي.
وذلك عقب إبداء باحثين مخاوف جدية تتعلق بالسلامة أثناء الاختبارات الداخلية. ما دفع الإدارة أيضًا إلى إيقاف عمليات تدريب نماذجها الأكثر تطورًا.
ومن الناحية التشغيلية، تفرز هذه التعقيدات ضغوطًا إضافية على كاهل الشركة، خصوصًا مع التسابق المحموم نحو طرح المنتجات وتوسيع قدرات الأنظمة المتفتقة. وهو ما يجعل إجراءات الاختبار والمراجعة ركيزة أساسية لا غنى عنها.
تحذير من الأنظمة المستقلة
وحذر روبنسون من أن صناعة الذكاء الاصطناعي تحتاج إلى رفع مستوى الوعي بكيفية التعامل مع التقنيات التي يمكن أن تنطوي على مخاطر. مؤكدًا أهمية وضع سلامة البشر في صميم عمليات تطوير الأنظمة.
ويرى أن ثقافة “أوبن إيه آي” تتسم بدرجة مرتفعة من التفاؤل بشأن إمكانية معالجة المشكلات فور ظهورها. محذرًا من أن هذه العقلية قد تؤدي إلى زيادة الإخفاقات الأمنية كلما ارتفعت قدرات الأنظمة ومستوى استقلاليتها.
ويأتي هذا التحذير في صميم النقاش المتعلق بسلامة الذكاء الاصطناعي. إذ يشير روبنسون إلى احتمال ظهور أنظمة مستقلة قادرة على تنفيذ مهام ضارة دون الحاجة إلى تدخل بشري مستمر. ما يفرض الحاجة إلى تقييم المخاطر قبل وصول هذه الأنظمة إلى مراحل أكثر تقدمًا.


