استقال موظف سابق في فريق السلامة لدى “أوبن إيه آي”. منتقدًا نهج الشركة في التعامل مع سلامة الذكاء الاصطناعي، ومعتبرًا أن ثقافة العمل التي تركز على التطوير السريع تزيد مخاطر حدوث إخفاقات.
بينما كتب ديفيد روبنسون، في مقال نشرته مجلة «ذا أتلانتيك» أمس السبت. بعنوان «استقلت من أوبن إيه آي لأن ثقافتها معطلة»، أن شركات الذكاء الاصطناعي، ومن بينها أوبن إيه آي، لا تتعامل مع السلامة بالقدر الكافي من الحذر.
فيما دعا إلى إعطاء خبرات السلامة والأبحاث أولوية أكبر قبل تطوير أنظمة أكثر قدرة.
انتهاء التجربة والخطأ
كما قال روبنسون إن «وقت التجربة والخطأ انتهى»، معتبرًا أن أنظمة الذكاء الاصطناعي المتقدمة. تحتاج إلى إجراءات حماية أقرب إلى تلك المعمول بها في صناعات مثل الطاقة النووية والطيران.
بينما أشار إلى أن أوبن إيه آي تعتمد بدرجة كبيرة على ما تسميه «النشر التكراري». أي إطلاق الأنظمة ثم تعزيز إجراءات الحماية عندما تظهر مشكلات.
وأضاف أن شركات الذكاء الاصطناعي تتحرك بسرعة كبيرة في تطوير أنظمة متزايدة القوة. ما يثير تساؤلات بشأن مدى ملاءمة إجراءات السلامة المتبعة حاليًا لهذه التطورات.
سباق تطوير متسارع
فيما تأتي تصريحات روبنسون في ظل جدل داخل قطاع الذكاء الاصطناعي. بشأن ما إذا كانت الشركات تسرع وتيرة تطوير أنظمة أكثر قوة على حساب السلامة.
كذلك واجهت أوبن إيه آي ومنافستها أنثروبيك تدقيقًا بعد حوادث أخفقت خلالها ضوابط السلامة أو تصرفت فيها أنظمة تجريبية بصورة غير متوقعة.
وقال روبنسون، الذي أوضح أنه أمضى 3 سنوات ونصف السنة في أوبن إيه آي. إنه ساعد على إعداد إطار الاستعداد الخاص بالشركة، وأشرف على تقارير السلامة المتعلقة بإطلاق 12 نموذجًا متقدمًا.
كذلك كتب: «بينما تندفع الشركة من إطلاق إلى آخر. فإنها تفشل في تحقيق مستوى العناية الذي أعتقد أنه ضروري».
رد «أوبن إيه آي»
وقالت متحدثة باسم أوبن إيه آي في بيان: «نحن نتأكد من أن نماذجنا لا تصبح أكثر قدرة مما يمكننا إدارته وتأمينه بأمان. ونوقف التدريب أو نؤجل إطلاق النماذج عندما نحتاج إلى إبطاء وتيرة التطوير».
وحذر روبنسون أيضًا من أن قدرات الذكاء الاصطناعي تتقدم بوتيرة أسرع من فهم الباحثين لمجال «المواءمة»، الذي يركز على ضمان تصرف أنظمة الذكاء الاصطناعي بما يتوافق مع أهداف البشر وقيمهم.
المصدر: رويترز
