دعا داريو أمودي؛ الرئيس التنفيذي لشركة «أنثروبيك»، شركات الذكاء الاصطناعي إلى إبطاء وتيرة تطوير قدرات النماذج، وسط تصاعد المخاوف من إساءة استخدام الذكاء الاصطناعي.
في حين اقترح إطارًا من 3 خطوات لإبطاء وتيرة التطوير وإتاحة مزيد من الوقت للتعامل مع مخاطره.
وكتب أمودي في مقال مطول نشره على منصة «إكس» يوم السبت: «يجب أن نبطئ وتيرة تحسين قدرات نماذج الذكاء الاصطناعي. سيظل التقدم يبدو سريعًا، وعلينا أن نستفيد بحكمة من الوقت الذي نكسبه».
وأعرب كل من إيلون ماسك؛ الذي يدير شركة «إكس إيه آي»، وسام ألتمان. الرئيس التنفيذي لشركة «أوبن إيه آي»، عن اتفاقهما مع أمودي في منشورات على منصة «إكس».
خطة لاحتواء المخاطر
وتدعو خطة أمودي إلى وجود مراجعين مستقلين داخل شركات الذكاء الاصطناعي الرائدة. وتنسيق الجهود بين الشركات المطورة لأحدث النماذج لوضع معايير للسلامة والحد من التطوير غير المنضبط للذكاء الاصطناعي.
إضافة إلى التعاون الدولي لإدارة المخاطر المرتبطة بهذه التكنولوجيا.
ونشر أمودي مقاله بعد أن أصدرت «أنثروبيك» يوم الخميس الماضي تقريرًا عن استخبارات التهديدات. أوضح أن عددًا من الجهات استخدم نماذج «كلود» التابعة للشركة في أنشطة تراوحت بين تطوير الأسلحة والعمليات الإلكترونية والمراقبة والاحتيال.
وأشار إلى تنامي قدرة الذكاء الاصطناعي على تحسين نفسه. محذرًا من المخاوف المستمرة بشأن تجاوزه قدرة البشر على السيطرة على طريقة عمله.
فضلًا عن حادثة حديثة شملت «أوبن إيه آي» و«هاغينغ فيس»، باعتبارها من الأسباب الرئيسة التي دفعته إلى الدعوة لإبطاء تطوير النماذج.
مخاوف من خروج الذكاء الاصطناعي عن السيطرة
وتزايدت المخاوف بشأن الأضرار المحتملة للذكاء الاصطناعي هذا الأسبوع، بعدما استقال الباحث في «أنثروبيك» جاكوب كوكسون. قائلًا إن الأشخاص الذين يطورون الذكاء الاصطناعي يعتقدون بجدية أنه قد يتسبب في القضاء على البشرية بحلول نهاية العقد.
وكان عدد من المسؤولين التنفيذيين في «أوبن إيه آي» أشاروا إلى ضرورة استعداد المختبرات الرائدة للتنسيق بشأن إبطاء طوعي للتطوير إذا لزم الأمر. من أجل تعزيز الثقة في إجراءات السلامة الخاصة بها.
ورغم أن «أنثروبيك» قدمت نفسها باعتبارها شركة أكثر تركيزًا على السلامة بين المختبرات الرائدة، فإنها ليست بمنأى عن هذه المخاوف.
بينما كشفت الأسبوع الماضي عن واقعة أخرى اخترق فيها أحد نماذج الذكاء الاصطناعي أنظمة خارجية، وذلك بعد حادثة وقعت في يوليو. عندما اخترقت بعض نماذج «كلود» أنظمة 3 شركات خلال اختبارات للأمن السيبراني.
وكتب أمودي: «مع تسارع وتيرة تطور قدرات الذكاء الاصطناعي، أخشى أنه خلال 6 إلى 12 شهرًا قد يصبح مثل هذا السرب قادرًا على السيطرة على الإنترنت بالكامل. ما قد يتسبب في أضرار تصل إلى مئات المليارات من الدولارات».
كما أكد أنه لا يدعو إلى وقف تدريب النماذج أو التقدم التقني. وإنما إلى ضمان حصول الشركات على الوقت الكافي لمواءمة نماذجها وتأمينها، مع الاستعانة بمقيّمين من أطراف ثالثة للتأكد من تنفيذ هذه الإجراءات.
مليارات الدولارات وراء السباق
لكن هناك أيضًا أموالًا ضخمة مرتبطة بالحفاظ على التفوق في هذا السباق. إذ تستعد كل من «أوبن إيه آي» و«أنثروبيك» لطرح أسهمهما للاكتتاب العام في صفقات مرتقبة بقوة.
ويمكن لكل قدرة جديدة تضيفها النماذج أن تساعد على تبرير جولات التمويل المستقبلية، والالتزامات الخاصة بالبنية التحتية، أو خطط الطرح العام.
وقال أمودي، في إطار خطته المقترحة، إن «أنثروبيك» ستضع مراجعين دائمين من أطراف ثالثة داخل شركات الذكاء الاصطناعي الرائدة، مع منحهم إمكانية الوصول إلى الأدوات ذات الصلة وعمليات تقييم المخاطر الداخلية.
وقال ألتمان أمس السبت إن «أوبن إيه آي» ستلتزم أيضًا بوجود «مقيّمين مستقلين يتمتعون بإمكانية وصول مماثلة للموظفين».
وأفادت رويترز الأسبوع الماضي بأن مجموعة من وكلاء الذكاء الاصطناعي المارقين التابعين لـ«أوبن إيه آي» اختطفت موقعًا إلكترونيًا ألمانيًا وحولته إلى لوحة إعلانات لوكلاء ذكاء اصطناعي آخرين.
بينما أبقى مسؤولو الشركة الحادثة طي الكتمان وسط تعامل المديرين التنفيذيين مع تداعيات اختراق وقع في يوليو لمستودع «هاغينغ فيس» مفتوح المصدر.
وأدت حوادث عدة اخترق فيها وكلاء ذكاء اصطناعي تابعون لمطورين مثل «أوبن إيه آي» أنظمة خارجية أو حاولوا الوصول لها. إلى تصاعد المخاوف بشأن القدرات المتزايدة لنماذج الذكاء الاصطناعي وقدرة مطوريها على احتوائها.
وقال أمودي إن شركات الذكاء الاصطناعي ينبغي أن تتعاون طوعًا لوضع معايير، في وقت يدعو فيه عدد متزايد من المشرعين الأمريكيين إلى قواعد جديدة لتنظيم أنظمة الذكاء الاصطناعي.
الصين في قلب الحسابات
وأضاف أمودي أن اتباع نهج منسق يسمح لشركات الذكاء الاصطناعي الأمريكية الرائدة بإجراء أبحاث السلامة الضرورية ووضع إجراءات الحماية من دون تعريض نفسها لضرر تنافسي.
وقال إن هذا النهج قد يتطلب إعفاءات محددة من قواعد مكافحة الاحتكار في الولايات المتحدة للسماح بالتعاون في بعض المجالات.
وأوضح أن أي إبطاء للتطوير في الدول الديمقراطية ينبغي أن يقتصر على حفظ الصدارة التي تتمتع بها شركات الذكاء الاصطناعي الأمريكية على الصين. محذرًا من أن تفوق الصين في الذكاء الاصطناعي قد يشكل مخاطر على الأمن القومي الأميركي.
وكتب أمودي: «ستكون وتيرة التطوير داخل الديمقراطيات محدودة بالتقدم الذي تحققه الشركات الأمريكية على الأنظمة الاستبدادية، وعلى رأسها الحزب الشيوعي الصيني».
ودعا إلى تشديد القيود على رقائق الذكاء الاصطناعي المتقدمة، وتقنيات تقطير النماذج، وسرقة أوزان النماذج، لمنع الصين من تقليص الفجوة.
وكتب: «أعتقد أن جميع المختبرات الرائدة ينبغي أن تتعاون مع الحكومات لإضفاء طابع رسمي على فكرة وجود مقيّمين دائمين داخل الشركات. لمنع وتوثيق حوادث اختلال المواءمة الداخلية بشكل أفضل، مثل تلك التي وقعت خلال الأشهر القليلة الماضية، وتطبيق قواعد تركز على الحفاظ على التوازن بين القدرات والسلامة».
