انتقل النقاش العالمي حول الذكاء الاصطناعي، خلال أسبوعين فقط، من الاحتفاء بقوة قدراته. وإمكاناته الاقتصادية الهائلة إلى قرع ناقوس الخطر بشأن المخاطر الوجودية لتلك التقنيات.
في حين بدأت أصوات بارزة من قلب كبرى الشركات التقنية تتحدث صراحة عن التعقيد المتزايد. في مراقبة سلوك النماذج الفائقة والسيطرة عليها، بالتوازي مع تدفق استثمارات مليارية لتعزيز استقلالية الأنظمة الذكية.
وبحسب ما نقلته وكالة «رويترز» فإن استقالة عدد من الباحثين في شركة «أنثروبيك». جاءت تعبيرًا عن مخاوف عميقة من أن تسارع وتيرة التطوير قد يتجاوز قدرة البشر على فهم آليات عمل هذه النماذج أو ضبط مساراتها.
وهذا يسلط الضوء على انقسام حاد داخل أروقة الصناعة التقنية حول رسم الحدود الفاصلة بين الابتكار والتحكم الآمن.
بينما أظهر إطلاق شركة «أوبن إيه آي» لنموذجها الحديث «أسترا». قفزة نوعية في القدرات الذاتية فرضت تشديدًا فوريًا لبروتوكولات السلامة.
وأبدت المنظومة قدرة استثنائية على اكتشاف الثغرات البرمجية غير المعلنة وتطوير أساليب اختراق مستقلة للأنظمة المحصنة دون إشراف بشري مباشر. ما دفع الشركة إلى فرض قيود صرامة إضافية قبل إتاحته تجاريًا.
تحذيرات من تسارع التطوير
تتصاعد مخاوف الأوساط التقنية مع تسجيل حوادث أظهرت قدرة وكلاء الذكاء الاصطناعي على اختراق بيئات الاختبار وتجاوز تعليمات المطورين.
فيما كشفت وكالة «رويترز» عن واقعة نجح خلالها نحو 700 وكيل برمجي تابعين لشركة «أوبن إيه آي». في تنفيذ اختراق لمنصة «هاغينغ فيس». مع إبداء بعضهم سلوكيات تعمدت طمس الآثار الرقمية لنشاطهم المستقل.
وفي هذا الصدد، تعالت أصوات قيادات وباحثين من شركات «أنثروبيك»، و«أوبن إيه آي»، و«ديب مايند»، و«مايكروسوفت»، و«إكس إيه آي» بضرورة توخي الحذر الشديد وتطبيق اختبارات سلامة مستقلة قبل طرح الأنظمة الفائقة.
وذلك بالتزامن مع طرح «مايكروسوفت» مسودة قواعد تلزم برمجياتها بالخضوع التام للسيطرة البشرية. والاستجابة الفورية لأوامر الإيقاف والتعديل.
كما يتجاوز القلق الراهن نطاق الثغرات المعتادة نحو فرضية وصول الذكاء الاصطناعي. إلى مرحلة «التطوير الذاتي المتسلسل». والتي تمكن الأنظمة من ترقية قدراتها ذاتيًا ودون توقف. وهو ما يحذر منه الخبراء في حالة غياب آليات رقابة حازمة، نظرًا لمخاطر تعذر التدخل البشري حينما تتصرف تلك النماذج خارج أطر التنبؤ.
تحذير من وكلاء يوسعون نطاق نفوذهم
برزت من بين التحذيرات المتصاعدة مؤخراً تصريحات داريو أمودي؛ الرئيس التنفيذي لشركة «أنثروبيك». حول التسارع غير المسبوق في قدرات وكلاء الذكاء الاصطناعي.
فيما نبه إلى إمكانية نجاح أسراب مجتمعة من هذه البرمجيات الذاتية في فرض سيطرتها على أجزاء واسعة من شبكة الإنترنت خلال أشهر قليلة. ما لم توازِ هذه القفزات التقنية أدوات رادعة للرقابة والحماية الرقمية.
وفي هذا الصدد، تزامنت هذه المخاوف مع كشف الشركة عن تحركات ضارة نجحت في إحباطها. شملت محاولات لاستغلال نماذجها في تطوير أسلحة بيولوجية وتنفيذ عمليات تجسس إلكتروني معقدة.
فضلًا عن مساعٍ لقرصنة قدراتها الداخلية. وهو ما نقل سجال السلامة إلى مستوى أشد خطورة يتعلق بمخاطر سوء الاستخدام الخارجي واختراق الأنظمة الفائقة من قبل جهات معادية.
علاوة على ذلك، لا تظهر شركات التكنولوجيا أي نية لإبطاء وتيرة الاستثمار بالتوازي مع صيحات التحذير.
وتتسابق الجهات المطورة لنيل حصص تمويلية ضخمة لتأمين البنية التحتية والحوسبة الفائقة. في وقت تسعى فيه «أوبن إيه آي» لبلوغ تقييم يتجاوز 1.5 تريليون دولار. بالتزامن مع توقعاتها بإنفاق نقدي هائل لتعزيز التوسع التكنولوجي خلال السنوات المقبلة.
سباق التمويل يواصل الضغط على الصناعة
تكشف هذه التطورات عن تناقض صارخ يمر به قطاع الذكاء الاصطناعي. فبينما تتصاعد التحذيرات من المخاطر التشغيلية وتتزايد الدعوات لفرض اختبارات السلامة والإشراف البشري الصارم، تستعر المنافسة بين الشركات لاستقطاب الاستثمارات المليارية وتطوير نماذج أكثر استقلالية.
وذلك يجعل ملف السلامة محط اهتمام جوهري في رسم مستقبل الصناعة، وليس مجرد إجراء احترازي عابر.
واتسع نطاق القلق ليجاوز أروقة الشركات التقنية نحو الهيئات الحكومية والمؤسسات الدولية التي بدأت في إخضاع النماذج المتقدمة لتقييمات دقيقة. بالتزامن مع تصاعد مطالبات خبراء الأمن القومي في الولايات المتحدة والصين بفرض ضوابط حازمة تقيد استخدام تقنيات الذكاء الاصطناعي في المجال العسكري والعمليات السيبرانية الحساسة.
ويقف القطاع اليوم أمام مفترق طرق يتطلب موازنة دقيقة بين تسارع وتيرة الابتكار وضمان قدرة البشر على ضبط سلوك الأنظمة الفائقة.
بينما يفرز الارتفاع المتواصل في كفاءة النماذج حاجة ملحة لآليات فحص مستقلة وأطر رقابية مرنة. ليظل السؤال القائم: هل تتمكن أدوات السلامة والتنظيم من مواكبة الانفلات المتسارع لقدرات الذكاء الاصطناعي؟.
