أفادت شركة أنثروبيك، اليوم الجمعة، بأن مطوري أنظمة الذكاء الاصطناعي المتقدمة ينبغي أن يعملوا على وضع آلية منسقة وقابلة للتحقق تسمح بإبطاء وتيرة التطوير أو إيقافها مؤقتًا في حال بدأت الأنظمة المتقدمة في تحسين نفسها ذاتيًا بوتيرة تتجاوز قدرة المجتمع على إدارة المخاطر المرتبطة بها.
ووفقًا لما نقلته وكالة رويترز، أكدت الشركة الناشئة أن الذكاء الاصطناعي القادر على بناء وتطوير نفسه بنفسه يمثل تطورًا محوريًا في تاريخ التكنولوجيا. إلا أن ما وصفته بـ«التحسين الذاتي التكراري الكامل» قد يؤدي في الوقت ذاته إلى زيادة احتمالات فقدان البشر السيطرة على أنظمة الذكاء الاصطناعي مستقبلًا.
وأوضحت الشركة أن انتقال الأنظمة إلى مرحلة تصبح فيها قادرة على بناء الأجيال اللاحقة منها بصورة كاملة سيجعل أساليب التأمين والمراقبة وتوجيه السلوك أكثر أهمية بكثير مما هي عليه اليوم. الأمر الذي يستدعي الاستعداد المبكر ووضع ضوابط فعالة للتعامل مع هذا التطور المحتمل.
التحسين الذاتي
وفي معرض توضيحها لحجم التقدم الذي تشهده تقنيات الذكاء الاصطناعي، أشارت أنثروبيك إلى أنه اعتبارًا من شهر مايو، كان أكثر من 80% من الشيفرات البرمجية التي تم دمجها في قاعدة أكواد الشركة قد كُتبت بواسطة نموذج «كلود» التابع لها.
وأكدت الشركة أن امتلاك العالم لخيار إبطاء أو تعليق تطوير الذكاء الاصطناعي المتقدم بشكل مؤقت قد يكون مفيدًا. لأنه يمنح البنى المجتمعية وأبحاث مواءمة الذكاء الاصطناعي الوقت الكافي لمواكبة التطورات التقنية المتسارعة.
وفي المقابل، حذرت من أن أي تباطؤ أحادي الجانب أو غير منسق قد يؤدي إلى نتائج عكسية، إذا استمرت جهات أخرى أقل التزامًا بمعايير الحذر في تطوير تقنياتها بوتيرة أسرع. وهو ما قد يضعف مستويات الأمان العامة بدلًا من تعزيزها.
الحاجة إلى تنسيق بين المختبرات الكبرى
وأوضحت شركة أنثروبيك أن أي تعليق فعّال ومؤثر لتطوير الذكاء الاصطناعي سيتطلب اتفاقًا بين عدد من المختبرات الكبرى التي تمتلك الموارد الضخمة وتعمل على أحدث التقنيات في هذا القطاع سريع النمو.
وأضافت الشركة أن نجاح مثل هذه الآلية يتطلب أيضًا وضع قواعد واضحة تحدد الظروف التي تستوجب تفعيل التعليق أو إنهاءه. إلى جانب تحديد الجهة المسؤولة عن الإشراف على تنفيذ هذه الإجراءات ومراقبة الالتزام بها.
كما أشارت إلى أن إيقاف التطوير من جانب شركة واحدة فقط سيكون أسهل من الناحية التنفيذية. إلا أن تأثيره يظل محدودًا؛ إذ قد يؤدي ببساطة إلى انتقال الريادة التقنية إلى جهات أخرى بدلًا من تعزيز نقاش عالمي شامل حول مستقبل الذكاء الاصطناعي وإدارته بصورة مسؤولة.
مبادرات بحثية
وفي إطار جهودها الرامية إلى دراسة هذه القضايا، أعلنت الشركة أن ذراعها البحثية تعتزم العمل على تطوير الأنظمة والبنى اللازمة لدعم أي آلية مستقبلية يمكن اللجوء إليها لإبطاء وتيرة تطوير الذكاء الاصطناعي عند الضرورة.
كما أوضحت أن الأشهر المقبلة تشهد تنظيم سلسلة من المناقشات التي ستجمع صناع السياسات والباحثين ومنظمات المجتمع المدني وشركات الذكاء الاصطناعي الأخرى. بهدف بحث مجموعة من القضايا الجوهرية المرتبطة بمستقبل هذه التكنولوجيا.
ومن بين أبرز الملفات المطروحة للنقاش كيفية إدارة المخاطر المرتبطة بالذكاء الاصطناعي. بما في ذلك مخاطر التحسين الذاتي التكراري. فضلًا عن تطوير آليات أكثر كفاءة للتنسيق والتعاون بين مختلف الأطراف الفاعلة في القطاع.
توسع الشركة بالتوازي مع نمو القطاع
وتأتي هذه التصريحات في وقت تواصل فيه أنثروبيك تعزيز حضورها في سوق الذكاء الاصطناعي العالمي. وسط تسارع المنافسة بين الشركات المطورة للنماذج المتقدمة.
وكانت الشركة قد اختتمت الشهر الماضي جولة تمويلية قيّمتها بنحو 965 مليار دولار. وهو ما يعكس حجم الاهتمام الاستثماري المتزايد بقطاع الذكاء الاصطناعي والتقنيات المرتبطة به.
كما تقدمت أنثروبيك، الاثنين الماضي، بشكل سري بطلب لطرح أسهمها للاكتتاب العام الأولي في الولايات المتحدة. في خطوة تعكس طموحاتها التوسعية واستعدادها لمرحلة جديدة من النمو. بالتزامن مع استمرار النقاشات العالمية حول التوازن بين الابتكار التقني ومتطلبات الأمان والحوكمة في مجال الذكاء الاصطناعي.
