تستهدف شركة «أنثروبيك» صياغة مشروع قانون يُلزم شركات التكنولوجيا بوقف نماذج الذكاء الاصطناعي عند ظهور مخاطر كارثية، كالتسبب في مقتل أكثر من 50 شخصًا و إحداث خسائر تفوق مليار دولار، أو التهديد بأسلحة بيولوجية وهجمات سيبرانية.
ووفقًا لتقرير نشرته صحيفة «بوليتيكو»، تقترح الشركة الاستعانة بمقيمين مستقلين لرصد المخاطر الوشيكة والإبلاغ عنها مباشرة إلى وزارة التجارة الأمريكية. ليتسنى لها طلب قرار قضائي عاجل بوقف إطلاق النموذج المعني.
في حين تهدف هذه الآلية الوقائية إلى إيجاد مسار رقابي حاسم يضمن التعامل مع الأخطار التقنية. والحد من تداعيتها الكارثية قبل وقوع الأضرار.
معايير محددة لإيقاف نماذج الذكاء الاصطناعي
بينما تحدد المسودة حالات تستوجب إيقاف نماذج الذكاء الاصطناعي. مع التركيز على حجم الأضرار التي قد تنتج عن استخدامها أو عن أخطاء ترتبط بعملها.
ومن أبرز هذه الحالات أن يتسبب خطأ في أحد النماذج في مقتل أكثر من 50 شخصًا. أو أن يؤدي إلى خسائر مالية تتجاوز مليار دولار.
وتعكس هذه الحدود المقترحة محاولة لتحديد الظروف التي تستدعي تدخلًا قانونيًا استثنائيًا. بدلًا من ترك قرارات الإيقاف لتقدير الشركات المطورة وحدها.
ومع ذلك، فإن التفاصيل الواردة في المسودة تتعلق بمقترح قيد الإعداد. ولا تعني أن هذه المعايير أصبحت قانونًا نافذًا.
كذلك، تربط المسودة مفهوم «الخطر الكارثي» بوقائع محددة. تشمل صنع سلاح بيولوجي أو إطلاقه، ومحاولة نموذج الذكاء الاصطناعي الإفلات من سيطرة مطوره.
فضلًا عن تنفيذ هجوم سيبراني. ويشير إدراج هذه الحالات إلى اتساع نطاق المخاطر التي تسعى الشركة إلى معالجتها. بحيث لا يقتصر الأمر على الأضرار المالية أو البشرية الناتجة عن الأخطاء التقنية المباشرة.
الرقابة المستقلة ودور وزارة التجارة
تتضمن المقترحات الاستعانة بمقيمين مستقلين لمراقبة المخاطر المحتملة التي قد تنتج عن نماذج الذكاء الاصطناعي.
وتتمثل مهمتهم في الإبلاغ عن أي خطر وشيك إلى وزارة التجارة. بما يتيح للجهات المختصة تقييم الموقف واتخاذ الإجراءات اللازمة وفق الآلية المقترحة.
وبعد تلقي البلاغ، تتولى وزارة التجارة طلب تدخل قضائي من قاضٍ في واشنطن لإيقاف إطلاق النموذج إذا استدعت الظروف ذلك.
ويضع هذا المسار جهة حكومية ومحكمة ضمن عملية اتخاذ القرار. بدلًا من الاعتماد حصريًا على التقييم الداخلي للشركة المطورة للتقنية.
ومن شأن تطبيق آلية من هذا النوع أن يطرح تساؤلات بشأن كيفية إثبات وجود خطر وشيك، والمعايير التي يستند إليها المقيمون المستقلون، والمدة اللازمة لاتخاذ القرار.
كما تبرز أهمية تحديد المسؤوليات القانونية بين مطوري النماذج والجهات الرقابية. خصوصًا عندما تتطلب المخاطر تدخلًا سريعًا لمنع وقوع أضرار جسيمة.
تنظيم الذكاء الاصطناعي بين السلامة والابتكار
تأتي مسودة أنثروبيك في سياق النقاش المتزايد حول وضع أطر تنظيمية لاستخدام الذكاء الاصطناعي. ولا سيما النماذج التي يمكن أن تؤثر في الأمن والسلامة العامة.
ومع توسع استخدام هذه التقنيات، تزداد أهمية وضع إجراءات واضحة للتعامل مع الحالات التي قد تتجاوز فيها المخاطر قدرة الشركات على السيطرة عليها بصورة مستقلة.
وفي المقابل، يتطلب أي إطار قانوني تحديدًا دقيقًا لشروط الإيقاف وإجراءات المراجعة. حتى لا يؤدي الغموض في تفسير المخاطر إلى قرارات متباينة أو تعطيل الاستخدامات المشروعة للتقنيات.
في حين أن وجود رقابة مستقلة قد يعزز المساءلة، شريطة وضوح صلاحيات الجهات المعنية وآليات التحقق من الأدلة.
