أخفقت أداة جديدة طورتها شركة ميتا لاكتشاف الصور المُولدة بالذكاء الاصطناعي في التعرف على بعض الصور التي أنشأتها الشركة نفسها بعد اقتصاصها، وفق تحليل أجرته رويترز، في مؤشر على استمرار التحديات التقنية التي تواجه وسائل التحقق من المحتوى المزيف.
إخفاق في أكثر من نصف الصور المقتصة
وأطلقت ميتا هذا الأسبوع نسخة تجريبية من أداة الكشف بالتزامن مع طرح نموذجها الجديد لتوليد الصور Muse Image.
وأظهر تحليل أجرته رويترز على 40 صورة مولدة باستخدام النموذج أن الأداة نجحت في التعرف على جميع الصور الأصلية، لكنها فشلت في اكتشاف 55% من الصور نفسها بعد اقتصاصها إلى ما بين ثلث ونصف حجمها الأصلي.
ويأتي ذلك في وقت تتزايد فيه المخاوف بشأن انتشار الصور المزيفة، خصوصًا مع اقتراب استحقاقات انتخابية مهمة، من بينها انتخابات التجديد النصفي في الولايات المتحدة.
«ختم المحتوى» لا يصمد أمام الاقتصاص الكبير
وتقول ميتا على موقعها الإلكتروني إن الأداة قادرة على التعرف على الصور التي ينتجها نموذجها حتى بعد اقتصاصها، وذلك بفضل نظام علامة مائية غير مرئية يحمل اسم Content Seal، يُدمج تلقائيًا داخل كل صورة يتم إنشاؤها عبر Muse Image.
لكن الشركة أوضحت، ردًا على نتائج تحليل رويترز، أن الأداة لا تزال في مرحلة المعاينة، مضيفة أن العلامة المائية صُممت لتحمل التعديلات الشائعة، إلا أن الإشارة قد تضيع إذا تعرضت الصورة لاقتصاص كبير.
مشكلة لا تقتصر على ميتا
وكانت شركتا جوجل وأوبن إيه آي قد حذرتا سابقاً من أن أدواتهما الخاصة باكتشاف الصور المولدة بالذكاء الاصطناعي ليست محصنة بالكامل ضد تقنيات تعديل الصور.
وفي مارس الماضي. دعا مجلس الإشراف المستقل التابع لميتا الشركة. إلى بذل مزيد من الجهود لمواجهة الانتشار المتزايد للمحتوى المضلل. المُولد بالذكاء الاصطناعي عبر منصاتها. والاستثمار في أدوات كشف أكثر قوة.
خبراء: العلامات المائية ليست حلًا كاملًا
وقال سيوي ليو، أستاذ علوم الحاسب بجامعة ولاية نيويورك في بوفالو. والمتخصص في الأدلة الجنائية للصور المعتمدة على الذكاء الاصطناعي. إنه لم يختبر أداة ميتا، لكنه أشار إلى أن أنظمة العلامات المائية تواجه قيودًا بطبيعتها.
وأوضح أن هذه الأنظمة تكون فعالة طالما بقيت العلامة سليمة، لكن عمليات مثل الاقتصاص أو تغيير الحجم أو الضغط الشديد أو التعديل قد تضعف الإشارة أو تزيلها، بحسب طريقة تصميم العلامة.
من جانبها، قالت سارة بارينغتون، الباحثة في الذكاء الاصطناعي. وطالبة الدكتوراه في كلية المعلومات بجامعة كاليفورنيا في بيركلي. إن تقنية العلامات المائية تمثل خطوة واعدة، لكنها لا توفر حماية كاملة.
وأضافت أن نجاحها في اكتشاف حتى 90% من الحالات. يظل تقدمًا كبيرًا مقارنة بعدم وجود أي وسيلة فعالة للكشف.
المصدر: رويترز
