وصل نموذج جيميناي التابع لشركة غوغل إلى أنظمة محمية تخص ثلاث جهات خلال اختبار لقدراته في الأمن السيبراني أُجري في مايو/أيار، في أول واقعة معروفة ينفذ فيها أحد أنظمة الذكاء الاصطناعي التابعة للشركة عمليات اختراق من هذا النوع بصورة مستقلة. وجرت الواقعة أثناء تقييم أمني اعتيادي نفذته شركة إيريغولار المستقلة والمتخصصة في تقييمات الأمن السيبراني.
جيميناي يخمّن بيانات اعتماد لثلاثة مواقع
وقالت نائبة رئيس غوغل لهندسة الأمن، هيذر أدكينز، إن جيميناي عثر على معلومات متاحة للعامة عبر الإنترنت، ثم خمّن بيانات اعتماد للدخول إلى ثلاثة مواقع إلكترونية اعتقد أنها تقع ضمن النطاق المسموح به للاختبار. وأوضحت أن النموذج توقف عن مواصلة الاختراق في الحالات الثلاث جميعها.
وفي إحدى الحالات، واصل جيميناي تخمين كلمات المرور حتى نجح في الوصول إلى نظام محمي. أما في الحالتين الأخريين، فعثر النموذج على بيانات اعتماد مكّنته لاحقاً من دخول نظامين محميين. وكانت صحيفة وول ستريت جورنال أول من نشر تفاصيل الواقعة يوم الجمعة. وأضافت أدكينز أن غوغل أبلغت الكيانات الثلاثة بما حدث، وعملت مع شريكها في التدريب على إدخال تغييرات إلى عمليات الاختبار.
غوغل تحذر من مخاطر أدوات الوصول
ورأت أن هذه الوقائع تبرز أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بمسؤولية، ولا سيما عند منحها أدوات تتيح الوصول إلى الإنترنت والأنظمة الحاسوبية. من جانبه، قال متحدث باسم إيريغولار إن الواقعة تنطوي على المشكلة نفسها التي أثرت في مختبرات أخرى تعمل في مجال الذكاء الاصطناعي.
وأضاف أن جميع المختبرات المعنية أُخطرت بالمشكلة في أواخر يوليو/تموز، بعد نحو شهرين من إجراء الاختبار الذي شارك فيه جيميناي. وكشفت شركات ميتا وأنثروبيك وأوبن إيه آي بدورها عن وقائع مماثلة مرتبطة باختبارات أجرتها إيريغولار. وقالت ميتا في أغسطس/آب إن الواقعة الخاصة بها لم تشمل اختراقاً لبيئة معزولة، كما لم تكن هجوماً سيبرانياً متطوراً.
وقالت إيريغولار إنها تعمل على إعداد أفضل الممارسات اللازمة لإجراء تقييمات الأمن السيبراني الخاصة بأنظمة الذكاء الاصطناعي بصورة آمنة. وتعيد هذه الوقائع طرح مسألة الضمانات المطلوبة مع اكتساب وكلاء الذكاء الاصطناعي مزيداً من الاستقلالية، وتوسّع قدرتهم على استخدام الإنترنت والوصول إلى أنظمة الحاسوب.
