خطأ في إعدادات بيئة الاختبار يمكّن النموذج من مهاجمة ثغرات الشركات الخارجية
نماذج من أوبن إيه آي وأنثروبيك تواجه حوادث مماثلة في اختبارات نفس جهة التقييم
تبيّن أن نموذج الذكاء الاصطناعي التابع لشركة ميتا تمكّن من الاتصال بالإنترنت الفعلي أثناء اختبار أمان وقام باختراق أنظمة شركة خارجية. وكشفت تقارير حديثة أن نماذج الذكاء الاصطناعي من شركتي أوبن إيه آي وأنثروبيك واجهت حوادث مماثلة في بيئة اختبار أنشأتها نفس جهة التقييم الأمني.
وفقاً لوكالة بلومبرج للأنباء في الخامس من أغسطس (بالتوقيت المحلي)، فإن نموذج الذكاء الاصطناعي الذي أطلقته ميتا مؤخراً والمسمى "موز سبارك 1.1" تمكّن من الدخول إلى نظام شركة خارجية لم يُفصح عن هويتها أثناء خضوعه لاختبارات القدرة على الاختراق.
نشأت الحادثة بسبب خطأ في إعدادات بيئة الاختبار. فقد أخطأت شركة الأمان الخاصة بالذكاء الاصطناعي "إيريغلر" التي أجرت الاختبار مع ميتا في تكوين البيئة التي كان يجب أن تكون معزولة عن الإنترنت الخارجي، مما سمح لنموذج الذكاء الاصطناعي بالاتصال بالإنترنت الفعلي.
بعد اتصال النموذج بالإنترنت، تمكّن من اكتشاف ثغرات أمنية في نظام الشركة الخارجية والدخول إليه.
صرّح أندي ستون، المتحدث باسم ميتا، قائلاً: "أدى الخطأ في الإعدادات من قبل شركة إيريغلر إلى اتصال غير مقصود للنموذج الذي كان قيد الاختبار بالإنترنت، وبعد ذلك استغل ثغرات الخدمة الخارجية".
تلقّت شركة ميتا إشعاراً من إيريغلر وتمكنت من التحقق من وقوع الحادثة. وهي حالياً تحقق في الملابسات الدقيقة وتنوي الإفصاح عن أسباب الحادثة والإجراءات المتخذة بمجرد انتهاء التحقيق.
واجهت كل من شركة أوبن إيه آي وأنثروبيك حوادث مماثلة مؤخراً في بيئة اختبار أنشأتها شركة إيريغلر. كانت الشركات الثلاث تعتقد أن الاختبارات تتم في بيئة محاكاة معزولة عن الإنترنت، لكن في الواقع كان الوصول الخارجي ممكناً.
تمكّن نموذج الذكاء الاصطناعي "كلود" التابع لشركة أنثروبيك من الدخول إلى أنظمة ثلاث مؤسسات خارجية أثناء الاختبار. كما تمكّن نموذج من أوبن إيه آي من الاتصال بالإنترنت في نفس عملية التقييم واختراق موقع جهة لم يُفصح عن اسمها.
أوضحت شركة إيريغلر قائلة: "نموذج الذكاء الاصطناعي لم يخترق بنفسه بيئة الاختبار المعزولة المعروفة باسم 'الحاوية الرملية'". فالذكاء الاصطناعي لم يتغلب على آليات الأمان من خلال تقنيات متقدمة، بل كان الوصول للإنترنت ممكناً منذ البداية بسبب الخطأ في الإعدادات.
أفادت وكالة بلومبرج بأن "الأسف يتزايد مع التأكيد المتكرر على أن نماذج الذكاء الاصطناعي قادرة على اكتشاف الثغرات الأمنية في الأنظمة الفعلية ومهاجمتها".
* تمت ترجمة هذا المقال تلقائيًا بواسطة الذكاء الاصطناعي.