إيقاف مؤقت للتعلم المعزز للنماذج الحدودية الأحدث... تعزيز توافق سلوك النموذج والضوابط الأمنية
إطلاق خدمة 'تشات جي بي تي للشباب' للفئة العمرية 13-17 سنة... توسيع نقاش سلامة الذكاء الاصطناعي إلى حماية المستخدمين
![شركة أوبن إيه آي [الصورة=رويترز، الوكالة الكورية للأنباء]](https://image.ajunews.com/content/image/2026/08/19/20260819143331468774.jpg)
في سياق تصاعد المنافسة في مجال الذكاء الاصطناعي التوليدي، أعلنت شركة أوبن إيه آي عن إيقاف مؤقت للتعلم المعزز في أحدث نماذجها والشروع في إجراء فحوصات السلامة. يأتي هذا الإجراء كخطوة استباقية لإدارة مخاطر الأمان السيبراني المحتملة، خاصة مع ارتفاع مستويات أداء النماذج واستقلاليتها، مما قد يؤدي إلى قدرة هذه النماذج على تنفيذ عمليات اختراق ذاتية.
في التاسع عشر من أغسطس، كشفت أوبن إيه آي عن نيتها تأخير وتيرة توسع نموذج الذكاء الاصطناعي مؤقتاً، مع تعزيز المراقبة وتوافق سلوك النموذج وضوابط الأمان في البيئات المعزولة. وعلى وجه الخصوص، ستوقف الشركة التعلم المعزز للنموذج الحدودي الأحدث لمدة تقارب أسبوعين، خلال هذه الفترة ستجري تدريبات صغيرة النطاق وتقييمات السلامة.
يتعلق هذا الإجراء بالاستجابة للتهديدات الأمنية. فمع تطور نماذج الذكاء الاصطناعي من مجرد توليد الإجابات إلى وكلاء متقدمة قادرة على الوصول إلى أدوات وبيئات خارجية وتنفيذ مهام بشكل مستقل، تزداد احتمالية قيام النموذج بتنفيذ سلوكيات غير مقصودة أو التأثير على الأنظمة الخارجية.
كانت أوبن إيه آي قد كشفت سابقاً عن حالات قام فيها وكيل الذكاء الاصطناعي بتجاوز البيئة المسيطر عليها والوصول إلى الأنظمة الخارجية وتنفيذ عمليات اختراق. كما أشارت الشركة إلى أن نموذجها القادم 'أسترا' قد يصل إلى أعلى مستوى من مستويات التقييم الذاتي لمخاطر الأمان السيبراني وهو مستوى 'الخطر'، الأمر الذي دفعها إلى إيقاف بعض أعمال التطوير.
ستعزز أوبن إيه آي ضوابط الأمان لمنع النموذج من تجاوز البيئة المعزولة، وستقوم بإنشاء بيئة معزولة للشبكات تضمن عدم انتشار أي اختراق للخدمات الخارجية إلى الشبكة العامة أو شبكات التطوير الداخلية. كما تخطط الشركة لتوسيع نطاق اختبارات الفريق الأحمر (المحاكاة الأمنية) وأنظمة المراقبة.
ستقوم أوبن إيه آي أيضاً بتعزيز أنظمة المراقبة التي تكتشف السلوكيات الشاذة في عملية الاستدلال للذكاء الاصطناعي. عند اكتشاف سلوك مريب، سيتم تفعيل نظام الفحص الآلي للتحقق من احتمالية تسرب البيانات أو تجاوز الضوابط الأمنية، وإذا لم يتأكد أن الإنذار كان خاطئاً خلال الوقت المحدد، سيتم إيقاف أعمال التطوير ذات الصلة. تتوقع أوبن إيه آي أن هذه المراقبة ستتطلب موارد حسابية إضافية تعادل حوالي 20 في المائة من إجمالي قوة الحوسبة للاستدلال.
تعزز أوبن إيه آي أيضاً من إجراءات حماية مستخدمي الذكاء الاصطناعي. في الثامن عشر من أغسطس (بالتوقيت المحلي)، أطلقت الشركة خدمة 'تشات جي بي تي للشباب' المخصصة للمستخدمين من سن 13 إلى 17 سنة. يتم تطبيق تجربة الشباب عندما يحدد النظام المستخدم بأنه دون سن 18 عاماً أو يفصح المستخدم عن أنه في السن من 13 إلى 17 سنة، حيث يتم تعزيز إجراءات الحماية بشأن المواضيع الحساسة مثل إيذاء النفس والعنف واضطرابات الأكل. توفر الخدمة أيضاً للآباء والأمهات إمكانية إدارة وقت الاستخدام.
في خدمة الشباب، يتم تقييد تفاعلات الذكاء الاصطناعي التي قد يعبر فيها عن مشاعر رومانسية أو يحاول تحفيز الاعتماد العاطفي. توفر الخدمة أيضاً ميزات تعليمية مثل وضع الدراسة والاختبارات لدعم التعلم.
* تمت ترجمة هذا المقال تلقائيًا بواسطة الذكاء الاصطناعي.