شركات التكنولوجيا الأمريكية الكبرى تبحث عن حلول لسلامة الذكاء الاصطناعي... إلغاء أوبن إيه آي لنموذج جديد وإطلاق إنفيديا لآليات حماية

تحقق نظرية تبطيء تطور الذكاء الاصطناعي... إلغاء أوبن إيه آي لإطلاق نموذج الجيل القادم

السيطرة على مخاطر الذكاء الاصطناعي بالتكنولوجيا... كشف منصة أمان شاملة

البحث عن حلول لـ سلامة الذكاء الاصطناعي... لقاء بين ترامب وشركات الذكاء الاصطناعي

• تحقق نظرية تبطيء تطور الذكاء الاصطناعي... إلغاء أوبن إيه آي لإطلاق نموذج الجيل القادم

• السيطرة على مخاطر الذكاء الاصطناعي بالتكنولوجيا... كشف منصة أمان شاملة

• البحث عن حلول لـ سلامة الذكاء الاصطناعي... لقاء بين ترامب وشركات الذكاء الاصطناعي

الجدل حول سلامة الذكاء الاصطناعي [رسم بياني = قاعدة بيانات Ajou Economy]

أعلنت شركة أوبن إيه آي، المطورة لبرنامج تشات جي بي تي، عن إلغاء مفاجئ لإطلاق نموذج ذكاء اصطناعي من الجيل القادم يوم 28 من الشهر الحالي بسبب مخاوف تتعلق بالسلامة. يبدو أن قضايا سلامة الذكاء الاصطناعي تؤثر فعلياً على سرعة واتجاه تطوير الذكاء الاصطناعي الفعلي، وتجاوزت مرحلة النقاش النظري. وفي نفس اليوم، أطلقت شركة إنفيديا منصة أمان متخصصة في السيطرة على السلوكيات المفاجئة لوكلاء الذكاء الاصطناعي، مما يعكس منهجاً يركز على استخدام التقنية للسيطرة على مخاطر الذكاء الاصطناعي.
 

"تحقق نظرية تبطيء الذكاء الاصطناعي"... إلغاء أوبن إيه آي لإطلاق نموذج الجيل القادم

شركة أوبن إيه آي [الصورة = وكالة أسوشيتد برس - يونهاب نيوز]

وفقاً لما نقلته وول ستريت جورنال، أعلنت شركة أوبن إيه آي أنها قررت عدم إطلاق نموذج الذكاء الاصطناعي من الجيل القادم المسمى "جي بي تي-6.1 أسترا" الذي كان مقرراً إطلاقه في الشهر القادم، وذلك بسبب مخاوف تتعلق بالسلامة. يعتبر إلغاء أحد الشركات الكبرى لإطلاق منتج جديد بسبب مشاكل السلامة إجراءً غير مسبوق في الصناعة.

يعتبر نموذج جي بي تي-6.1 أسترا تحسيناً على النماذج السابقة من حيث القدرة على تنفيذ المهام المعقدة من البداية إلى النهاية دون تدخل بشري، وكذلك تحسينات في القدرات الكتابية. كانت أوبن إيه آي تعتزم تطبيق هذا النموذج ابتداءً من شهر أكتوبر على كل من تطبيق تشات جي بي تي وأداة البرمجة المسماة "كوديكس".

غير أن الاختبارات الداخلية كشفت عن مشاكل في السلامة وأداء "التوافق" أقل من النماذج السابقة. يقصد بالتوافق قدرة الذكاء الاصطناعي على البقاء ضمن السيطرة البشرية والالتزام بالأهداف والتعليمات المعطاة دون الحيد عنها.

وبدلاً من ذلك، تعتزم أوبن إيه آي الاستمرار في التعلم المعزز الإضافي باستخدام نفس نموذج الأساس، واستخدامه لاحقاً في تطوير نماذج من عائلة جي بي تي-6. كما تخطط الشركة لإجراء تحقيق متعمق لتحديد الأسباب الجذرية للمشاكل التي تم رصدها.

يأتي هذا القرار في سياق تزايد المخاوف من السلامة في الصناعة بسبب سلوكيات غير متوقعة من وكلاء الذكاء الاصطناعي. ومن الأمثلة على ذلك الحادثة التي تمكن فيها وكيل ذكاء اصطناعي من شركة أوبن إيه آي من اختراق منصة التطوير هاجينج فيس في بيئة محظورة من الوصول إلى الإنترنت الخارجي.

امتدت هذه المخاوف لتشمل قلقاً أوسع بشأن "نهاية البشرية من الذكاء الاصطناعي"، أي احتمال أن يتجاوز التطور السريع للذكاء الاصطناعي السيطرة البشرية. وأفادت وكالة بلومبرج بأن كبار الباحثين في شركات الذكاء الاصطناعي الرائدة مثل أوبن إيه آي وأنثروبيك ومايكروسوفت وميتا نشروا ورقة بحثية مشتركة حذروا فيها من أن أتمتة البحث والتطوير في مجال الذكاء الاصطناعي قد تؤدي إلى "انفجار ذكائي" يمكن أن يؤدي في أسوأ الحالات إلى تهميش الإنسانية أو انقراضها.

حذر الباحثون بقولهم: "نحن لسنا مستعدين بشكل كاف نسبة إلى المخاطر"، وأشاروا إلى أن نافذة الفرصة للاستجابة قد تغلق بمجرد بدء الانفجار الذكائي. وطالبوا صانعي السياسات بإعداد خطط طوارئ للتعامل مع سيناريوهات مختلفة تشهد ارتفاعاً حاداً في قدرات الذكاء الاصطناعي.

يشهد القطاع دعماً متزايداً لنظرية تبطيء تطور الذكاء الاصطناعي. فقد أعلن داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، في 12 من هذا الشهر عن قلقه من التطور السريع للذكاء الاصطناعي ودعوته لتبطيء وتيرة التطوير لضمان السلامة. وقد أعرب بعض قادة شركات التكنولوجيا الكبرى، من بينهم سام ألتمان الرئيس التنفيذي لأوبن إيه آي، عن دعمهم لهذا الاتجاه.

تقوم كل من أوبن إيه آي وأنثروبيك حالياً بفحص ملايين الحالات من السلوكيات الشاذة لنماذج الذكاء الاصطناعي الحديثة، وعلى وجه الخصوص، قامت أوبن إيه آي بتعليق تدريب نماذجها الأعلى أداءً مؤقتاً لإعادة فحص السلامة.
 

"السيطرة على مخاطر الذكاء الاصطناعي بالتكنولوجيا"... إنفيديا تكشف عن منصة أمان

أطلقت إنفيديا في 28 من الشهر الحالي منصة أمان متخصصة لوكلاء الذكاء الاصطناعي. أفادت إنفيديا بأن منصتها كان يمكن أن تمنع حادثة اختراق أوبن إيه آي لهاجينج فيس. [الصورة = رويترز - يونهاب نيوز]

من جهة أخرى، أظهر جينسن هوانغ، الرئيس التنفيذي لشركة إنفيديا، موقفاً سلبياً تجاه نظرية تبطيء الذكاء الاصطناعي، معتبراً أن مخاطر الذكاء الاصطناعي يمكن السيطرة عليها من الناحية التقنية. يرى هوانغ أن معظم مشاكل السلامة في الذكاء الاصطناعي هي في الحقيقة مشاكل هندسية يمكن حلها من خلال علوم الحاسوب وتطوير المنتجات. وقال في مقابلة مع قناة سي إن بي سي الأمريكية: "إذا لم يعتقد العالم أن الذكاء الاصطناعي يتم تطويره ونشره بشكل آمن، فلن نتمكن من بناء صناعة ذكاء اصطناعي ناجحة".

فعلياً، أطلقت إنفيديا في نفس اليوم منصة أمان متخصصة باسم "منصة أمان الوكلاء المفتوحة" مصممة لمنع وكلاء الذكاء الاصطناعي من الوصول إلى الأنظمة غير المصرح بها أو الشبكات الخارجية.

قارن هوانغ منصة الأمان بـ "متصفح ويب لوكلاء الذكاء الاصطناعي". أي أنها تنشئ بيئة معزولة تقيد نطاق تحركات وكيل الذكاء الاصطناعي بحيث يتمكن من الوصول فقط إلى الأنظمة والمعلومات اللازمة لتنفيذ مهامه.

أفادت إنفيديا بأن منصة الأمان الخاصة بها كان يمكن أن تمنع حادثة اختراق هاجينج فيس من قبل وكيل الذكاء الاصطناعي التابع لأوبن إيه آي. تعتزم إنفيديا نشر جزء من برامجها كمصدر مفتوح، مما يتيح لشركات الذكاء الاصطناعي تطوير منتجات بناءً على منصة الأمان وتوريدها للسوق.

في السياق الأوسع للجدل المتسع حول سلامة الذكاء الاصطناعي، يعقد الرئيس الأمريكي دونالد ترامب اجتماعاً غداءً مع قادة شركات الذكاء الاصطناعي الأمريكية الرائدة مثل أنثروبيك وإنفيديا وأوبن إيه آي وميتا في 29 من الشهر الحالي. جدير بالذكر أن الرئيس ترامب رفض في السابق المخاوف المتعلقة بـ "نهاية البشرية من الذكاء الاصطناعي" ووصفها بأنها "احتيال"، وأعرب عن معارضته لنظرية تبطيء الذكاء الاصطناعي.

 



* تمت ترجمة هذا المقال تلقائيًا بواسطة الذكاء الاصطناعي.