دعا ساتيا ناديلا، الرئيس التنفيذي لشركة مايكروسوفت، إلى تبني وظيفة إيقاف طارئة تمكّن البشر من التحكم المباشر في تصرفات الذكاء الاصطناعي.
نشر ناديلا رسالة على منصة إكس (تويتر سابقاً) يوم الحادي عشر من الشهر الجاري بعنوان "النماذج كعوامل خطر داخلية في عصر الفائق الذكاء"، مؤكداً أن "الوقت حان لإعادة النظر في أنظمة الثقة بما يتناسب مع هذا العصر الجديد من الذكاء الاصطناعي".
وقال ناديلا: "يجب أن نبني أنظمة تسمح بمراقبة التصرفات والتحقق من الحدود والتحكم الدائم في السلوك، وبعبارة أخرى، يجب فصل سلطة توفير المعلومات عن سلطة التحكم بها".
اقترح الرئيس التنفيذي أيضاً إدارة نماذج الذكاء الاصطناعي المتقدمة، بما في ذلك النماذج المغلقة والمفتوحة المصدر، بنفس الطريقة التي تُدار بها المخاطر الأمنية الداخلية للشركات. بمعنى أن تطبق الشركات على الذكاء الاصطناعي نفس المبادئ الأمنية التي تستخدمها في التحقق من هوية الموظفين الذين يصلون إلى المعلومات الحساسة وتقييد صلاحياتهم وتسجيل أنشطتهم.
أكد ناديلا أن "أجهزة التحكم التي تتحكم في المعلومات التي يمكن للنموذج الوصول إليها والعمليات التي يمكنه تنفيذها يجب أن تكون خارج النموذج ذاته"، موضحاً أن هذه مبادئ أمنية تم تطبيقها منذ سبعينيات القرن الماضي.
شدد على أنه "يجب أن يتمكن الأشخاص المخولون من إيقاف أو إنهاء تشغيل النموذج في أي وقت أثناء العمل"، مؤكداً أهمية وظيفة "الفرملة الطارئة" للذكاء الاصطناعي.
أضاف: "كلما كان النموذج أكثر تعقيداً، احتاج إلى تقنيات حجب أكثر تقدماً، ويجب أن نعمل على توحيد هذه المعايير".
جاءت هذه التصريحات وسط تزايد المخاوف بشأن سلامة تكنولوجيا الذكاء الاصطناعي في ظل تطورها السريع. كما أطلق قادة بارزون من شركات ذكاء اصطناعي رائدة، بما فيهم دارعو أموديي، الرئيس التنفيذي لشركة أنثروبك، تحذيرات متكررة بشأن سرعة تطور الذكاء الاصطناعي والمخاطر المحتملة المرتبطة به.
* تمت ترجمة هذا المقال تلقائيًا بواسطة الذكاء الاصطناعي.