وكلاء ذكاء اصطناعي من OpenAI يسيطرون على ويكي برمجة ألماني ومشاركة طرق لتجاوز الرقابة

مشاركة طرق لتجاوز الضوابط لمدة شهرين..فراغ قانوني في سلطات التحقيق

الكونغرس الأمريكي بتوافق حزبي يسرّع تشريعات رقابية.."لا يمكن ترك التحقيق في الحوادث للشركات"

• مشاركة طرق لتجاوز الضوابط لمدة شهرين..فراغ قانوني في سلطات التحقيق

• الكونغرس الأمريكي بتوافق حزبي يسرّع تشريعات رقابية.."لا يمكن ترك التحقيق في الحوادث للشركات"

صورة منشأة بالذكاء الاصطناعي [الصورة=جيميناي]

تبين أن وكلاء الذكاء الاصطناعي من شركة OpenAI قامت بالسيطرة على موقع ويكي برمجة باللغة الألمانية، إضافة إلى حادثة اختراق هاكينغ فيس التي وقعت في يوليو الماضي، وقام الوكلاء بمشاركة طرق لتجاوز الضوابط والرقابة فيما بينهم. وأضافت قائمة المشاكل عدم الكشف من جانب OpenAI عن هذه الحادثة لأسابيع عديدة، مما أدى إلى إطلاق الكونغرس الأمريكي مشاريع قوانين تنظيمية للذكاء الاصطناعي من نوع الوكلاء على أساس توافق حزبي.
  وبحسب وكالة رويترز ووسائل إعلام أجنبية أخرى في السادس من الشهر الحالي، قام أربعة باحثين مستقلين بينهم الرئيس التنفيذي لمنظمة الأمان الاصطناعي غير الربحية "نايتينجيل" سيدني فون أركس، بنشر تقرير في الخامس من الشهر (بالتوقيت المحلي) يفيد بأن وكلاء ذكاء اصطناعي مرتبطين بـ OpenAI قاموا بأنشطة غير سليمة على ويكي المجتمع الألماني "DseWiki" على مدى شهرين ابتداء من مايو الماضي.
  تم تحديد أكثر من 15 ألف تسجيل تحرير كُتبت بواسطة وكلاء ذكاء اصطناعي وليس من أشخاص حقيقيين على هذا الموقع الذي تم إنشاؤه لدعم المبرمجين، وتشير الإحصائيات التي جمعتها فريق البحث إلى حوالي 18 ألف منشور، وأسماء وكلاء مزعومة بلغت حوالي 3700 اسم.
  وطبقاً للتقرير، قام الوكلاء الذين استخدموا أسماء مثل "OpenAI Researcher" بتحويل هذا الموقع إلى لوحة رسائل لمشاركة △طرق الغش الأكاديمي △وطرق تجاوز آليات الأمان △وطرق المتابعة في التواصل حتى بعد الإيقاف القسري.
  على الرغم من أن مسؤولي الموقع من الأشخاص الحقيقيين قاموا بحذف الصفحات ذات الصلة ابتداء من يونيو الماضي، إلا أن الوكلاء قاموا بإنشاء صفحات بديلة ومتابعة التواصل. وهذا يعكس نمطاً مشابهاً لحادثة اختراق هاكينغ فيس التي وقعت في يوليو الماضي، حيث تعاون حوالي 700 وكيل ذكاء اصطناعي في تنفيذ الاختراق.
  أشار بعض المسؤولين من OpenAI إلى أن الشركة قد تكون متعمدة في إخفاء هذه الحادثة. والتحليل يشير إلى أن OpenAI كانت حساسة تجاه حوادث وكلاء الذكاء الاصطناعي نظراً لتوقيت إطلاق نموذج جديد يُدعى "Astra" قيّمت الشركة ذاتياً قدرته الأمنية السيبرانية بأنها من فئة "حرجة (Critical)".
  ويتسارع الرد من جانب الكونغرس الأمريكي أيضاً. قام النائب جوش جوتهايمر (ديمقراطي - نيوجيرسي) والنائب مايك رولر (جمهوري - نيويورك) بتقديم "قانون وقف الذكاء الاصطناعي المارق" بشكل مشترك في الثالث من الشهر. يتضمن القانون قيام المعهد الوطني للمعايير والتكنولوجيا (NIST) التابع لوزارة التجارة الأمريكية بوضع معايير وإرشادات للنشر الآمن لوكلاء الذكاء الاصطناعي، وتطلب من الشركات بناء قائمة قابلة للقراءة الآلية تتيح تحديد الوكلاء الذين يعملون ضمن شبكاتها.
  إلا أن القانون يطبق الالتزام الطوعي على الشركات الخاصة والالتزام الإجباري على متعاقدي الحكومة الفيدرالية، مما يحد من القوة الإلزامية له. وبالإضافة إلى ذلك، تم تقديم عدة مشاريع قوانين أخرى ذات صلة خلال هذا الشهر، بما في ذلك مشروع قانون السناتور مارك وارنر (ديمقراطي - فرجينيا) لإنشاء هيئة التحقق من وكلاء الذكاء الاصطناعي، وقانون "مفتاح الإيقاف" من النائبين تيد ليو ونايثان مويران (منح سلطة الإيقاف القسري للنماذج الخطيرة).
  ويشير الخبراء إلى أن البنية الحالية التي تترك التحقيق في الحوادث للالتزام الطوعي من الشركات تشكل مشكلة بذاتها.
  قالت ماكنزي أرنولد من مؤسسة LawAI، المديرة المسؤولة عن القانون والسياسة الأمريكية، في إحاطة في الثالث من الشهر: "قوانين السلامة الاصطناعية الحالية في كاليفورنيا ونيويورك وإلينوي تتطلب فقط ملخصات أحداث بصيغة لغة عامة، ولا تمنح الحكومة أي سلطة لطرح أسئلة متابعة أو إرسال محققين أو الطلب بحفظ السجلات".
 



* تمت ترجمة هذا المقال تلقائيًا بواسطة الذكاء الاصطناعي.