عيوب هيكلية في واجهات برمجية لشركات أنثروبك وأوبن إيه آي وجوجل... فك تشفير 315 ألف كتلة استدلال من مستودعات عامة
مخاطر تعرض الشركات المحلية للتسرب بناءً على إدارة سجلات الجلسات في مراكز الاتصال والروبوتات الداخلية
أظهرت نتائج بحثية أن البيانات الشخصية قد تتعرض للتسرب من خلال سجلات الاستدلال لدى الشركات التي طورت خدمات ذكاء اصطناعي باستخدام واجهات برمجية من شركات أنثروبك وأوبن إيه آي وجوجل، خاصة في تطبيقات مراكز الاتصال وأتمتة العمليات الداخلية.
وفقاً لورقة بحثية بعنوان "سرقة آثار الاستدلال من واجهات برمجية نماذج لغة كبيرة احتكارية" نُشرت على منصة هاجينج فيس في الثاني عشر من الشهر الجاري، تم اكتشاف عيوب هيكلية في النماذج الحدودية لدى الشركات الثلاث في كتل "الاستدلال المشفر" التي يتم إرسالها للعملاء.
يقصد بالاستدلال المشفر طريقة تقوم فيها نماذج الذكاء الاصطناعي بتشفير عملية التفكير الداخلية التي تمر قبل تقديم الإجابة النهائية، بدلاً من الكشف عن النص الأصلي للعملاء. اعتمدت الشركات الثلاث جميعاً هذه الطريقة لمنع المنافسين من الاطلاع على هذه العملية واستخدامها لتطوير نماذجهم الخاصة (التقطير)، وكذلك لمنع تعريض خطوات تفكير تتجاوز الضمانات الأمنية مباشرة للمستخدمين.
المشكلة تكمن في أن كتل التشفير هذه متوافقة بشكل متبادل بين النماذج نفسها. عندما يطلب نموذج أضعف فك التشفير من كتلة مشفرة بواسطة نموذج أقوى، يتم فك التشفير والكشف عن النص الأصلي. أثبتت الورقة البحثية ذلك من خلال تجربة فك كتل مشفرة من "كلود أوبس 4.8" من أنثروبك باستخدام "كلود هايكو 4.5" الأضعف نسبياً. تم تأكيد العيب الهيكلي ذاته في سلسلة جي بي تي من أوبن إيه آي وسلسلة جيميناي من جوجل.
تمكن فريق البحث من فك تشفير 315 ألف و320 كتلة استدلال من 6708 سجلات حقيقية لعمليات وكيل ذكاء اصطناعي موجودة في مستودعات عامة. كانت النتيجة اكتشاف 367 حالة من البيانات الشخصية و182 حالة من بيانات المصادقة (مثل مفاتيح الواجهات البرمجية وكلمات المرور). يشكل استخراج هذه البيانات من سجلات متاحة علناً بشكل فعلي مصدر قلق كبير.
الشركات المحلية التي اعتمدت واجهات برمجية من الشركات الثلاث تتعرض هي أيضاً لمخاطر تسرب البيانات الشخصية. العديد من شركات الخدمات الذكية المحلية تدمج واجهات برمجية من أنثروبك وأوبن إيه آي وجوجل في عمليات مراكز الاتصال والأتمتة الداخلية.
شركة سامسونغ الكترونيكس تطبق واجهات برمجية قائمة على تشات جي بي تي على نطاق واسع في العمليات المختلفة بما فيها تطوير البرمجيات والمنتجات والتسويق. كما تستخدم شركات إل جي الكترونيكس وإل جي سي إن إس وسامسونغ إس دي إس وكرافتون وتوس واجهات برمجية قائمة على تشات جي بي تي في أتمتة العمليات الداخلية. وتتجه المؤسسات المالية بما فيها بنك شينهان نحو أتمتة خدمات مراكز الاتصال من خلال مراكز اتصال ذكية.
خدمات الروبوتات ذات الأدوار المتعددة التي تتطلب الحفاظ على السياق الحواري، والخدمات من نوع الوكيل التي تنفذ مهام عبر عدة مراحل، تكون بالضرورة في موقع أخطر نظراً للهيكل الأساسي الذي يستوجب تبادل كتل الاستدلال المشفر في كل جلسة. يشير المتخصصون إلى ضرورة فحص وإدارة سجلات الجلسات والتحقق من مشاركتها، مع الحاجة الملحة لوضع خطط استجابة من الجهات المختصة ذات الصلة.
* تمت ترجمة هذا المقال تلقائيًا بواسطة الذكاء الاصطناعي.