الثغرات الأمنية في استخدام الذكاء الاصطناعي بالبرلمان② | معايير أمان متضاربة.. "ضرورة وضع إرشادات موحدة على مستوى البرلمان"

غياب معايير واضحة يثير قلق المسؤولية عند حدوث مشاكل

تصفية المعلومات السرية مسبقاً قبل إدخالها للذكاء الاصطناعي

دعوات لتطوير أداة الذكاء الاصطناعي البرلمانية للاستخدام الفعلي

• غياب معايير واضحة يثير قلق المسؤولية عند حدوث مشاكل

• تصفية المعلومات السرية مسبقاً قبل إدخالها للذكاء الاصطناعي

• دعوات لتطوير أداة الذكاء الاصطناعي البرلمانية للاستخدام الفعلي

جلسة عامة بالبرلمان في 6 من هذا الشهر تصادق على مشروع قانون تعيين محقق خاص للتحقيق في اتهامات تلفيق التحقيقات والمحاكمات بحق مؤسسات حكومية بما فيها النيابة العامة والمخابرات الوطنية وديوان المراقبة، بعد نقاش برلماني مطول بدون حد. [الصورة=وكالة يونهاب]

مع تنامي استخدام أدوات الذكاء الاصطناعي التوليدي داخل البرلمان، تتعاظم الأصوات المطالبة بوضع إرشادات أمنية منهجية ونظم إدارة موحدة. والمشكلة أن البيانات غير المكشوفة والمعلومات الشخصية التي يتعامل معها البرلمان قد تتعرض للتسريب إذا ما أدخلت في خدمات الذكاء الاصطناعي الخارجية، غير أنه في الواقع الحالي لا توجد معايير واضحة لحماية المعلومات، مما يجعل كل مكتب نيابي يتصرف بناءً على اجتهاداته الخاصة. ويؤكد الخبراء ضرورة وضع معايير أمان موحدة، إلى جانب العمل على تحسين أداء أدوات الذكاء الاصطناعي التي طورها البرلمان نفسه لتقليل الاعتماد على خدمات الذكاء الاصطناعي الخاصة.

بناءً على تقرير جمعته وكالة أجو إيكونومي بتاريخ 11 من الشهر الجاري، بدأت الشركات والمؤسسات المحلية في اعتماد حلول أمنية للذكاء الاصطناعي لمنع تسريب المعلومات الحساسة. إلا أن البرلمان لا يزال يعاني من قصور واضح في معايير حماية المعلومات وآليات التعامل مع مخاطر استخدام الذكاء الاصطناعي. والمشكلة الأكبر تكمن في أن قرارات الأمان تتعلق بما إذا كان سيتم إدخال معلومات حساسة أم لا، وهي قرارات متروكة لكل مكتب نيابي أو فرد بمفرده. قال أحد المسؤولين في مكتب نيابي: "لا توجد إرشادات واضحة على مستوى المكتب أو البرلمان عند استخدام الذكاء الاصطناعي، لذا نعتمد على معايير شخصية في الحكم على الأمور. نحن نتوخى الحذر مع المعلومات الحساسة، لكننا قلقون من أننا قد نكون مسؤولين عن أي مشاكل قد تحدث لاحقاً."

من جهة أخرى، قال مسؤول في مكتب نيابي آخر: "قد تتعلم أدوات الذكاء الاصطناعي من البيانات، لكنها لا تعيد تقديم معلومات محددة لمستخدمين آخرين، أليس كذلك؟ سمعت أن تطبيق ديب سيك الصيني خطير، لذا أستخدم فقط أدوات ذكاء اصطناعي أمريكية." وأعرب مسؤول آخر عن رأي يقول إنه لا توجد مشكلة في استخدام الذكاء الاصطناعي طالما أن المعلومات قد تمت مراجعتها من قبل الجهات المشمولة بالمراجعة أو أنها معلومات متاحة للعلن والإعلام.

يوصي الخبراء بوضع إرشادات موحدة للذكاء الاصطناعي على مستوى البرلمان. يجب تحديد نطاق المعلومات التي يمكن إدخالها والطريقة التي يمكن استخدامها بها، وإعداد إجراءات أمنية محددة مثل تصفية أو إخفاء المعلومات الشخصية والبيانات السرية قبل إدخالها للذكاء الاصطناعي. قال الأستاذ تشوي كيونغ-جين بكلية الحقوق بجامعة غاتشون: "ما لم تكن متخصصاً، من الصعب معرفة كيفية استخدام الذكاء الاصطناعي بشكل آمن. يجب تحديد نطاق الاستخدام الممكن للذكاء الاصطناعي، وتحديد عمليات وإجراءات تصفية البيانات."

أكد الأستاذ كو هاك-سو، محاضر بكلية الحقوق المتخصصة بجامعة سيول والذي عمل سابقاً رئيساً لهيئة حماية المعلومات الشخصية: "يجب على البرلمان أن يناقش ويضع إرشادات توضح ما هي المبادئ التي يمكن للأفراد الالتزام بها، وكيفية إجراء تحقيقات وفحوصات داخلية في حالات استخدام الذكاء الاصطناعي الطارئة، وأن يشاركها مع مستخدمي الذكاء الاصطناعي."

هناك أيضاً آراء تدعو إلى رفع مستوى الأداء الأمني لأدوات الذكاء الاصطناعي التي طورها البرلمان نفسه، بما يقلل الاعتماد على خدمات الذكاء الاصطناعي الخاصة. إذا ما تمكن البرلمان من بناء بيئة آمنة لإدارة البيانات داخلياً، يمكن تقليل مخاطر تسريب المعلومات الحساسة للخارج.

أطلق البرلمان في أبريل من العام الجاري أداة ذكاء اصطناعي توليدية خاصة به باسم "منصة البرلمان للذكاء الاصطناعي لدعم العمل التشريعي"، إلا أن عدداً كبيراً من الموظفين المساعدين لا يعرفون وجود هذه المنصة أصلاً، أو أنهم يعرفونها لكنهم لا يستخدمونها. والسبب أن أدائها أقل من خدمات الذكاء الاصطناعي الخاصة، مما يجعل من الصعب استخدامها في العمل الفعلي.

قال أحد الموظفين المساعدين الذين استخدموا أداة الذكاء الاصطناعي البرلمانية: "تحلل أداة الذكاء الاصطناعي البرلمانية الأخبار والبيانات من وسائل التواصل الاجتماعي وتقدمها كلمات مفتاحية، وهي مفيدة لمراجعة الأحداث السابقة، لكنها ضعيفة في استكشاف معلومات جديدة." وأضاف موظف آخر: "قاعدة بيانات الذكاء الاصطناعي تقتصر على المعلومات المسجلة على موقع البرلمان الإلكتروني تقريباً، لذا لا تصل إلى مستوى الاستخدام في العمل. سأكون سعيداً إذا ما تطورت لتصبح أداة ذكاء اصطناعي متخصصة يمكن استخدامها حتى في المراجعة البرلمانية."

وفي هذا السياق، قال أوه جونغ-إيك، محامٍ بقسم مركز البيانات للذكاء الاصطناعي بمكتب ون للمحاماة: "الأداء هو المفتاح في النهاية. يجب أن يكون أداء منصة الذكاء الاصطناعي البرلمانية قابلاً للمنافسة مع تطبيقات مثل تشات جي بي تي لكي تزيد فعلاً فرص الاستخدام الفعلي للذكاء الاصطناعي في العمل."

* تمت ترجمة هذا المقال تلقائيًا بواسطة الذكاء الاصطناعي.