مبادئ أخلاقية للذكاء الاصطناعي 'SPIRIT' ودليل التنفيذ
إدارة المخاطر الخمسة الرئيسية للوكلاء المستقلين
تطبيق قائمة التحقق الشاملة لدورة حياة الذكاء الاصطناعي بحلول نهاية السنة
أعلنت شركة كاكاو عن وضع مبادئ أخلاقية وأدلة تنفيذية لخدمات الذكاء الاصطناعي تشمل مراحل التخطيط والتطوير والتشغيل، تماشياً مع توسع الوكلاء المستقلين في مجال الذكاء الاصطناعي. وتهدف هذه المبادئ والأدلة إلى تقليل المخاطر الناشئة عن عمليات التخطيط والتنفيذ المستقلة من قبل الذكاء الاصطناعي، من خلال إدارة السيطرة البشرية والمسؤولية والصلاحيات الممنوحة للذكاء الاصطناعي، وإنشاء نظام فحص شامل للمخاطر عبر كامل دورة حياة الخدمة.
أعلنت كاكاو في 15 من الشهر الحالي عن كشفها عن 'مبادئ أخلاقية للذكاء الاصطناعي وأدلة التنفيذ في عصر الوكلاء المستقلين'، وذلك من خلال مؤتمر المطورين 'إفكاكاو·if(kakao)26' الذي عُقد في حرم كاكاو للذكاء الاصطناعي في 13 من الشهر الحالي.
أكدت ها جين-هوا، كبيرة المسؤولي بشأن الاتصالات بالذكاء الاصطناعي بكاكاو، في جلستها على ضرورة إنشاء نظام تنفيذي يحدد الحكم البشري والمسؤولية في بيئة يتخذ فيها الذكاء الاصطناعي القرارات ويُنفذ الإجراءات بشكل مستقل، ويعكس الأخلاقيات في تصميم الخدمات وتشغيلها.
تتألف مبادئ الأخلاقيات الجديدة 'SPIRIT' من ستة مبادئ: △السلامة △الخصوصية △الشمول △المسؤولية △سيادة المستخدم △الشفافية والموثوقية. اعتمدت هذه المبادئ على القيم الثلاث والمبادئ السبعة لـ 'مبادئ الذكاء الاصطناعي الأخلاقية لجمهورية كوريا' كمعايير أساسية للتنفيذ، وتم تطويرها بشكل إضافي لتناسب خدمات كاكاو.
وضعت كاكاو 'NORMA' كآلية تنفيذية لتطبيق المبادئ الأخلاقية على الخدمات الفعلية. وتمثل هذه الآلية طريقة لإدارة القضايا الأخلاقية المعقدة للذكاء الاصطناعي على مستوى المنظمة وتحويلها إلى خطوات قابلة للتنفيذ.
شارك في وضع المبادئ الأخلاقية والأدلة التنفيذية سبعة مستشارين خارجيين من لجنة الفرعية لأخلاقيات الذكاء الاصطناعي والتكنولوجيا التي تأسست في يوليو الماضي. قام المستشارون بفحص توافق هذه المبادئ والأدلة مع المعايير المحلية والدولية، بينما قامت أقسام السلامة والذكاء الاصطناعي وحماية البيانات الشخصية والأمان والخدمات بكاكاو بمراجعتها من منظور تشغيلي.
قسمت كاكاو مخاطر الوكلاء المستقلين إلى خمسة مجالات إدارة رئيسية: △صاحب المبادرة في التحكم △الأهداف △الصلاحيات △الموارد المرجعية △التفاعلات، وربطت بكل منها عناصر التحكم الضرورية مثل الإشراف البشري والتحكم الطارئ وتقيد الصلاحيات وحماية البيانات.
تعمل 'قائمة التحقق من تنفيذ أخلاقيات الذكاء الاصطناعي' المعدة على أساس هذا على ثلاث مراحل: تحديد خصائص الخدمة، وفحص المخاطر المسبق، والتحقق من عناصر التحكم والحكم عليها. ومن المقرر تطبيق القائمة بحلول نهاية السنة الحالية.
تعزز كاكاو أيضاً عمليات الفحص الخاصة بحماية الأطفال والمراهقين. إضافة إلى 'قائمة التحقق من حماية الأطفال والمراهقين الرقمية' التي طبقتها منذ عام 2025، تخطط كاكاو لإدراج عناصر فحص المخاطر الخاصة بالذكاء الاصطناعي في قائمة التحقق الجديدة، مع الإشارة إلى نظام تصنيف مخاطر الأطفال عبر الإنترنت (5Cs) من منظمة التعاون الاقتصادي والتنمية واليونيسيف.
قال كيم سيه-وونغ، رئيس لجنة الفرعية لأخلاقيات الذكاء الاصطناعي والتكنولوجيا بكاكاو: "لقد تمكنا من بناء نظام مراجعة المخاطر الذي يعمل عبر كامل دورة حياة خدمات الذكاء الاصطناعي، من خلال دمج وجهات نظر المستشارين الخارجيين والمنظمة الداخلية"، مضيفاً "مع تزايد استقلالية الذكاء الاصطناعي، سنعمل على توضيح الحكم البشري والمسؤولية، والمضي قدماً في تطوير خدمات ذكاء اصطناعي يمكن للمستخدمين استخدامها بثقة واطمئنان".
من جانبها، وقعت كاكاو في الشهر الماضي مذكرة تفاهم مع معهد أبحاث سلامة الذكاء الاصطناعي لتقييم السلامة المشترك وتأسيس نظام التقييم. ويعكف الطرفان على تقييم سلامة نماذج وكلاء الذكاء الاصطناعي بشكل مشترك، وتطوير أدوات تقييم لتحديد عناصر المخاطر.
* تمت ترجمة هذا المقال تلقائيًا بواسطة الذكاء الاصطناعي.