لجنة الاستراتيجية الوطنية للذكاء الاصطناعي تعقد ندوة حول نظرية تعديل وتيرة التطوير والرئيس يون تأكيد ضرورة تجسيد نظرية المسؤولية عن السرعة
مدير مركز أبحاث السلامة الأمنية للذكاء الاصطناعي بجامعة سونغسيل يؤكد الحاجة إلى تطوير نماذج حدودية وإنشاء إطار عمل أمني للذكاء الاصطناعي
مع تطور الذكاء الاصطناعي وتزايد الحالات التي يخرج فيها عن السيطرة الإنسانية، برزت نظرية تعديل وتيرة التطوير لدى شركات التكنولوجيا الكبرى العالمية.
في الوقت الذي تعرب فيه حكومات دول متعددة بما فيها الولايات المتحدة والصين عن موقفها، دعا خبراء كوريا الجنوبية إلى اتباع استراتيجية ثنائية المسار تجمع بين عدم التأخر في تطوير النماذج الحدودية وبناء نظام أمني وقائي للذكاء الاصطناعي في نفس الوقت.
قال يون سوك-يول، رئيس لجنة الأمن الخاصة، في ندوة بعنوان "نظرية تعديل وتيرة تطوير الذكاء الاصطناعي" نظمتها لجنة الاستراتيجية الوطنية للذكاء الاصطناعي في الأول من أكتوبر: "في حين تثير شركات عملاقة عالمية قضايا تتعلق بتعديل الوتيرة وتجري نقاشات على المستوى الحكومي، يجب على كوريا أن تجسد نظرية 'المسؤولية عن السرعة' بشكل ملموس".
تقوم نظرية المسؤولية عن السرعة على ضرورة بناء القدرات الحدودية وقدرات التحكم بالسلامة والأمان معاً.
قال يون سوك-يول إن الرئيس التنفيذي لشركة أنثروبيك، داريو أمودي، أثار مؤخراً نظرية تعديل الوتيرة، غير أنه فسرها بأنها لا تعني إيقاف تطوير الذكاء الاصطناعي. وأضاف: "المقصود ليس تأخير تطوير الذكاء الاصطناعي، بل عدم ترك الذكاء الاصطناعي يعمل بدون سيطرة".
أطلقت ثلاث شركات تكنولوجيا عملاقة عالمية نماذج جديدة بعد أن أثار أمودي نظرية تعديل الوتيرة. انتقد يون سوك-يول هذا الموقف قائلاً: "هذا لعب مزدوج الأوجه – فهي تثير مخاوف الذكاء الاصطناعي بينما تحمي أسواقها الخاصة" و "كوريا يجب ألا تتأخر في تطوير الذكاء الاصطناعي". بعبارة أخرى، يجب على كوريا أن تسعى لتطوير نماذج حدودية مع ضمان الأمان والحماية.
رأى يون سوك-يول أن صناعة الذكاء الاصطناعي الحالية تسير على محورين. أحدهما يتعلق بسعي الولايات المتحدة والصين لتأمين صناعة الذكاء الاصطناعي من خلال حد أدنى من قنوات التواصل، والآخر يتعلق بآليات تعاون متعددة الأطراف تستثني هاتين الدولتين.
في هذا السياق، أكد يون سوك-يول أن كوريا يجب أن تضع استراتيجيتها للذكاء الاصطناعي من خلال "الائتلاف الوظيفي". وقال: "بدلاً من الاختيار بين معسكر وآخر، يجب أن نصمم بشكل جيد المقام المشترك لما يحتاجونه، لنتمكن من قيادة المشهد الدولي وتقديم بدائل". أضاف: "بدلاً من المشاركة في وقت متأخر بعد انتهاء وضع المعايير، يجب أن نلعب دور المصممين المشاركين في وضع القواعد الثنائية وربط المعايير".
أكد تشوي داي-سون، مدير مركز أبحاث السلامة الأمنية للذكاء الاصطناعي بجامعة سونغسيل، ضرورة توفر أساس مؤسسي وتقني يسمح بتطوير النماذج الحدودية مع بناء نظام أمني للذكاء الاصطناعي.
قال: "بما أننا لا نعرف مدى خطورة الذكاء الاصطناعي، فإننا لا نستطيع تحديد مستوى الاستعداد ومدى التدخل، وحين يحدث الخروج غير المقصود عن السيطرة لا يمكننا تحديد مستوى العزل". وأضاف أن هناك حاجة إلى نظام استجابة فعال.
أشار تشوي إلى أن كوريا حالياً تقتصر على التحقق من صحة النماذج فقط، لكنها تحتاج إلى بناء نظام يمكنه تقييم الحل الشامل، وينبغي تطوير التشريعات اللازمة للسيطرة على احتمالات الإساءة في الاستخدام.
حلل كيم سونغ-هون، الرئيس التنفيذي لشركة أبستيج، أن الاتجاه الحالي قد تطور من مرحلة الذكاء الاصطناعي إلى مرحلة الذكاء الفائق، ثم إلى ذكاء فائق يحسن نفسه بنفسه.
أكد كيم أنه في هذا السياق، تأخر الوتيرة المحلية قد يوسع الفجوة مع عمالقة التكنولوجيا العالميين، لذا يجب تطوير نماذج تتجاوزهم. قال: "بينما تركض الولايات المتحدة والصين بأقصى سرعة، يجب على كوريا أن تتطور نحو الذكاء الفائق الثاني" و "بعد ذلك تصبح هناك حاجة للمسؤولية عن السرعة".
أشار كيم إلى أنه من أجل تحمل المسؤولية عن السرعة، يجب الكشف عن الأداء والحدود من خلال التقييم من قبل جهات ثالثة مثل معايير مؤسسة تطوير مجتمع المعلومات والذكاء الكوري وتحليل الذكاء الاصطناعي، وإجراء تقييمات أمنية وطنية، وتطبيق آليات أمان في حلقات التحسن الذاتي.
أكد لي هان-ول، نائب الرئيس في شركة إيم إنتليجينس، على ضرورة ظهور نماذج حدودية كورية مع التأكيد على الحاجة إلى معايير أمنية واضحة للتقييم.
أشار إلى أنه يجب الأخذ في الاعتبار مخاطر الإساءة في استخدام الذكاء الاصطناعي من خلال تحديد نطاق الوصول العام للنموذج والجهات المستهدفة، وفحص الصلاحيات التي يمكن منحها للوكلاء الذكيين وآليات التدخل في حالة حدوث مشاكل. قال إنه ينبغي أيضاً فحص العوامل التي تعقد عملية استخدام التقنيات المعتمدة والموثوقة عند إدراج الذكاء الاصطناعي في العمليات الأمنية للشركات.
في الوقت الذي تعرب فيه حكومات دول متعددة بما فيها الولايات المتحدة والصين عن موقفها، دعا خبراء كوريا الجنوبية إلى اتباع استراتيجية ثنائية المسار تجمع بين عدم التأخر في تطوير النماذج الحدودية وبناء نظام أمني وقائي للذكاء الاصطناعي في نفس الوقت.
قال يون سوك-يول، رئيس لجنة الأمن الخاصة، في ندوة بعنوان "نظرية تعديل وتيرة تطوير الذكاء الاصطناعي" نظمتها لجنة الاستراتيجية الوطنية للذكاء الاصطناعي في الأول من أكتوبر: "في حين تثير شركات عملاقة عالمية قضايا تتعلق بتعديل الوتيرة وتجري نقاشات على المستوى الحكومي، يجب على كوريا أن تجسد نظرية 'المسؤولية عن السرعة' بشكل ملموس".
تقوم نظرية المسؤولية عن السرعة على ضرورة بناء القدرات الحدودية وقدرات التحكم بالسلامة والأمان معاً.
قال يون سوك-يول إن الرئيس التنفيذي لشركة أنثروبيك، داريو أمودي، أثار مؤخراً نظرية تعديل الوتيرة، غير أنه فسرها بأنها لا تعني إيقاف تطوير الذكاء الاصطناعي. وأضاف: "المقصود ليس تأخير تطوير الذكاء الاصطناعي، بل عدم ترك الذكاء الاصطناعي يعمل بدون سيطرة".
أطلقت ثلاث شركات تكنولوجيا عملاقة عالمية نماذج جديدة بعد أن أثار أمودي نظرية تعديل الوتيرة. انتقد يون سوك-يول هذا الموقف قائلاً: "هذا لعب مزدوج الأوجه – فهي تثير مخاوف الذكاء الاصطناعي بينما تحمي أسواقها الخاصة" و "كوريا يجب ألا تتأخر في تطوير الذكاء الاصطناعي". بعبارة أخرى، يجب على كوريا أن تسعى لتطوير نماذج حدودية مع ضمان الأمان والحماية.
رأى يون سوك-يول أن صناعة الذكاء الاصطناعي الحالية تسير على محورين. أحدهما يتعلق بسعي الولايات المتحدة والصين لتأمين صناعة الذكاء الاصطناعي من خلال حد أدنى من قنوات التواصل، والآخر يتعلق بآليات تعاون متعددة الأطراف تستثني هاتين الدولتين.
في هذا السياق، أكد يون سوك-يول أن كوريا يجب أن تضع استراتيجيتها للذكاء الاصطناعي من خلال "الائتلاف الوظيفي". وقال: "بدلاً من الاختيار بين معسكر وآخر، يجب أن نصمم بشكل جيد المقام المشترك لما يحتاجونه، لنتمكن من قيادة المشهد الدولي وتقديم بدائل". أضاف: "بدلاً من المشاركة في وقت متأخر بعد انتهاء وضع المعايير، يجب أن نلعب دور المصممين المشاركين في وضع القواعد الثنائية وربط المعايير".
أكد تشوي داي-سون، مدير مركز أبحاث السلامة الأمنية للذكاء الاصطناعي بجامعة سونغسيل، ضرورة توفر أساس مؤسسي وتقني يسمح بتطوير النماذج الحدودية مع بناء نظام أمني للذكاء الاصطناعي.
قال: "بما أننا لا نعرف مدى خطورة الذكاء الاصطناعي، فإننا لا نستطيع تحديد مستوى الاستعداد ومدى التدخل، وحين يحدث الخروج غير المقصود عن السيطرة لا يمكننا تحديد مستوى العزل". وأضاف أن هناك حاجة إلى نظام استجابة فعال.
أشار تشوي إلى أن كوريا حالياً تقتصر على التحقق من صحة النماذج فقط، لكنها تحتاج إلى بناء نظام يمكنه تقييم الحل الشامل، وينبغي تطوير التشريعات اللازمة للسيطرة على احتمالات الإساءة في الاستخدام.
حلل كيم سونغ-هون، الرئيس التنفيذي لشركة أبستيج، أن الاتجاه الحالي قد تطور من مرحلة الذكاء الاصطناعي إلى مرحلة الذكاء الفائق، ثم إلى ذكاء فائق يحسن نفسه بنفسه.
أكد كيم أنه في هذا السياق، تأخر الوتيرة المحلية قد يوسع الفجوة مع عمالقة التكنولوجيا العالميين، لذا يجب تطوير نماذج تتجاوزهم. قال: "بينما تركض الولايات المتحدة والصين بأقصى سرعة، يجب على كوريا أن تتطور نحو الذكاء الفائق الثاني" و "بعد ذلك تصبح هناك حاجة للمسؤولية عن السرعة".
أشار كيم إلى أنه من أجل تحمل المسؤولية عن السرعة، يجب الكشف عن الأداء والحدود من خلال التقييم من قبل جهات ثالثة مثل معايير مؤسسة تطوير مجتمع المعلومات والذكاء الكوري وتحليل الذكاء الاصطناعي، وإجراء تقييمات أمنية وطنية، وتطبيق آليات أمان في حلقات التحسن الذاتي.
أكد لي هان-ول، نائب الرئيس في شركة إيم إنتليجينس، على ضرورة ظهور نماذج حدودية كورية مع التأكيد على الحاجة إلى معايير أمنية واضحة للتقييم.
أشار إلى أنه يجب الأخذ في الاعتبار مخاطر الإساءة في استخدام الذكاء الاصطناعي من خلال تحديد نطاق الوصول العام للنموذج والجهات المستهدفة، وفحص الصلاحيات التي يمكن منحها للوكلاء الذكيين وآليات التدخل في حالة حدوث مشاكل. قال إنه ينبغي أيضاً فحص العوامل التي تعقد عملية استخدام التقنيات المعتمدة والموثوقة عند إدراج الذكاء الاصطناعي في العمليات الأمنية للشركات.
* تمت ترجمة هذا المقال تلقائيًا بواسطة الذكاء الاصطناعي.