مركز الدعم المركزي لضحايا الجرائم الرقمية: تسارع حذف محتوى الاستغلال الجنسي بمعدل 10 مرات بعد تطبيق الذكاء الاصطناعي

تطبيق الذكاء الاصطناعي منذ أبريل الماضي يؤدي إلى مضاعفة عدد طلبات الحذف المدعومة

توسيع منصات الكشف وتحليل السياق الحواري بحلول العام المقبل

• تطبيق الذكاء الاصطناعي منذ أبريل الماضي يؤدي إلى مضاعفة عدد طلبات الحذف المدعومة

• توسيع منصات الكشف وتحليل السياق الحواري بحلول العام المقبل

في صباح يوم 10 الجاري، يشرح موظف مركز الدعم المركزي لضحايا الجرائم الرقمية نظام الحذف المدعوم القائم على الذكاء الاصطناعي في مؤسسة كوريا لتعزيز حقوق المرأة بحي جونغليم، سيول. [الصورة=وزارة المساواة بين الجنسين والأسرة]

أظهرت النتائج أن متوسط عدد طلبات الحذف اليومية لمحتوى الاستغلال الجنسي للأطفال والمراهقين ازداد بمعدل يقارب 10 مرات بعد تطبيق نظام الكشف القائم على الذكاء الاصطناعي في مركز الدعم المركزي لضحايا الجرائم الرقمية التابع لمؤسسة كوريا لتعزيز حقوق المرأة.

عرض المركز نتائج تطبيق نظام الكشف والإبلاغ عن الاستغلال الجنسي للأطفال والمراهقين القائم على الذكاء الاصطناعي في جلسة استعراض صحفية عقدت في مؤسسة كوريا لتعزيز حقوق المرأة بحي جونغليم بسيول صباح يوم 10 الجاري.

يعمل نظام الذكاء الاصطناعي الذي طبقه المركز في أبريل الماضي على كشف وتحليل محتوى الاستغلال الجنسي والمعلومات الخاصة بالتحريض على الاستغلال بشكل تلقائي مدى 24 ساعة يومياً.

يقوم النظام حالياً بجمع وتحليل محتوى الاستغلال الجنسي للقاصرين ومعلومات التحريض تلقائياً من 4 منصات وسائل تواصل اجتماعي (جوجل وإكس وبلوسكاي وتيليجرام) و10 تطبيقات دردشة مختلفة، ثم يقوم الموظفون بمراجعة هذه المحتويات وتقديم طلبات حذف.

أسفرت النتيجة عن حذف 96210 حالة من محتوى الاستغلال الجنسي للأطفال والمراهقين خلال ستة أشهر من التطبيق. وتمثل هذه الأرقام مضاعفة لما تم حذفه العام الماضي من خلال العمل اليدوي، والذي بلغ 45438 حالة.

ارتفع متوسط عدد حالات الحذف المدعومة شهرياً من 3787 حالة العام الماضي إلى 16035 حالة خلال الفترة من أبريل إلى سبتمبر من هذا العام، بمعدل زيادة قدره 4.2 مرة. كما ارتفع متوسط عدد حالات الحذف التي يتعامل معها كل موظف يومياً من 20.8 حالة إلى 202.1 حالة، أي بمعدل 9.7 مرات تقريباً.

قال متحدث عن مركز الدعم المركزي لضحايا الجرائم الرقمية: "بعد تطبيق نظام الذكاء الاصطناعي الذي تم تدريبه على 40 ألف صورة ونص تم جمعهما بواسطة المركز، حسّنت عملية معالجة الحذف بشكل كبير، كما تم تخفيف الحمل النفسي على الموظفين من التعرض المستمر لهذا المحتوى الضار".

تتحدث كيم مي-سون، مديرة مركز الدعم المركزي لضحايا الجرائم الرقمية، خلال جلسة الاستعراض الصحفية التي عقدت صباح يوم 10 الجاري في مؤسسة كوريا لتعزيز حقوق المرأة بحي جونغليم، سيول. [الصورة=وزارة المساواة بين الجنسين والأسرة]

تخطط وزارة المساواة بين الجنسين والأسرة والمؤسسة بتحسين نظام الكشف القائم على الذكاء الاصطناعي لزيادة كفاءة وقدرة الاستجابة في دعم حذف محتوى الاستغلال الجنسي. وستعمل جنباً إلى جنب مع وزارة العلوم والتكنولوجيا والاتصالات على توسيع نطاق المنصات المراقبة من 74 منصة حالياً إلى 139 منصة بحلول العام المقبل، وتحسين أداء نظام الذكاء الاصطناعي ليتمكن من فهم سياق ومسار المحادثات.

قالت كيم مي-سون، مديرة مركز الدعم المركزي لضحايا الجرائم الرقمية: "نحن نقوم بالبحث الاستباقي عن محتوى الاستغلال الجنسي للأطفال والمراهقين وحذفه حتى بدون طلب من الضحايا. سعينا هو استخدام الذكاء الاصطناعي لاكتشاف الضحايا بسرعة أكبر وتوصيل الدعم المطلوب لهم بشكل أسرع".

ستعزز الوزارة والمركز أيضاً التعاون مع الجهات ذات الصلة على الصعيد المحلي والدولي. يأتي هذا لأن الانتشار غير القانوني لمحتوى الاستغلال الجنسي يحدث في الأساس على منصات أجنبية، وحوالي 30 بالمئة من هذه المنصات لا تستجيب لطلبات الحذف المقدمة من المركز.

قال كيم سونج-بيوك، رئيس قسم منع الجرائم الجنسية الرقمية بوزارة المساواة بين الجنسين والأسرة: "كلما تم تطوير تقنية جديدة، تظهر تقنيات مضادة للالتفاف عليها. إن سياسة الحكومة تركز على تعزيز فعالية الحذف من خلال تطبيق أحدث التقنيات، بالتوازي مع تحسين الأنظمة من خلال التعاون مع الجهات الحكومية ذات الصلة لضمان المتابعة والحجب الشامل".



* تمت ترجمة هذا المقال تلقائيًا بواسطة الذكاء الاصطناعي.