مراجعة المصادقة الإضافية بناءً على نظام PASS... تعزيز قيود المحتوى والبحث والتوصيات
تطبيق نظام حماية المراهقين المعزز اعتباراً من أوائل عام 2027
مع تطور روبوتات الذكاء الاصطناعي لتصبح وسيلة اتصال ولعب جديدة للمراهقين، ظهرت سياسات حماية محلية تقيد مباشرة وقت الاستخدام ومبالغ الدفع. قررت الشركة المشغلة بشكل طوعي وضع آليات أمان تأخذ في الاعتبار إمكانية انغماس المستخدمين في الشخصيات المختلفة واستخدام الخدمة لفترات طويلة أثناء التفاعل مع الذكاء الاصطناعي.
أعلنت شركة تكنولوجيز روتن (روتن) في الثامن من سبتمبر عن خطة تعزيز سياسات حماية المراهقين. يتمحور الجوهر حول وضع حد أقصى لوقت الاستخدام ومبالغ الدفع. تخطط الشركة لتقييد وقت استخدام المراهقين لتطبيق روبوت الذكاء الاصطناعي "كراك" إلى 3 ساعات يومياً كحد أقصى، مع عدم السماح بتجاوز 100 ألف وون (العملة الكورية) شهرياً في الدفعات.
في حالة تجاوز المستخدم الثلاث ساعات أو تجاوز المبلغ الشهري لـ 100 ألف وون، يتعين على المستخدم المرور بمرحلة المصادقة والموافقة من الوالدين أو الأوصياء. الهدف من ذلك هو إدارة مباشرة للإفراط في قضاء الوقت على روبوتات الذكاء الاصطناعي والإنفاق المفرط.
بحسب مؤشر موبايل إندكس (Mobile Index)، يشهد وقت استخدام تطبيقات الذكاء الاصطناعي للدردشة نمواً سريعاً. بلغ إجمالي وقت الاستخدام لتطبيقات الدردشة بالذكاء الاصطناعي حوالي 1.1 مليون ساعة في أبريل 2024 إلى حوالي 63.1 مليون ساعة في مارس 2026، أي بزيادة تبلغ 57 مرة خلال عامين فقط. مع ازدياد وقت الاستخدام، تزداد أيضاً أعداد المراهقين الذين يفرطون في استخدام هذه التطبيقات.
تطبيق كراك هو خدمة ترفيه للذكاء الاصطناعي يمكن للمستخدمين من خلالها إنشاء شخصيات ذكاء اصطناعي خاصة بهم أو اختيار شخصيات موجودة مسبقاً للحوار المستمر، وإنشاء قصصهم الخاصة وأعمالهم الفنية. التطبيق مجاني بشكل أساسي، لكن للوصول إلى حوارات أكثر عمقاً أو لإنشاء صور يتطلب شحن "كراكرز" وهي عملة افتراضية مدفوعة. بما أن هيكل الخدمة يعني أن استخدام العملة الافتراضية يزداد كلما طالت مدة الحوار مع الشخصية، قررت الشركة إدارة وقت الاستخدام والدفعات معاً.
سبب قيام روتن بتحديد حد أقصى منفصل لوقت الاستخدام يكمن في اختلاف هيكل خدمة روبوتات الذكاء الاصطناعي للدردشة عن تطبيقات البحث عن المعلومات القائمة على الذكاء الاصطناعي التقليدية. بدلاً من نمط حيث يطرح المستخدم سؤالاً ويحصل على إجابة ثم ينهي الخدمة، يمكن للمستخدم الاستمرار في الحوار مع شخصية محددة وبناء علاقات وقصص.
تخطط روتن أيضاً لتعزيز طرق المصادقة والتحقق من السن. حالياً، يستخدم تطبيق كراك خدمة المصادقة الشخصية "باص" (PASS) التي توفرها شركات الاتصالات المحمولة للتمييز بين البالغين والمراهقين. تراجع الشركة حالياً وسائل تحقق إضافية جنباً إلى جنب مع حالات دولية وداخلية لتحسين دقة وسلامة التحقق من السن.
ستخضع آليات أمان المحتوى أيضاً لمراجعة شاملة. تخطط روتن لفحص نظام حماية المراهقين الحالي بشكل عام بما يتماشى مع تغييرات أنماط الاستخدام، بما في ذلك سياسة إنشاء المحتوى، وإدارة التصنيف العمري، وأنظمة مراجعة الأعمال، وقيود البحث والتوصيات، ووظائف الإبلاغ والحظر، والعقوبات على الحسابات المخالفة. ستعزز الشركة أيضاً تكنولوجيا السلامة الخاصة بالذكاء الاصطناعي من خلال تقوية المرشحات الإضافية وموجهات نظام السلامة لتصفية الحوارات غير المناسبة أو الخطرة.
يُفسر هذا الإجراء كتحرك من روتن لتعزيز مسؤولياتها تجاه حماية المستخدمين جنباً إلى جنب مع نمو الأعمال. تقوم روتن حالياً بتوسيع عملياتها، بما فيها بدء عملية اختيار الكيانات الراعية للاكتتاب العام (IPO). كما أعلن الرئيس التنفيذي لي سيونغ عن رؤية سابقة بخصوص إنشاء تطبيقات ذكاء اصطناعي يمكن للمستخدمين الثقة بها واستخدامها بأمان.
تخطط روتن لتطبيق سياسات حماية المراهقين المعززة بشكل كامل اعتباراً من أوائل عام 2027 بعد الانتهاء من المراجعات المؤسسية والتكنولوجية وإعادة هيكلة الأنظمة.
قال دونغ جاي إيم دونغ، المسؤول الأول عن المنتجات في روتن (CPO): "ندرك بثقل شديد المسؤولية الاجتماعية في توفير خدمات ذكاء اصطناعي آمنة وصحية للجميع. سنبذل قصارى جهدنا لإنشاء خدمة تولي الأولوية لسلامة المراهقين في نفس الوقت الذي تتيح لهم التعبير عن إبداعاتهم بحرية".
* تمت ترجمة هذا المقال تلقائيًا بواسطة الذكاء الاصطناعي.