تحويل نصف الكوادر الهندسية الرئيسية لتطوير نماذج الذكاء الاصطناعي المتخصصة بالمراجعة والإشراف على المحتوى
فحص المحتوى على ثلاث مراحل من الإنتاج إلى النشر والعرض مع تحديد ساعات استخدام القاصرين وحد أقصى للمشتريات
أعلنت شركة سكاترلاب عن إنشاء فريق متخصص للسلامة يتبع مباشرة للمدير التنفيذي، وذلك لتعزيز آليات حماية المستخدمين في خدمتها المتخصصة بتوليد الذكاء الاصطناعي «زيتا». وتشمل الإجراءات الجديدة تطبيق تقنيات الإشراف والمراجعة الذاتية على المحتوى والحوارات مع الذكاء الاصطناعي، بالإضافة إلى تحديد ساعات استخدام القاصرين والحد الأقصى للعمليات المالية، مما يوسع معايير السلامة في جميع جوانب تشغيل الخدمة.
أعلنت شركة سكاترلاب في السابع عشر من نوفمبر/تشرين الثاني عن إنشاء فريق «الثقة والسلامة» كوحدة تابعة مباشرة للمدير التنفيذي كيم جونغ-يون.
تتولى الوحدة المنشأة حديثاً مسؤوليات السلامة والحماية الشاملة لمستخدمي خدمة زيتا. وتعتزم شركة سكاترلاب نقل نصف الكوادر الهندسية الرئيسية العاملة على تطوير الذكاء الاصطناعي إلى مشروع تطوير نماذج الذكاء الاصطناعي المتخصصة بمراجعة المحتوى والحوارات. كما تضع الشركة حماية المستخدمين والقاصرين في صميم أولوياتها الإدارية، وتعتزم دمج مهام وضع سياسات السلامة وتطوير نماذج الذكاء الاصطناعي الخاصة بها وعمليات الإشراف على المحتوى ضمن إطار إداري موحد.
سيتم أولاً تعزيز إجراءات المراجعة في مراحل إنشاء وتوزيع المحتوى. تعتزم سكاترلاب حتى نهاية السنة الجارية تطوير نماذجها الخاصة بالذكاء الاصطناعي وتحسين وظائف الإشراف على المحتوى لتصنيف درجات الملاءمة العمرية بوضوح وإنشاء أنظمة حماية تتناسب مع فئات عمرية محددة.
تتضمن عملية مراجعة المحتوى ثلاث مراحل: مرحلة إنشاء المحتوى من قبل صناع المحتوى، ومرحلة النشر الرسمي، ومرحلة العرض ضمن الخدمة. في كل مرحلة، تتم فحص مادة المحتوى والنصوص والصور لتصنيف درجة الملاءمة العمرية. وستضع الشركة سياسات خاصة بالذكاء الاصطناعي ومعايير مراجعة قابلة للتطبيق في الدول الرئيسية لتقديم الخدمة، بما في ذلك كوريا الجنوبية واليابان والولايات المتحدة.
سيتم تطوير نموذج ذكاء اصطناعي متخصص بمراجعة المحتوى باستخدام نماذج اللغة الكبيرة. كما ستحسن الشركة إجراءات التحقق من العمر. بحيث يتم فرز المحتوى الذي يمكن للمستخدمين الوصول إليه بناءً على عمرهم المؤكد، مما يضمن توفير محتوى يناسب أعمارهم منذ المراحل الأولى من التسجيل.
سيتم أيضاً تعزيز آليات الحماية خلال التفاعل بين المستخدمين والذكاء الاصطناعي. ستقوم الشركة بإطلاق نموذج ذكاء اصطناعي خاص بها لمنع الحوارات غير المناسبة، وستضع معايير للردود اللغوية حسب فئات العمر، مما يدفع الذكاء الاصطناعي للرد وفقاً لهذه المعايير المحددة.
ستقدم الشركة أيضاً خاصية تُذكِّر المستخدمين بشكل دوري بأنهم يتفاعلون مع ذكاء اصطناعي. وستطبق بحلول نهاية السنة الجارية على المستخدمين القاصرين المحليين حداً أقصى لساعات الاستخدام اليومي بمعدل ثلاث ساعات، وحد أقصى أساسي للعمليات المالية بقيمة مائة ألف وون شهرياً. ستعمل الشركة أيضاً على تطبيق وتحقق من خاصية توفير إرشادات مناسبة للمستخدمين عند الكشف عن محتوى حساس يتعلق بالانتحار والإيذاء الذاتي وفقاً لمعايير محددة مسبقاً.
* تمت ترجمة هذا المقال تلقائيًا بواسطة الذكاء الاصطناعي.
