ثمانية من كل عشرة قضاة يواجهون حالات استشهاد ببراهين قضائية مزيفة من الذكاء الاصطناعي

  • المحكمة العليا تجري أول استطلاع رأي للقضاة لتقييم واقع الاستشهاد بأحكام ولوائح مزيفة من قبل الذكاء الاصطناعي

  • يرى 91% من القضاة ضرورة اتخاذ تدابير مؤسسية...إقرار أساس قانوني للغرامات وفرض التزام التحقق من المصادر

وثائق قانونية مزيفة من صنع الذكاء الاصطناعي [رسم توضيحي=تم إنشاؤه بواسطة ChatGPT]
وثائق قانونية مزيفة من صنع الذكاء الاصطناعي [رسم توضيحي=تم إنشاؤه بواسطة ChatGPT]

أفادت نتائج استطلاع رأي شامل بأن ثمانية من كل عشرة قضاة عانوا من حالات استشهاد بأحكام قضائية مزيفة من صنع الذكاء الاصطناعي في إجراءات المحاكمة.

أعلنت المحكمة العليا في كوريا الجنوبية نتائج استطلاع استقصائي أجرته خلال الفترة من السادس إلى السادس عشر من الشهر الماضي على قضاة من مختلف درجات المحاكم بشأن استشهاد الذكاء الاصطناعي بأحكام قضائية مزيفة ولوائح وهمية. شارك في الاستطلاع ما مجموعه 360 قاضياً.

نفذت المحكمة العليا هذا الاستطلاع للمرة الأولى لتقييم واقع المشكلة، في ضوء تزايد الحالات التي تظهر فيها ظاهرة "الهلوسة" في الذكاء الاصطناعي—أي تقديم معلومات خاطئة بصيغة مقنعة—مما أدى إلى استشهاد متكرر بلوائح وأحكام قضائية وهمية وغير موجودة.

أظهرت نتائج الاستطلاع أن حوالي 80% من القضاة المجيبين الذين يتعاملون مع القضايا المدنية والأسرية والإدارية ذكروا أنهم واجهوا حالات استشهاد بأحكام قضائية غير موجودة أو بأحكام قضائية مزيفة اختلفت محتوياتها الجوهرية عن الواقع.

من حيث التصنيفات، احتلت حالات الاستشهاد بأحكام قضائية غير موجودة المرتبة الأولى، إذ بلغت 196 حالة (80.7% من المجيبين). تبعتها حالات الاستشهاد بأحكام قضائية مزيفة بـ 159 حالة (65.4%)، ثم الاستشهاد بلوائح وهمية أو غير موجودة بـ 41 حالة (16.9%)، وأخيراً الاستشهاد بأوراق بحثية ومراجع وهمية بـ 10 حالات (4.1%).

فيما يتعلق بالجهات المسؤولة عن الاستشهاد بهذه الأحكام المزيفة، أشار 164 قاضياً (69.5%) إلى أن الأطراف المتقاضية أنفسهم كانوا المسؤولين، بينما أشار 136 قاضياً (57.6%) إلى أن محاميي الدعوى والممثلين القانونيين كانوا من استشهد بهذه الأحكام. وهكذا تم توثيق العديد من الحالات التي استشهد فيها الأطراف والمحامون على حد سواء بأحكام قضائية مزيفة وغير موجودة في مذكراتهم.

ومن الأمثلة الفعلية لهذه الظاهرة: تقديم أحكام قضائية مزيفة من صنع الذكاء الاصطناعي مصيغة بنفس صيغة أحكام المحكمة العليا، أو تقديم أرقام قضايا تابعة للمحكمة العليا لا تعود لأحكام موجودة. كما تم توثيق حالات تم فيها تغيير محتوى الحكم بشكل تعسفي أو استشهاد به بطريقة مخالفة لمضمونه الأصلي، بالإضافة إلى حالات بقيت فيها نصوص من محادثات مع الذكاء الاصطناعي أو استراتيجيات قانونية في المذكرات دون حذف.

أقرّ 91.7% من القضاة المجيبين بضرورة وضع تدابير مؤسسية للتعامل مع مشكلة الاستشهاد بأحكام قضائية مزيفة من الذكاء الاصطناعي. واقترحوا تدابير محددة تشمل إقرار أساس قانوني لفرض غرامات، وفرض التزام التحقق من دقة الأحكام المستشهد بها، وإحالة حالات الاستشهاد المتكرر بمعلومات وهمية للتحقيق التأديبي مع المحامين.

صرّح مكتب إدارة المحاكم قائلاً: "قد يضطر الطرف المقابل إلى إنفاق وقت وموارد إضافية للتحقق من وجود الحكم المستشهد به والتأكد من دقة محتواه والرد عليه. وقد يواجه المتقاضون الذين يمثلون أنفسهم دون محامٍ صعوبات إضافية في اكتشاف هذه الأخطاء والتعامل معها."

أضاف المكتب: "كما أن على المحكمة أن تستثمر وقتاً إضافياً في التحقق من هذه المعلومات، مما قد يؤثر سلباً على سرعة سير الإجراءات القضائية."

أعرب مسؤول في مكتب إدارة المحاكم عن أن "استشهاد الذكاء الاصطناعي بأحكام قضائية مزيفة وغير موجودة يؤخر في نهاية المطاف حق المواطنين في المحاكمة العادلة"، وأضاف أن المحكمة ستعتمد على نتائج هذا الاستطلاع لوضع تدابير فعالة على مستوى النظام والممارسة العملية.

في هذا الصدد، تعتزم المحكمة العليا التنسيق مع وزارة العدل والجهات ذات الصلة لتعديل قانون المرافعات المدنية وقانون المرافعات الجنائية بهدف إقرار نصوص قانونية توفر أساساً لفرض الغرامات، وتقديم ملاحظاتها إلى البرلمان.

علاوة على ذلك، تدرس المحكمة إمكانية إضافة قسم عن "نقاط تحذيرية عند استخدام الذكاء الاصطناعي" على موقع المحاكم الإلكترونية لمساعدة المحامين والمتقاضين على التحقق من دقة المصادر المستشهد بها عند استخدام الذكاء الاصطناعي.




* تمت ترجمة هذا المقال تلقائيًا بواسطة الذكاء الاصطناعي.