أثار استخدام مرجع قضائي وهمي أمام المحكمة العليا البريطانية جدلًا بشأن مخاطر الاعتماد على أدوات الذكاء الاصطناعي في الأبحاث القانونية، بعدما استشهدت مدعية بارزة في دائرة الادعاء الملكية بقضية تبيّن لاحقًا أنها غير حقيقية، وأن تفاصيلها ظهرت ضمن ملخص مولّد بالذكاء الاصطناعي أثناء بحث عبر الإنترنت.
قضية مختلقة في ملف طفل
وقعت الحادثة أثناء نظر طعن يتعلق بقرار محاكمة طفل كان يبلغ 11 عاماً وقت الواقعة محل القضية، إذ اعترض فريق الدفاع على قرار دائرة الادعاء الملكية بالمضي في محاكمته، معتبراً أن الادعاء لم يأخذ بصورة كافية آراء مختصين اجتماعيين ونفسيين بشأن حالته.
وخلال دفاعها عن قرار الاستمرار في المحاكمة، قدمت المدعية رافيندر ديلون، وهي مدعية بارزة في وحدة الجرائم الجنسية الخطيرة التابعة لدائرة الادعاء الملكية، مرجعاً قانونياً مفصلاً لقضية قالت إنها تدعم موقف الادعاء.
لكن البحث في السجلات القانونية أظهر أن القضية التي حملت اسماً ورقماً قضائياً كاملين لا وجود لها.
الذكاء الاصطناعي وراء المرجع الوهمي
وبحسب «الغارديان»، فإن بحثاً عبر الإنترنت أظهر للمدعية ملخصاً مولداً بالذكاء الاصطناعي تضمن تفاصيل القضية المختلقة، قبل أن تنتقل هذه المعلومات إلى المرافعة القانونية دون التحقق منها عبر قاعدة قانونية موثوقة.
وأقرت ديلون لاحقاً بأن الاستشهاد بالقضية كان خطأ، وقالت إنها كانت تقصد الإشارة إلى حكم قضائي حقيقي صدر قبل نحو 15 عاماً، إلا أن قاضيين بارزين في المحكمة العليا وصفا تفسيرها لكيفية وقوع الخطأ بأنه غير مرضٍ.
لم يغير نتيجة الطعن
ورغم خطورة الخطأ، أكدت المحكمة أن الاستناد إلى القضية الوهمية لم يؤثر في النتيجة النهائية للطعن المقدم من محامي الطفل بشأن قرار استمرار محاكمته.
وقالت المحكمة إن القضية ستستمر أمام محكمة الأحداث، بينما فتحت الواقعة نقاشاً أوسع بشأن ضرورة تدقيق المراجع القانونية التي تنتجها أو تلخصها أدوات الذكاء الاصطناعي قبل استخدامها في ملفات قضائية رسمية.
مراجعة داخلية للواقعة
وأعلنت دائرة الادعاء الملكية أنها أجرت مراجعة داخلية فور اكتشاف الخطأ للتأكد من كيفية حدوثه وما إذا كانت هناك قضايا أخرى قد تأثرت به.
وأكدت الدائرة أن سياستها بشأن الذكاء الاصطناعي تفرض قيوداً على استخدامه، ولا تسمح بالاعتماد عليه في اتخاذ القرارات القانونية، كما تشترط إجراء مراجعة بشرية للتأكد من دقة المعلومات.
وأضافت أنها عممت بعد المراجعة توجيهات تؤكد ضرورة الاستناد إلى مصادر قانونية موثوقة عند ذكر الأحكام والسوابق القضائية.
101 خطأ مرتبط بالذكاء الاصطناعي
وتأتي الواقعة وسط تزايد الأخطاء المرتبطة باستخدام الذكاء الاصطناعي داخل المحاكم البريطانية، إذ ارتفع عدد الحالات المسجلة في قاعدة يتابعها قانونيون بريطانيون إلى 101 حالة تشمل أخطاء مؤكدة أو مشتبهاً بها أو محل خلاف، إلى جانب استشهادات قانونية تبين أنها غير صحيحة.
وتعد الحادثة ثاني واقعة معروفة ترتبط بدائرة الادعاء الملكية نفسها، بعدما أقرت في فبراير الماضي بأن أحد محاميها استخدم مراجع قانونية غير موجودة في قضية تسليم، ورجحت أن يكون الذكاء الاصطناعي وراء إنتاجها.
وكانت المحكمة العليا البريطانية قد حذرت سابقاً من أن إساءة استخدام الذكاء الاصطناعي في القضايا قد تؤثر في إدارة العدالة وثقة الجمهور بالنظام القضائي، مشددة على أن المسؤولية النهائية عن صحة ما يقدم للمحكمة تقع على الأشخاص الذين يستخدمون هذه الأدوات.
The citation of a British public prosecutor in a non-existent legal case before the Supreme Court has raised new concerns about relying on AI-supported research results in legal work, after it was revealed that the precedent she cited was entirely fabricated.
A Non-Existent Case
The prosecutor, Ravinder Dillon, from the UK Crown Prosecution Service, was representing the prosecution in a legal dispute regarding the trial of a child when she cited a judicial ruling that had an official name and number, only to later find out that it did not exist.
Dillon later clarified that she meant to refer to a real ruling issued 15 years ago, while the court described her explanation of the error as unsatisfactory.
AI-Supported Research Result
According to The Guardian, the fictitious reference was part of a summary produced by an AI tool during an online search, before being used in the argument without verification from a reliable legal source.
The Crown Prosecution Service confirmed that it conducted an internal review following the discovery of the error, emphasizing the necessity of referring to accredited legal sources when citing judicial rulings.
Did Not Affect the Court’s Decision
The court stated that the citation of the fictitious case did not change the outcome of the appeal it was considering, but the incident renewed warnings about the “hallucinations” of AI tools and their production of information that appears credible despite being false.
The number of errors related to the use of AI in British cases, according to a record monitored by legal professionals, has risen to more than 100 confirmed, suspected, or disputed cases.
