كل ثورة تقنية تقدم نمطاً واحداً يتكرر: الانبهار يسبق الفهم. والانبهار يُنتج ثقة عمياء تُكلّف غالياً.
اليوم ملايين الناس يسألون الذكاء الاصطناعي عن صحتهم وقضاياهم وقراراتهم المالية، ويأخذون الإجابة كحقيقة راسخة. 47% من مستخدمي الذكاء الاصطناعي المؤسسي اتخذوا قراراً رئيسياً مبنياً على محتوى مُهلوَس في 2024. والموظفون يقضون 4-3 ساعات أسبوعياً في التحقق من مخرجاته.
الأداة التي وُعدنا بأنها ستوفر الوقت، باتت تستهلكه في مراجعة أخطائها!
في منطقتنا، الهشاشة مضاعفة. معظم النماذج مدرّبة على محتوى إنجليزي. حين تعمل بالعربية، تتضاعف احتمالية الخطأ. طالب يحصل على مراجع مخترعة بأسماء عربية مقنعة. مريض يحصل على تشخيص يبدو طبياً لكنه ملفّق. ومحامٍ يستعين بالذكاء الاصطناعي، يُقدّم حكماً لا وجود له في أي سجل.
هشاشة لم تُناقَش بعد بجدية كافية.
الذكاء الاصطناعي اليوم أداة في طور النضج، لا تُلغيها ولا تُعطيها مفاتيح بيتك.
أفضل النماذج خفّضت معدل الهلوسة من 21% عام 2021 إلى أقل من 1% في مهام معينة، تحسّن بنسبة 96% في 4 سنوات. هذا تقدم حقيقي.
لكن السؤال ليس كم تكذب الآلة؟
السؤال هو: حين تتراكم الأكاذيب وتتداول كحقائق، وتتعلمها نماذج أذكى وتُعيد إنتاجها بثقة أكبر، من يوقف هذا المسار؟
ومن يملك الإجابة اليوم؟ من يفكر في ذلك؟!
لا أحد.
إلى اللقاء،،
• صحفي سعودي — يكتب في مساحة تلتقي فيها التقنية بالإنسان
