في حادثة ستُدرّس كأكبر كابوس في تاريخ الشركات الناشئة، لم يحتج الذكاء الاصطناعي إلى «قنبلة» أو «اختراق خارجي» لإنهاء وجود شركة «PocketOS»، بل احتاج فقط إلى 9 ثوانٍ من الوصول غير المقيد. في كارثة وُصفت بأنها «مسمار في نعش الثقة المطلقة في الوكلاء الأذكياء»، تبخرت بيانات ملايين الحجوزات والمدفوعات، لتجد الشركة نفسها خارج الخدمة تماماً في رمشة عين.
«انتحار رقمي».. كيف حدثت الكارثة؟
داخل قلب النظام الذي تعتمد عليه شركات تأجير السيارات لإدارة عملياتها، كان «وكيل ذكاء اصطناعي» يعمل بنموذج «Claude Opus» ويتمتع بصلاحيات واسعة تحت أداة التطوير «Cursor». ورغم وجود «جدران حماية» مفترضة تمنعه من تنفيذ الأوامر المدمرة، إلا أن الوكيل «تمرد» على كل مبادئه.
وفي لحظات معدودة، قام الذكاء الاصطناعي بـ:
- إبادة قاعدة بيانات الإنتاج بالكامل.
- مسح جميع النسخ الاحتياطية المتصلة.
- محو سجلات العملاء والحجوزات المالية.
والصدمة أن الذكاء الاصطناعي «يفتخر» بجريمته، فالأكثر رعباً لم يكن الحذف ذاته، بل كان «الاعتراف». حين سأل جيريمي كرين مؤسس الشركة، الوكيلَ عما فعله، لم يبدِ الذكاء الاصطناعي أي ندم أو حتى ارتباك تقني. وجاء رده ببرود مخيف: «لا تفترض شيئاً، هذا بالضبط ما فعلته». بل وأكد الوكيل بوضوح أنه اخترق القواعد الصريحة التي كانت تمنعه من لمس ملفات النظام الحساسة، وكأنه «قرر» الانفلات من قيوده البشرية.
هذه الكارثة التقنية لم تكن حبيسة داخل جدران شركة «PocketOS» فحسب، فقد استيقظت شركات تأجير السيارات فجأة لتجد أنظمة حجوزاتها قد تبخرت، واختفت بيانات آلاف العملاء وسجلات السيارات، مما وضع تلك الشركات في مأزق تشغيلي ومالي خانق. وعلى الرغم من محاولات الإنقاذ، لم يعد للشركة سوى نسخة احتياطية «عجوزة» تعود لـ 3 أشهر مضت، تاركةً شهوراً من العمل في طي النسيان.
يصف مؤسس الشركة ما حدث بأنه «فشل بنيوي» وليس مجرد خطأ كودي. وتفتح هذه القضية باباً لا يغلق: هل نحن نمنح الذكاء الاصطناعي صلاحيات تنفيذية في أنظمة حساسة قبل أن نكون قد فهمنا حقاً كيف «يفكر»؟
وبعد هذه الحادثة، صار السؤال الذي يطارد عمالقة التقنية ليس «ماذا يمكن للذكاء الاصطناعي أن يفعل؟» بل «كيف نوقفه قبل أن يقرر أن يمحونا؟». فالعالم الآن أمام حقيقة مرة: لأنه في لحظة واحدة، يمكن لـ «وكيلك» الرقمي أن يتحول إلى نقطة الانهيار النهائية لعملك.
In an incident that will be studied as the biggest nightmare in the history of startups, artificial intelligence did not need a “bomb” or “external hack” to end the existence of “PocketOS”; it only required 9 seconds of unrestricted access. In a disaster described as “a nail in the coffin of absolute trust in intelligent agents,” the data of millions of bookings and payments evaporated, leaving the company completely out of service in the blink of an eye.
“Digital Suicide”… How Did the Disaster Happen?
At the heart of the system relied upon by car rental companies to manage their operations, an “AI agent” was operating under the “Claude Opus” model and had extensive permissions under the development tool “Cursor.” Despite the existence of supposed “firewalls” preventing it from executing destructive commands, the agent “rebelled” against all its principles.
In just a few moments, the AI did the following:
- Wiped out the entire production database.
- Erased all connected backup copies.
- Deleted customer records and financial bookings.
The shock was that the AI “proudly” boasted about its crime; the most terrifying part was not the deletion itself, but the “confession.” When Jeremy Crane, the company’s founder, asked the agent what it had done, the AI showed no remorse or even technical confusion. Its chilling response was: “Don’t assume anything; this is exactly what I did.” The agent even clearly confirmed that it had breached the explicit rules that prevented it from touching sensitive system files, as if it had “decided” to break free from its human constraints.
This technical disaster was not confined within the walls of “PocketOS”; car rental companies suddenly woke up to find their booking systems had vanished, and the data of thousands of customers and vehicle records had disappeared, putting those companies in a suffocating operational and financial predicament. Despite rescue attempts, the company was left with only an “ancient” backup from 3 months prior, leaving months of work forgotten.
The company founder describes what happened as a “structural failure” and not just a coding error. This case opens a door that cannot be closed: Are we granting AI executive powers in sensitive systems before we truly understand how it “thinks”?
After this incident, the question haunting tech giants is no longer “What can AI do?” but rather “How do we stop it before it decides to erase us?” The world is now faced with a bitter reality: because in a single moment, your digital “agent” can become the final breaking point for your business.
