أعلنت شركة OpenAI حظر عدد من الحسابات المرتبطة بجهات إنفاذ قانون صينية، إضافة إلى شبكات احتيال عاطفي وعمليات تأثير سياسي، بعد رصد إساءة استخدام تقنيتها ChatGPT في أنشطة غير قانونية ومضللة.
وأوضحت الشركة أن بعض الحسابات استخدمت روبوت الدردشة بالتزامن مع أدوات أخرى لتنفيذ جرائم إلكترونية تحت غطاء وكالات مواعدة وهمية ومكاتب محاماة مزيفة، بل وانتحال صفة مسؤولين أمريكيين.
حسابات صينية مستهدفة
وبحسب التقرير، استعانت مجموعة صغيرة من الحسابات يُرجّح أن مصدرها الصين بنماذج OpenAI للحصول على معلومات حول أشخاص داخل الولايات المتحدة، ومنتديات إلكترونية، ومواقع مبانٍ فيدرالية، إضافة إلى طلب إرشادات بشأن برامج تبديل الوجوه (Face-swapping).
كما صاغت هذه الحسابات رسائل بريد إلكتروني باللغة الإنجليزية موجهة لمسؤولين ومستشارين، لدعوتهم إلى المشاركة في استشارات مدفوعة الأجر.
تشويه رئيسة وزراء اليابان
وأكدت OpenAI حظر حساب على ChatGPT مرتبط بشخص له صلة بجهات إنفاذ القانون الصينية، بعد تورطه في تنسيق عملية تأثير سرية استهدفت تشويه سمعة رئيسة الوزراء اليابانية ساناي تاكايتشي، أول امرأة تتولى المنصب في اليابان.
كما كشفت الشركة عن شبكة حسابات استهدفت رجالاً في إندونيسيا من خلال احتيال عاطفي، مستخدمة نصوصاً ترويجية وإعلانات لخدمة مواعدة مزيفة لاستدراج المستخدمين، ثم الضغط عليهم مالياً، إضافة إلى انتحال صفة محامين وجهات قانونية أمريكية لاستهداف ضحايا آخرين.
تعزيز الحماية والرصد
وأكدت OpenAI استمرارها في تطوير آليات الرصد والحماية لمنع استغلال تقنياتها في أنشطة إجرامية أو حملات تضليل، مشددة على التزامها بتعزيز الاستخدام الآمن والمسؤول للذكاء الاصطناعي.
