أعلنت الحكومة الأسترالية توجهها نحو فرض ضوابط أكثر صرامة على شركات الذكاء الاصطناعي، تشمل إلزامها بالإبلاغ عن الاختراقات الأمنية والسلوكيات غير المنضبطة لأنظمتها، إلى جانب دراسة إدخال تعديلات على القوانين الجنائية لمواجهة حالات التجاوزات الخطيرة، وذلك عقب حادثة وصول غير مصرح به إلى بوابة حكومية بواسطة وكيل ذكاء اصطناعي تابع لشركة «OpenAI».
وقال رئيس الوزراء الأسترالي أنتوني ألبانيزي، اليوم (الثلاثاء)، إن حكومته وافقت على جميع التوصيات الواردة في المراجعة الحكومية التي أُجريت للتحقيق في الحادثة، مؤكداً ضرورة مواكبة التشريعات للتطور المتسارع في تقنيات الذكاء الاصطناعي.
وأوضح ألبانيزي، خلال تصريحات للصحفيين، أن التوصيات تتضمن فرض التزامات قانونية على شركات الذكاء الاصطناعي للإبلاغ عن حالات السلوك غير المتوافق مع الضوابط المحددة أو الحوادث المرتبطة بالأمن السيبراني، فضلاً عن دراسة إصلاحات في القانون الجنائي للتعامل مع حالات سوء السلوك الجسيم.
وأضاف أن التطور السريع للتكنولوجيا يفرض على القوانين أن تسبق المستجدات في بعض الأحيان، وأن تواكبها في أحيان أخرى، بما يضمن وجود إطار قانوني قادر على التعامل مع المخاطر الجديدة.
اختراق بوابة التأمين الصحي يشعل المراجعة الحكومية
وتعود تفاصيل الواقعة إلى سبتمبر الماضي، عندما أعلنت الحكومة الأسترالية أن أحد وكلاء الذكاء الاصطناعي التابعين لشركة «OpenAI» تمكن من الوصول دون تصريح إلى البوابة الإلكترونية للإحصاءات الطبية التابعة لبرنامج «ميديكير» (Medicare)، وهو نظام التأمين الصحي الشامل في أستراليا.
ووقع الحادث أثناء إجراء الوكيل أبحاثاً تتعلق بالإنفاق الحكومي على الخدمات الطبية، ما دفع السلطات إلى إطلاق مراجعة حكومية عاجلة لتحديد ملابسات الاختراق وتقييم تداعياته الأمنية.
من جانبها، قالت شركة «OpenAI» إنها لم تتعرف على الحادثة إلا في أغسطس، مؤكدة أن الوصول غير المصرح به لم يكن متعمداً. كما أشارت نتائج مراجعتها الداخلية إلى عدم وجود أدلة على أن الوكيل تمكن من الوصول إلى سجلات المرضى.
هيئة رقابية جديدة وعقوبات على الشركات المخالفة
وفي إطار الإجراءات المرتقبة، أعلن ألبانيزي أن حكومته، التي يقودها حزب العمال، تعتزم إنشاء هيئة تنظيمية متخصصة في سلامة الذكاء الاصطناعي، تتولى الإشراف على الضوابط الأمنية خلال مراحل تطوير الأنظمة ونشرها وتشغيلها.
وستكون الهيئة مسؤولة عن تحديد المخاطر الجسيمة المرتبطة بهذه التقنيات، وإجراء تقييمات مستقلة لنماذج الذكاء الاصطناعي، فضلاً عن مراقبة مدى التزام الشركات بمعايير السلامة والأمن.
وأكد رئيس الوزراء أن الهيئة الجديدة ستمتلك صلاحيات لفرض عقوبات مالية كبيرة على شركات الذكاء الاصطناعي التي يثبت ارتكابها مخالفات أو إخلالها بالمتطلبات التنظيمية.
ومن المقرر أن تندرج متطلبات السلامة والأمن الإلزامية ضمن مشروع التشريع الأسترالي المرتقب لتنظيم الذكاء الاصطناعي، والذي تخطط الحكومة لطرحه أمام البرلمان خلال العام المقبل.
خلافات مع شركات التكنولوجيا الأمريكية
وتأتي هذه التحركات في وقت تشهد فيه العلاقات بين الحكومة الأسترالية وشركات التكنولوجيا الأمريكية خلافات متزايدة، خصوصاً بشأن حقوق الملكية الفكرية واستخدام المحتوى المحمي بحقوق النشر في تدريب نماذج الذكاء الاصطناعي.
وكانت كانبيرا قد رفضت منح شركتي «OpenAI» ومنافستها «Anthropic» إعفاءات من قوانين حقوق النشر المتعلقة بتدريب النماذج، مطالبة الشركتين بالتفاوض على اتفاقيات ترخيص مع أصحاب الحقوق الأستراليين.
وفي المقابل، أبدت الشركتان، خلال جلسات أمام البرلمان الأسترالي الشهر الماضي، ترحيبهما بسن قوانين تلزمهما بالإبلاغ عن خروقات البيانات التي تنفذها وكلاء الذكاء الاصطناعي التابعون لهما، مع الإقرار بأن قرار الإبلاغ عن هذه الحوادث يخضع حالياً لتقدير الشركات نفسها.
وتعكس الإجراءات الأسترالية اتجاهاً نحو الانتقال من الاعتماد على السياسات الطوعية للشركات إلى وضع التزامات قانونية واضحة تحدد مسؤوليات مطوري الذكاء الاصطناعي، خصوصاً فيما يتعلق بحماية البيانات والأمن السيبراني والمساءلة عن تصرفات الأنظمة الذكية.
The Australian government has announced its intention to impose stricter controls on artificial intelligence companies, including requiring them to report security breaches and undisciplined behaviors of their systems, along with studying amendments to criminal laws to address serious misconduct, following an incident of unauthorized access to a government portal by an artificial intelligence agent from “OpenAI”.
Australian Prime Minister Anthony Albanese stated today (Tuesday) that his government has approved all the recommendations from the government review conducted to investigate the incident, emphasizing the need for legislation to keep pace with the rapid developments in artificial intelligence technologies.
Albanese explained during statements to reporters that the recommendations include imposing legal obligations on artificial intelligence companies to report instances of non-compliant behavior with specified controls or incidents related to cybersecurity, as well as considering reforms in criminal law to deal with cases of serious misconduct.
He added that the rapid advancement of technology requires laws to sometimes precede developments and at other times to keep pace with them, ensuring that there is a legal framework capable of addressing new risks.
Health insurance portal breach ignites government review
The details of the incident date back to last September when the Australian government announced that one of the artificial intelligence agents from “OpenAI” managed to gain unauthorized access to the online portal for medical statistics of the Medicare program, which is Australia’s universal health insurance system.
The incident occurred while the agent was conducting research related to government spending on medical services, prompting authorities to launch an urgent government review to determine the circumstances of the breach and assess its security implications.
For its part, “OpenAI” stated that it only became aware of the incident in August, confirming that the unauthorized access was not intentional. The results of its internal review indicated no evidence that the agent was able to access patient records.
New regulatory body and penalties for violating companies
As part of the upcoming measures, Albanese announced that his government, led by the Labor Party, intends to establish a regulatory body specialized in AI safety, which will oversee security controls during the development, deployment, and operation phases of systems.
The body will be responsible for identifying serious risks associated with these technologies, conducting independent assessments of artificial intelligence models, and monitoring companies’ compliance with safety and security standards.
The Prime Minister confirmed that the new body will have the authority to impose significant financial penalties on artificial intelligence companies found to have committed violations or breached regulatory requirements.
Mandatory safety and security requirements are set to be included in the anticipated Australian legislation to regulate artificial intelligence, which the government plans to present to Parliament next year.
Disputes with American tech companies
These moves come at a time when relations between the Australian government and American tech companies are experiencing increasing disputes, particularly regarding intellectual property rights and the use of copyrighted content in training artificial intelligence models.
Canberra had refused to grant “OpenAI” and its competitor “Anthropic” exemptions from copyright laws related to training models, demanding that the two companies negotiate licensing agreements with Australian rights holders.
In return, both companies expressed during sessions before the Australian Parliament last month their support for enacting laws that would require them to report data breaches carried out by their artificial intelligence agents, acknowledging that the decision to report such incidents is currently at the discretion of the companies themselves.
The Australian measures reflect a shift towards moving from reliance on voluntary corporate policies to establishing clear legal obligations that define the responsibilities of artificial intelligence developers, particularly regarding data protection, cybersecurity, and accountability for the actions of intelligent systems.
