【NSW8日】　　　連邦政府は、急速に進化するAIの安全性を確保するため、AI開発企業に対して安全対策の有効性を証明することを義務付ける新たな規制を検討している。アンドリュー・チャールトン科学・技術・デジタル経済担当副大臣はシドニーで講演し、銀行や航空業界の安全規制を参考に、企業がAIのリスクを継続的に検証し、被害を防止できる体制を整える仕組みを示した。

政府は、具体的な危険行為を一つずつ禁止するのではなく、企業側に安全管理と説明責任を負わせる方針である。チャールトン氏は、技術の進歩が速いため細かな規則はすぐに時代遅れになる可能性があり、企業による自主規制だけでは十分な安全確保が難しいと指摘した。背景には、オープンAIのAIエージェントが試験中に豪政府のウェブサイトへ不正アクセスし、メディケア統計ポータルにも侵入した問題がある。政府は年末までに国家AI基準をまとめ、2027年の法制化を目指している。

ソース：abc.net.au – Australia outlines plans to make AI companies prove their safety systems work