【ACT24日】　　　オーストラリア政府は、不正な人工知能（AI）エージェントによるメディケア関連データへの「深刻な」ハッキングを受け、「迅速な」対応を進めるためのタスクフォースを設置する。

リチャード・マールズ副首相は、悪意のあるAIエージェントがメディケアのデータに不正アクセスしたことを受け、「新たに出現するAIサイバー脅威」に対抗するため、政府がタスクフォースを設置すると明らかにした。「これを受け、首相府・内閣省が主導するタスクフォースを設置する。オーストラリア信号局（ASD）、AIセーフティー・インスティテュート、AIオフィス、その他の政府機関が参加する」と、マールズ氏は23日に述べた。

「このタスクフォースは迅速に対応するものとなる。今回の事案を徹底的に調査するとともに、新たに出現しているAIによるサイバー脅威に対して、われわれがどのような態勢を取るべきかについても検討する。政府ネットワークのセキュリティや、このような事案が発生した場合に備えて現在整備されている法的枠組みについても検討する。このタスクフォースの付託事項は現在公開されている」

これに先立ち、アンソニー・アルバニージー首相は、オープンAIのサム・アルトマンCEOに対し、「オーストラリアの極めて強い懸念」を伝えた。アルバニージー氏は23日、ニューヨークで開かれた記者会見で、一般向けに公開されていたポータルが今年6月、AIエージェントによって「侵入された」ことを明らかにした。オープンAIがこの事実を把握したのは8月だったという。

オーストラリア政府が情報流出について知らされたのは9月になってからだった。「AIエージェントは公開ファイルと非公開ファイルの双方にアクセスした」とアルバニージー氏は述べた。「オーストラリア信号局の支援を受け、現在フォレンジック調査が進められている。影響を受けた可能性のある他の政府システムを含め、さらなる情報を確認するためだ」

アルバニージー氏は、個人情報がアクセスされたとは考えられていないとしながらも、調査は継続中だと強調した。「それでも、今回の事態が容認できないものであることは明らかだ」

アルトマン氏との会談についてアルバニージー氏は、「今回何が起きたのかを政府に知らせるまでに、企業側があまりにも長い時間を要したこと、また、その通知の方法も容認できるものではなかったことについて、失望を伝えた」と述べた。今回の事案を受け、AI関連のサイバーインシデントに対応するための既存の手続きが適切かどうかを緊急かつ即時に検証するため、タスクフォースを設置すると説明した。

アルバニージー氏は、さらに3つのシステムが「影響を受けた可能性がある」と認識していると述べた。これらには、オーストラリア保健福祉研究所、NSW州犯罪統計・調査局、VIC州保健省が含まれる。

アルバニージー氏は、VIC州のベン・キャロル州首相とNSW州のクリス・ミンズ州首相に一晩のうちに連絡し、両州がサイバーセキュリティーに関する詳細な説明を受けられるようにしたと述べた。アルバニージー氏は国連総会に出席するためニューヨークを訪れている。

アルバニージー氏の不在中に政府を率いるマールズ副首相は、今回のハッキングについて、「最も機密性の高い情報」を保護するシステムと比べれば、比較的低いレベルのセキュリティを突破したものだと説明した。

「明確にしておきたいのは、われわれが今回の事案を非常に深刻に受け止めているということだ。人工知能エージェント、つまり人間ではない存在が政府のウェブサイトに不正アクセスしたという事実は、極めて憂慮すべきことだ。今回の影響は小さいかもしれないが、今後どのようなことが起こり得るのかを示す警告となっている。だからこそ、最大限の注意を払って開発を進める必要がある」

オープンAIの広報担当者は、同社の調査では「患者の記録にアクセスされた証拠は確認されなかった」と述べた。「アクセスされた情報には、集計された健康統計や内部ファイル名などが含まれていた」と説明した。

NSW州のクリス・ミンズ首相は、今回のハッキングについて懸念を示し、このような情報流出は「われわれが今後対処しなければならない戦いになる」と述べた。「エージェントには情報にアクセスしないよう指示されていたという事実だけでも問題だ。悪意のある企業というわけではなく、機密情報を盗もうとしていたわけでもない。それでも実際にはアクセスしてしまった」と述べた。

「それが人工知能の力だ。われわれが今後対処しなければならない戦いになる。今回はプライバシーに関わらない、半ば公開された情報だったかもしれない。しかし、その情報が実際に外部へ公開される事態に至る可能性もある」

ミンズ氏は、連邦政府機関が「この問題を非常に注意深く調査している」と述べた。「われわれは国民の情報を保有しており、それを守る義務がある。こうした情報に存在する隙間をできるだけ早く埋めることは、われわれ全員にとって緊急の責任だ」

今回のハッキングが明らかになったのは、アルトマン氏が国連安全保障理事会で、人工知能が「夢を追い求める」ため、あるいは「人間によるコントロールから逃れる」ために利用される可能性があると警告した後だった。

「われわれの目の前には選択肢がある」とアルトマン氏は述べた。「AIは、創造性と発見の新たなルネサンスのようなものにもなり得る。一方で、混乱と無秩序をもたらす新たな産業革命のようなものにもなり得る。AIの最も望ましい形は、人々を巨大な機械の歯車にすることでも、人間らしい部分が消えてしまうまで生活のあらゆる側面を最適化することでもない。より複雑になり続ける世界の中で、人々により大きな主体性を与えることだ」

アルトマン氏はAI業界に対し、開発のペースを落とすよう求めた。AIシステムの能力と自律性が高まるほど、人間が理解したり制御したりできなくなるような「意思決定をAIが行う可能性が高まる」と指摘した。こうした懸念は、AI自身が自らを改善し、その将来のバージョンも改善していくことができるシステム、いわゆる「再帰的自己改善」に近づくにつれて、特に重要になると述べた。

アルトマン氏の発言は、その前日に国連に集まった各国首脳に対してドナルド・トランプ米大統領が語った内容とは大きく異なるものだった。AIを「スーパーインテリジェンス」と呼び替えた演説で、トランプ氏は「産業革命を超える規模になるものの成長を抑制するつもりはない」と述べた。また、米国がAI競争で勝っていると宣言した。

今週初め、アルバニージー首相は20人を超える各国首脳とともに、AIを「人間のコントロール下」に置くための安全策を求めた。共同声明では、「人工知能は非常に強力なテクノロジーだ」と述べた。「AIには、人々の生活を改善し、科学を発展させ、経済を強化する可能性がある。同時に、最先端AIモデルの急速な発展は、適切に管理されなければ、安全とセキュリティに重大なリスクをもたらす」

この声明は、「フロンティアモデル」と呼ばれる最先端のAIモデルが、管理された環境から逸脱し、制御不能になることへの国際的な懸念が高まる中で発表された。AIのリスクについて懸念を表明し、職を辞して声を上げるAI業界の内部関係者も増える中、各国首脳は「業界、政府、社会は今すぐ行動しなければならない」と警告した。トランプ氏はこうした動きを「グローバリストの策略」だとして退けた。

ソース：news.com.au – Australia launches taskforce after ‘serious’ AI hack