【ACT4日】　　　連邦政府が画期的なオンライン安全関連法案の成立に向けて動く中、新たな報告書により、性的に露骨なAI生成画像による被害を経験するオーストラリア人の割合が高いことが示された。

RMIT大学の調査によると、成人のおよそ15人に1人に当たる7％が、18歳になって以降、AI生成画像を使った何らかの形の性的被害を経験していた。オーストラリア国内では、その割合はやや高く、7.7％に上った。こうした被害には、本人の同意なく、AIで生成した親密な画像を作成・共有する行為が含まれる。性的に露骨なディープフェイク画像のほか、そのような画像を作成・共有すると脅す行為も対象となる。

被害を経験した人の約87％が、健康や心身のウェルビーイング、仕事、人間関係、経済面など、日常生活に少なくとも1つの影響があったと回答した。被害の割合は、35歳未満の人々のほか、人種的・民族的マイノリティーに属する人々や障害のある人々で高かった。

調査を主導したRMIT大学のニコラ・ヘンリー氏は、結果は予想外ではなかったとしながらも、誰もがこうした被害に遭う可能性があり、実際にどの程度発生しているのかは、依然として十分に把握されていないと指摘した。「AIで生成された自分の画像が作成されたり、共有されたりしていることに、本人が気づかない場合もあるため、実際の被害規模はさらに大きい可能性がある」と同氏は述べた。

被害の対象となった割合は、男性が女性の2倍以上だった。男性の10.2％が被害を経験したのに対し、女性は3.8％だった。一方、女性は安全への不安や、身体的・精神的健康への悪影響など、より深刻な影響を報告した。研究者らは、オーストラリア、米国、英国の成人7,200人以上を対象に調査を実施した。

今回の報告書は、連邦政府とアニカ・ウェルズ通信相が、ソーシャルメディア企業を対象とし、デジタル上の注意義務を課す大規模なインターネット安全関連法案を進める中で発表された。先月議会に提出されたこの法案では、オンラインサービスに対し、本人の同意なく作成される親密な画像がAIによって生成されることを、事前に防ぐよう求める。違反したテクノロジー企業には、最大1億920万豪ドルの罰金が科される可能性がある。法案は先週、下院を通過し、今後、上院の調査委員会で審議される。

ヘンリー教授は、AIを利用した性的被害に対処するには「多角的かつ社会全体で取り組むアプローチ」が必要だと述べ、デジタル上の注意義務に加え、政府がさらなる対策を検討するよう求めた。「法律を制定し、コンテンツを削除し、テクノロジー企業がより効果的な防止策を考案するだけでは不十分だ。社会規範を変えるための教育に、より多くの資源を投入する必要がある。特に、互いを尊重する人間関係についての教育に重点を置き、デジタルリテラシーをその不可欠な要素として位置づけるべきだ」

ウェルズ通信相の報道官は声明で、デジタル上の注意義務によって、AIを使ったディープフェイクのヌード画像生成ツールも規制の対象となり、厳しく監視されることになると述べた。「ヌード画像を生成するアプリやウェブサイトが社会に存在する余地はない。デジタル上の注意義務により、こうした悪質なツールへのアクセスは制限される」と報道官は述べた。「また、eセーフティ委員会には、ヌード画像生成アプリやウェブサイトの削除を命じる新たな権限も与えられる」

デジタル上の注意義務に関する法律は、オンライン上で利用者に表示される情報を左右するシステムであるアルゴリズムについても、利用者がより大きな管理権限を持てるようにすることを目指している。

ソース：news.com.au – New report reveals one in 15 adults have suffered forms of AI-generated image abuse