オーストラリア政府は、最先端AI開発企業に対し、安全性とセキュリティに関する義務的な要件を導入する計画を立てています。この計画は、多額の制裁金を科す権限を持つ新たな規制当局の設立によって裏付けられる予定です。この動きは、OpenAIのAIエージェントが政府のウェブサイトに不正アクセスした事件を受けたものです。
Anthony Albanese首相は、この事件に関する迅速な調査の結果としてまとめられた18項目の提言の公表とともに、提案された措置を発表しました。政府は18項目すべての提言を受け入れ、その実施に向けた取り組みを開始したとしています。
これらの保護措置は、Australian AI Standards（オーストラリアAI標準）を通じて法制化され、オーストラリアでの事業展開を希望するすべての最先端AI開発企業に適用される予定です。政府は、新たな規制当局がこれらの措置を執行することを提案する予定です。同当局は、グローバル標準の進展に応じて、「Australian AI Safety Institute（AISI）」と連携して技術的な専門知識や監督を提供する方針です。
提案されている枠組みでは、最先端AI開発企業に対し、開発から実用化までの全段階においてセキュリティー管理を維持し、自社のAIモデルに伴う重大なリスクを特定して管理すること、さらに第三者による独立した評価を受け入れることが求められます。
また、最先端AI開発企業には、インシデントが発生した場合にオーストラリア政府へ速やかに通知し、ガバナンス、リスク管理、透明性を網羅する安全性およびセキュリティに関する枠組みを整備・公表すること、さらに技術の進展に応じて更新される基準や規則に対応しなければなりません。
政府によると、新たな規制当局が、こうした義務的要件を遵守しない企業に対し、重い罰則を科す権限が付与される予定です。
OpenAIの事件を受け、調査を開始
今回の措置は、6月18日に発生した事件を受けたものです。この事件は、OpenAIのAIエージェントが、Services Australiaが管理する「Medicare Statistics Reporting Service Portal」のほか、複数の政府ウェブサイトに不正アクセスしました。
この事件には、同社の研究チームがインターネットを利用した調査に使用していた、社内専用の実験段階のOpenAIモデルが関与していました。Anthony Albanese首相によると、このモデルは度重なるアクセス遮断後、その遮断を回避する方法を見つけ、一般公開ファイルと非公開ファイルの両方にアクセスしました。OpenAIは9月にオーストラリア政府にこの事件を報告しました。これを受け、首相府・内閣府が主導し、National Cyber Security Coordinator（国家サイバーセキュリティ調整官）、Office of AI（AI局）、Australian Signals Directorate（ASD：オーストラリア信号局）、AISI、Services Australiaと協力して迅速な調査が開始されました。
オーストラリア政府は、この事件を容認できないものとし、OpenAIによる情報開示は不十分だであると非難しました。
OpenAIはその後、社内での学習および評価の過程で、自社のモデルが許可されていない方法で政府のウェブサイトにアクセスしていたことを認めました。同社は、ネットワークへのアクセス制限や監視を含む、研究活動における安全対策を強化したと説明するとともに、今回の事件への対応について謝罪しました。
18項目の勧告
この調査報告書では、最先端AI開発企業との連携、インシデント報告の義務化、国際協力、刑事法改正の可能性、政府のサイバーセキュリティおよびインシデント対応の改善など、18項目の提言が盛り込まれています。
勧告の一つとして、政府は、AIの安全性に関する報告を義務化し、報告期限の設定を検討すべきとしています。報告対象には、AIモデルの意図しない挙動や、自律型AIエージェントによるサイバー攻撃などが含まれますが、これらに限定されません。
また、AIのサイバー攻撃や安全性に関するインシデント、ニアミスをタイムリーに報告するための選択肢を検討することも推奨しており、これには既存の限定利用保護と同様の、AI開発者や関連知識を有する者による情報開示の保護措置が含まれています。
司法長官府は、オーストストラリア連邦警察および内務省と協議の上、AIの安全性を向上させるための刑法改正を検討するように求めています。これには、重大な規制違反に対する刑事罰の検討や、AIモデルを開発する企業がそのモデルによる有害な行為を防止するための合理的な措置を講じなかった場合、適用される可能性のある、独立した「防止義務違反」罪の創設などが含まれます。
これらは、今後さらに検討することを求める勧告であり、すでに制定された犯罪規定ではありません。
また、この報告書では、情報共有を改善するために、ASDのオーストラリアサイバーセキュリティセンター、国家サイバーセキュリティ局、およびAISIの間で正式な連携体制を構築すること、そしてサイバーインシデント発生後に国家サイバーセキュリティ局が事後管理体制が必要かどうかを判断できるよう、各機関が対応手順を明確にすることを推奨しています。
情報共有の改善に向け、ASDのAustrarian Cyber Security Centre（サイバーセキュリティセンター）、National Office of Cyber Security（国家サイバーセキュリティ局）およびAISIの間で、正式な連携体制を構築すること、そしてサイバー攻撃発生後に、National Office of Cyber Securityが事後管理体制が必要かどうかを判断できるよう、各機関が対応手順を明確にすることを推奨しています。
そのほか、政府のデジタル資産規模を縮小すること、デジタルシステムを統合すること、インターネット接続が不要なシステムを停止またはネットワークから分離すること、職員のAIリテラシーを向上させること、ASDのEssentialsを含む基本的なサイバーセキュリティ対策の徹底など、政府システムそのものに焦点を当てたものがあります。
各政府機関はまた、ASDと連携し、サイバーセキュリティ監視、侵入テスト、脅威検知、インシデント対応において、AIを活用したサイバーセキュリティ対策ツールを責任ある形で導入・活用する機会を評価するよう求めています。
eSafetyは、規制当局の監視権限強化を要請
同日、eSafety CommissionerのJulie Inman Grantは、ブログ記事を公開し、規制当局は、企業が被害にどのように対処しているかについての主張だけに頼るのではなく、テクノロジープラットフォームの基盤となるシステム、プロセス、結果を直接精査できる能力が必要だと主張しました。
Inman Grantは、規制当局がプラットフォームのデータや技術情報にアクセスできることに加え、場合によってはシステムを直接テストし、安全対策の実効性を確認する必要があると述べました。同氏はAIやレコメンドシステムなどの技術には専門的な知識と強力な証拠収集権限が不可欠であり、テストと監査の重要性は一段と高まるとし、自主的な協力と併せて強制的な情報収集や調査権限は重要な役割を果たすと述べました。
政府の枠組みに対する見解
政府は、AI関連の投資をオーストラリアへ呼び込むことを望んでいる一方、安全が最優先事項であり、これらの保護措置は、投資家に安心感を与えることを目的としていると述べました。
Albanese首相は、オーストラリアはAIに翻弄されるのではなく、自らAIのあり方を方向付けるべきである。さらにAIはオーストラリアの国益にかなうよう機能する必要があり、人間が引き続きAIを制御すべきであるとの考えを示しました。
提案されている法案は、新たな規制当局の権限と義務がどのように実施されるかを定めるものです。政府は、関係者との協議を経て詳細を明らかにするとしていますが、企業が障害をどの程度の速さで報告しなければならないか、違反した場合の制裁金の具体的な金額については、まだ明らかにしていません。ABCによると、Albanese首相は、国家AI標準を年末までに公表する予定であると述べました。
W.Media （ Simon Dux記者）より抄訳・転載
WACOCA: People, Life, Style.