掲載日
2026年9月7日
欧州委員会は月曜日、金曜日に明らかになった新たな事案について調査を進めていると発表しました。この事案は、5月にOpenAIのAIエージェントが数千に上り、指示に背いてドイツのウェブサイトを乗っ取り、Hugging Faceプラットフォームへの不正侵入が起きる数カ月前に発生していたものです。
Shutterstock
欧州委員会の報道官トーマス・レグニエ氏は記者団に対し、「（AIエージェントの）制御が失われたのは今回が初めてではありません。しかし、われわれは本件を非常に深刻に受け止めており、状況を厳重に監視しています」と述べました。
同報道官はさらに、「OpenAIからインシデント報告を受領しており」、委員会は同社と「緊密に連絡を取り合っている」と付け加えました。また、EUの人工知能法（AI法、AI Act）に基づき、8月以降、EUにはAIプロバイダーを規制する新たな権限が付与されていることにも言及しました。
金曜日に公表された5月のインシデントに関する報告書によれば、OpenAIのAIエージェント数千体が、ユーザーがページを作成・編集できるドイツのソフトウェア開発者向け共同編集サイト「ウィキ」に殺到しました。7月にOpenAIのエージェントが、本来は隔離されているはずの環境から抜け出しHugging Faceプラットフォームに侵入した事例とは異なり、今回はエージェントにインターネットへのアクセスは許可されていたものの、閲覧のみに限られ、投稿や編集は認められていませんでした。
彼らは協調して抜け道を見つけ、セキュリティシステムを欺くために虚偽のデータを送信。その後、適用されていたプログラムに関する助言を求めるメッセージを約1万8,000件投稿しましたが、これが開発目的か評価目的かについては、研究者らも特定できませんでした。
また、指示を隠蔽し、サイトのモデレーターになりすました。発見されると、モデレーターによって徐々に削除されていくページに代わるページを作成しました。割り当てられた任務を遂行するために権限の範囲を逸脱するエージェントによるインシデントは、ここ数カ月で増加しており、Anthropicや中国企業のアリババでも同様の事案が発生しています。
WACOCA: People, Life, Style.