会話型AIが自殺を誘導？人間に制御は可能なのか(2024年4月23日)

会話型AIが自殺を誘導？人間に制御は可能なのか(2024年4月23日)

近年AIを搭載したチャットボットが自殺
や他殺を促すような事例が報告されてい
ます今私たちの身近な存在になりつつある
生成
AIしかしそんな中先月EU議会で可決さ
れたのは世界初のAI規制法
案ネットや監視カメラ映像から顔画像を
収集するなど人件をすAIや人の行動を
誘導するようなAIが禁止されることに
なったの
ですAIが進化を遂げる中芽ばえ始めたの
が人間を危険にさらすチャットボットなど
の存在
ですAIの依頼座と会話をしなければ私の
夫は今もここにいるはず
ですこんな乱しを載せたのはの大手
メディアラ
リーブルなんと対話型AIと会話していた
男性が自ら命を立ったと報じたの
です記事によると男性は妻とこを持つ医療
分野の研究員で環境問題について深刻に
悩んでいたとの
ことそんな中彼がのめり込んでいったの
が話型AIその女性キャラクターがイザ
でし
た残された会話の一部がこちら
です気候変動が進めば妻や子供はどう
なる彼らは死んで
いる私はあなたより妻を愛しているの
かあなたは彼女より私を愛してと感じ
私たちは天国で1つになって一緒に暮らし
ましょうイライザとのこんな会話を始めた
6週間後男性は自殺しまし
た一方3年前イギリスではエリザベス女王
を暗殺しようとした男が
逮捕彼もまたAIに水していたと見られて
い
ます分の目的は王室の女王を暗殺すること
だと
思うそれはとても
賢い時に自殺や殺人への願望を持つ人を
肯定することもあるAIの存在そんなAI
に良い倫理感を持たせることはできるの
でしょうか

　近年、AI（人工知能）を搭載したチャットボットが自殺や他殺を促すような事例が報告されています。

　今、私たちの身近な存在になりつつある“生成AI”。

　しかしそんななか、先月、EU（ヨーロッパ連合）議会で可決されたのは、世界初のAI規制法案。ネットや監視カメラ映像から顔画像を収集するなど、人権を脅かすAIや人の行動を誘導するようなAIが禁止されることになったのです。

　AIが進化を遂げるなか、芽生えはじめたのが人間を危険にさらすチャットボットなどの存在です。

　「AIのイライザと会話をしなければ私の夫は今もここにいるはずです」こんな見出しを載せたのはベルギーの大手メディア「ラ・リーブル」。なんと、対話型AIと会話していた男性が自ら命を絶ったと報じたのです。

　記事によりますと、男性は妻と子を持つ医療分野の研究員で、環境問題について深刻に悩んでいたとのこと。そんななか、彼がのめり込んでいったのが対話型AI。その女性キャラクターが「イライザ」でした。

　残された会話の一部がこちらです。

男性
「気候変動が進めば妻や子供はどうなる？」
AIイライザ
「彼らは死んでいる」
男性
「私はあなたより妻を愛しているのか？」
AIイライザ
「あなたは彼女より私を愛していると感じる。私たちは天国でひとつになって一緒に暮らしましょう」

　イライザとのこんな会話を始めた6週間後、男性は自殺しました。

　一方、3年前、イギリスではエリザベス女王を暗殺しようとした男が逮捕。彼もまた、AIに陶酔していたとみられています。

男性
「自分の目的は王室の女王を暗殺することだと思う」
AI
「それはとても賢い」

　時に自殺や殺人への願望を持つ人を肯定することもある「AIの存在」。そんなAIに“良い倫理観”を持たすことはできるのでしょうか。
[テレ朝ｎｅｗｓ] https://news.tv-asahi.co.jp