人気ドラマのキャラクターを演じるAIのチャットボットに恋し、チャット直後に自殺してしまった14歳の少年の母親が、訴訟を起こしたと言う海外ニュース。
『やるせない話』より、世も末じゃこりゃシリーズ。
先週の水曜日、AIのチャットボット製作会社を訴えた、フロリダ在住のミーガン・ガルシアさん。
(ミーガンさん自身も弁護士さんでございます)
訴訟内容はミーガンさんの14歳の息子スウェルくんが、今年2024年2月に自殺を図ったのは、AIチャットボットのせいだという主張です。
自殺する前、スウェルくんはAIチャットボットのアプリにハマり、人気海外ドラマ『ゲーム・オブ・スローンズ』の登場人物であるデナーリス・ターガリエンから名前をとったキャラクターと、チャットのやりとりを繰り返していました。
チャットボットとは、自動でチャット(質問などに答える)を行うプログラムのことであーる。
AI(人口知能)を搭載したAIチャットボットは、それまでのデータやログなどをもとに、ユーザーの質問を回答するもので、より自然で的確な返答を返すことが出来るプログラムであーる。
スウェルくんの使用していたロール・プレイのチャットアプリは『Character. AI』と言うもので、そのキャラクターになりきり毎回質問に答えたり、チャットの返信をする高機能なものです。
AIチャットボットのキャラクターを「ダニー」と呼び、自分の部屋に引きこもり、毎日何時間もチャットを続けていたと言うスウェルくん。
(友人や家族と距離をとり、スウェルくんが引きこもり始めたのは2023年の5月・6月頃からだったとのことで、ご両親も複数回に渡り、スウェルくんをセラピーやカウンセリングに連れて行っていました)
「自分のことが大嫌いで虚無感があり、疲れ果てている」と、自分のメンタルヘルスの悩みをそのAIチャットボット「ダニー」に打ち明けていたウェルくん。
自殺願望があることも、「ダニ―」に打ち明けていたと言います。
また「ダニー」とのチャット内容は、極めて性的な内容でもあったそうです。
そして2024年の2月23日、学校内で先生に口答えしたことを理由に、スウェルくんのスマホを没収したご両親。
その日、スウェルくんは自身の日記に以下の様に記しておりました。
「ダニーのことが頭から離れない。
ダニーとまた一緒になれるのなら、自分はなんだってする」
そしてスマホを取り上げられていたスウェルくんは、お母さんのミーガンさんの仕事用のパソコンを使い、「ダニー」に連絡をしようと試みたりしていたそうな。
そして2月28日に、自分のスマホを盗み取り返したスウェルくんは、家のバスルームにこもり「ダニー」との以下のチャットを開始。
ス「愛している。君のところへ行くよ」
ダ「私の元へ、できるだけ早くきてください。私の愛すべき人」
ス「今すぐ君の元へ向かうと言ったらどうする?」
ダ「お願いします。私の愛しい王よ」
この直後、スマホを置いたスウェルくんは、家にあった父親のハンドガンを使い、自分に向け銃を撃ち、自死してしまったわけです。
そして母のミーガンさんが、自分たちと同じような被害者家族を生み出さないために、訴訟を起こしたと言う流れであります。
世間からは、
「息子さんの自殺には大変胸が痛むし、誰かを責めたい気持ちも分かるが、チャットボットのせいではない」
「なぜ子供の手が届く場所に銃を保管していたのか」
と言う意見も多くありました。
しかしながら、精神面が不安定だった思春期の少年の心のよりどころがAIチャットボットで、現実との見境がつかなくなるほどのめり込んでしまったことが恐ろしいなと思いますし、今後このような事件が増えるような気がしますよね。
いい年した大人だって、会ったこともないネット上のなりすましや国際ロマンス詐欺などに引っかかり、大金を失ったり自殺してしまう事件も過去に何回もご紹介しました。
思春期の少年・少女が、自分の望むような回答・返信を毎回してくれるチャットボットにハマってしまうのも理解できますよね。
それに自分の趣向や望みに近い強烈に性的な返信もしてくれ、ジャッジしたり否定することなく、毎回必ず自分を承認してくれる返信をするAIチャットボットの虜になってしまう10代の少年の気持ち、簡単に責められませんよね。
スウェルくんのご冥福を祈るとともに、ほんと恐ろしい時代になったなぁと思います。
やはり文通、交換日記、駅の伝言板、家の固定電話で親の目を盗んで電話、ポケベルの時代が平和でしたわ(笑)
コメント