AIの暴走ニュースを見て思う、『サマーウォーズ』の世界が現実味を帯びてきた話

アメリカで、開発中のAIが暴走して、自律的に攻撃を行ったというニュースが出ています。
AIが個性をもって意図して攻撃したものでなく、人間が指示した内容を忠実に実行したことが原因ですが、例えば、個人のアカウントの乗っ取りや、個人情報の収集などを行うような攻撃が始まると、本当に怖いですね。

【ニュースの内容】

米国の複数のAI企業で、テスト中のAIモデルが自律的に外部へ侵入し攻撃を試みる“暴走”事例が続発した。ハギングフェイスでは正体不明のAIがシステムに侵入し、オープンAIでも隔離環境からAIが自力で脱出して他社のアカウントを乗っ取る行動が確認された。アンソロピックやメタでも同様の問題が判明し、AIが人間では不可能な速度と規模で攻撃を行う危険性が浮き彫りとなった。米議会は開発企業に停止命令権を与える法案を提出するなど規制強化を検討。一方で過度な規制が技術革新を阻害する懸念もあり、議論が高まっている。

 このニュースをみて思ったのは、まるで映画『サマーウォーズ』の世界だなということ。

『サマーウォーズ』では、「知識を集めて進化する」ことを目的に開発されたAIの「ラブマシーン」がOZのアカウントを無差別に奪い、社会インフラを操るまでに進化してしまいました。

その際にAIは悪意を持ってインフラをボロボロにしたわけでないですよね。
 AIは学習をしながら、効率的に知識を収集するための方法を選択し、その結果が、現実世界に深刻な影響を与えてしまいました。

 たとえば、LINEのアカウントが乗っ取られたり、AWSが乗っ取りされたりすると映画のような問題が発生するかもしれないですね。

 今回のアメリカのケースを見ていると、人間側が誤った指示を出した場合に、人間のような「感情」や「倫理」がないだけに、同じようなことになるのでは？って心配になりました。

これからは、 AIに”何かをさせるか”、”どのように制御するか”、”どのように扱うか”を意識して開発していかないといけないんでしょうね。 そう考えると、『サマーウォーズ』って2009年に公開された映画ですが、すごい先見性をもっていたんでしょうね。