ウテナのAI広告に感じた違和感。「学習させていない」と言い切れない生成AIのブラックボックス問題

 生成AIについて勉強をしているところですが、特に、商用利用を前提としている場合に生成AIを使うことは「著作権」の問題で難しいよな～って考えさせられています。

そんなことを思っていたら、気になるニュースが出ていました。

記事の内容は

老舗化粧品メーカー「ウテナ」がAI生成の“変身ヒロイン風”アニメ広告を都心で展開したところ、デザインが『セーラームーン』を連想させるとしてSNSで勘違いが続出した。メーカーは「既存作品を学習させていない」「類似性の確認を行った」と説明する一方、AI特有の不自然さや権利問題への懸念も指摘され、賛否が広がっている。若年層への訴求と制作効率化を狙った施策だったが、既視感とのギャップが議論を呼ぶ結果となった。 

この広告を見た時に思ったのは「セーラームーン」に似ているなということ。
メーカーは「既存作品を学習させていない」「類似性の確認を行った」と説明しているようですが、どうして「既存作品を学習させていない」と言えるのかは疑問ですね。

既存の作品を学習するから、生成AIって作品を出力させることができるんですよ。
その際に、どんなプロセス（どのような学習データを重視）で作品を作ったかは”ブラックボックス”のことが多いです。
恐らく、この会社独自のAIのモデルで作ったのでなくて、既存のモデルを使ったのではないでしょうか。そうすると、生成AIは「変身ヒロイン」というテーマを与えられたときに『セーラームーン』を重視した作品を出力したのではないかと想像します。

なんとなく、この発言をした会社の人はAIについて、きちんと理解しないまま回答をしているように思えてしまいますね。

生成AIは人が作るよりも短時間に素晴らしい作品を出力してくれますが、その背景には、他人が作った作品を学習して利用していることを意識しないといけないし、それが、何を重視したのかが”ブラックボックス”である以上は、後々、著作権の問題が出る可能性があることは認識しておく必要があると思います。

どんなに生成AIが普及しても、最後は人間のチェックが必要になることは忘れちゃいけないですね。