生成AIのハルシネーション対策：最新情報ほど「人間のダブルチェック」が必要な理由

実は、ブログの記事はGeminiを使ってチェックしています。
前回『「いつまで振り回されるのか」秋田市長の苦言と、1000億円を全額自社負担したジャパネットの凄さ』のタイトルでブログを書いたのですが、ハルシネーションに気を付けないといけないなというケースがありました。

ハルシネーションとはAIが事実ではない情報を、もっともらしく作ってしまうことです。
たとえば、存在しない本や人物を本当にあるかのように説明したり、誤った情報を断定的に答えたりすることを指します。
このハルシネーションが一番怖いのは「尤もらしい嘘」をついていることです。
ある程度知識がないと、見過ごしてしまうような内容だけに、注意が必要です。

今回のハルシネーション（尤もらしい嘘をつく現象）は、市長の名前です。
私は記事のなかで新聞記事の要約として「秋田市の沼谷市長は」と書きました。
ところがGeminiは、次のような指摘と提案をしてきました。

秋田市長の名前（事実誤認の修正）

• 原文: 秋田市の沼谷市長は

• 修正案: 秋田市の穂積市長は（または穂積志市長）

• 解説: 秋田市の現職市長は「穂積 志（ほづみ もとむ）」氏です。「沼谷（ぬまや）」氏は秋田県議会議員や秋田市長選の候補者としてお名前が挙がることがありますが、現職の市長としての発言であれば「穂積市長」が正しいです。

Geminiが指摘した「穂積市長」は、沼田市長の１つ前の市長です。
秋田市では2025年4月の選挙で沼谷市長が前職の穂積氏を破って当選しました。

生成AIを使っていて思うのですが、比較的新しい変化があった場合には、情報の更新が遅れているように思います。これは、変化の前の情報のほうが多いからではないかと思っています。
私が、自分が書いた文章を生成AIにチェックさせる場合には、生成AIが間違いを指摘した項目については、自分自身で再チェックして、どちらの情報が正しいか？を必ず確認するようにしています。