AIに聞いて議会で質問したら… 疑義生じ発言取り消す とうい事例が発生したようです。

これからの時代、AIをどのように利用していくか？は避けることができないテーマだと思います。
一方で「AI＝魔法の杖」であるように誤解して、AIが出した回答は万能であるかの如く勘違いしている人が多いのも事実です。

今回、教科書的なケースが発生していたので、その点をブログに書いてみたいとおもいます。

【記事の内容】

愛知県犬山市議会で、生成人工知能（AI）の回答を基に一般質問した市議が、その後事実関係に疑義が生じたため発言を撤回したことが25日、市への取材で分かった。市議は共同通信の取材に「発言する際は、情報の裏を取るべきだと反省している」とコメントした。 　発言したのは柴山一生市議（67）。犬山市が2016年から過大徴収していた児童クラブの利用手数料の時効分を返還しないと発表したことに対し、今月10日の一般質問で、AIの回答を基に「三つの自治体で返還した例がある」と発言。返還するよう市に求めた。 　しかし市が各自治体に問い合わせ、2自治体から回答があり、返還の事実に疑義が生じた。市議は発言取り消しを申し出て、認められた。 年齢からしてAIに挑戦したことは素晴らしいと思います。 だけど、生成AIの特徴をきちんと理解していたのかは疑問を感じます。

私も、仕事のなかで生成AIを利用しています。 その感想でいうと、人間よりも大量の資料を読み込んで回答を作ってくれるので、 「こういうデータがあるのか」「こういう証跡があるのか」 とを探すのには非常に役立っています。 自分で探すよりも圧倒的に早いです。

だけどAIの特徴は、平気で嘘をつきます。 これを「ハルシネーション」といって、事実に基づかない情報をAIが生成してしまうこと。これはAIの欠陥でなくて、生成AIは「わからない」という回答をするよりも、まずは尤もらしい回答をすることが優先されるようにプログラムされているから起こるものです。 だから、AIの回答は利用しますが、その回答を外部に出すときには「その情報が本当なのかについて必ず精査」します。実は、AIに関する知識がある人ほど、最後は人間が必要であると思っているようです。 ところが、 AIの知識ない人はAIが人間の能力を超えてデータを集めたんだから、人間よりも正しい回答だと思ってしまうんですよね。 今回のケースについては、生成AIをどう使うべきか？の教科書になるケースかなと思います。

ちなみに、今回のイラストはAIで作ってみました(笑)。