AIが「不適切な内容」公式Xに投稿 AI任せはダメでしょ！

 ネットのニュースをみていたら、マンションの物件情報を紹介するサイトの運営会社が、匿名掲示板「マンションコミュニティ」に投稿された内容を、AIが自動で要約し、Xに投稿したところ、不適切な投稿があったと謝罪したとの記事が出ていました。

たぶん、生成AIを利用したんでしょうね。
個人的にChat GPTなどを利用して、生成AIの能力を試したことがあるのですが、その時に一番感じたことが
”生成AIは堂々と嘘をつく”
ということでした。

何が一番問題かといえば堂々と嘘をつくので、そこに書かれたものが正しい回答だと誤認してしまうんですよ。
AIって「正しい情報」に基づいて文章を作れば正確な文章を書くんでしょうが、そこに「間違った情報」が含まれると、誤った内容を含む文章を書くんです。

とくに掲示板の情報なんて「間違った情報」が多く含まれているでしょうから、AIが作成する文章なんて、どこまで正確か？は導入以前に気になることではないでしょうか。

よく、AIは人の仕事を奪う！なんて言われていますが、
今回のケースでは、要約する人の仕事を奪ったかもしれませんが、人が要約しているときには虚偽の情報は取り除いていたんです。
残念ながら、生成AIはそれができなかった。
そうなると、
人が虚偽の情報を取り除いて要約を作らせるのか、AIが作った文章が正確かを人が検証することが必要なはずで、人の働き方が変わっただけ（より高度化）ということが明らかになったケースではないでしょうか。