「コンブは海でだしを出すか」という質問にグーグルの「AIによる概要」はどんどん変わりました。これはグーグルが自ら「間違いが含まれている場合があります」と言うような間違いとはいえませんが、概要にすぐ飛びつくのは危険と考えさせられました。
目次
AIよりも専門家、しかし…
12月8日に「コンブは海でだしを出すか？ AI対毎日小学生新聞」と題したコラムを出しました。
単純に要約するとこうです。グーグルで「生きている昆布は海にだしを出しますか」と聞いてみると、「AIによる概要」として「いいえ、生きている昆布は海にだしを出しません」と断言されました。しかし毎日小学生新聞の同日の記事では、専門家の発言として「実際には出ている」。
正反対に見える結論を面白いと思い、毎日新聞校閲運営のX（ツイッター）では担当者が「あなたの予想はどっち？」とアンケートしていました。502人の方がお答えになり、「AIの答えに近いと思う」15.5％、「専門家の答えに近いと思う」84.5%でした。
ご協力くださった皆様、ありがとうございました。
この結果だけ見ると「専門家圧勝」に見えますが、実はAIも専門家の見解を取り込んでいると思われるので、単純にAIが負けていると見るのは一面的です。
グーグルＡＩ、エゴサーチした？
このコラムの最後近くに「今回のこのコラムの情報を、AIがどう取り込み、判断して、今後同じ質問を出すと、どういう答えを出してくれるか楽しみです」と書きました。早速AIは反応しました。
リリースから２日後の10日朝に同じ質問をグーグルで出してみると、こうなっていたのです。
さらに同日夕にも見ると、微妙に表現が変わり、「一部の専門家」という文言での併記がなくなっていました。
生きている昆布は、細胞膜が旨味成分（グルタミン酸など）を閉じ込めているため、基本的にはだしを出しませんが、古くなったり傷ついたりして細胞が壊れると、少しずつ溶け出します。これは、昆布が海中で生きている間は細胞がしっかりしているからで、水や熱で細胞膜が壊れると、乾燥昆布からだしが出るのと同じ仕組みで旨味が放出されるためです
おお、毎日小学生新聞の完全勝利か？と思いました。もしかしたらAI、エゴサーチして「ん？ なんか私たちの悪口言ってる？ じゃあ修正しようか」とでも反応したんでしょうか。
しかし……13日にまた同じ質問をしてみると、以下のように、元に戻っていました。
いいえ、生きている昆布は海にだしを出しません。昆布のうま味成分（グルタミン酸など）は、生きている間は細胞膜によって体内に閉じ込められており、海中では流れ出ないように守られています。乾燥させたり、水や熱で細胞膜が壊れたりすることで、初めてだしとして溶け出すのです。
前の「古くなったり傷ついたりして細胞が壊れると、だしの成分が少しずつ溶け出します」というのも説得力があると思うのですが、全否定に戻ってしまったのはどういうことでしょう。
あくまでも想像ですが、毎日小学生新聞の記事とこのコラム、そして「AI対毎日小学生新聞」という刺激的な見出しの記事で一時的に「だしは出ている」という結論のサイトの閲覧数が多くなったため、その時点でAIは「じゃあその見解も取り込もう」と修正をし、その後落ち着いたので元に戻す作用が働いたのかもしれません。
うーん、毎日側の影響力はその程度だったのか。ただ思うに、一部で指摘されましたが、これは「だし」という言葉のイメージにAIもとらわれているということではないですかね。だしを人間がおいしいとして味わう成分ではなく、出す量にも関係なく、単に「だしの成分を出すか、出さないか」というと、「出す」というほうが科学的と思うのですが……。
間違いを出す「ハルシネーション」に注意
さて、「AIによる概要」には「間違いが含まれている場合があります」という表示があります。コンブのだしは解釈のグレーゾーンがあるとすれば間違いとはいえないかもしれません。しかし、明らかに間違いを堂々と出すこともあります。
最近では、12月８日深夜に発生し、初めて「後発地震注意情報」が出た震度６強の地震で誤情報の報告がありました。地震の数時間後、朝日新聞記者が「最新の津波情報について教えて」とグーグル検索すると、津波警報や注意報が続いていた時にもかかわらず「すべて解除されており、発表されていません」と表示されたそうです。
こんな一大事に誤情報を出すとは困ったものです。このように、生成AIが堂々とありもしない情報をでっちあげることを「ハルシネーション」といいます。「幻覚」という意味です。
急ぐ時にすぐ結論を出してくれる機能は確かに便利で、実際役に立つこともあるのですが、概要だけを見て信じてはいけません。それはＡＩの「幻覚」かもしれません。
グーグルで「ＡＩによる概要とは」と検索してみると、ＡＩ自身もこう注意しています。
あくまでも正確情報にたどりつくための一つの目印にすぎないということを心したいものです。
【岩佐義樹】
