今日は：2024年 5月 28日です
明日から綜合ユニコム主催のフューネラルビジネスフェアがパシフィコで開催されます。葬儀業界もIT業界も人手不足、それなら人工知能の力を借りるしかないのか？
今日のお話は：AIハルシネーションに注意！
AI業界で最近よく耳にする言葉が「ハルシネーション」
これってナニかというと、人工知能による幻覚というよりもウソを教えられることです。
ウソと言っても間違っただけの内容ではなく、確実にラリっている答えです。
そもそもAIは完璧ではありませんし、間違いを犯すので最初からすべて情報が正しいか確認してほしいと記載されています。
だがハルシネーションというのは間違いだけでなく、幻覚を見ているような間違いです。
前にもチラってお話をしましたが、Geminiが小石を食べると健康に良いとか、ローマ教皇が黒人だったり、女性だったりとか本末転倒を言い出すことです。普通ならえ？と思うことが多いのですが、中身を知らない人はそれを信じ込んでしまいます。
5年くらい前にMSもGoogleも別の形のAIを当時のTwitterで披露して、大勢のTwitter民が一気に教育を始めました。
その内容は4文字言葉の罵詈雑言ばかり。
二言目に罵詈雑言をいうようになり、両者はすぐ引っ込めました。
当時、日本だけで独自に活躍していた「りんなちゃん」（中学生の設定）だけが無事でした。
なぜこれが起こるのかというと、AIはパターン認識に優れているからです。新しく覚えたパターンによって新たなデータを生成したりします。
故にトンチンカンな答えを出してしまいます。
厄介なのがポリティカル・コレクトネスなどが入った、もっともらしいウソだからです。
では回避策はあるのか？
はい、あります。
単純にプロンプトで「もし答えがわからなければ、わかりませんと答えてください」と伝えるだけです。
それによって、変な回答は避けられるのと事実しか提供しません。
問題は別のところにもあります。
それは学習についてです。
まず、それぞれのAIはネット上にある情報を学習しています。
そこから新しいものを作り上げます。
学習したデータは保有しませんと言ってます。
だが、その情報は活用されます。
矛盾があるのでは？
絵描きさんが、アニメのキャラを何百回もコピーして描きます。
しまいには、コピーしなくても自分なりにそのキャラの絵を描くことができるようになります。
アニメーターの皆さんはみんなそうですよね。
つまり、マスターしたという意味です。
オリジナルのデータは保有していなくても、クセやタッチを真似できるようになってしまいます。
これってデータを持っているのか、持っていないのか？
その「クセ」を用いて新しい絵を描いた場合、それはオリジナルのデータを参照しなくても作れてしまうことです。
それがある意味のハルシネーションにつながることなのです。
そして、あなたのデータは保有されているのか？
見ていなければ保有されていないけど、公開された情報と知恵を覚えたなら保有していなくても活用できるという矛盾が生じます。
画家の絵の特徴を覚えてしまえば、その画家が描いたような絵や作家が書いたような文書を作れるわけです。
とくにGoogle検索でAIによる回答には注意が必要だということです。
AIは前述のTwitterで公開された古いAIみたいに学習データが悪いと変なクセが起きます。
陰謀論みたいな間違った情報をずっとそのままエコーチェンバーみたいに読み込んでしまうと、それを事実だと思い込み始めます。
更に情報の正確さよりも文脈（コンテキスト）を読み取る傾向があります。
間違った情報、しかも前後の文脈で新しい情報を作り上げてしまう恐ろしいことまでします。
学習型の生成AIは学習データで学んだ情報で間違った回答を出す場合と、学んでいなく、しかも存在しないデータを回答として出す場合があります。
単なる間違いの回答、例えば、私のYouTubeで火葬場が廃止されるビデオについて語ってくれとGoogle Gemini 1.5にお願いをしたら、まだ映像を読み込む能力がなく、タイトルだけで（なぜそうなったのかも不明）卵焼きを作るビデオと勘違いして、間違った回答を提示した。
逆にChatGPTはきちんと内容を理解し解析もしてくれた。
Geminiはこの場合、ハルシネーションだなということです。
実はGeminiに周辺地区の葬儀社をリストアップしてとお願いすると冠婚葬祭ではない普通の結婚式場などを提供してきます。
確実に狂っているとも言えます。
MS Copilotもウェブ版を活用すると、データが2021年までしかアクセスできないとのことで、情報としては価値が半減。
更にいうと、最新情報がないから、コロナ禍の3年間で変化した業界へ新しい提案もできないと言えます。
だからといって、単純なワークフローだけをやらせるわけにはいかない。
それなら make.com やPower Appみたいなオートメーションをするサービスと連携したほうが建設的です。
AIのハルシネーションに注意しながら、AIをうまく活用することで、葬儀業界やIT業界の人手不足問題を解決する手段となるかもしれません。今年のフューネラルビジネスフェアでは、どれだけの会社がAIを利用した製品を出してくるか、そしてこうしたAIの活用方法についても考える良い機会となるでしょう。
以上です
本日もご清聴いただきありがとうございました。
「葬祭ジャーナル」の jFuneral.comをもっと見る
購読すると最新の投稿がメールで送信されます。
