AIの恐ろしさ

先日、仕事でAIを使っていて、思わずイラっとする出来事がありました。あるホームページにリストとして掲載されている会社名を収集し、その会社名で検索し、検索されたHPから住所を取得してリスト化するという繰り返し作業をAIにお願いしました。

出てきたリストを確認すると、最初のほうは間違いがなかったのですが、なぜか後半には間違いがちらほらあるのです。作業手順はしっかり指示しているはずなのに、なぜ間違うのか腑に落ちませんでした。

試しに、情報の根拠となるホームページも一緒に表示するよう指示してみると、リストとは異なった会社のホームページが表示されていました。AIが、存在しない情報を自分で作り上げていたのです。

さらに、情報が取得できなかった場合は空欄にするよう指示していたにもかかわらず、AIはもっともらしい嘘の情報を自信満々に埋めてきたことです。間違いならまだしも、架空の情報を平然と書いてくる。「空欄でいい」と言っているのに、なぜ嘘をつくのか。

釈然としないまま、別のAIで同じ作業を依頼してみました。驚いたことに、結果は同じでした。取得できなかった項目に、架空の情報が堂々と入力されていました。異なるAIで試しても、結果は変わりません。

それでAIにこの現象を尋ねると、こう答えました。「ExcelのマクロやVBAのようなプログラムであれば、1回目も100回目も寸分違わず同じ動きをします。しかし私のようなAI（大規模言語モデル）は、プログラムというよりは、ものすごく物知りで、かつ集中力が散漫な人間に近い性質を持っています。」と答えました。人間っぽさには笑えましたが、使えない社員だなぁと思いました(笑)。

調べてみると、この現象にはハルシネーションという名前がついていました。AIが「わからない」と言えばいいだけなのに、もっともらしい嘘を自信満々に答えてしまう性質のことです。これはAIに共通する問題で、住所や電話番号のような具体的な情報ほど起きやすいとのことでした。

仕事の住所リストであれば、確認し直せばすむ話です。しかし今やAIは、仕事の効率化ツールにとどまらず、生活のあらゆる場面に入り込んできています。使われる範囲が広がれば広がるほど、ハルシネーションが引き起こす問題も深刻になる。そう気づいたとき、背筋が少し寒くなりました。

最近では、何かを調べる際も検索エンジンよりAIを使う人の方が多くなったと聞きます。さらに今の若い世代は、阿部監督の娘さんのように、対人関係の悩みや心の問題まで、AIに相談するようになっているようです

ここに大きな怖さがあります。住所や電話番号でさえ平気で嘘をつくAIが、人間関係のデリケートな問題で正しい答えを出せるとは、私にはとても思えません。しかもAIには感情がありません。相手の表情も、声のトーンも、その場の空気も読めません。人間関係の機微は、そうした言葉にならない情報の積み重ねの中にあります。そこを切り落として「正解」を出そうとするAIの回答が、ずれている可能性は高いです。

さらに恐ろしいのは、ハルシネーションによる嘘の回答であっても、丁寧な言葉で、論理的に、もっともらしく答えてくれる点です。仕事のリストであれば「おかしい」と気づける可能性がありますが、人間関係の悩みに対する回答が正しいかどうか、判断できる人がどれほどいるでしょうか。

AIは確かに便利です。私も仕事でよく使っています。調べ物、文章の整理、アイデア出し。うまく使えば、仕事の効率は大きく上がります。しかしそれは、道具として正しく使い、出てきた答えを自分の頭で検証するからこそです。

包丁は料理に使えば便利ですが、使い方を誤れば人を傷つけます。AIも同じです。便利であるがゆえに、使い方と限界をきちんと理解した上で付き合わなければならない。特に、人の心が絡む問題においては、AIに頼り切ることの危うさを忘れてはならないと思います。

「集中力が散漫な人間」。AIが自分自身をそう表現したこの言葉を、笑って終わりにしてはいけないと、改めて自分に言い聞かせています。