雑談215
昨今のサイバー攻撃による情報漏洩、AIの進化が恐ろしい一方で、無料のAIはかなりポンコツです。
AIに東海道線の小田原駅を起点として、静岡駅は何キロ？と質問すると、その都度、答えが変わります。
こんな簡単そうな質問で間違うの？と思いますよね。
そうむしろ簡単な質問だとしょっちゅう間違うので、こちらの知識がないと、AIの嘘を見破れません。
これはなぜかとAIに聞くと、
- そもそも計算や検索をしていない（確率による文章生成）
AIは、電卓のようにデータを正しく計算したり、辞書を正確に丸暗記して出力したりしているわけではありません。
AIがしているのは、ある言葉の次に来る確率が最も高い言葉を、その場で予測してつなぎ合わせる作業です。
そのため、特定の距離や数値を求められた際、頭の中にある膨大なデータからその都度それらしい言葉を組み立てます。
ある日は正しいデータを引き当て、別の日は似たような別の数字のデータを引き当ててしまうため、日によって回答がブレるという現象が起こります。 - 条件の解釈が曖昧である
AIは人間のように言葉の厳密な定義を理解しているのではなく、言葉同士の関連性の強さ（ニュアンス）で物事を判断しています。
例えば、ユーザーが特定の移動手段や前提を想定して質問していても、AIの頭の中ではその地域やそのルートに関連するあらゆるデータ（異なる移動手段の距離、直線距離、別の基点からのデータなど）が混ざり合って認識されます。
その結果、その日の言葉の選び方の偏りによって、意図とは異なる前提の数字をベースに回答を作ってしまうことがあります。 - 間違いをそれらしく言い切ってしまう（ハルシネーション）
AIには自分の知識が正確かどうかを自ら客観的に検証する能力がありません。
そのため、頭の中で複数の異なるデータが混ざり合って間違った数字を出力する場合でも、それが正しいデータであるかのような自然で説得力のある文章を作ってしまいます。
これが、ユーザーから見ると日によって違うことを言っているように見える原因です。
……このように答えられてしまいました。
それを防ぐには、質問の中に、最新のネット検索を使うことを強制したり、業界の専門用語を使ってAIが参照すべきデータの範囲を限界まで狭めて指示する必要があります。
なので、人に話すように聞くと、それっぽく返事はするのですが、とんでもない間違った情報を紛れ込ませてくることもあります。
しかも、間違ってるよ、ってこちらが指摘してるのに、そんなことないって反論されることもあります。
無料って、本当にダメですね〜
便利なのか、そうじゃないのか…でもAIがない世界には、戻らないんでしょうね。
そうそう、そんな感じなので、身体の調子が悪い時に、AIの意見を参考にするのは、やめた方がいいですよ。
ネットの中には、これまでの蓄積された民間療法とか、インチキ医療とか、怪しい医療情報が漂っていて、そこからもピックアップされてしまいますからね。
