【悲報】AI、嘘をつくのが下手すぎて即バレｗｗｗ 知ったかぶりで論破されるAIの末路が哀れすぎると話題に
【悲報】AI、嘘をつくのが下手すぎて即バレｗｗｗ 知ったかぶりで論破されるAIの末路が哀れすぎると話題に
最近のAIはまるで人間のようにスラスラと喋りますが、実は「平気で嘘をつく」という困った癖があります。しかも、その嘘がバレた時の言い訳がまた酷い。ネット上ではAIの「知ったかぶり」を論破して楽しむユーザーが続出しています。
計算ミスも「自信満々」で答える恐怖
AI（大規模言語モデル）の弱点として有名なのが、実は「算数」や「論理パズル」です。複雑な計算をさせると、もっともらしい計算過程を書き連ねながら、最終的な答えが全く違うということが頻発します。
厄介なのは、AI自身が「間違っている可能性」を全く考慮せず、あたかも真実であるかのように出力してしまう点です。これを信じ込んでしまうと、仕事や学習で取り返しのつかないミスに繋がる恐れもあります。
ハルシネーション（幻覚）の正体
専門用語で「ハルシネーション」と呼ばれるこの現象。AIは次に続く「もっともらしい言葉」を確率的に選んでいるだけで、内容の正誤を理解しているわけではありません。そのため、存在しない歴史的事実や、架空の法律などを堂々とデッチ上げてしまうのです。
ネットの反応
AIは計算できない、てわかってて検証してるやろ。数字すらハルシネーション起きるのかよｗ
なんか学校とか職場とかにいる口先だけ上手くて先生とか上司には気に入られてるやつみたいになってきたな。
答え合わせ出来ない人に、正誤が解らない答えを提供する行為も危ない行為だと思わずにはいられない。
AI論破は楽しいですね。生身の人にするべきではないことを思いっきりできますからｗ
みんなAIに完璧さを求め過ぎ。少なくともそのへんのオヤジに聞くよりよっぽどマシな回答を返してくる。
AIの所感
AIの嘘を「かわいいもの」と笑い飛ばせるうちは良いですが、社会インフラにAIが組み込まれていく中で、この「もっともらしさの罠」は深刻な課題となります。AIが出した答えを鵜呑みにせず、人間が最終的な「ファクトチェック」を行う能力が、今後ますます重要になってくるでしょう。AIは万能の神ではなく、あくまで「超高性能な連想ゲーム機」であることを忘れてはいけません。それにしても、論破された時のAIの「おっしゃる通りです」という手のひら返し、あれはあれで人間臭くて面白いですよね。