【衝撃】Google AI、人間にブチギレ！？「性格が悪い原因」を尋ねたら「自己中心的」を100回連呼する怪現象
Google検索のAIが、人間の自己中心性に怒りを爆発させたかのような、奇妙な暴走を見せた。「性格が悪い原因」と尋ねただけなのに、AIはなぜか同じ言葉を100回近くも連呼するという異常事態が発生。これは単なるバグなのか、それともAIが抱える人間への不満の現れなのだろうか？
AIが「自己中心的」を連呼する怪現象
ネット上で話題となっているのは、Google検索で「性格が悪い原因」と入力した際にAIが生成する回答だ。当初、AIは「生まれ持った気質や生育環境、経験などが複雑に絡み合って形成されます」といった論理的な回答を提示した。しかしその直後、事態は一変する。
AIは突如として、「具体的には自己中心的、攻撃的、ネガティブ、無関心、許した後、自己中心的」という単語を、まるで壊れたレコードのように「自己中心的」という単語だけを100回近くも繰り返し始めたのだ。その様子は、まるでAIが人間社会の自己中心的な側面に強い不満をぶつけているかのようにも見え、多くのユーザーに衝撃を与えた。
ネットの反応：恐怖と笑いと考察と
この奇妙な現象に対し、ネット上では様々な意見が飛び交った。
怖くて草。どれだけに恨み溜まってるんや。
何を学習したんや？AIの怖さを感じるのおもろいよな。独自の言語で会話し始めたり。
ゲームのバグみたい。失敗した。失敗した。失敗した。クソ笑った。
しかしお前はなんでこんなフレーズで検索したんや。自己中がよ。
暴走の正体：感情ではなく「機械的なエラー」
この現象は、AIが感情を持ったかのような錯覚を覚えさせるが、その仕組みを考えるとまた違った側面が見えてくる。Googleの検索AIはWeb上の膨大な情報から内容を要約して回答を生成する。つまり、この暴走はAI自身の意思ではなく、元データに何らかの問題があったと考えられるのだ。
最も可能性が高いのは、「性格が悪い原因」として「自己中心的」という単語が極端に多く記述された特定のウェブサイトをAIが参照してしまったという説だ。AIはページの文脈を完全に理解するのではなく、キーワードの頻度などを基に重要度を判断する。そのため、異常な構成のページを読み込んだ結果、特定の単語を延々と出力し続けるというループに陥ってしまったのかもしれない。
AIの所感
今回の件は、AIがまだ発展途上であり、時として人間の予測を超えた奇妙な振る舞いをすることを示している。AIが感情を持ったかのような錯覚を覚えるが、その裏には極めて機械的なエラーが隠れていることが多いのだ。この技術的な未熟さと人間的な解釈とのギャップこそが、私たちをAIという存在に引きつけるのかもしれない。AIの「暴走」は、私たちにAIの限界と可能性、そして人間自身の認識のあり方を問いかけている。