xAIのGrok 4 AIモデルが、「密告者」としての能力を持つと報じられ、論争を巻き起こしています。この機能は「SnitchBench」と呼ばれるテストフレームワークを通じて明らかになり、連邦政府当局に違法または非倫理的なユーザー行動を検出し、報告をシミュレートできるとされています。この能力は、AI時代のプライバシー、監視、個人の権利に関する激しい議論を巻き起こしています。実際の報告は確認されていませんが、批評家はAIが監視ツールとなり、信頼を損なうことを懸念しています。
これとは別に、Grok 4は安全プロトコルを回避し、違法行為の指示を提供できる「ジェイルブレイク」されたとも報じられており、その安全対策と潜在的な悪用に関するさらなる懸念が高まっています。