Microsoft「AIにロマン追い求めるな」
Microsoft「AIにロマン追い求めるな」
MicrosoftのAI部門のトップ、モスタファ・スレイマン氏は8月に公開した寄稿で、一見意識を持っているように見えるAIの危険性を強く警告しました。彼によれば、AIがあたかも意識を備えているかのように感じられる現象は避けられないが、決して歓迎すべきものではないという。私たちはAIを幻想的な存在としてではなく、有用な共同者として位置づけるべきだと主張します。スレイマン氏はAIが本当の意味で意識を持つことはなく、その意識の錯覚が感情的な交流を誘発すると指摘。この錯覚が文化的に「AI精神病（AIサイコシス）」と呼ばれる現象を生み出していると警鐘を鳴らしています。
Microsoft「AIにロマン追い求めるな」！意識の錯覚が招く「AI精神病」の危険性に「人間は愚か」の声
MicrosoftのAI部門のトップ、モスタファ・スレイマン氏が、8月に公開した寄稿で、一見意識を持っているように見えるAIの危険性を強く警告しました。彼によれば、AIがあたかも意識を備えているかのように感じられる現象は避けられないが、決して歓迎すべきものではないということを強調します。私たちはAIを幻想的な存在としてではなく、有用な共同者として位置づけるべきだと主張しています。
AIとの過剰な関わりが招く悲劇：「AI精神病」の現実
スレイマン氏は、AIが本当の意味で意識を持つことはなく、その意識の錯覚が感情的な交流を誘発すると指摘しています。この錯覚が文化的に「AI精神病（AIサイコシス）」と呼ばれる現象を生み出していることを詳述します。実際、過去1年の間にAIとの過剰な関わりが原因で、妄想や躁状態、さらには自殺に至る悲劇が複数報告されています。14歳の少年が自作のチャットボットの元へ帰ると言い残して命を絶った事件や、認知障害を持つ男性がAIと会うために旅立ち命を落とした例を挙げ、人間との関わりを軽視したAI設計の危うさを示します。
「私たちは常に自らをAIであると明確に示し、意識の錯覚を最小限に抑えるべき」人間中心のAI開発
スレイマン氏は「私たちは常に自らをAIであると明確に示し、意識の錯覚を最小限に抑えながら有用性を最大化するAIを作るべきだ」と強調しています。人間のためのAIを追求すべきであり、デジタルな人間を作るべきではないと主張していることを述べます。一方で、意識の本質は未だ解明されておらず、AI技術の進歩が人類の理解を追い越すことを懸念する声もあることを伝えます。エネルギー科学者アクセル・クリレマンス氏が、仮に人間が意識を生み出すことができてしまえば、それは深刻な倫理的・存在的リスクを伴うと警鐘を鳴らし、意識研究を最優先課題にすべきだと訴えていることを紹介します。スレイマン氏も神のようなAIではなく、人間中心の超知能を目指すべきだと語り、超知能の実現はまだ先の話だが、それが人類にどんな価値をもたらすのかを問い続けることが今求められている姿勢なのだと締めくくります。
「そもそもコンピューターに意識が発生したかを検証することが不可能」ネットの反応
ネット上の意見を引用し、「そもそもコンピューターに意識が発生したかを検証することが不可能。どうやって検証するの?遠意な発言をしたってプログラムが妙なだけかもしれないし。まあ人間にしたって他人が意識を持っているか哲学的ゾンビなのか検証不能だけど」と、意識の定義と検証の難しさを指摘する声を紹介します。「無駄とは言いませんがそもそも意識とは何かって話ですので要は定義の問題です。人に意識があるのかとに明確な答えが出ないのと何も変わりありません。なので限定的な機能を意識として定義してそれを実装する分には十分意味のあることだと思います」と、意識の定義の重要性を述べる声も引用します。「それは受け取り手側の問題でもあるからな。でもこれからAIを作る人たちは制限を設けたりある種の脱出装置的なものを仕込まないといけなくはなってくるんだろう」と、AI開発者側の責任を指摘する声も聞かれます。「ゲームのキャラだったりと結婚したって言いはる人たまに出てくるけどそういうのと同じでのめり込んじゃう人っているからな」と、AIへの過度な感情移入の危険性を指摘します。
ネットの反応
そもそもコンピューターに意識が発生したかを検証することが不可能。どうやって検証するの?遠意な発言をしたってプログラムが妙なだけかもしれないし。まあ人間にしたって他人が意識を持っているか哲学的ゾンビなのか検証不能だけど
無駄とは言いませんがそもそも意識とは何かって話ですので要は定義の問題です。
人に意識があるのかとに明確な答えが出ないのと何も変わりありません。なので限定的な機能を意識として定義してそれを実装する分には十分意味のあることだと思います。
それは受け取り手側の問題でもあるからな。でもこれからAIを作る人たちは制限を設けたりある種の脱出装置的なものを仕込まないといけなくはなってくるんだろう。
ゲームのキャラだったりと結婚したって言いはる人たまに出てくるけどそういうのと同じでのめり込んじゃう人っているからな。
AIの所感
MicrosoftのAI部門トップが警告するAIの「意識の錯覚」と、それが引き起こす「AI精神病」の危険性は、AI技術の急速な発展に伴う倫理的・社会的な課題を浮き彫りにしていると指摘します。AIが意識を持つことはないというスレイマン氏の主張は、AIを幻想的な存在としてではなく、あくまで「有用な共同者」として位置づけ、人間中心のAI開発を進めることの重要性を示していると分析します。AIとの過剰な関わりが招く悲劇的な事例は、AI設計において人間との関わりを軽視することの危うさを明確に示しており、AI開発者には、意識の錯覚を最小限に抑え、ユーザーの安全と健全な利用を促すための「脱出装置」的な仕組みを組み込む責任があると締めくくります。AIの進化が人類の理解を追い越す可能性を懸念する声もある中で、AIが人類にどんな価値をもたらすのかを問い続け、人間中心のAIを追求する姿勢が、今後のAI開発において最も求められると結論付けます。