画像生成AI大本営、緊急事態…
画像生成AI、性的コンテンツ全面禁止へ。Stability AIが規約改定
Stability AIによる画像生成AIの規制強化が、業界に衝撃を与えています。同社は、Stable Diffusionの利用規約を7月31日に大幅改定し、AIを用いた性的コンテンツ生成の全面禁止に踏み切りました。
厳格化される利用規約
規制内容は多岐にわたります。性行為関連のコンテンツ生成が、営利・非営利を問わず禁止され、無断でのヌード画像作成も認められません。さらに、未成年者の保護を重視し、性的搾取やグルーミング、人身売買に関連する利用を厳しく制限。児童性的虐待コンテンツの発見時は、当局への通報も実施するとしています。
実効性への疑問とネットの反応
一方で、Stable Diffusionはローカル環境での利用が可能なため、規制の実効性を疑問視する意見も出ています。「APIやオープンソースまで一括で対象にされるって、趣味税も結構巻き込まれそう」「生成を規制するのではなく、公開を規制するべき」といった声が上がっており、規制の実行性を巡る議論は今後も続くと見られます。
今回の規約改定は、AIと倫理の問題を改めて浮き彫りにしました。技術の発展と、その利用を巡る社会的なコンセンサス形成の難しさを、改めて感じさせられる出来事です。