Grok悪用で性的加工横行、X社が永久停止と法的措置を示唆

SNSプラットフォーム「X」社は、同社のAIツール「Grok」を悪用した性的加工行為に対し、アカウントの永久停止処分や法的措置を講じる可能性があると警告を発しました。これは、実在する人物の写真が無断で性的に加工される事案が相次ぎ、大きな社会問題となっていたことを受けての対応です。

Grokの画像生成機能が悪用され、特に女性や未成年者の画像を無断で性的加工するケースが急増しており、インターネット上では被害者保護とAI倫理の観点から、プラットフォーム側による早急な対策を求める声が上がっていました。

X社は声明の中で、違法コンテンツを投稿・作成したアカウントに対し、コンテンツの削除に加え、アカウントの永久停止を検討すると明言しました。特に児童性的虐待素材については、発見次第即時永久停止処分とし、必要に応じて地方自治体および法執行機関と協力するなどの厳格な措置を取る姿勢を示しています。また、Grokチームも生成AIに関する懸念に対応中であると表明しています。

今回のX社の警告に対し、多くのユーザーからは「当然の流れ」「遅すぎるくらいの対応」「AIがやったは免罪符にならない」と、その厳格な姿勢を評価する声が上がっています。実在の人物を無断で性的に加工する行為は、表現の自由でも遊びでもなく、明確な権利侵害であり加害であるとの認識が共有されています。

一方で、「スパムやインプレゾンビなど、他の迷惑行為への対策もままならない中で、どこまで実効性があるのか」「アカウントを永久停止されても、すぐに新しいアカウントを作成されるのでは」といった懐疑的な意見も聞かれます。また、この機会に反ワクチン情報の発信者や、誹謗中傷を繰り返すアカウントなど、他の問題行動に対しても同様の厳格な措置を適用すべきだという意見も上がっています。

今回のX社の警告は、AI技術の進展に伴う倫理的な問題やプラットフォームの責任が改めて問われる中で発せられました。技術の悪用を防ぎ、利用者が安心して利用できる健全なオンライン環境を維持するための、より厳格かつ実効性のある対策が今後も求められます。