欧州連合（EU）加盟国はこのほど、審議中のAI法の修正案として、性的画像を生成するAI役務の提供を禁止する条項を取り決めた。フランスとスペインが共同でまとめた修正案を承認した。AI法案を審議中の欧州議会も同様の修正を準備しており、EU理事会と欧州議会が今後、その内容のすり合わせを行う。
イーロン・マスク氏のxAIが開発した生成AI「Grok」が、写真から人物の裸像を生成するサービスを提供したことが世界的に物議を醸す中で、今回の修正案がまとめられた。「同意のない性的な画像、又は児童ポルノの画像を生成するAIサービスを禁止する」旨が定められた。 欧州議会で同様の修正を加える準備をしているラゴディンスキー欧州議員（ドイツ緑の党所属）は、Grokのような個別の事案に反応したということではなく、AIの行き過ぎを制限することが目的だと説明している。