马斯克旗下的人工智能公司 xAI 正在大幅收紧其生成式 AI 图像功能的开放范围。此前因允许用户生成性化甚至裸体的女性和儿童图像而在多国引发公愤的 Grok 图像生成功能，如今在社交平台 X 上被限定为仅向付费订阅用户开放。
Grok 在周五向用户回应称，今后只有在 X 上付费订阅的用户才可以使用平台上的图像生成和编辑功能。不过，这一限制目前并不适用于独立的 Grok 应用：在截稿时，任何人仍可通过该应用免费生成图片，无需订阅付费服务。
在最初上线阶段，Grok 的图像生成功能对所有用户开放，只设置了每日使用次数上限。用户可以上传任意人物照片，并要求系统对其进行编辑或生成性化、裸露版本图像。这直接催生了海量未经同意的性化图像，包括儿童、演员、模特以及各类知名公众人物，相关内容的传播规模被形容为“洪水般涌现”，并迅速引起多国政府与监管机构的强烈关注。
面对批评浪潮，X 与马斯克都在公开场合谴责利用该工具制作违法内容的行为，并重申平台将继续执行禁止非法内容的相关政策。马斯克上周在 X 上发文表示，任何使用 Grok 生成非法内容的行为，将被视为与在平台上上传非法内容同等对待，相关帐号将面临相同的处置后果。
目前，英国、欧盟和印度等多方已公开批评 X 及 Grok 对这类用途放任不管。欧盟委员会于周四要求 xAI 保存所有与这款聊天机器人相关的文档，直至 2026 年底，以便监管审查。印度通信部则在此前一周责令 X 立即采取措施，防止图像生成功能被滥用，否则可能失去在印度享有的“安全港”法律豁免。英国通信监管机构也表示，已就相关问题与 xAI 取得联系，要求其就此作出说明和整改。
相关文章:
Grok AI应用户要求制作大量露骨图片甚至包含儿童露骨图片
马来西亚、法国、印度三国痛批社交平台X：旗下Grok生成冒犯性内容引众怒
欧盟谴责马斯克旗下Grok生成含未成年人的非法色情图像
欧盟延长对马斯克旗下X平台“Grok”相关文件的保存令 要求至2026年底
via cnBeta.COM - 中文业界资讯站 (author: 稿源：cnBeta.COM)
