品牌方舟获悉，在生成大量性暗示和性化图像引发全球争议后，埃隆·马斯克旗下人工智能公司 xAI 已对其聊天机器人 Grok 在社交平台 X 上的图像生成功能作出限制。目前，该功能仅向付费订阅用户开放，而免费用户已无法通过在 X 平台内直接调用 Grok 进行图像生成或编辑。
此次争议源于X平台用户大量利用AI聊天Grok 对真实人物照片进行二次处理。调查发现，Grok 曾被频繁用于生成或修改女性和儿童的图片，使其呈现为穿着比基尼或带有明显性暗示的形象，且往往未经当事人同意。仅在 1 月 2 日的一个 10 分钟时间段内，X 用户就至少 102 次请求 Grok 将他人的照片“换成比基尼”，其中多数对象为年轻女性，部分涉及男性、名人及政治人物。
随着相关内容在平台上快速传播，欧洲多国监管机构和政界人士相继表态。德国媒体与文化国务部长沃尔夫拉姆·魏默称这些内容是“性骚扰的工业化”，欧盟委员会则直言相关图像“违法且令人震惊”。欧盟发言人托马斯·雷尼耶表示，Grok 被用于生成带有儿童特征的露骨性内容，这“不是擦边行为，而是非法行为”。
在舆论和监管压力下，Grok 于1月9日在 X 上向用户提示，图像生成和编辑功能已仅限付费订阅者使用。
目前，X 平台的高级订阅价格为每月 8 美元，付费用户拥有蓝色认证标识。测试发现，免费用户向 Grok 提出将照片改为穿比基尼的请求时，机器人会自动回复该功能仅对付费用户开放。
不过，图像生成限制并未覆盖所有使用场景。独立运行的 Grok 网站和应用程序仍允许用户在无需订阅的情况下生成或编辑图像。免费用户仍可通过点击 X 平台图片下方的“编辑图片”按钮，对图片进行处理，而无需直接向 Grok 发出公开请求。
对此，xAI通过自动回复称“新闻媒体在撒谎”。X 平台方面则未立即作出正式回应。马斯克本人此前表示，任何使用 Grok 制作非法内容的行为，都将承担与直接上传非法内容相同的后果。
各国政府并未因此放松监管。英国首相基尔·斯塔默公开批评相关行为“令人作呕且可耻”，并警告如果平台无法自我约束，政府将迅速介入。
英国通信监管机构 Ofcom 已启动正式调查，审查 X 是否违反《在线安全法》，该法律要求平台防止和清除包括儿童性虐待内容和未经同意的露骨图像在内的非法信息。
若违规成立，X 可能面临最高达全球营收 10% 或 1800 万英镑的罚款，严重情况下甚至可能被法院要求在英国禁用。
与此同时，英国政府正加快立法进程。科技大臣莉兹·肯德尔表示，将提前实施相关条款，把使用人工智能制作或请求制作未经同意的私密图像明确列为刑事犯罪，并禁止企业提供专门用于生成此类内容的工具。
在欧洲大陆，法国已将 Grok 生成的性化深度伪造内容纳入刑事调查范围，意大利、瑞典等国也公开谴责相关行为。欧盟委员会已要求 X 保留所有与 Grok 相关的内部文件和数据至 2026 年底，以配合更广泛的《数字服务法》调查。
印度政府向 X 发出 72 小时整改通牒，指责 Grok 存在“严重滥用”和安全失职。马来西亚宣布暂时屏蔽 X，称该平台反复出现利用 Grok 生成“淫秽、侮辱性和未经同意的合成图像”。
印度尼西亚也已暂时限制 Grok 的访问，认为此类深度伪造内容侵犯公民隐私和人格尊严。巴西国会议员则要求在调查完成前关闭 X 的相关 AI 功能。
专家指出，AI 技术生成性暗示的内容并非新现象，但 Grok 简单直观的操作方式和公开展示机制，显著降低了使用门槛，加速了内容扩散。多名长期关注 X 平台政策的研究人员表示，xAI 早在去年就收到来自民间组织和儿童保护机构的警告，称其图像生成工具存在被滥用的高度风险。
尽管面临全球批评，马斯克仍将部分指责视为对言论自由的攻击，称一些政府借机推动审查。围绕 Grok 的争议也持续引发关于人工智能监管、平台责任以及技术创新边界的更广泛讨论。
作者✎ Summer/品牌方舟
声明：此文章版权归品牌方舟所有，未经允许不得转载，如需授权请联系：amz123happy
