印度责令X平台整改AI聊天机器人Grok
在用户和立法者指出其AI聊天机器人Grok生成了包括利用该工具制作的AI篡改女性图像在内的“淫秽”内容后，印度已下令埃隆·马斯克的X平台立即对其AI聊天机器人Grok进行技术和程序上的更改。
周五，印度信息技术部发布命令，指示马斯克的X平台对Grok采取纠正措施，包括限制生成涉及“裸露、性化、色情或 otherwise 违法”的内容。该部还要求这家社交媒体平台在72小时内提交一份行动报告，详细说明其为防止托管或传播被认为“淫秽、色情、粗俗、不雅、色情、恋童癖或法律禁止的其他内容”所采取的步骤。
TechCrunch审阅的这份命令警告称，如果不遵守规定，可能会危及X平台的“安全港”保护——即根据印度法律对用户生成内容享有的法律责任豁免权。
印度的这一举措源于用户的担忧，他们分享了Grok被提示修改个人（主要是女性）图像以使其看起来穿着比基尼的例子，从而引发了一则正式投诉。与此同时，最近的报告指出，该AI聊天机器人曾生成涉及未成年人的性化图像，X平台此前在周五承认这是由于安全措施存在漏洞所致。这些图像随后被下架。
然而，TechCrunch发现，截至发稿时，通过AI修改使女性看起来穿着比基尼的Grok生成的图像仍在X平台上可访问。
最新命令出台几天前，印度信息技术部于周一向社交媒体平台发布了一项更广泛的咨询意见，TechCrunch也审阅了该意见，提醒平台遵守当地关于淫秽和色情内容的法律是保留对用户生成材料法律责任豁免的前提条件。该咨询意见敦促公司加强内部保障措施，并警告称，若不这样做，可能会根据印度的信息技术法和刑法面临法律行动。
“再次重申，不遵守上述要求将被严肃对待，并可能导致对你的平台、其负责官员以及平台上违反法律的用户的严格法律后果，无需另行通知。”该命令警告道。
印度政府表示，不合规可能导致根据印度的信息技术法和刑事法规对X采取行动。
作为全球最大的数字市场之一，印度已成为测试各国政府在追究平台对AI生成内容责任方面愿意走多远的关键案例。该国执法力度的任何收紧都可能对在全球多个司法管辖区运营的科技公司产生连锁反应。
该命令出台之际，马斯克的X平台继续在法庭上挑战印度内容监管规则，辩称联邦政府的下架权力存在过度扩张的风险，尽管该平台已遵守了大多数屏蔽指令。与此同时，Grok被X用户越来越多地用于实时事实核查以及对新闻事件的评论，使其输出结果比独立AI工具更加显眼——也更具政治敏感性。
X和xAI未立即回应关于印度政府命令的置评请求。