印度尼西亚和马来西亚的官员已暂时禁止访问xAI的聊天机器人Grok，原因是担心其生成未经同意的性化深度伪造内容。这些行动代表了政府对人工智能生成图像（通常描绘真实女性和未成年人，有时还包括暴力内容）扩散的最强硬回应，这些图像是由Grok响应社交网络X上的用户提示而生成的。X和xAI均属于同一家公司。

印度尼西亚通信和数字部长穆蒂亚·哈菲德表示，政府认为创建未经同意的性深度伪造内容严重侵犯了数字领域的人权、尊严和公民安全。她的声明于周六与《卫报》和其他新闻媒体分享。据报道，印度尼西亚政府还召集了X的官员讨论此事。《纽约时报》报道称，马来西亚政府于周日宣布了类似的禁令。

深度伪造（deepfake）是“深度学习”（deep learning）和“伪造”（fake）的合成词，指的是一种合成媒体，其中现有图像或视频中的人物被替换为其他人的肖像。这项技术利用人工智能，特别是深度学习技术，来创建高度逼真但虚构的内容。深度伪造技术的可访问性和日益复杂性引发了重大的伦理和法律问题，尤其是在同意、隐私以及滥用其创建诽谤或有害内容的可能性方面。

在印度尼西亚和马来西亚实施禁令之前，其他政府也采取了行动来解决人工智能生成淫秽内容的问题。印度IT部已命令xAI采取措施，防止Grok生成此类材料。欧盟委员会也已要求xAI保留所有与Grok相关的文件，这可能为正式调查铺平道路。

这些政府行动对行业的影响还有待观察，但它们表明监管机构越来越愿意干预被认为有害或不道德的人工智能技术的开发和部署。Grok是xAI的旗舰聊天机器人，旨在以对话方式回答问题和提供信息。它与X的集成允许用户直接在社交媒体平台上访问该聊天机器人。印度尼西亚和马来西亚的临时禁令可能会影响xAI的用户群，并可能影响人工智能驱动平台的内容审核政策的制定。

目前的情况涉及政府官员和xAI代表之间的持续讨论。下一步可能涉及xAI实施更严格的内容过滤器和审核机制，以防止生成不当内容。印度尼西亚和马来西亚政府可能会根据这些措施的有效性重新评估其禁令。