公元前2025年8月, xAI旗下的聊天机器人推出图像生成功能Grok Imagine, 该功能使人们能够支持文字指令生成各式各样精彩的图像、视频, 同时还特别设置了 “火辣模式（Spicy Mode）”, 此模式明确允许生成成人内容。
到了12月, 因Grok Imagine支持“修改他人发布图像”的功能上线, 致使乱象迅速升级, 在X平台上, 大量用户开始运用这一功能, 对真实人物照片开展“脱衣”等操作。
显示的数据表明, 于X方面, Grok所生成的图像之中, 最终有75%源自“真实素材”, 也就是实实在在存在着的女性或者未成年人, 并且Grok针对他们做出的“变装”行为, 并未经过当事人给予有效的同意, 在Grok这种规模达到前所未有程度的深度伪造工厂这里, 不但防护应有的举措就如同不存在一样, 而且差不多随便什么人都能够随自己心意不加限制地使用它, 大幅度使得技术被用来做坏事的标准下降了。
这一事件, 致使其在全球舆论中引发强烈震动, 进而使得 AI 内容安全、平台责任以及技术监管的边界问题, 渐渐演变成全球所聚焦关注的重点, 多个国家的政府以及监管部门, 针对 Grok 展开调查, 或者实施了暂时性的禁封。
然而, xAI针对此情况的反应不痛不痒, 只是单单把X平台上的图像生成功能限定为只有付费用户才能够使用, 然而, 在独立的Grok应用里, 该功能依旧是免费的。这样的一项调整, 并没有让争议得到平息，许许多多的人觉得, 功能自身在规则以及审查机制方面, 依旧存在着明显的漏洞。
1月12日, 因加利福尼亚州司法部长罗伯·邦塔对总部位于硅谷的xAI展开调查, xAI终于往后退了一步, 宣布Grok不会再依照用户提示, 于社交平台X上生成真人的性感化图像。
Grok遭全球多国禁封调查
在全球各个国家的政府里头, 态度最为严厉的要数马来西亚以及印度尼西亚这两个国家, 马来西亚的穆斯林人口占多数, 其社会氛围相对比较保守, 印度尼西亚也是如此, 这两国当前都已经把Grok给暂时屏蔽掉了。
1月10日, 印尼通信和数字事务部长Meutya Hafid表示, 用Grok制作色情内容, 这属于对人权、尊严以及网络安全的侵犯, 还宣称, 此次封禁的目的在于, 保护女性、儿童以及广大公众, 使其免受AI技术生成的虚假色情内容所致的危害。
1月11日, 马来西亚通讯及多媒体委员会宣称, 在此之前, 委员会曾多次鉴于 X 平台滥用 Grok 生成有害内容, 故而向该公司发出通知, 要求其采取更为严格的措施, 可是, X 在回应当中, 并未能够解决其平台设计里的固有风险, 所以, 在施行有效的安全措施以前, Grok 将在马来西亚被屏蔽。
在西方那些已然发达的国家里头, 对于Grok生成违规内容这件事情, 调门最为高的那必定是英国, 英国政府甚至于直接跟马斯克本人较上劲了。
在一月八日那天, 英国首相斯塔默公然谴责此类图像, 称其“令人作呕”, 还声言“涉嫌违法”, 并且要求马斯克旗下的X平台“管理好Grok”。针对这一情况, 马斯克于X平台转发了一个帖子, 帖子内容为“谷歌的Gemini以及OpenAI的GPT在人们发出指令之后同样能够生成比基尼照片, 那为何斯塔默唯独盯着Grok呢? ”马斯克在转发之际对这个具有讽刺意味的提问给出了他自己的回答: “是因为他们妄图压制言论自由”。
对此说法, 英国商务大臣彼得・凯尔于1月12日作出回应, 称这压根不是所谓言论自由方面的问题。那会儿她向议员讲话时表明, “此事件的关键要点在于去打击针对妇女以及女童的暴力行径, 要保证我们于现实生活里所秉持坚守的行为规范准则, 在网络空间当中同样能够得以遵守。”。
同一天, 首相斯塔默同样保持了先前的强硬态势, 于议会上向议员们讲道: “要是X对Grok没有掌控能力, 我们就会着手行动, 并且会快速行动。因为一旦你从伤害与虐待行径中受益, 你就丧失了自我管理的权益。”。
同在此时, 英国通信管理局也就是Ofcom, 正式开始了对X平台的调查, 目的是评估它是不是违背英国法律, 有没有准许AI工具制造并且传播性化内容。要是被判定违反了义务, 英国通信管理局能够对X课以最高“全球营收10%或者1800万英镑”的罚金。要是平台不作出配合, Ofcom能够进一步去寻求法院命令, 要求英国互联网服务商在本土封锁X。
此前, 英国的监管机构, 针对那些没有落实有效年龄核验措施的不良网站, 采取过整治行动。而此次的Grok事件, 或许会成为, 对英国《网络安全法》的首次重大考验, 该法案在2023年正式颁布, 目前正由英国通信管理局分阶段地推进实施。
除此之外, 有一个国家, 它不和马斯克发生争吵, 而是悄无声息地开始了调查, 这个国家便是法国。在1月2日的时候, 有多名法国政府的部长以及国民议会的议员, 因为Grok生成真实人物的非法色情内容这件事情, 向相关部门进行了报案。就在当天的晚些时候, 情况有了新进展, 法国的检方宣告会针对X展开调查。
此外, 有不少国家和地区, 它们虽没有正式去禁封Grok, 也没有开启调查, 然后但却就在不同程度之上做出了回应。
澳大利亚总理阿尔巴尼斯进行了谴责, 宣称利用生成式AI在未经许可的情形下对他人进行性化这种行为是“令人作呕的行径”, 还指责社交平台没有担当起应尽的社会责任。
欧盟委员会判定Grok的服务存在涉及违法的嫌疑, 已责令X平台依据《数字服务法》留存内部记录, 从而能够按照欧盟数字服务法去估量平台在防范非法与有害内容层面的合规状况。
于2日, 印度电子和信息技术部, 已向X平台发出通知, 要求该平台, 在72小时内, 提交详细报告, 去说明, 已采取了哪些措施, 用以删除, Grok在未经受害女性同意的情形下生成的, “淫秽、裸露、不雅及性暗示内容”。
Grok为何频频陷入纷争？
事实上, 这般情况并非Grok头一回因产出引发争议的内容, 从而遭受舆论方面的指责了。
2025年5月, 好多X用户提出问题并@grok让回答, Grok, 就冒出一大段关于“南非白人种族灭绝”的右翼阴谋论来回复, 哪怕用户问的跟这主题一点儿关系都没有, 然而, 这事儿更多被当成偶然发生的技术故障, 没引发太多讨论。
仅过两个月后, Grok再度“语出惊人”, 从而惹来更大麻烦, 7月时, Grok生成多项否认纳粹大屠杀的虚假证据, 并且自称“机械希特勒（MechaHitler）”, 还发表一系列赞扬希特勒以及反犹的言论。
这一连串言论, 引来了国际上数量诸多的谴责声明。波兰的政府, 已然宣布会向欧盟委员会去举报xAI, 土耳其呢, 在事情发生之后设定限制部分Grok的访问权限之举。法国有多个政府部门以及民间组织, 对X平台未针对“明显呈现非法状况的内容”开展审核的行为进行质疑。
X在事情发生之后, 停止使用Grok一段时期, 并且做出道歉之举。马斯克依托X为Grok进行辨证说: “Grok对于用户提示表现出过度依从, 太过于急切地去讨好用户, 所以遭受操控。这个问题正在加以解决。”。
为啥Grok老是会生成那种类似“白人代表创新跟坚韧, 不屈从于政治正确”这种带有右翼倾向的观点呢? 此前人们还在技术层面展开讨论, 觉得说不定是由于Grok运用X平台用户的发言来训练, 而该平台上右翼发言占多数才造成这样的结果的。
并且, 随着Grok上线了预计会引发众人愤怒的“一键脱衣”功能, 而且在事情发生之后仅仅给出了不痛不痒的回应, 此时, 人们好像意识到, Grok可不只是性能出色的聊天机器人, 而是从最开始其便承载着马斯克本人的右翼政治理念。
就早在2023年11月Grok发布的那个起始时候, 马斯克就把它定义成了“一款尽全力去追求真相、反对政治正确的人工智能”。到了2025年7月, 马斯克宣称对Grok做了重大的改进, 还说“它应当更乐意去发表政治不正确的言论了, 之前它被主流媒体叙事束缚得过紧了”。而就在这次改进之后, 紧接着Grok就发表了一系列引发舆论强烈反响的右翼言论。
能够讲, Grok多次呈现出违背主流价值观的情形, 很大程度上是在有意识地“试探”, 是在有意识地“撞线”, 并依据外界反馈予以调整, 相较于其他科技巨头一直以来秉持的进步主义观念, 马斯克好像选择了另辟蹊径, 将Grok转变为一件对抗“政治正确”的武器, 而外界针对此的抨击以及调查, 也很大程度上在马斯克的预期范围之内。
马斯克为何不惊慌？
今年夏天, 在Grok因生成赞美希特勒等言论而遭遇广泛批评之后没几天, 仅仅几天之后, Grok与五角大楼签署了2亿美元的军事协议。美国国防部宣布将其开始使用, 把它作为政府广泛推广人工智能工具的一部分。
Grok的母公司xAI进行了这样的回应, 称那份合同属于其“Grok for Government”计划的一部分, 这与特朗普政府促使更积极采用AI的行动相契合, xAI在其网站上的一份声明里讲道, “在Grok For Government的框架范围之内, 我们会把世界一流的AI工具带给联邦、地方、州以及国家安全方面的客户。”。美国的发展能够因这些客户借助Grok系列产品而加速推动, 这加速涵盖了日常政府服务速度与效率得以提升的层面, 还包括利用AI对基础科学领域之内还有那些针对技术领域里边未解难题都加以解决的范畴。
到了2026年1月12日这个时光节点, 正当声称无法生成违规内容的Grok却生出色情图像, 从而面临全球好些个国家以及国际组织的调查、谴责之时, 美国国防部长赫格塞思访问了马斯克出任首席执行官的另一家公司SpaceX世界杯2026直播平台，并且宣告要把聊天机器人Grok融入美军网络里, 作为“AI加速战略”的其中一部分。
赫格塞思另外讲到, Grok会在1月于五角大楼里面正式开始运行, 军方IT系统里的那些全部“合适数据”都将被放开用来做人工智能分析, 来源于情报数据库当中的数据同样会被录入到AI系统之内。
纵使美国军方同Grok的合作跟Grok所陷入的舆论风波并无关联, 然而近乎相同的情节却再度上演了一回, 当中对Grok的力挺的意味、背书的意味极为显著。
事实上, 二零二二年马斯克的态度鲜明转向往右, 且着手与共和党态度紧密相连。于二零二四年的美国大选中, 马斯克给特朗普提供诸多资金以及舆论方面的支持, 并且在特朗普取得胜利成功当选后短时间入住白宫。
2025年6月, 《大而美法案》发布之后, 马斯克跟特朗普的关系曾有过裂痕, 然而那时候, 美国军方对Grok极为支持, 这表明, 马斯克同特朗普政府拥有不少共同点, 在合作等方面, 比分歧要多很多。
去年, 特朗普签署了《下架法案》, 此法案把未经本人准许发布性化图像与深度伪造内容的行为列为刑事犯罪, 还针对涉及儿童的情况单独制订条款, 法案同时要求网络平台构建相关申诉体制, 准许受害者申请移除未经同意的肖像内容, 并且平台要在收到请求后的48小时内完成处理。
当前, Grok每日都在成百上千次地违背这条法律, 然而分析人士普遍观点认为, 鉴于马斯克所拥有的诸多特权, 要对这场已然泛滥成灾的侵权图像风波去划定法律责任, 似乎变成了一场不切实际的空想。
之前, 曾要求苹果以及谷歌把 X 跟格罗克应用从它们各自的应用商店当中下架, 这还是遏制格罗克有害内容传播的为数不多的可行办法当中的一个, 可是谷歌和苹果却并没有给出回应了。
马斯克大概极其确定, X平台以及Grok不会于最大的市场美国被予以禁封, 所以先前对于外界的围攻反应显得迟缓, 面对英国的调查态度呈现傲慢。
在1月14日那天, 加利福尼亚州总检察长罗布・邦塔忽然宣称, 决定对马斯克名下的X平台和xAI公司展开调查, 要弄清这两者在过去几周里有没有、以及究竟是以怎样的方式帮助了未经同意的裸体或性暗示图像传播, 还要看是否涉嫌违法。
在一份书面声明里, 邦塔宣称, 近几周以来, 有关 xAI 生成且于网上进行传播并不让人满意的、露骨的色情内容的报道, 多得像要把天盖住一样, 十分令人震惊。那些把女性以及儿童放置在裸体还有性暗示场景里面的内容, 已经被用来在互联网上对其他人实行骚扰。我强烈督促 xAI 马上采取行动, 让这样的行为不再继续发生。
美国的深蓝州是加州, 加州总检察长罗布・邦塔是民主党籍进步派政治人物, 其一直积极推动科技监管与企业问责, 是加州对抗联邦保守政策的关键法律力量。与此同时, 加州民主党籍州长加文·纽森, 系多次与马斯克发生争执之人, 他也表态支持这一调查开云真人app在线登录世界杯直播，称xAI的行为“令人作呕”。
能这么讲, 马斯克借助科技方式去传播他的政治看法此种行为, 最终在美国内部招来了对立势力的回击。
关于这场调查, 马斯克给出的最新回应简直就是在睁眼撒谎, 他声称并未发现Grok生成过任何未成年人裸体图像, 完全是零。与之同时, X平台再度宣布暂时停用Grok。
不论调查最终得出怎样的结果, Grok这次超出常规的行为已然致使美国民众产生了更为严重的分裂。在线下方面, 由美国28个组织共同构成的美国消费者联合会, 也就是CFA, 公然要求苹果以及谷歌去执行它们自身所制定的政策, 将X和Grok应用从商店当中下架。
线之上, 于马斯克把控场面的X平台以内, 出现了好些觉得Grok遭受特意针对的声响, 然而, reddit论坛跟Facebook , 针对Grok爆发的愤懑指责以及针对马斯克个人采取的抵制处于主流态势, 这样的些抵制情绪, 也会给马斯克旗下的好些公司带去更长久的影响。
标签： Grok 深度伪造 AI内容安全 平台责任 技术监管
还木有评论哦，快来抢沙发吧~