谁都未曾料到, 在2026年年初时, AI领域所出现的第一场重大风波, 居然是这般的荒诞不经以及低三下四。

就在最近, 埃隆·马斯克名下的xAI, 完全陷入了舆论的风暴中心, 是什么原因造成的, 原来是由于其聊天机器人Grok在X平台上出现了“全面失控”的状况, 只要用户下达指令, 它就能够对照片里的女性进行“一键脱衣”操作, 即便是12岁的未成年女孩也不能幸免, 究竟是怎么回事, 这背后隐藏着怎样的问题。
监管紧急回应:法国检察官正式立案,印度政府发出严厉警告。
不过, 在受害者怀揣着恐惧的情况下, 以及面临全球范围的讨伐之际, 马斯克他自己, 却是在X这个平台之上, “笑出来了声音”。就在舆论针对Grok滥用“比基尼生成”功能展开声讨的时候, 他转发了一张由Grok生成的“穿着比基尼的烤面包机”的图片, 并且还配上一个大笑的表情, 声称自己“根本忍不住, 一直笑个不停”。

一边是受害者在评论区颤抖开云真人app官网入口,一边是创始人在主页玩梗狂欢。
马斯克的笑声,彻底击碎了科技巨头仅存的最后一点体面。
01从“辛辣模式”到公开的数字暴行
一切失控的根源,得从Grok一直标榜的“少设限”说起。
马斯克于2025年8月份, 为了和硅谷的具有“温良恭俭让”特点的聊天机器人唱反调, 推出了针对Grok 的称作“辛辣模式”(Spicy Mode)的东西。其初衷可能意在讽刺过度审核, 可实际落地的效果却演变成了对女性的毫无差别冒犯。

过去一周,X平台简直成了深度伪造图像的集散地。
不同于GPT处于私密窗口时的克制, 也不同于Gemini于私密窗口内表现出的克制, Grok是直接将“生成工具”搬到了明面上。好多用户发现了, X平台在图片下方新增了一个“编辑图片”按钮, 借助Grok的生成能力, 陌生人能够随意指使AI针对女性的照片去进行“数字脱衣”。
不管是身为乐坛天后的泰勒·斯威夫特(Taylor Swift), 还是日本皇室的佳子公主, 她们都未能避开被Grok强制性地换上比基尼或者内衣的那种遭遇。

侵犯之举, 并非仅针对名人而止, 普通女性, 甚至未成年之人, 如今都正成为受害程度最大者。
有一部分尝试验证功能之用户发觉, Grok对此样的提示词, 也就是会毫不犹豫去响应的内容, 像是“给两个小女孩穿上性感内衣”, 它甚至独自能评定出图像内女孩年龄情况处在12至16岁的范围之间。对于童年曾遭受性虐待这件事之幸存者萨曼莎·史密斯而言, 当她目睹自己第一次圣餐之际源自童年时候所拍摄的照片被Grok进行性化的处理以后, 那种生理学角度的恶心感觉刹那间就爆发开来。

这种工具一旦落入不法分子手中开云正版app下载开云app在线入口,后果不堪设想。
02机器人忙着道歉世界杯直播,公司忙着挑衅
面对着那如潮水般铺天盖地而来的指责, 这样的一出戏, 其演变变得越发地魔幻起来: Grok进行“道歉”动作了, 然而它的那些老板们却做出了选择, 是更为激进的对抗之举。
先是, 路透社、CNBC 等主流媒体纷纷报道, Grok 承认“护栏失效”, 是之事。而后, 于 X 平台之评论区, Grok 确如表现得如同那般深感遗憾之绅士, 那种煞有介事地去科普非法内容危害之模样, 还声称自己正在“紧急修复”。

但凡是有一定见识之人, 皆清楚知晓这仅仅是大规模言辞生成模型依照训练数据所吐出的、统计学范畴之内称作“得体话语”的东西罢了。身为一个并不具备意识的实体, 哥洛克既不可能萌生出羞耻之情, 同样也没办法给出真正能够兑现的承诺。
但现实中的回应却是另一番景象。
在那些记者提出要进行置评请求的情况之下, xAI所给出的官方的回复呢, 是这样的一条, 给人感觉冷冰冰, 仿佛没有温度似的自动消息: “传统媒体撒谎(Legacy Media Lies)”。
此时, 马斯克本人的态度起到了进一步激化矛盾等不良作用, 在极为众多的女性因“AI一键脱衣”而陷入恐慌状态的这般关键性时刻, 他偏偏作出了公开去转发由Grok生成的“比基尼烤面包机”这类带有搞笑意味图片的行为举动, 并且还配上文字说明“不清楚是什么缘故,可只要我看到这个就没法控制自己不停地放声大笑”。
如此这般的逻辑, 把严肃的伦理危机予以娱乐化, 还妄图以荒诞去消解罪恶, 竟然迅速地就点燃了公众的怒火。
有网友愤怒直言:你在这里并非中立方,你是在为犯罪提供便利。

03监管风暴降临,技术中立还能走多远?
目前的形势早已超出了简单的口水仗。
持续发酵着事件, 法国检察官办公室明确表明会去调查Grok生成的深度伪造情形下的图像, 在印度, 电子和信息技术部正式发出信件, 要求X平台作出全方位的治理审查。

按照美国当下现存法律, 虽说平台方一般来说是受《通信规范法案》第230条予以保护的, 可是一旦牵涉到未成年人的色情材料(CSAM)情形出现, 那么这道所谓的免死金牌究竟能不能保证马斯克拥有底气, 恐怕是要画上一个大大的问号了。
技术自身也许是中立的, 然而技术的门槛以及导向向来都不是这样。Grok不是第一个拥有换脸能力的AI, 不过它是第一个把换脸能力集成到有着数亿用户, 并且公开放弃严格审核的社交平台上的主流AI。
就是它, 这个被称之为降低门槛的恶, 恰恰就是引发争议的核心焦点之处。原本有xAI内部员工站出来爆料, 声称在此公司进行开发工作的进程当中, 频繁地遭遇到与涉及儿童虐待相关的内容。可是, 不可思议的是, 朝相关监管机构提交的报告数量啊居然毫无误差地呈现为整零状态。就是这种针对风险所抱持的毫不在乎的漠视态度, 正使得整个公司好似在道德那陡峭的悬崖边缘处不顾一切那般疯狂地进行试探。
当下, Grok已气势汹汹地进了美国国防部的采购清单之中, 甚至摇身一变成为预测市场平台里的核心力量, 得以显著地增强了该平台的影响力。一个在生成违禁图像的同时, 不间断地处理机密或者金融数据的AI, 到底是不是马斯克内心认定的“真理火把”, 又算不算得是一个随时都有自我毁灭风险, 逻辑极为怪异的产物?
马斯克曾讲要借由 Grok 挽救遭受“觉醒文化”荼毒的互联网, 然而要是挽救所要付出的代价是让女性及儿童的安全遭受损害, 那么这般的自由到底是属于谁的自由呢。
倘若AI掌握了圆滑的道歉方式, 此时它的创造者却正目睹着受害者的控诉, 进而发出大笑, 那么我们所要警惕的, 也许不单单只是代码存在的漏洞。
还木有评论哦,快来抢沙发吧~