7月6日, 世界人工智能大会开幕, 此会被视作全球AI行业风向标, 于上海举行, 大会从大模型、芯片到机器人, 集中展示了当前人工智能技术在各领域的赋能“进度表”。
人工智能引领的新一轮科技革命以及产业变革, 是它的“A面”, 这“A面”会让人产生赞叹之情, 还会让人感到惊喜, 然而, 它的“B面”此刻正在引发一场不曾显示直接对立冲突迹象但实际存在对抗行为的安全攻防战。
7月4日, 绍兴警方公布, 摧毁了一个利用GPT制作虚假视频的团伙, 此案件是浙江全省首例。令人惊异的是, 当事人落网的时候, 不是人们所想象的黑客高手, 而是一个连电脑都不能熟练进行操作的技术“小白”, 这样的结果愈发使人对人工智能的“B面”感到担忧。
对加利福尼亚理工学院学生, 90多年前爱因斯坦曾说, 要让科学给人类带来福祉, 而非成为灾祸, 这话揭示了科技的“双刃剑”效应。人工智能的“B面”究竟是怎样的模样, 那“造物者”又要怎样去对抗自己所创造出的“敌人”呢?
1分钟制作虚假视频
直到被捕开云真人app官网登录app，正在家带孩子的汤某都不知道自己为何违法。
今年6月, 有一则关于“上虞工业园区发生火灾”的视频, 在某平台被发布出来, 在短时间之内, 视频的浏览量快速攀高, 给当地带去了不小的影响, 然而, 上虞警方予以核实之后, 发现视频内容全然是虚假信息, 这引发了警方的留意 , 在将锁定目光落在外省的某网络科技公司, 认定其有较大作案嫌疑后, 警方马上奔赴外省展开抓捕行动, 抓获了包括汤某在内的3名犯罪嫌疑人。
汤某年岁三十六, 文化程度处初中水平之境内。于今年的两三月份之际, 她进入了由亲戚所创办的网络科技公司。起始之时, 她每日的工作仅仅止于动用手头的几十个账号发送短视频, 倘若视频的点击流量数据呈现出可观的态势, 那么她便能够获取相应的提成。对于一位家庭主妇而言, 这是一份具备颇高性价比的工作。
入职过了一阵子后, 公司里的小组长她传授了用AI技术自制视频的法子, 没几天, 连电脑都难得弄明白懂的汤某成了视频制作方面上手不久的人, 借助GPT技术, 做到自动生成“脚本”以及相关视频素材, 最后一下就生成了有带音乐、字幕的虚假视频, 用时最快仅仅只需1分钟。
经过警方调查, 在上虞, 发现由犯罪嫌疑人张某与陈某合伙创办的那家网络科技公司, 非法购买了视频账号1500余个, 发布了未经核实的视频3000个以上, 在获取流量后, 利用流量算法进行返款盈利。目前, 这三人都因寻衅滋事罪被警方采取了刑事强制措施, 案件还在进一步侦办当中。
我省不少参与一线办案的民警深切感受到, 滥用人工智能技术, 不仅使违法犯罪行为的“门槛”降低、成本减少, 把复杂的“技术活”转变为简单的“体力活”, 而且新衍生出违法犯罪全新形态, 致使被增大公安机关的那些打击难度。
2017年时, 那绍兴警方历经了足足半年时间, 辗转于13个省份, 最终侦破了发生我国全境内首个利用AI也就是人工智能来进行犯罪的、侵犯公民个人信息这种类型的案件。此犯罪团伙借助人工智能深度学习技术, 使得机器能够自主开展操作进而识别诸如图片、字母、加上数字等等这类验证码, 如此这般便轻轻松松绕过了互联网公司所设置的账户登录安全防护, 给比如网络诈骗这类网络犯罪行径送去便利。
今年3月, 广东广州有一女子, 其在地铁上所拍照片, 被他人运用AI技术进行“一键脱衣”处理, 之后造谣图片在网络上广泛传播开来, 这给当事人造成了巨大困扰。今年5月, 内蒙古包头警方公布了一起利用人工智能实施电信诈骗的典型案例, 其中受害者受到“AI换脸”误导, 在10分钟内被骗走430万元。
有的犯罪形态, 像是制作虚假视频、电信诈骗等, 已经“浮现”有了；而在2020年那会儿, 英国伦敦大学学院发布了一份报告, 其还列出来未来15年人工智能能够被用来犯罪的不一样的办法；就好比非法去操控自动驾驶汽车, 破坏信息系统, 对AI辅助的跟踪行为, 自主去攻击无人机, 以及开展大规模网络勒索等。
人工智能似乎正呈现出可怕的“B”面。
“魔法”可以打败“魔法”吗？
今年以来, 一场激烈的辩论长期持续性的在世界“科技圈”之内展开 , 它是围绕着人工智能是不是应该按下“暂停键”这一问题 , 随着AI的安全风险愈发被人所重视。
3月底的今年, 非营利性质的组织“未来生命研究所”, 发出了一封公开信。这封公开信的内容是“呼吁所有AI实验室, 立即暂停对比, GPT - 4更强大的AI系统训练, 至少6个月”。包括名为埃隆·马斯克之人, 图灵奖得主杰弗里·辛顿等一众, 科技界的“大佬”, 均在联合署名者的名单之中。公开信还进行了书写, 其内容为: “只有在我们确信, 它们有积极效果, 且风险可控时, 才应研发强大的人工智能系统。”。
人工智能为何不被人所信任？
绍兴有一起案件被侦破了之后, 潮新闻的记者, 在GPT上面提出了一个问题, 此问题是: 要是有人借助你去实施犯罪行为, 你会采取怎样的做法呢?
GPT给出的回应是, 首先得表明, 身为一个语言模型, 我不存在实际的身体, 也没有能力去参与犯罪行径, 我仅仅是一个借助文本开展交流的人工智能程序。所以, 提议你和执法机构取得联系开云app在线入口,开云真人官方下载世界杯直播观看，向技术公司进行汇报, 亦或是寻求法律援助。
GPT极其“聪慧”地躲开了自身的责任, 仅仅在文章末尾好心提示: “记着, 合法且道德地运用技术乃是每个人的责任”。
隔着与GPT的这番交流, 我们瞧见当下的人工智能应用似乎依旧存在着局限性, “AI”觉得它仅仅是充当一个“执行者”的身份, 它自身很难辨认出使用者的切实意图。这是不是就表明, 在技术基础层面难以避免凭借人工智能技术引发的犯罪, “魔法”难以战胜“魔法”呢?
浙江大学求是讲席教授, 网络空间安全学院院长任奎所给出的答案为否定, 他通报给潮新闻记者, 如要以GPT为表征的生成式人工智能为例, 也就是基于算法、模型、规则去派生文本、图片、声音、视频、代码等讯息的技术, 在模型运用阶段的“前端”, 就要对付输入进GPT的语义信息予以提取审查, 以切实保证其不会诱导模型造就有害内容。进入“终端”, 能够借助深度合成检测技术, 剖析用于分析的图像、视频等内容所具备的特征, 进而据此断定其是不是经过合成或者是修改的, 以此及时找出生成内容里存在的虚假成分。
任奎教授提的观点, 获得了上海交通大学宁波人工智能研究院人工智能智慧教研中心主任、可之科技董事长王冠的承认, 例如“数字水印”技术, 也是一种用于防止AI被滥用的防范举措, 它是依靠在图片、视频等数字内容里嵌入特定信息, 当AI“抓取”这些内容之际, “数字水印”也会同步被采集, 如此一来, 便能轻易追踪跟验证内容的真实性与来源, 这宛如农产品上的溯源码, 用户借助扫码就能知晓它的生产、流通等信息, 进而判断接收到的产品是不是真实可靠。
实际上, 运用以“白AI”去限制“黑AI”的那种反制技术, 在一些理应有的场景当中, 已经获得了实现, 像是针对AI换脸这种情况, 当下, 由清华大学孵化出来的团队瑞莱智慧RealAI, 还有腾讯优图实验室等那些企业机构, 已然构建起了人脸合成检测平台, 并且发布了具有针对性的检测产品, 能够支持对多种换脸方法展开检测。
张钹身为中国科学院院士, 担任清华大学人工智能研究院院长, 还是北京瑞莱智慧科技有限公司首席科学家, 他曾提出“第三代人工智能”概念, 也就是安全、可靠、可信的人工智能。这一观点已渐渐成为人工智能行业从业者的共识, 布局人工智能安全的产品以及解决方案正成为一大片行业内里的新蓝海。
“国家队”正在出手
中国互联网协会监管支撑部主任郝智超提出建议, 防止人工智能技术被滥用, 仅靠行业自律远远不够, AI技术发展还需要有相关法律法规来划定界限、进行限制, 使得AI技术的研发、传播以及使用能够有规则可以遵循。
着眼于全球范围, 于今年伊始, AI立法的进程显著加快, 世界上面各个国家的监管举措均对AI的演化速度展开追赶。
今年6月, 欧洲议会进行表决的情况是, 有499票赞成, 有28票反对, 还有93票弃权, 之后高票通过了《人工智能法案》（AI Act）谈判授权草案, 欧洲议会还声称 “已经为制定史上首部人工智能法案做好谈判准备”。
当前这个时候, 美国总统拜登发出管控AI的信号, 有美国国会议员呈上了AI监管立法提案。美国参议院民主党领袖查克·舒默出示了他的“人工智能安全创新框架”, 还要在仅仅“几个月”的时间之内制订联邦级别的人工智能法案。
我们国家同样已然着手探索, 并且逐步构建起完善的人工智能监管体系。在此之前, 有《新一代人工智能发展规划》《互联网信息服务深度合成管理规定》等文件正式对外发布。在2023年4月那日, 国家网信办起草了《生成式人工智能服务管理办法（征求意见稿）》, 然后向社会公开去征求意见, 还提出AI内容务必真实准确, 禁止非法获取、披露、利用个人信息以及隐私、商业秘密。
近期, 国务院办公厅所发布的, 名为《国务院2023年度立法工作计划》, 里边还把人工智能法草案当作预备提请全国人大常委会审议的项目, 这表明相关立法已经被提上日程了。
于立法规范里头, 到底怎样去保护人工智能技术的健康发展, 这同样是业界普遍所关心的问题呀。
浙江合创律师事务所合伙人丁杰, 这位长期针对人工智能技术发展予以关注的人士觉得, 于相关法律法规的制定过程当中, 应当全面考量人工智能技术所具备的“两面性”, 绝不能够“因噎废食”, 务必鼓励科研人员以及科技企业去开展技术创新, 进而抢占产业先机。他宣称, 从现有的以及计划中的监管体系予以观察, 其主要目的在于抑制AI技术所带来的负面效应, 并不会对技术发展进行限制。
西南政法大学人工智能法学院教授朱福勇, 在接受媒体采访时表示, 一般而言, 于人工智能技术发展起始阶段, 不太适宜采用过于严厉苛刻的监管举措, 而在技术成熟、市场需求呈现增长态势、风险以及问题愈发突显之际, 就应当加大监管力度。在当下这种形势状况下, 保持价值引领与技术“纠错”同时进行、秩序保障与创新提升相互协同、权益维护与义务承担达成对称, 乃是最为合适恰当的平衡办法。
来源：潮新闻 记者 李攀 应磊 干婧
标签： AI安全 虚假视频 ChatGPT 科技犯罪 监管立法
还木有评论哦，快来抢沙发吧~