首页 IT资讯网 “AI换脸”以假乱真,规范人工智能的步子要快些

“AI换脸”以假乱真,规范人工智能的步子要快些

更新时间:2023-11-10 分类:IT资讯网

  在某些人工智能技术应用门槛不断降低而触达面越来越广的当下,积极着手问题的研判与应对,研究出台有效举措划清新技术使用的边界、相关权责等,都应当快马加鞭,少一些空白、多一些规范。

  近来,著名小品演员、相声演员“飙英文”的视频让公众大呼震惊。据11月5日央视报道,视频网站上通过人工智能换脸,国产影视剧里的主角用英语说起了台词,人们通过小程序也可以将自己变成电影里的人物。该新技术给人们带来欢乐的同时,也带来了一种名为“AI换脸诈骗”的新骗术,不法分子通过虚拟摄像头,用“AI换脸”功能跟受害者聊天,相似度可达80%,而一台电脑合成一段10秒的换脸视频只需要一两分钟。为此,国家金融监督管理总局北京监管局近日发布谨防“AI换脸”等新型欺诈手段的风险提示。 长沙新闻网

  “AI换脸”来了,这让不少人感受到人工智能技术正在改变我们的生活。除了用于开发娱乐性小软件外,人工智能技术正在被广泛应用于医疗、新闻传播、生物多样性监测等领域,其发展前景值得期待。

  人工智能技术迅速发展,技术升级迭代的速度超出很多人的想象。在文字写作上,今天,相关技术可以实现用简短素材短时间生成复杂内容,其专业性、便捷性很强。以前的人工智能合成语音相对粗糙生硬,如今合成的语音不仅有着与真人一样的语气语调嗓音,甚至还有了情绪。

  此外,某些人工智能技术的可及度提升,公众的应用门槛降低。用户使用某些人工智能软件并不需要具备专业知识和技能,甚至有些产品已实现“傻瓜式操作”。比如,很多视频剪辑软件或短视频平台上就有生成方言语音的功能,用户录入文字或语音素材就可以即刻生成活灵活现的方言版字幕,丰富自己的视频作品风格。

  以“AI换脸”为例,其行业门槛并没人们通常想象的那么高,通过算法开源,普通工程师可以“分分钟”制作出一个变脸软件,这就导致控制源头存在天然的困难。几年前,一名外国工程师基于一个算法开源项目开发了某款变脸软件,一时间,很多人在参加线上视频会议时都纷纷化身“阿凡达”“马斯克”,令人啼笑皆非。

  问题随之而来,一是人工智能终端产品已经铺天盖地,但鉴别技术和设备却未能普及,二是相关规制约束没能及时跟上技术发展的脚步。这些在很大程度上让某些人工智能技术有了被滥用的空间,公众的担心由此而起。

  应该看到,相关监管一直在持续发力。近几年,国家网信办等部门先后出台了《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等政策文件,陆续开展了“互联网深度合成算法备案”“大语言模型算法备案”等有关工作,有效促进了生成式人工智能的健康发展和规范应用,对利用AI换脸、变声等手段实施违法犯罪等行为形成有力震慑。同时,一些头部互联网平台也在探索算法检测、软件识别等办法来识别人工智能生成产品并向公众标注说明,减少信息差,提升公众防范意识。 三明新闻网

  一项新技术的落地应用往往会经历一段“成长的烦恼”,这是新事物发展过程中的共性问题。比如近年来的共享单车押金难退、伤亡责任纠纷,直播带货虚假宣传、售后难觅等等。有关方面解决问题的共同思路就是加快规制步伐,不断补上法律法规和行业公约等“拼图”。同样,在某些人工智能技术应用门槛不断降低而触达面越来越广的当下,积极着手问题的研判与应对,研究出台有效举措划清新技术使用的边界、相关权责等,都应当快马加鞭,少一些空白、多一些规范。

  某种程度上,人工智能技术的使用有多方便,就可能有多少风险和变数。防范包括“AI换脸”在内的人工智能技术被滥用,要加强对人脸、声纹、指纹、步态等生物信息数据的安全防护。这需要每个人提高防范意识,更需要监管部门在完善规制的进程上加快脚步。(本报评论员 吴迪) 新能源汽车网

版权声明: 本站内容部分来源网络,版权归作者所有,如有侵权,请联系我们删除!
相关文章
一段时间以来,缅北成为人们关注的焦点。“中国科学院博士被骗到缅甸一年,每天被强迫工作18小时”“日薪1000元!大学生境外求职,竟身陷缅北”……境外电诈分子极为猖獗,严重威胁百
admin 2023-11-10
◎本报记者 崔 爽 近日,工信部印发《人形机器人创新发展指导意见》(以下简称《指导意见》),提出到2025年,人形机器人创新体系初步建立,整机产品达到国际先进水平,并实现批量生产
admin 2023-11-10
今年双11购物节期间,手机消费异常火爆。数据显示,10月31日晚,某电商平台双11活动开场10分钟,诸多品牌手机成交额同比增长100%。机构表示,智能手机换机周期逐渐到来,持续看好双11期间
admin 2023-11-10
本报讯(记者 付奇)近日,省工信厅、省教育厅、省文旅厅、省国资委、省广播电视局五部门联合发布《江苏省元宇宙产业发展行动计划(2024-2026年)》。《行动计划》提出,到2026年,江苏元
admin 2023-11-10
工信部日前印发的《人形机器人创新发展指导意见》,按照谋划三年、展望五年的时间安排,对人形机器人创新发展作了战略部署。《经济参考报》记者在采访中了解到,目前我国多家科技企
admin 2023-11-10
近日,北京师范大学经济与工商管理学院、中国教育与社会发展研究院在京联合发布《2023中国进口发展报告》(下称“报告”)。报告显示,近年来,中国货物进口规模整体呈现快速增长的发
admin 2023-11-10
全球正加速进入数字时代,人工智能、大数据等新一代信息技术飞速发展。教育是民族振兴、社会进步的重要基石,也是推动科技发展的重要动力。我国正在加快建设世界重要人才中心和创新
admin 2023-11-10
本报记者 许林艳 王镜茹 算力概念热度持续升温。11月7日,一则署名为北交所上市公司并行科技董事长“陈健”的微信信息在市场上流传,信息内容显示:“我们算力服务已经上线10000张A800/
admin 2023-11-10
要坚持以人为本,智能向善,引导人工智能朝着有利于人类文明进步的方向发展 □ 郝敏 近日,中国、英国、德国等28个国家在英国的布莱切利庄园签署了《布莱切利宣言》(以下简称《宣言》
admin 2023-11-10