发布时间：2024-11-18 09:37:18 来源: sp20241118
在某些人工智能技术应用门槛不断降低而触达面越来越广的当下，积极着手问题的研判与应对，研究出台有效举措划清新技术使用的边界、相关权责等，都应当快马加鞭，少一些空白、多一些规范。
近来，著名小品演员、相声演员“飙英文”的视频让公众大呼震惊。据11月5日央视报道，视频网站上通过人工智能换脸，国产影视剧里的主角用英语说起了台词，人们通过小程序也可以将自己变成电影里的人物。该新技术给人们带来欢乐的同时，也带来了一种名为“AI换脸诈骗”的新骗术，不法分子通过虚拟摄像头，用“AI换脸”功能跟受害者聊天，相似度可达80%，而一台电脑合成一段10秒的换脸视频只需要一两分钟。为此，国家金融监督管理总局北京监管局近日发布谨防“AI换脸”等新型欺诈手段的风险提示。
“AI换脸”来了，这让不少人感受到人工智能技术正在改变我们的生活。除了用于开发娱乐性小软件外，人工智能技术正在被广泛应用于医疗、新闻传播、生物多样性监测等领域，其发展前景值得期待。
人工智能技术迅速发展，技术升级迭代的速度超出很多人的想象。在文字写作上，今天，相关技术可以实现用简短素材短时间生成复杂内容，其专业性、便捷性很强。以前的人工智能合成语音相对粗糙生硬，如今合成的语音不仅有着与真人一样的语气语调嗓音，甚至还有了情绪。
此外，某些人工智能技术的可及度提升，公众的应用门槛降低。用户使用某些人工智能软件并不需要具备专业知识和技能，甚至有些产品已实现“傻瓜式操作”。比如，很多视频剪辑软件或短视频平台上就有生成方言语音的功能，用户录入文字或语音素材就可以即刻生成活灵活现的方言版字幕，丰富自己的视频作品风格。
以“AI换脸”为例，其行业门槛并没人们通常想象的那么高，通过算法开源，普通工程师可以“分分钟”制作出一个变脸软件，这就导致控制源头存在天然的困难。几年前，一名外国工程师基于一个算法开源项目开发了某款变脸软件，一时间，很多人在参加线上视频会议时都纷纷化身“阿凡达”“马斯克”，令人啼笑皆非。
问题随之而来，一是人工智能终端产品已经铺天盖地，但鉴别技术和设备却未能普及，二是相关规制约束没能及时跟上技术发展的脚步。这些在很大程度上让某些人工智能技术有了被滥用的空间，公众的担心由此而起。
应该看到，相关监管一直在持续发力。近几年，国家网信办等部门先后出台了《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等政策文件，陆续开展了“互联网深度合成算法备案”“大语言模型算法备案”等有关工作，有效促进了生成式人工智能的健康发展和规范应用，对利用AI换脸、变声等手段实施违法犯罪等行为形成有力震慑。同时，一些头部互联网平台也在探索算法检测、软件识别等办法来识别人工智能生成产品并向公众标注说明，减少信息差，提升公众防范意识。
一项新技术的落地应用往往会经历一段“成长的烦恼”，这是新事物发展过程中的共性问题。比如近年来的共享单车押金难退、伤亡责任纠纷，直播带货虚假宣传、售后难觅等等。有关方面解决问题的共同思路就是加快规制步伐，不断补上法律法规和行业公约等“拼图”。同样，在某些人工智能技术应用门槛不断降低而触达面越来越广的当下，积极着手问题的研判与应对，研究出台有效举措划清新技术使用的边界、相关权责等，都应当快马加鞭，少一些空白、多一些规范。
某种程度上，人工智能技术的使用有多方便，就可能有多少风险和变数。防范包括“AI换脸”在内的人工智能技术被滥用，要加强对人脸、声纹、指纹、步态等生物信息数据的安全防护。这需要每个人提高防范意识，更需要监管部门在完善规制的进程上加快脚步。(本报评论员 吴迪)
来源：工人日报 【编辑:曹子健】