AI技术存在滥用风险 整治AI换脸要用“法”打败“魔法”_视点
点开直播间乍一看,卖货的竟是当红女星。再定睛一看,“明星”其实是使用人工智能(AI)实时换脸技术的普通主播。他们冒充明星艺人,只为增加卖点,助力卖货……
近期,“AI换脸”的应用范围越来越广,但存在滥用之嫌,甚至有人利用AI换脸实施犯罪,例如伪造不雅视频、换脸诈骗等。前不久,就有一男子因AI“偷脸”,10分钟被骗430万元。
如此以假乱真,让人防不胜防。“AI换脸”的法律边界在哪?普通人又该如何防范?
(资料图)
公司老板遭遇AI换脸诈骗
10分钟被骗取430万元
近日,内蒙古包头警方发布一起利用AI实施电信诈骗的典型案例。
来自福建的郭先生是一家科技公司的法人代表。今年4月,他的好友突然通过微信视频联系他,称自己的朋友在外地竞标,需要430万元保证金,想借用郭先生公司的账户走账。
基于对好友的信任,加上已经视频聊天“核实”了身份,郭先生在10分钟内,先后分两笔把430万元转到了对方的银行账户上。
事后,郭先生拨打好友电话才得知被骗,原来骗子通过AI换脸和拟声技术,佯装好友对其实施诈骗。“当时是给我打了视频的,我在视频中也确认了面孔和声音,所以才放松了戒备。”郭先生事后说。
AI换脸冒充明星带货
律师:或涉嫌侵权
除了佯装“熟人脸”实施诈骗,AI换脸还可能出现在直播带货中。最近,网上出现了一些“换脸直播”教程,教程发布者声称实时变脸软件可以帮助用户轻松“变脸”,极大地助力引流卖货。
在一个展示换脸直播效果的视频中,使用者把名为“成龙”的模型载入相关软件后,摄像头前的人在直播画面中就有了与成龙相似的五官,但脸型和发型还保持原样。
记者发现,使用者歪头或变换表情时,五官动效切换得自然顺滑,只有手掌从脸前划过时,出现了比较明显的破绽。
发布者展示换脸为“成龙”的实时效果和软件界面(视频截图)
北京岳成律师事务所高级合伙人岳屾山表示,换脸直播用于公开传播可能涉嫌侵犯相关明星艺人的肖像权。如果涉及直播带货等商业行为,会成为加重情节。
岳屾山解释,只要未经肖像权人同意,在直播中通过技术手段把自己的脸换成了明星的脸,就是对明星肖像的侵权。根据不同情况,承担的后果可能不同。即便只是娱乐,不涉及盈利行为,也属于侵权。如果把明星肖像用于带货直播,属于是商业行为,在赔偿数额上一定会给予考虑。如果主观恶性、过错程度比较大,且因此获利,赔偿数额可能会更高。
记者注意到,一些使用换脸技术的直播并不会直接提到相关明星艺人的名字,但也不会主动声明或者否认。岳屾山认为,该行为涉嫌欺诈或是虚假宣传,让公众误以为就是明星在带货。如果货品本身质量不好,或者主播在带货过程中说的话或行为导致公众对被换脸的明星产生负面评价,明星可以主张名誉权的侵权责任。
AI技术存在滥用风险
务必保持防范意识
为规范人工智能发展,去年12月,《互联网信息服务深度合成管理规定》正式发布,明确了合成数据和技术管理规范。其中提到:深度合成服务提供者对使用其服务生成或编辑的信息内容,应当添加不影响使用的标识。提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能的服务的,应当进行显著标识,避免公众混淆或者误认。
近期,也有平台和企业发布了“关于人工智能生成内容的平台规范暨行业倡议”,明确禁止利用生成式人工智能技术创作、发布侵权内容,包括但不限于肖像权、知识产权等,一经发现,平台将严格处罚。
对于个人而言,除了在形形色色的“明星脸”中保持清醒,避免陷入虚假宣传,更重要的是面对花样翻新的AI诈骗,必须保持防范意识。
保护信息,提高警惕。不要轻易透露自己的身份证、银行卡、验证码等信息,不要轻易提供人脸、指纹等个人生物信息给他人,不过度公开或分享动图、视频等;
多重验证,确认身份。如果有人自称“熟人”“领导”等通过社交软件、短信以各种理由诱导汇款,或涉及网络转账交易行为时,务必通过电话、见面等多途径核验对方身份,不要未经核实随意转账汇款;
如不慎被骗或遇可疑情形,请注意保护证据,并立即拨打96110报警。
整治AI换脸
要用“法”打败“魔法”
“短短10分钟,被骗430万元”“换脸冒充当红女星带货,赚得盆满钵溢”……这种“换脸”术和拟声术,让人防不胜防。如此种种,无不说明换脸术的滥用,已经对公共利益构成威胁。
整治AI换脸,当用“法”打败“魔法”。
这个法,是方法、办法的法。有人说,防骗最有效的一招就是不信,无论对方怎么“换”、怎么变、怎么翻着花样骗,就是“不听不信不转账”。最关键的是,优化“打法”,升级高招,用更有效的方法“破防”。“魔高一尺,道高一丈”,面对骗子的新招数,我们的反诈术、防骗方法更要优化,总结出富有成效的好方法,并做好宣传普及,构筑反诈防骗的全民阵线。
这个法,也是法规、法律的法。此前,一款主打AI换脸的App很火,“只需一张照片,演遍天下好戏”。但很快,在监管部门约谈后,这款App下架,原因很简单,如此换脸侵犯了公民的肖像权。去年12月,《互联网信息服务深度合成管理规定》发布,对人脸生成、替换、操控,合成人声、仿声等都有明确约束。显然,随着制度设计更精准,相关立法更健全,AI换脸空间将越来越逼仄。
AI换脸术滥用,也促使大家思考一个深层次问题。新技术不断面世,带给了人们便利,但可能被居心叵测之徒非法利用。人们固然不能因噎废食,但也不能忽略它的双刃剑效应。如果缺乏应有规束,AI换脸则可能打开潘多拉魔盒。因势利导,使其趋利避害,这是我们要全力做到的。
相关报道
中国互联网协会:警惕“AI换脸”新骗局
热搜第一!AI换脸新骗局:10分钟被骗走430万元
(文章来源:央视新闻)
标签:
精彩推送
2023苏迪曼杯决赛对阵名单出炉!陈雨菲是致胜关键!韩国再出奇兵
2023苏迪曼杯决赛对阵名单出炉!陈雨菲是致胜关键!韩国再出奇兵,韩国,奇兵,国羽,四强,陈雨菲,奥运会,苏迪
詹姆斯谈掘金末节11-0:我们接连失误 他们进了俩三分_每日观点
NBA季后赛西决G3,湖人108-119不敌掘金,大比分0-3落后。赛后,詹姆斯接受了记者采访。谈到掘金在末节打出1
世界快资讯丨16GB+1TB+5500mAh,发布仅一个月变相降价,仅售2599元还送耳机
有时候影响消费者最终决策的,并不是什么大的方面,而只是一个小东西,例如购买商品看到两个质量相近,并且
新闻快讯
X 关闭
X 关闭
新闻快讯
- AI技术存在滥用风险 整治AI换脸要用“法”打败“魔法”_视点
- 郑儿在上海_郑义哲|新动态
- 环球观热点:宁波达迅国际货运代理有限公司
- 芜湖到杭州自驾游路线!!!!!!!!
- 世界微速讯:在中国的刑事诉讼过程中形式与民事是合在一起的_盛行于奴隶盛会的刑事诉讼形式是什么
- 呼喊的近义词和反义词 呼喊的近义词|环球新消息
- 计算机二级成绩啥时候查(计算机二级成绩什么时候可以查)
- 今日看点:北交所龙虎榜|辰光医疗今日成交1.32亿元,换手率达25.95%
- 6年前8-0狂胜国足的那支巴西队,有3名进球球员现效力中超
- 球蛋白偏低是什么意思啊_球蛋白偏低是什么意思
- 【乡村振兴】把粮种好种出好粮食,她想让粮袋子变钱袋子 讯息
- 兰州高新区企业参与联合研制的牛结节性皮肤灭活疫苗取得重大进展 今热点
- Ripple CEO:计划利用10亿美元现金储备进行公司扩张|环球快播报
- 北向资金今日净买入同花顺3.13亿元_环球播报
- 世界头条:青春虚度无所成 白首衔悲亦何及理解_青春虚度无所成白首衔悲亦何及什么意思
- 股票000552 今日看点
- 世界实时:香港《适用于虚拟资产交易平台营运者的指引》将于下月1日生效
- 斯基拉:尤文高层正在认真考虑阿莱格里下赛季帅位|全球简讯
- 焦点播报:微软“副驾驶”狂飙
- 福建科研团队在马里亚纳海沟邻近海区发现新物种 观点
- SMM日评:6月太钢高铬钢招发布 减量采购市场担忧后续需求
- 元气壁纸如何删除自己作品 元气桌面壁纸删除使用过的壁纸教程_当前聚焦
- 女商人与2名情人合谋枪杀亲夫,名下9家企业,与丈夫白手起家创业
- Canalys:一季度中国个人电脑市场出货下降24% 市场有待进一步恢复|今日热闻
- 今日热讯:贵州金沙:桑葚挂枝头 果农喜丰收
- 每日快看:公务员补录2023_公务员补录
- 天天实时:驭电出击 全速高能 UNI-V智电iDD释放高能本色
- 天天观察:斗罗大陆九位封号斗罗同时现身,千道流的背影宛如神灵,令人畏惧
- 中泰证券自营业务“大换血”,炒股“炒亏了”的券商还有多少
- 天天热头条丨美报告:美军损失8500万美元F-35战斗机部件 国防部监管问责有缺失
- 广州电力交易中心跨区跨省市场化交易电量超3000亿千瓦时
- 武汉昱升光器件有限公司|焦点热讯
- 警营来了“发明家”
- 广州颐圣元化妆品有限公司被罚款2.3万元
- 真是网友错了!岂止是送外卖,又有新数据了
- win7系统休眠后黑屏无法唤醒_电脑休眠后黑屏无法唤醒怎么办
- 房子施工知识:防不胜防——警惕装修公司4大阴招 世界快看点
- 短评——【美国债务上限僵局谈判持续,债务违约风险较小】
- 国泰航空再回应空乘人员歧视旅客事件:已停飞,展开内部调查 当前关注
- 这个音乐厅上线满月,好多广州地铁乘客登台演奏
- 新乡高新区振中街道开展“拒绝舌尖上的浪费”节约粮食教育活动 全球热文
- 天天观点:唯品会一季度净营收275亿元同比增9%,净利润21亿元
- 通威股份:可转债转股价格调整为35.5元/股
- 当日快讯:兴通股份:1487.5万股限售股将于5月29日起解禁上市 环球聚看点
- 专家学者共谋聚酰亚胺材料发展 世界快讯
- 观速讯丨双色球23058期唐心今晚蓝号预测
- 加强“15分钟社区生活圈”建设!“人民城市大课堂”第四期在普陀开讲
- 全球最资讯丨今年中小学招生有啥说法?
- 5月86款国产游戏版号下发 或受大盘影响腾讯、网易股价震荡下行 世界观热点
- 2023青海高考准考证打印时间什么时候 几号开始打印