?
最q几天,AI新骗局在全国炸开?jin)锅?/span>
AI论文造假和新闻造假Q后有疑似AI换脸的杨q、_(ki)丽热巴出现在直播间卖货。昨日内蒙古包头的一起“AI电信诈骗10分钟骗走430万”登上微博热搜,引v全民x(chng)?/span>
AI合成?/span>
AI技术掀h一波落地潮QAI深度伪造(DeepFakeQ内容在全球范围内病毒式传播Q引起业的强烈担忧?/span>
2019q_Z西就调查报道q深度伪造AI换脸黑Q《AI换脸黑Q?00元打?00部换脸情色片Q?张照片就可定制视频》)q年来,深度伪造技术与反深度伪造技术的博弈持箋(hu)不断Q相关部门也逐步完善监管法律法规。当下,随着以GPT-4Z表的AI大模型技术P代进化,深度伪造内Ҏ卷土重来Q从而在全球掀h大的风浪?/span>
AI伪造内容对很多q轻人来说都真假难LQ老h、小孩则更容易上当受骗。而一旦他们的信Q被不法分子用来违法犯|,后果不堪设想?/span>
AI深度伪造技术生成的韌频等内容Q普通h用肉眼来鉴别的难度非怹大?/span>
AI包裹的“新外”,更ؓ隐蔽也更加让人防不胜阌Ӏ这些AI新骗局是如何骗人的Q难辨真假的AI伪造内定w要怎么去识_产业p又有什么样的解法?通过对市面上各种AI新骗术进行梳理分析,本文对这些问题进行了(jin)深入探讨?/span>
10分钟换脸视频骗走430万,q四大AI新骗局要警?/span>
3月,一份名为《暂停大型h工智能研I》的公开信在未来生命研究所官网上发布,包括Ҏ拉CEO埃隆·马斯克(Elon MuskQ、苹果公司联合创始h史蒂夫•沃兹尼亚克QSteve WozniakQ等人在内的千名U学家、企业高签字呼吁暂~GPT-4以上版本的研发,他们矛头所指都是强大AI技术可能的负面用途?/span>
AI换脸引发的恶性事Ӟ只是我们未察觉?/span>
AIq行电信诈骗的案Ӟ|犯假借好友名义称自己急需用钱Qƈ拨打微信视频联系q位受害者郭先生?/span>
430万打C(jin)|犯的银行卡上,但他万万没想到所谓的微信视频通话中的“好友”是由AI换脸技术制作而成的。罪犯利用AI换脸技术,佯装成好友对他进行电信诈骗。目前在警方拦截下,已追?36.84万元Q仍?3.16万元已被转移走?/span>
“AI换脸”功能极为相似的是“AIp”。早在今q?月,一则“女子地铁照被AI一键脱传播”的新闻冲上?jin)热搜,一名女性搭乘地铁时的一张照片被人用AI软g“一键脱”,遭到恶意传播Q罪犯还q泛散步不实信息对该奛_q行污蔑?/span>
“一键脱”技术早?019q时已在国外出玎ͼ但因q泛的舆Z议和声讨Q项目迅速关闭下架。这股不良之风在今年的AI热中再次吹到国内Q在|络上以“AI”、“换装”、“Y件”等关键词组合搜索时仍能出现不少隐藏极深的相兌YӞ有心(j)者甚至用此来制作、传播色情淫U视频,AI视频变装服务已成Z门链条完整的黑色产业?/span>
“特效合成师z亮”的视频博主在自q视频中,电视剧《你是我的荣耀》中男主演杨z的脸,通过AI换脸技术换成了(jin)自己的脸Q最l遭C演粉丝的q打Q从而引起了(jin)不少|友的注意?/span>
“AI孙燕姎쀝爆火,后有AI人声克隆闯入配音圈,AI的声韛_成技术被炒得火热Q也衍生Z的恶性事件和相关受害者?/span>
·奥什QFrank OceanQ的歌曲片段训练出来仿冒光乐风格的歌曲Qƈ在地下音乐论坛上发布栏这些“音乐作品”,q将q些歌曲伪造成是在录音时不心(j)泄露的版本,最l蒙淯养I卖出?jin)?70元Q折合ؓ6700元h民币Q的h?/span>
Peabody Films也遭受了(jin)AI电话的诈骗,诈骗者伪装成著名演员“卷”本D_(ki)克特•康伯巴奇(Benedict CumberbatchQ向公司U对公司的电影很感兴,有合作意向,但需要公司先?0万英镑(折合U?70万h民币Q的定金Q之后再谈具体的合作l节?/span>
AI骗局?/span>
AI克隆声音q行诈骗勒烦的新闻,部分案g涉案金额令h咋舌Q高辄万美金。这c诈骗者往(xin)往(xin)通过电话录音{素材提取某人的声音q行声音合成Q再利用伪造后的声x(chng)骗过熟hQ就q需要公众对陌生电话保持警惕Q即使是熟h也可能被伪造声韟?/span>
CBS电视台的电视新闻杂志节目60 Minutes??2日的最C期节目中Q现场展CZ(jin)黑客是怎样克隆声音来骗q同事,q成功窃取护照信息的?/span>
5分钟旉Q黑客就通过AI克隆复制?jin)Sharyn的声韻Iq过工具替换?jin)手Z来电昄的名Uͼ成功骗过?jin)她的同事,轻而易丑֜得到?jin)她的姓名、护照号码等Uh信息?/span>
AI换脸视频铺天盖地传播的情况下QAI假照片更是泛滥成灾?/span>
5?2日,一张五角大楼附q地区发生爆炸的囄在社交媒体上疯传。这张虚假照片的q泛传Q甚臛_致标?00指数短线下跌U?.3%至盘?sh)低点,由涨转跌?/span>
AI生成的虚假图片,q张囑օ有明昄AI生成特征Q比如\灯有些歪Q围栏长在了(jin)道上{?/span>
Bellingcat的创始h艄特·希金斯QEliot HigginsQ用Midjounrney制作而成。组囑֏出后Q他的̎号也随之被封查?/span>
·泽维(Pablo XavierQ称Q自己完全没惛_q组囄居然会走U,自己只是H然惛_?jin)巴黎世家的绒服、巴黎或者罗马的街道{?/span>
ChatGPT自׃全网中搜集而来的社会热ҎM改编辑,~撰Z条“今晨甘肃一火R撞上修\工h?人死亡”的虚假新闻Q借此来获取网l流量和x(chng)度来变现?/span>
1.5万点击量Q好在警方在舆论q一步发酵前介入调查Q证实是犯罪嫌疑人利用AI技术进行的新闻造假?/span>
AI假新闻,老牌媒体有时也会被AI虚假新闻蒙骗?/span>
The DailyMailQ曾??4日刊登过一则新闻,U“一?2岁的加拿大男子ؓ在韩国以偶像w䆾出道而整?2ơ,最l命”?/span>
Q?/span>该新d起全球多家媒体关注,韩国YTN新闻频道{电视台q速跟q报道,|友们对此也表示?jin)自q同情与惋惜?/span>
iHeartRadio提出质疑后全面反转:该男子可能压根就不存在。网友将其照片拿去AI内容(g)网站查证后发现Q照片有75%的可能性是AI生成的,韩国MBC电视台求证警方后也得C(jin)“未收到cMM案例报告”的回复Q这则新ȝ刻被证实为“AI造假新闻”?/span>
“假新闻”的媒体以及男子所属的l纪公司Q还有第一位U男子已M的记者。言下之意就是,照片q是AI生成的,男子的确因整容过度而引发的手术q发症而命?/span>
AI引发的闹剧彻底变?sh)Z(jin)一场惨痛的悲剧?/span>
AI~篡出的新闻不仅h?jin)大众的视听Q更是让本就没有旉和耐心(j)看清事情全貌的\Z失去?jin)分辨真相的能力?/span>
“AI”过的明星们Q“AI孙燕姎쀝翻q火,“AI杨幂”换脸卖?/span>
AI技术泛滥时Q娱乐圈明星成了(jin)首当其冲的重灑?/span>
“AI孙燕姎쀝的出现发长文给予回应?/span>
“AI孙燕姎쀝的出现Q中文翻译版Q?/span>
“AI孙燕姎쀝的出现采取?jin)较宽容的态度Qƈ未通过法律手段q行q究。她Uͼ“无法跟一个没几分钟就能推Z首新专辑的‘(sh)h’来比。”她认ؓQ虽然它QAIQ既没有情AQ也没有韌的变化,但hcd怎么快也无法越它?/span>
AI生成的音乐ƈ不欣赏,但hcȝ实难以在一时之间赶机器h的学习能力,奚w择对这些热歌翻p频E然处之?/span>
AId而重新进入大众视野的歌手孙燕姿,因其独特的音色和p风格和多首热门歌曲都有极高的适配度,在网友的AI技术下Q她“翻唱”的《发如雪》《下雨天》《我记得》等歌曲播放量均破百万?/span>
“AId”的歌手Q还有AI周杰伦、AI王心(j)凌、AI腾格等人陆l出现?/span>
AI技术已l滥用到损害商业利益、触及法律红U时Q还需要及时维护自q正当权益?/span>
AI换脸明星的方式进行直播带货,x(chng)星如杨幂、_(ki)丽热巴、Anglebaby{h成了(jin)重点换脸对象Q明星脸的带货主播能辑ֈ更好的引效果,q节省广告宣传成本,消费者或明星_丝可能会冲着明星效应q行消费而被坑骗?/span>
3.5万元Q远低于邀(g)请一位明星本人直播带货的报h(hun)?/span>
“AI换脸”“视频换脸”等关键词都被^台屏蔽,但通过转换搜烦关键词以及其他方式仍能找C相兛_品?/span>
“黄蓉”一角替换ؓ演员杨幂的脸
AIq行p剧二创的的早期开端?/span>
AI普法q动兴vQ哪些行ZR权违法了(jin)Q?/span>
AI普法q动?/span>
“Q何组l或者个Z得以丑化、污损,或者利用信息技术手D伪造等方式侵害他h的肖像权。未l肖像权人同意,不得制作、用、公开肖像权h的肖像,但是法律另有规定的除外。”同Ӟ“对自然人声音的保护Q参照适用肖像权保护的有关规定。”而让Z更担?j)的是,伪造信息如果落C发分子手里,可能会进一步利用信MR害h们的财权甚x(chng)健康权?/span>
AI伪造内Ҏ及的影音素材的版权R权问题(sh)备受x(chng)。近期,歌手孙燕姿发文称表示?jin)对“AI孙燕姎쀝E然处之,但更多的被伪造的人选择拿v法律武器保护自己Q比如据媒体报道Q上鱼腥草信息U技有限公司因某ƾ换脸手机APP被多位网U博主v诉?/span>
2022q?2月颁布《互联网信息服务深度合成理规定》,?5条规定划定深度合成技术用规范,包括不得利用深度合成服务늊他h合法权益{法律、应用程序分发^台应当落实上架审核、服务提供和技术支持者应当加强技术管理等规定?/span>
4?1日,国家互联|信息办公室又迅速v草了(jin)《生成式人工服务理办法Q征求意见稿Q》,涉及的生成式人工包括Z法、模型、规则生成文本、图片、声韟뀁视频、代码等内容的技术,可以说对当下的AI伪造进行了(jin)全面的规定。(《重!首个国家AIGC监管文gQ生成式AI服务理办法公布征求意见Eѝ)
AI内容识别“防御术”,q_要负赯?/span>
RealAI联合创始人、算法科学家萧子豪告诉智东西Q目前深度伪造技术在不断q化Q生成的声音和视频越来越逼真Q普通h肉眼鉴别的难度非常大?/span>
·沃兹g克(Steve WozniakQ近日在一ơ采访中警告UͼAI内容应该被明标讎ͼq且需要对该行业进行监。Q何由AI生成内容都应该由发布者来承担责QQ但不代表大型科技公司可以逃脱法律制裁Q沃兹尼亚克认ؓQ监机构应该追I大型科技公司的责仅R?/span>
AI生成内容Q能起到一定预防作用。但AI生成内容的最后一个关口还在用戯己,媒体q_只能起一个过滤作用?/span>
AI攻防战打?/span>
AI技术让文字、图像、视频的生成变得更加Ҏ和逼真Q与此同时深度伪造内容也随之泛滥。深度伪造内容轻则淆视听、被有心(j)者用以谋利,重则可能被不法分子利用进行诈骗甚臛_索犯|,引v?jin)h们对AI生成内容监管的迫切关注?/span>
AI诈骗新套路引L(fng)会问题,产业中的用户、技术提供者和q营商、内容分发^台及内容生者都需要加律。实际上Q我国已l提前颁布了(jin)一pd相关法律法规QAI负面应用问题的暴露有望带来一场全民的技术普法运动,从而促(j)q业更健康发展
版权所有:驻马店保安服务有限公司技防分公司
电话Q?396--2908080 地址Q河南省驻马店市金雀路东D开发区一对面(原东高派出所Q?/p>