指鹿为马的AI
(资料图)
文 | 华商韬略 耿康祁
“人工智能之父”杰弗里·欣顿做了个末日预言：
人工智能可能对人类构成巨大威胁，因为“很难找到防止坏人用它做坏事的方法”。
不幸的是，掌握人工智能的坏人，越来越多了。
【高端局来了】
4月20日11时40分左右，福州市某科技公司法人代表郭先生，遭遇了一场高端骗局。
一位好友，突然打了个微信视频：
“老郭，我一个朋友在外地竞标，需要430万保证金。你看看能不能先走你的公司账户，帮忙过个账？”
好友说钱已打过来，还发了银行转账底单截图。因为是视频聊天，郭先生就没核实钱是否到账，直接给对方账户转了430万。
事后，郭先生给好友打了dian话，称“事情办妥了”，对方却十分惊讶，回应完全没有这回事。
9分钟，430万没了！坑了郭先生的，是一起典型的AI诈骗。
这个骗局分三步：
1，不法分子用AI机器人骚扰dian话，获取目标的声音素材，然后进行声音伪造；
2，盗取目标的社交账号，寻找受害人；
3，用AI换脸技术，和受害人视频通话，博取信任，实施诈骗。
这个诈骗手段环环相扣、用时短、难防范。它标志着诈骗犯罪的升级，进入了AI智能化、定制化的时代。
传统互联网“发个语音”、“打个视频”的防诈手段，在AI诈骗面前基本失效。更可怕的是，掌握AI诈骗的骗子，越来越多了！
公开信息显示，自2021年以来多个省份都出现了AI诈骗及不当牟利案件。中国互联网协会 5月24日称，利用“AI换脸”“AI换声”等进行诈骗、诽谤的违法行为屡见不鲜。
AI诈骗不只盯着数百万的“肥肉”，几千元的“苍蝇肉”也来者不拒。假扮大学同学、亲戚、供货商等视频借钱案件，层出不穷。
如果觉得从不借钱便不会中招，就太天真了。
当骗子伪装成领导，以汇款、资金周转等紧急理由，要求下属立即转账，很少有人能顶住压力。更有甚者，骗子直接伪造子女、父母车祸入院等借口，利用亲人感情实施欺诈。
2006年，搞了20多年的中国台湾诈骗集团，把目光投向互联网普及不久的大陆。他们在东南亚等国家建立诈骗基地，招募员工进行人设、话术包装的统一培训。
最终，诱导恋爱或裸聊的“杀猪盘”、非法买彩票、网上赌场、借贷骗局等发明，开始横扫内地。
电信诈骗，由此成了悬在14亿人头顶的一把利刃。甚至有人戏称，从未接到过诈骗dian话的，都有可以去买彩票的运气。
不过，大部分人仍对电信诈骗，没太大概念。传统认知里，其受骗对象多是经不起诱惑、社会经验少的“冤大头”，以及一些不常上网的老年人。
比如上世纪80年代最知名的尼日利亚王子来信，以及最近令人笑掉大牙的“上门枪毙”通知短信。这些夸张剧本，似乎只为筛选那些“缺乏基本辨识能力”的群体。
但正如微博大V@全民防诈骗所说：“你目前还没被骗，并不是因为你多聪明，也不是因为你没钱，而是适合你的‘剧本‘还在路上。”
只要给几张照片和几秒语音，就能复刻出“假人”的AI诈骗，以细思极恐的手段，让每个人都可能难逃一劫。
据湖北网警巡查执法公布消息，AI技术新骗局诈骗成功率竟接近100%，其成功率之高、涉案金额之大、诈骗速度之快令人咋舌。
比如安徽安庆经开区发生的一起AI诈骗案中，诈骗分子只用一段9秒智能AI换脸视频佯装“熟人”，就顺利从受害人手上骗走245万元。
更令人毛骨悚然的是，信息泄露、隐私不安全的普遍现实，为AI诈骗造就了“天然温床”。
2月15日，一则“几乎无人幸免，疑似45亿条电商或快递信息泄露”的消息，冲上热搜。有网友称，“自己10年前的收货信息，都被扒出来了。”
对此，人们忍不住吐槽道：“要有多强的防范意识，才能想到跟你视频通话的亲友，不是一个大活人啊？要有多强的隐私意识，才能保证自己信息不泄露或被窃取？”
AI诈骗的降维打击，也引发了社会的广泛关注和部分恐慌情绪。“AI诈骗在全国爆发”的话题，一度登顶热搜，引爆超2亿阅读。
随即，公安部门专门进行了辟谣，称AI诈骗案件目前占比仍较低。同时，承诺已注意到此犯罪新手法，并将加大力度开展技术反制和防范宣传。
数据显示，公安机关2022年全年破获电信网络诈骗案件46.4万起，紧急拦截涉案资金3180余亿元。从诈骗案件量级及涉案金额来看，其仍然是一块社会“顽疾”。
一个悲观预期是，新型AI诈骗的降临及加速迭代，可能让“人人警惕，全民反诈”，成为未来社会不得不面对的严峻问题之一。
【全球大爆发】
4月末的一天，美国一位叫詹妮弗·德斯特凡诺的母亲接到一通陌生dian话。
“妈妈，救命！”大女儿布里安娜，似乎陷入了大麻烦。
詹妮弗吓呆了，一个低沉的男人声音威胁到：“如果你打dian话报警，就永远别想再见到她了！”
挂断后，身边朋友劝她报警。詹妮弗却急着给赎金，因为“女儿”的哭泣声实在太真实且撕心裂肺。幸运的是，女儿正好打来dian话，骗局“不攻自破”。
但心有余悸的詹妮弗，仍无比惊讶：“就算隔一栋楼，我也不会认错自己孩子的哭泣声。”
詹妮弗绝对想不到，突飞猛进的AI技术，早已比一个母亲更了解自己的孩子。而骗子支付的代价，可能还不到每月5美元。
2017年，名为“Deepfakes”的社交网站用户，利用AI技术发布了将色情演员换脸成盖尔·加朵、泰勒·斯威夫特、斯嘉丽·约翰逊等名人的视频片段，引发轩然大波。
此后，AI换声及换脸技术进入大众视野，并被称为“深度伪造”（Deepfake）。
2018年，美国不法分子还主要通过使用非法机器人呼叫，伪装成慈善机构或谷歌数据服务代理，进行诈骗。
但机器人语音系统，往往存在卡顿、音色机械化、多轮对话“鬼打墙”等问题，“唬人”能力有限。
此后，AI换声迅猛发展到克隆级别。2019年3月，一诈骗犯冒充一家英国能源公司大老板，强势要求公司CEO立即将22万欧元，转到匈牙利的供应商银行账户。
这位高管毫不犹豫照做了，因为大老板的语调一如平时，甚至连他“微妙的德国口音”也毫无破绽。这一事件，被认为是全球首例涉及人工智能的诈骗案。
其实，AI技术流行的美国、欧洲等发达国家，AI诈骗也早已一马当先。
过去一年里，美国AI诈骗同比上涨了50%到75%。美国联邦调查局年度报告显示，2022年美国网络诈骗损失达103亿美元，创五年来新高，面向老年人的AI语音骗局则是重灾区。
世界经济论坛研究与分析主管布鲁内曼称，“在过去一年里，26%的小公司和38%的大公司经历过深度伪造欺诈”。她甚至预测到2026年，超90%的网络攻击内容都将是AI合成。
AI技术快速升级，不仅让换声、换脸越来越以假乱真。相应的，AI诈骗技术的门槛和成本，却在不断降低。
美国加州大学伯克利分校教授法里德表示，AI声音合成一两年前还需要大量音频数据，现在仅需十几秒的短视频或录音。收集人脸信息则更简单，一张照片就可实现。
相应的AI程序使用费，却仅需每月5美元到数百美元不等。恐怖的是，任何人都能由此进行不法活动。
AI诈骗受害对象从老年人到精英人群，从普通人到明星偶像无所不包，甚至章程规范的商业公司、学校机构，也极易中招。
智能化程度更高的AI技术，还使得骗局变得花样更多、更难防范。
通过信息收集及大数据分析，AI可以智能筛选出“易骗人群”。比如进行金融诈骗时，经常搜集投资信息的人群会成为潜在目标。
甚至，AI还能分析目标的社交网络，进而掌握其个性化表达方式、人际关系、兴趣爱好等生活习惯，实现“诈骗剧本”定制化。
法里德惊呼：“这很可怕，就像一场完美的风暴，具备了酿成大祸的所有条件。”
更可怕的是，尽管风险显而易见，AI语音及视频合成技术却仍在狂奔。科技巨头的AI竞赛，也在持续加码。
今年1月，微软团队发布了AI语音合成模型VALL-E。只需3秒指定素材，即可精确地模拟说话者声音，甚至连环境背景音也能准确还原。
AI签名、AI声音克隆、AI换脸……这些新技术，本来是创造美好和便利的象征。
但当这类高端技术变得廉价且轻易获取，并被不法分子恶意利用时，无数人和机构的财产、信息及现实安全却形同“裸奔”，又会是多么巨大的风险？
全球大爆发的AI诈骗，无疑给人类敲响了警钟。
【没有真相的时代】
“现在已经到了，大规模、集中化讨论AI风险的关键时刻”，清华大学教授沈阳如此呼吁。
其实，对AI诈骗的警惕与治理方案，早已在路上。
美国安全中心发布的《人工智能与国家安全》，明确将人工智能伪造技术列为威胁国家安全的重点技术。中国也开始通过政策管理和技术限制等途径，来应对其潜在安全风险。
但AI诈骗，似乎是打不死的“小强”。
比如美国联邦贸易委员会近年来加强了对非法机器人dian话的监管行动，但数据显示，2019年美国境内民众接到的“机器人骚扰dian话”总数超过500亿个，即平均每个美国人每月至少接到15个“机器人骚扰dian话”。
一个怪圈出现了——美国不断升级法案打击电信诈骗，机器人来电数量却屡创历史新高。
根本原因，还是法律法规制定、推广的护栏建设速度，赶不上AI技术迭代和传播速度。产业、大众对AI危害的反应，也很容易慢半拍。
甚至于，AI骗局已经超出“诈骗”范畴，蔓延到人类社会的各个角落。
3月份，一组由Midjourney生成的特朗普“被捕照”传遍全球。一觉醒来，人们看着这位美国前总统被警察包围并按倒在地的狼狈状态，深感不可思议。
但这，不过是一网站创始人艾略特·希金斯精心制作的“AI假照片”。尽管他的账号被查封，人们当时无比真实的震撼和惊讶，却因此成为“笑话”。
这更像是，AI骗局对人类分辨能力和真实情感的“嘲弄”。很快，人们又经历了更严重的被戏耍。
5月22日，一张五角大楼附近发生爆炸的照片，广泛流传。这张虚假照片的出圈，甚至导致标普500指数瞬间从涨转跌。
在国内，假新闻、假图片案件也甚嚣尘上。
5月7日，甘肃省平凉市公安局网安大队成功破获了一起AI造假案件。不法分子利用ChatGPT，伪造了一条“今晨甘肃一列火车撞上修路工人，导致9人死亡”的虚假新闻，即刻获得超1.5万次点击量。
5月24日，科大讯飞受一篇名为《科大讯飞出现重大风险的警示文》的文章影响，股价也迅速跳水。公司紧急回应称，股价下跌系某生成式AI写作虚假“小作文”导致。
人们越来越惊恐地发现，自己被AI置身于一个“没有真相的时代”。
造假，甚至成为某种普遍且必要的“谋生手段”。一项国外调查报告指出，全是由AI生成的假新闻网站已有49家之多。且这些信息受众并不少，粉丝大多超10万量级。
无处不在的造假热潮，更让无论是普通人还是明星都难以阻挡。
一边是，几十元的“AI换脸教程”大行其道；一边是，在地铁上被“AI一键脱衣”造谣的女性，无力申诉。伪装成“杨幂”“迪丽热巴”“成龙”等明星的直播带货，更肆无忌惮。
面对铺天盖地的“AI孙燕姿”合成视频，佛系的孙燕姿无奈表示，“你跟一个每几分钟就推出一张新专辑的‘人’，还有什么好争的？”
真相被“捏造”已经够可怕，人们无力分辨则让现实变得愈发混乱。
4月13日索尼世界摄影奖颁奖礼，大奖得主却冲上舞台夺过话筒，悲愤地说这是AI伪作。他的反问发人深思，“如果索尼世界摄影奖的评委都分不清真假照片，其他人还能怎么办？”
当AI骗局从专业级走向“平民化”，熟悉的亲友、日常的新闻、权威的知识、眼见为实的原则甚至是集体记忆等，原本刻在骨子里的“确信”都在被逐一颠覆。
AI监管，由此愈加任重道远。毕竟人类不能没有真相，就像时钟不能没有指针。
【参考资料】
[1]《AI换脸风暴：骗局、产业与技术防守》36氪
[2]《“AI换脸”诈骗，怎么防？》人民日报
[3] 《警惕！美国发生多起AI语音诈骗案件，联邦机构将加强监管》第一财经
——END——
欢迎关注【华商韬略】，识风云人物，读韬略传奇。
版权所有，禁止私自转载
部分图片来源于网络
如涉及侵权，请联系删除
X 关闭
推荐内容
精彩推荐
-
警惕！史上最聪明大骗局，很多人已被坑惨！|今日热门2023-07-04
-
realme GT Neo 6手机高清渲染图曝光，搭载骁龙 8 Gen22023-07-04 -
7月4日山东地区苯酐市场走势下滑2023-07-04 -
今日讯！大雨也浇不灭争冠热情！激战2小时12分，小德温网首战告捷！2023-07-04 -
英外交发展大臣等政客声称将保护被港警通缉的人，我使馆：公然庇护！2023-07-04 -
【全球时快讯】ems国际快递怎么寄流程_ems国际快递怎么寄2023-07-04 -
环球热议:ISSB可持续信披准则正式发布，ESG标准全球统一步伐加快2023-07-04 -
战地之王现在还能改图刷枪么_麻烦发个教程和脚本2023-07-04 -
微动态丨九阴真经极乐谷好吗 如何将自己的伤害最大化2023-07-04 -
即时焦点：卫宁健康董事长周炜突然被留置，上市前曾行贿发审委员2023-07-04 -
百万医疗险深耕细分市场2023-07-04 -
-
iPhone换电池教程 iPhone系列更换电池教程2023-07-04 -
股票行情快报：中创环保（300056）7月3日主力资金净卖出207.75万元2023-07-03 -
全球快看点丨青海黄南：12头牦牛陷泥潭 警民合力三小时救出2023-07-03 -
《高能英雄》技能介绍|电磁夜曲·菲儿-世界即时看2023-07-03 -
更酷炫了，上海千古情景区全新升级归来2023-07-03
-
【全球热闻】四川在畜禽育种领域取得突破 发布3个国家级审定新品种2023-07-03 -
每日速看!云南两项林业科研成果获省科学技术进步奖2023-07-03 -
通许：夏管正当时 农技送田间2023-07-03 -
上实发展：获得政府补助2023-07-03 -
暑假去哪儿？图书馆里“七彩夏日”为小读者捧出丰盛“套餐” 当前焦点2023-07-03
-
今日热议：动漫 | 久等了！为什么说七龙珠才是永远的神?2023-07-03 -
IPO观察丨背靠百度、专注医疗内容营销，为何健康之路举步维艰？2023-07-03 -
苏州交管app下载_苏州交管12123官网|要闻速递2023-07-03
-
金融管理部门将于近日约谈蚂蚁集团2023-07-03 -
天天视点！在华外商共享RCEP全面生效“大蛋糕”2023-07-03 -
闰土股份股东户数连续4期下降 累计降幅2.18%2023-07-03 -
星汉灿烂男女主相遇（星汉灿烂男女主星座）_头条2023-07-03 -
【世界聚看点】国家统计局：2022年文化产业营收超16.5万亿元2023-07-03 -
当前播报:威慑四方的大汉王朝是如何建立的？一顿饭功不可没2023-07-03 -
安徽省公共卫生临床中心开设间质肺专病门诊 最新快讯2023-07-03 -
半永久学校推荐（半永久学校）-焦点日报2023-07-03 -
36岁法布雷加斯宣布退役 将执教意乙科莫梯队 20年足球生涯获17冠2023-07-03 -
视讯！中钞国鼎金条价格今天多少一克（2023年07月03日）2023-07-03 -
打卡去！贵州这些生态旅游地标等你-焦点信息2023-07-03 -
焦点速递！Viper有望回归LPL，圈内大佬曝光他的合同，打得不好就回来2023-07-03 -
天天热议:不当舔狗挺好的：皇马，你醒悟了吗？你只是姆巴佩的“工具人”2023-07-03 -
“追星就追科学家”科普活动走进武汉 青年科学家带学子共探宇宙奥秘2023-07-03 -
推动虚拟人产业健康规范发展（人民时评）-资讯2023-07-03 -
本周9只新股网上申购，药明康德供应商在列，还有跨境电商-环球微资讯2023-07-03
-
当前视点！逆袭之夜！樊振东孙颖莎丢冠，日韩均夺冠，林高远打脸质疑者2023-07-03 -
“朋友圈”，公司怎能想占就占-天天观速讯2023-07-03 -
天天热头条丨7月新规实施 允许车主自行安装电子后视镜2023-07-03 -
眉豆咸肉粽子的做法和配料?_全球快播2023-07-03 -
普京下周将通过视频连线参加上合组织峰会2023-07-03
-
高伦雅芙祛痘_高伦雅芙2023-07-03 -
环球关注：孕妇可以吃鳝鱼吗有什么好处_孕妇可以吃鳝鱼吗2023-07-03 -
人社部：探索推进社会保障卡加载数字人民币支付功能2023-07-02 -
郑薇:赛前没想到能夺冠 打澳大利亚队消耗巨大2023-07-02 -
快资讯：比亚迪6月新能源汽车销量25.3万辆 同比增长88.79%2023-07-02
-
开封景点排行榜前十名照片_开封景点排行榜2023-07-02
-
即时焦点：“过分”的周深，让观众看清白鹿的为人，《跑男》因此封神2023-07-02 -
焦点日报：湖人连签7将，利拉德申请加盟热火！火箭4笔交易达成，威少留快船2023-07-02 -
焦点速看：TCL中环：控股股东增持公司股份545.56万股2023-07-02 -
-
焦点快播：最新人民币兑换莱索托洛蒂汇率汇价查询_2023年07月02日2023-07-02
-
世界看热讯：法国多地仍有冲突发生 超2400人被捕2023-07-02
-
今日热搜：暑假，最应该给孩子补补体育课2023-07-02
-
校企合作，高校科创成果走进市北园区路演2023-07-02 -
世界速讯：“一窗多办”少跑路 开办校外培训机构又有新举措2023-07-02
-
今日热议：9岁乔治小王子看板球吃披萨，好胃口被爸爸欣赏，穿西装被热议2023-07-02 -
南派三叔作品集顺序（南派三叔作品时间顺序）2023-07-02
-
仙魔大陆手游_仙魔大战 手游相关内容简介介绍2023-07-02
-
全球最资讯丨室外地坪漆的价格（地坪漆的价格）2023-07-02
-
当前资讯!鉴别绿松石真假最简单的方法（怎样辨别真假绿松石）2023-07-02 -
关于端午节的祝福语|快资讯2023-07-02 -
天天最资讯丨马刺宣布签下状元文班亚马，合同为4年5500万2023-07-02 -
每日快看：弥漫性甲状腺病变是什么意思怎么治疗_什么叫弥漫性甲状腺病变2023-07-01 -
朔风·朔月(对于朔风·朔月简单介绍)2023-07-01 -
【天天速看料】甘孜首次发现史前涂绘类岩画群2023-07-01 -
全球微资讯！极端女拳的重灾区为何是大学？浙江某大学女生网络上自称厌男2023-07-01
-
商品房买卖合同备案流程法定规定|世界速看料2023-07-01
-
天天微头条丨菊科莴苣属植物_莴苣 菊科莴苣属植物2023-07-01 -
秘书科工作总结_秘书是做什么的 秘书的工作介绍2023-07-01
-
三亚一饭店惊现老鼠上桌吃剩菜！市监局：不仅是停业整改 还会进一步查处 全球热闻2023-07-01 -
mozilla firefox是什么软件_mozilla是什么软件简介介绍2023-07-01
-
天天观天下！大连好吃实惠美食推荐 大连最好吃2023-07-01 -
卢卡申科：白俄罗斯永远不会使用核武器 但必须拥有核武器-天天关注2023-07-01 -
弑神者第二季百度云_弑神者第二季2023-07-01
-
四月英语缩写_四月英语缩写 怎么写_焦点讯息2023-07-01 -
全球速递！cad圆弧怎么画弧长_cad圆弧怎么画2023-07-01 -
原神修复镇物其二镇石在哪 原神修复镇物其二镇石位置 全球快看点2023-07-01
-
天天快讯:故宫博物院参观新规正式实施2023-07-01 -
手机挂坠怎样拴绳 手机挂绳怎么挂2023-07-01 -
报道：齐鲁制药二十四款在售药品首次对美直供短缺药2023-07-01
-
世界消息！NFT 蓝筹股 Azuki新系列与原作高度重合，市场抛售新作跌破发行价2023-07-01 -
中船汉光（300847）：6月30日北向资金减持3.93万股2023-07-01 -
-
每日快报!电脑美颜软件哪个好用 电脑美颜软件2023-07-01
-
地震级交易！现役3大顶级球星争相加盟费城，就看哈登想去哪了_当前通讯2023-06-30 -
时讯：河南交通事故赔偿明细表_河南交通事故赔偿2023-06-30 -
全球视讯！有雨，需防范！甘肃多地降水接连来袭2023-06-30 -
2023年7月恋爱番（02）-【我的美好婚事】2023-06-30 -
新能源出海的中场战事：为什么新势力远远落后于传统车企？-今日热门2023-06-30
-
环球聚焦：东华能源：公司目前尚未开通微博与抖音等新媒体账号2023-06-30
-
注意！7月3日至4日，网上填报！2023-06-30
-
达利食品拟启动私有化退市2023-06-30 -
券商今日金股：3份研报力推一股（名单）_世界最新2023-06-30
-
济南槐荫：打造“数字街区” 提升基层治理能力-环球观焦点2023-06-30