看似“人工智能”实则工资陷阱央媒揭AI诱骗新套路

随着人工智能的发展迭代，天生式AI正以前所未有的速率重塑着日常生活，但由此衍生出的新骗局、新套路也在刷新人们对风险戒备的认知。

这背后不仅关乎广大消费者的财产安全，还潜藏着人身安全风险和隐患。
梳理近期管理部门查处的AI干系案件，揭开人工智能“圈套”背后的原形。

9块9利用ChatGPT？实在是“套壳AI”

自人工智能产品ChatGPT爆火，一些企业看到无限“钱景”，强行“关联”。
一韶光，市场上呈现出不少与ChatGPT“沾亲带故”的做事产品。
2023年2月，一个名为“ChatGPT在线”的公众年夜众号引起了上海市徐汇区市场监管部门的把稳。

这个头像与ChatGPT原开拓公司官方标识高度相似的公众年夜众号，在用户短暂免费体验后即需注册会员付费利用，支付9.9元可以对话20次，随着对话次数增加，其收费也逐步提高。
该公众年夜众号仅用两个月就吸纳超36万人的粉丝量，累计注册付用度户4231人，经营额共计125385.44元。

司法职员调查创造，该"大众号的运营公司与实际ChatGPT开拓公司并无关联。
所谓“ChatGPT在线”也并非“ChatGPT”产品本身。
“当事人为实现发卖目的，利用类似图像、名称及做事简介等多种手段履行复合性稠浊行为，利用‘ChatGPT’热点进行攀附，稠浊真实情形，谋取交易机会，获取不当利益。
”上海市徐汇区市场监督管理局司法稽查科副科长张琦说，当事人行为违反了《中华公民共和国反不正当竞争法》第六条第（四）项的规定，市场监管部门已责令其停滞违法行为，处以罚款，并哀求其妥善处置干系消费轇轕。

创造，“冒牌AI”的征象并不少见。
2023年，百度“文心一言”上市前夕，网上涌现大量打着“文心一言”旗号的社交媒体账号。
随后百度官方发文辟谣称“文心一言”尚未注册社交账号。

“人工智能大模型开源生态的建立，让AI发展加速的同时也让天生式AI更随意马虎被滥用。
”中国行政法学研究会常务理事、华东政法大学教授沈福俊认为，考虑到立法的滞后性，监管部门还需更加关注新技能发展对市场真个影响，加大事前监管力度，充分利用现有的法律法规资源履行有效监管，切莫使新问题隐匿在“监管盲区”。

张琦也表示，消费者出于对新兴技能的好奇，每每在不知不觉陷入“圈套”。
“如果误用了别有用心的‘套壳AI’，乃至可能被不法分子套取个人信息，埋下安全隐患。
”他建议，消费者在选择AI产品时需仔细甄别，避免被商家误导。
“如果购买到了仿冒产品，要保留好相应的产品购买凭据，主动联系监管部门，掩护自身合法权柄。
”

“AI换脸”诱骗，眼见不一定为实

只需一通视频电话，不法分子就骗走了430万元。
2023年4月，福建省某科技公法律定代表人郭师长西席接到“好友”的微信视频通话，对方声称自己当下须要430万元担保金用以项目竞标，想借用郭师长西席公司的账户“走个账”。
由于有先前的视频通话，加之对“好友”的信赖，郭师长西席陆续给对方转账共计430万元。
随后郭师长西席再次联系好友时才创造自己被骗。
所幸在警方帮助下，成功止付拦截336.84万元。

据郭师长西席回顾，由于在视频电话中确认了对方的面孔和声音，以是绝不疑惑对方身份有诈。
不仅如此，犯罪分子还精准理解郭师长西席与好友的关系，并成功盗取好友微信账号履行诱骗，令人不寒而栗。

AI技能的迭代升级让不法分子借助智能AI换脸和拟声技能，就可轻松实现远程视频诱骗。
调查创造，最近多地涌现的AI换脸诱骗案件，均具备定制性、迷惑性等特色。

个中，喷鼻香港警方近期表露一起涉案金额高达2亿港元的多人AI换脸诱骗案尤为范例。
据媒体宣布，某公司职员受邀参加公司“多人视频会议”时，先后将2亿港元分别转账到5个本地银行账户内。
据警方调查，这场视频会议中除了受害者外，别的均为AI换脸后的诱骗职员。

不少业内专家表示，随着文生视比年夜模型Sora等多模态人工智能的探索和涌现，人们可能陷入“眼见也不一定为实”的困局。
“一贯以来，银行等部门将实时视频用做考验身份的手段之一，如今其可靠性将面临巨大寻衅。
”沈福俊说，“随着人工智能技能的迭代升级，这类违法行为还可能演化出更多形态。
”

沈福俊坦言，对此类AI换脸和AI拟声的恶性诱骗案件，若只依赖传统监管手段已不能防堵，监管部门在提升自我科技能力储备的同时，有必要引入新兴技能，探索用AI技能监管AI的可能。

从消费者角度出发，沈福俊建议提升全民个人信息保护意识，严防隐私透露。
“不管是在互联网上还是社交软件上，只管即便避免过多地暴露自己的信息，在涉及转账交易等行为时，可以多角度讯问身份信息，反复验证对方是否为本人。
”

当心“AI造谣”，小心“流量”变“流毒”

当前AIGC技能已在文本天生、图片创作等方面广泛运用，输入几个关键词即可由AI快速天生一张画或一篇文章。
但一些用户为博眼球、蹭热度，却将人工智能技能用以编“伪”，造“假通报”。

2023年6月，一条名为《浙江工业园现大火浓烟滚滚，眼见者称有爆炸声！
》的视频在网络上流传，引发网友关注。
后经干系部门核实为谣言。
据调查，当事人为给自己账号涨粉引流，获取更多利益，通过造孽渠道购买了AI视频天生软件。
该当事人将网络热门话题通过AI自动天生视频产品，并上传至多个热门视频平台。

截至案发，干系当事人发布的虚假视频多达20余条，涉及浙江、湖南、上海、四川等多个省市，累计阅读不雅观看量超过167万次。
目前浙江绍兴上虞法院已开庭审理并当庭宣判了这起案件，两名被告均被判处有期徒刑。

但“AI谣言”仍时有发生。
2024年1月，广西东兴市骆某某为博取流量，将其他地区的抗洪、救灾视频，经AI软件自动编辑，编造新疆乌什县发生地震的虚假视频信息。
同年1月，四川一网民在某平台发布“贵州女婴被弃”的谣言文章。
经调查，该涉谣文章由AI系统天生并发布，干系辞吐及照片均为不实信息。

技能的遍及带动自媒体家当的繁荣。
但一些网民为获取流量不惜利用技能手段编造天生虚假视频，让“AI谣言”在网络上传播，不仅给网络安全带来严厉寻衅，也严重扰乱社会秩序。

2023年，最高公民法院、最高公民审查院、公安部联合发布的《关于依法惩处网络暴力违法犯罪的辅导见地》中规定，对“利用‘深度合成’等天生式人工智能技能发布违法信息”的环境，依法从重惩罚。

对此，沈福俊等多位专家表示，一方面，要提高广大自媒体经营者的法律意识，从源头减少此类“AI谣言”的产生；另一方面，监管部门也要加强干系案件的宣扬推广，提高网民对“AI谣言”的鉴别力。