【前情提要】她只是说了句“大家好”,全网却炸了。
“大家好,我是李梓萌。”这句话 本该在《新闻联播》的严肃开场中响起,如今却诡异地出现在一个卖鱼油的直播间里。你没看错,是**AI伪造**的央视主持人,在为一款执行标准为**糖果**的产品大肆宣传 。
这事儿听着魔幻吧?但北京市场监管部门查得明明白白。今年2月,有人举报说看到李梓萌在直播卖“深海多烯鱼油”,还宣称能治头晕手麻 。执法人员一查,好家伙 那个拥有88万粉丝的账号 用的就是**AI换脸技术**,把李梓萌的脸,精准地“贴”到了推销员身上 。
想想都后怕。。
咱们习惯了荧幕上那个端庄、专业的李梓萌形象,那份信任是几十年如一日攒下来的 。。可就这么被几个代码轻易复制、篡改 用来给一颗糖做虚假广告 这感觉 就像自己最信赖的朋友突然拿你的名义去骗人。。
更离谱的是,这玩意儿居然敢打“适合头晕头痛、手麻脚麻”的旗号,这不是明摆着把普通食品当药吹吗?直接踩了《广告法》的红线 。最后,这家公司被罚了20万 账号也被封了 。但这点罚款 对于他们可能赚到的钱,真的算得了什么?
这哪是简单的假广告啊 这简直是往公众信任的心脏上捅刀子。。
李梓萌老师为了维护专业形象 据说连头发都是精心打理的假发,二十多年如一日,就为了那屏幕前的一丝不苟 。。这份对职业的敬畏,现在却被冰冷的技术玩弄于股掌。。
而且 李梓萌根本不是第一个受害者。。
全红婵、孙颖莎这些奥运冠军 也都被AI克隆声音和形象 给土鸡蛋带过货 。。这帮黑产分子,专挑国民度高的名人下手 就是吃准了老百姓的信任。。
他们是怎么做到的?说白了 就是“AI即服务”的黑产模式。网上甚至有暗网提供“一键生成”的换脸服务 。只要有目标人物的照片和声音样本 就能造出以假乱真的视频。田不熟的亲戚打电话来借钱 视频里人模人样,你能分清是真是假?
所以,下次刷到某个大明星在直播间激情呐喊,卖着天价神药,你可得多个心眼。别急着下单 先想想:这真的是他/她本人吗?平台是不是应该负起责任 建立更严格的审核和“黑名单”机制?
技术跑得太快 法律和监管有时候真有点追不上。。
虽然《民法典》明确保护肖像权 ,但怎么溯源、怎么重罚 还得加把劲。。不然,今天是李梓萌,明天可能就是你我。。
这件事最大的讽刺是什么?是那个伪造的“李梓萌”说得越真诚 我们心里就越发凉。因为真正的李梓萌,一辈子都在追求真实与客观,她的专业主义 成了骗子最好的遮羞布。
说到底 我们该怎么相信眼前看到的一切?当AI能完美复制任何人,仅凭肉眼 我们还有办法分辨吗?这已经不是一个简单防骗的问题了 它关乎整个社会的信任基石。
你觉得,面对这种高科技骗局 咱们普通人还能怎么办?评论区聊聊你的看法!
【以上内容均来自网络资料整理,如有侵权,请联系删除】