央视曝光！主播直播间用AI模仿湖南越洋辣椒卖货

如今，短视频平台或者直播平台购物已经成为很多人的新选择。看视频时，经常出现熟悉的明星，用流利的当地口音推销农产品，有的还进行直播推销产品。所谓的明星，恐怕都是假的。近期，一些网络商贩利用人工智能技术进行假冒伪劣商品。有的利用名人的影响力来模仿专家学者、奥运冠军、影视明星；有的则利用名人的影响力来模仿专家学者、奥运冠军、影视明星；还有的利用源头效应引进知名品牌。消费者和粉丝很难辨别真假，所以他们因为信誉而下订单，却不知道自己被骗了。色彩漫游的“艾鬼”——是我们数字化管理能力的问题。近日，在一些移动平台的网络直播间中，张树岗辣椒旗下的一些骨头成为了主播宣传的重点。名词记者注意到，直播间销售十分火爆，人们及时询问或下单。湖南岳阳樟树岗辣椒是具有400多年栽培历史的农产品。由于体积小、品质高，特级产品每斤可以卖到300元。在这些网络直播间里，记者发现，图片中显示的辣椒都挂在串上，输出非常Ataas。当直播间记者询问辣椒种子是否是真的，种下后会不会很大？主播说所见即所得。搞笑的是，就像回答主播的问题一样，背景视频中出现了农民站在几乎齐膝的深水里挑选辣椒的场景。该场景明显不符合常理，类似的场景也出现在其他直播间中。当记者询问是否场景是AI形成的，主播没有直接回应。为一探究竟，记者找到相关技术专家了解情况。技术专家指出，图片中，一名女子服用了辣椒的辣椒后返回，她的整个下半身都结合在了辣椒的辣椒中。这显然违背了现实世界的规律。这是业内的一个专业术语，叫做“模特穿搭”。对世界的数字内容进行建模的核心仍然是基于语言，但无法看到和预测现实世界的物理规律。记者发现，“模型跨界”是AI生成的常见视频中的一个常见缺陷。技术专家介绍，就像直播间无人机喷洒农药的片段一样，水雾的形状是正三角形，而不是自然的雾化状态。这是一个技术漏洞。随后，记者来到樟树岗辣椒大厦。g 前往湖南岳阳进一步核实。湖南省岳阳市湘阴县樟树镇高级农艺师黄元介绍，樟树港的辣椒植株很矮。视频中的辣椒有一个人那么高，而且花并不是辣椒花。第二，叶子不是辣椒叶子的形状。从视频中辣椒的产量来看，每亩可能超过6000公斤，但樟树岗辣椒每亩的收获量在两三千公斤左右。法律专家指出，利用人工智能创造不符合现实或不存在的产品内容，甚至利用品牌产生收入，都涉嫌违反民事甚至刑事犯罪。中国法学会消费者权益保护法研究会副秘书长陈银江：涉嫌侵犯拥有知情权、选择权的消费者。 《中华人民共和国消费者权益保护法》《中华人民共和国电子商务法》和《中华人民共和国电子商务法》都明确规定，经营者推荐商品和服务信息应当真实、准确、全面。如果经营者不小心通过AI视频或者照片欺骗消费者，让消费者误认为自己可以是这样的，但实际上不会像图片、视频，这可以是照片和视频、视频。 中国社科院：“中华人民共和国的人民共和国法”，情况可能会更严重。事实上，除了利用AI技术假冒知名产品、大众品牌外，不法商贩还利用AI技术假冒名人来获取非法收入。一些专家学者、奥运冠军、影视等公众号成为影视等公众号的攻击对象 电影和电视的目标视觉等公众号成为影视“代言”对象 公开声明李凌教授：网络上出现大量虚假视频 假装出售医学书籍和治疗方法，其中大部分是人工智能合成的。我从来没有在任何平台上建立过医学书籍或医疗产品。请不要被愚弄。然而，对于普通大众来说，辨别内容是否是人工智能造假并不容易。也有很多人蒙在鼓里，来这里购买这些产品。记者在销售评论区看到，不少消费者谈论产品质量;一些人说该产品不是公众人物发布的；有人说他们被骗了。中国政法大学副教授 朱伟：根据《中华人民共和国民法典》，我们今天看到的一些编辑的面孔和声音，属于当事人的人格和权利，任何人未经允许都不得侵犯。不仅不能直接使用，而且当事人的人脸信息、语音信息也不能进行深度合成。根据《中华人民共和国网络安全法》的规定，属于虚假信息、违法信息。今年9月1日，国家网信办等四部门联合印发的《关于人工智能合成内容标注的建议》正式实施。该提案明确，所有文字、照片、视频等内容均应“清晰”明确，平台应对服务提供商的内容上架或上线时进行检查，验证生成的合成内容身份，对未知或疑似内容添加风险提示，力图在传播结束时防止虚假信息扩散。记者调查时发现，目前各大网络平台普遍升级了自己的内容。 AI内容识别系统，需要在生成的作品中增加AI内容识别。马克，但仍然有一些人用不同的方式来逃避诊断。例如，如果内容经过数据篡改、转换等处理和上传，平台将很难确定该内容是由人工智能形成的。事实上，AI技术滥用所引发的问题是复杂且无聊的，而印象中的法律法规的完善只是底线的要求。截至目前，我国生成式人工智能产品用户规模已达2.3亿。随着AI技术的快速发展和生成式人工智能的快速重复，人工智能生成的各种信息让人眼花缭乱，有时真假难辨。这也给平台的监管和管理带来了新的挑战。出击，技术迭代升级，假内容的避免变得更加困难。过去，深度宽恕需要一定的技术门槛和成本投入。借助大型AI模型，不再需要长期深度学习和数据训练，几分钟内即可形成fakeG内容，真实程度更加惊人。在一家科技公司办公室，技术人员在现场为记者拍照。几分钟后，上图ure 是通过一个大型 AI 模型在实时视频中形成的。与此同时，记者手中的矿泉水变成了红酒；他身上穿的T恤变成了西装，实行纯英文进货。要想揪出人工智能“李鬼”，打倒造假者，打回原形，需要搭建多方协同的“立体防线”。平台应肩负起责任，进一步升级人工智能识别技术，利用数字水印、区块链认证等手段，增强防伪和溯源能力，防止人工智能造假和虚假信息进入分散平台。法律法规也需要完善，进一步明确标签规范、监控机制和责任机制。对于技术开发者和使用者来说，应该坚守“技术向善”的底线，不要把商业利益凌驾于社会责任之上。事实。 AI不仅侵犯人权、品牌造假，还增加了欺诈的嫌疑。它还强调了数字社会所依赖的信任基础。艾“李鬼”变得更加真实。作为消费者，我们当然应该尽可能擦亮眼睛，用“奉献”来认识所谓的“明星代言”，保持理性判断，防止陷入消费陷阱。然而，仅仅依靠普通消费者的免数能力是远远不够的。更需要平台和部门承担起评估和运用制度力量的责任，通过改进技术手段和管理能力来守卫“真实性”的边界。只有全社会形成打击人工智能造假的合力，才能用“科技”之笔描绘出“美好”的未来。