小编：用AI“跟随明星”带货、用AI生成虚假商品评论、发布AI合成内容不“标记”……【强化AI应用】
用AI“追明星”带货、用AI生成虚假商品评论、发布AI合成的内容而不“标记”……
【加强人工智能应用监管，推动人工智能合法运用】滥用“以假乱真”的人工智能。你我如何才能不落入陷阱？
新华社发 朱惠清撰
编者注
人工智能技术的不断发展和应用，给人们的工作和生活带来了很多便利。同时，随着图像、视频、音频生成门槛的降低，人工智能制造虚假信息的情况越来越多。在电商平台上，一些商家利用人工智能技术引入明星进行直播营销，侵犯他人合法权益，损害消费者的知情权和选择权。期待法治精准回应AI滥用，澄清明确科技发展的法律边界，让科技在法治轨道上更好地服务人类。
近日，女演员温峥嵘透露，网上发现冒充她的直播间。最近有人发现她同时“出现”在几个直播间，妆容不同，产品不同，却说着同样的话。这些直播画面都不是温峥嵘本人拍摄的，有的其实是人工智能合成的假直播。
人工智能技术的不断成熟和广泛应用，给人们的工作和生活带来了诸多便利，但与此同时，一些个人或企业利用人工智能生成虚假视频来误导公众。
专业人士认为，有义务对人工智能生成的内容进行标签。同时，技术平台、电商平台等交流平台MS必须承担识别、没收和惩治非法账户的首要责任。公众还必须提高认知能力和意识，避免人工智能生成内容的风险。
虚假视频误导消费者
“这真的是奇迹吗？” “这款痔疮膏不需要饮食限制，也不需要惩罚，是全网唯一没有差评的产品……”近日，《日报》记者在一段视频中看到了工人的身影。尤赵在上海了解到韩红、潘长江两位名人通过答疑的方式推销某种痔疮产品。视频中，还有其他女明星为该产品“代言”。
赵女士向记者透露，这是他今年8月份用妈妈手机上的短视频软件拍摄的一段视频。她妈妈看到“连名人都推荐这个产品”，准备下单。女士制止了。赵当时说：“这个视频是生成的乍一看是AI的，说话时的表情和嘴巴不自然。”
作为AI短剧的创作者，谭晶告诉记者，女士妈妈看到的明星宣传视频。赵实际上是使用数字人类技术制作的。 “只要有星星的图像，就可以让k角色动起来，哪怕是截图。只要明星在某个场合说一句话，声音就可以被克隆。”
今年6月，北京海淀市场市场局查处一起企业利用人工智能技术介绍央视知名主持人姓名和形象的虚假广告案。 8月，有媒体报道称，某社交平台上，有博主利用AI技术模仿奥运冠军全红灿的声音推销当地鸡蛋。有些视频有 11,000 个赞。深度运动冠军孙颖莎、王楚钦也遭遇过类似的仿冒行为。
通过虚假的图像和声音，与名人一起由于真实效应，一些制作虚假视频的营销博主受到了很多关注，订单数量也随之增加。记者在某短视频平台上看到，女士妈妈看到的“明星推销痔疮产品”的视频。赵某被下架，但显示该产品销量约为6000件。据报道，在视频“全红灿带来土鸡蛋”的评论区，大量粉丝误以为运动员本人“代言”并下单购买该产品。结果显示，该产品已售出47,000件。
有消费者发现，随着“双十一”的到来，购物平台上展示的人工智能生成的商品越来越多，比如各种娃娃配饰、衣服、家具，甚至还有合适的模型。一些商家利用人工智能在详情页产品和直播间生成虚假评论来塑造用户体验，影响消费者的理性判断。
律师权杖垦丁律师事务所创始合伙人表示，利用AI技术冒充名人进行直播和营销，严重侵犯了冒充名人的肖像权、名誉权、声音权等合法权益。违反了消费者权益保护法、广告法关于禁止虚假宣传、虚假广告的规定，侵犯了消费者的知情权和选择权。情节严重的，可能构成诈骗罪，依法追究刑事责任。
中国人民大学公共管理学院教授、资本发展与战略研究院研究员张友浪表示，虚假视频和产品不仅导致信息失真、信任侵蚀，还增加了销售权益的保护问题。也通过不公平的竞争导致平台生态的破坏以及后续运营商的挤压请愿。
识别假人工智能视频变得越来越困难
“人工智能工具越来越流行且易于操作，让非专业人士很容易生成虚假内容，这是人工智能生成内容被滥用的主要原因。”北京邮电大学互联网治理与法律研究中心主任谢永江表示。
10月17日晚，安徽铜陵一女子利用AI技术生成多张“流浪汉进屋”照片并发送给一起吃饭的妻子。逼真的画面让妻子相信他是认真的，并报了警。警方前往现场核实后，确认这场闹剧是由人工智能恶作剧引发的。
在一家音乐培训机构担任视频编辑的施毅去年开始尝试使用人工智能生成视频。近日，他在网上发布了一段自己制作的短视频：蓝天下，有声音。学生们的读书声从白色的教学楼传来。课堂上，老师在黑板上写下了作文题“我想去看看”……3分钟的视频里，风景、人物、日常需求都非常生动。
“利用AI技术生成图像，再用图像生成视频，最后编辑、添加配音，一个视频就完成了。”石毅告诉记者，他不是影视专业毕业的，只是对生成视频感兴趣。前面提到的写实视频是他用三四个软件制作的。
“许多人工智能照片和视频都是假的，除非经过标记，否则很难识别。”某领先短视频平台技术托管人刘宇（化名）直言，随着生成大模型的能力越来越强，识别假AI视频越来越困难。
“一些长视频还可以根据上下文来区分。短视频则侧重于即时信息添加特效后，年龄与真人几乎没有区别。如果设备、比特率、帧率等。提高了，识别准确率就比较有限。”刘宇表示，现阶段，平台主要依靠人工和机器相结合的方式进行AI视频识别，不能完全依赖技术识别。
张友浪分析，流量平台和产品转化的强烈激励，导致部分交易者和个人利用AI技术“追凶逐利”，并迅速繁衍和蔓延；网络环境的匿名性和保密性导致滥用行为取证困难，追责成本高；很多人的媒体素养不足以识别深度造假，平台的内容监控机制不完善等，也造成了AI生成内容应用的混乱。
打造“看得见、可审核、可追溯”的东西今年9月1日起，国家网信办等制定的《关于对人工智能生成的合成内容进行标注的建议》出台，要求所有文字、图像、视频等内容“明确身份”，即添加标签，明确其来源和真实性。
施毅告诉记者，导出AI生成的视频时，软件一般都会带有AI水印。如果没有水印，发布视频时必须选择平台提供的AI生成声明选项。
“但是否选择仍然是一个有意识的决定。有些人可能认为，只要视频不涉及版权、ldaily 权利等问题，就不需要标记。”谭晶表示，为了吸引眼球、赚取流量，一些博主会刻意利用AI技术，去掉视频原本“AI生成”的水印，并在发布时选择不标记。
9月，某短视频平台发布关于加强人工智能内容滥用管理的公告，称平台已采取删除、注销违规视频和账号等措施，并强调人工智能应用必须合规，任何误用或滥用行为将受到严厉处罚。
张友朗建议，人工智能生成的内容不仅应该被标记，还应该“可见、可搜索、可追踪”。可以探索隐藏水印、溯源元数据、指纹模型等技术层面，方便平台及相关部门的管理和验证。
在明确人工智能生成内容的标签责任时，张耀朗认为，应实行“内容生产者第一责任、平台控制、第三方可验证”的分层机制：上传者先声明本人并嵌入水印；平台在分发前进行自动识别和现场检查，并要求对未生成或涉嫌虚假内容进行强制补标或限流删除；行业协会和权利人可以通过取证接口进行外部核查。此外，商业营销的内容和广告性质必须遵守广告法规定的更高的披露标准。
为进一步引导社会合法合理使用生成的内容，谢永江提出强化平台责任、强化技术和管理措施、提高公众对人工智能的素养。此外，应加强跨部门合作，进一步纠正人工智能生成内容的违法行为。 （记者陶文）
来源：《工人日报》（2025年11月13日第06页）关于睡眠的科学盛典：CCTV-9播出纪录片《失眠》。困扰无数人的睡眠问题终于通过一部纪录片解释清楚了！ 2025-11-13 08:55 高原风中心建设取得成功国家卫健委主席、中国医学科学院、北京协和医学院院长百万减贫工程专家委员会主任委员吉训明表示，目前全国已有20个省份成立了减贫工程专门委员会，8个省份正在积极推进。 2025-11-12 07:24 彭焕武：用一生践行“科学报国”誓言的模范。 2025年是我国理论物理学奠基人、“两弹一星功勋章”获得者、中国科学院院士彭焕武诞辰110周年。 2025-11-12 07:23 为何gibbo之谜由中国科学院昆明动物研究所牵头，国内外多家科研机构组成的研究团队，通过对现存和灭绝的长臂猿进行大规模基因组测序和比较分析，系统阐明了标志性长臂猿表型的进化历史、种群动态和遗传基础，为全球保护长臂猿行动提供了新的科学视角。相关研究成果近日发表在国际期刊《Cell》上。 2025-11-12 05:10
长征八号甲遥五运载火箭成功实施转运。 11月11日，长征八号甲遥五运载火箭成功转运至海南商业航天发射场，计划择日发射。 2025-11-12 05:10 我国磁量热检测技术实现“零的突破”。最近，量子放射性由中核集团中国原子能研究院牵头的电离辐射测量级仪器测量实验室和“一线多用”产学研平台正式安装，成功填补了我国在低温量子磁量热仪领域的GAP。 2025-11-12 05:10 十部门正着力推动数据开放，协调降低物流成本。在数据管理和使用方面，《实施方案》提出对物流公共数据实行分类分级管理，规范数据授权操作，扩大路网、轨迹、业务、人员等基础数据供给。 2025-11-11 10:03 我国科技期刊总数已达5325种。中国科协发布的《中国科技期刊发展蓝皮书（2025年）》《科学技术》显示，我国科技期刊总数持续增加，从2023年的5211种增加到2024年的5325种，整体影响力持续增强。 2025-11-11 10:04
天天地网络开启国家信息化新征程。空天地一体化网络作为国家信息化的重要基础设施，其战略重要性远远超出普通通信技术的范围。这不仅是我国实现全球信息覆盖和自主创新的必由之路，也是抢占数字时代发展主动权的基本布局。 2025-11-11 10:02 让学生从“好奇”走向“创造”“新” 培养拔尖创新人才不是考验即时爆发力的短跑，而是需要长期耐力的马拉松。在课程体系建设方面，北航实验学校打造了““五级阶梯”科技人才综合培养课程群，实现从基础普及到高级的无缝过渡。2025-11-11 10:00 加快场景培育开放，推动新场景规模化应用 近日，国务院办公厅印发《关于加快场景培育开放促进“新场景应用”的实施意见》（以下简称《意见》），对相关工作作出安排。 2025-11-11 09:50 国航C919继续执飞北行征程的“两航起义”。 11月9日，国航C919再次执飞“两航起义”主题航班从香港飞往天津，带回76年前北上的“两航起义”航班，致敬“两航起义”的爱国功勋。 “两航”传人陈绍增说，76年前，“两航起义”飞行员驾驶12架飞机从香港飞往北京、天津，打造中国新型民用工业。 2025-11-10 10:10
新研究意外地发现，来自制药“超级细菌”的超强抗生素是对许多抗生素具有抗药性的细菌。研究人员并没有在常用药物的制造过程中发现一种有前途且强大的抗生素，可以杀死像耐甲氧西林金黄色葡萄球菌这样的“超级细菌”。 2025-11-10 10:09 2025年世界互联网大会乌镇峰会闭幕 11月9日，2025年世界互联网大会乌镇峰会在浙江乌镇闭幕。世界互联网大会秘书长任贤良用“聚焦构建网络空间命运共同体理念”、“关注创新发展热点话题”、“持续打磨峰会品牌”、“持续打造峰会品牌”来概括本届峰会的特点。“智慧与力量”。2025-11-10 10:08 在使用供暖设备时，这一点要牢记。使用供暖设备有哪些注意事项？我们来看看！2025-11-10 10:17 立足行业需求，以经验丰富的人才团队带动嫉妒。我们将着力促进新型工业化人才需求，顺应实体经济与数字经济融合发展趋势，立足于落实产业侧责任，多措并举加快制造业技能人才队伍建设。深入开展产业基础再造工程和数字化转型行动，依托工程培养高技能人才。
2026年ASC世界学生超级计算大赛全球报名正式启动。 ASC26报名链接：https://www.asc-events.net/studentchallenge/asc26/register.php 2025-11-07 15:58 空间环境台风预报中心：11月6日发生地磁台风，橙色警戒级别。北京时间2025年11月6日11：00-14：00，有强烈地磁扰动，达到地磁暴级别（KP=7），为橙色警戒级别。 2025-11-07 13:39 第一、第一、第一次！本周，中国的硬实力再次成为人们关注的焦点。 Atlas的成功观测是天问一号的重要拓展任务。利用探测器观测微弱天体，为天问二号进行小行星探测进行了技术试验，积累了经验。 2025-11-07 09:37 天问一号成功观测到比太阳系更古老的星际物体。天问一号轨道飞行器最近利用高分辨率相机成功观测了星际物体ATLAS。据报道，天问一号于2021年2月进入绕火星轨道，至今已稳定运行4年零8个月，目前运行状况良好条件。 2025-11-07 09:31
加载更多
当前网址：https://www.xmsmwine.com//tutorials/web/2025/1113/1065.html
