“我很害怕。” 2月26日，演员王劲松在个人微博发文称，某些微信视频账号盗用了他的图片，“攻击我”，并为了宣传目的而修改了视频的文案和口型。新京报贝壳财经记者调查发现，涉案AI“魔改”视频中，王劲松的服装、神态、视频背景与2020年抖音账号@抖音电视剧（抖音电视剧公众号）发布的视频几乎一模一样。原视频左上角有“冰雨火”水印，视频主题为禁毒禁毒宣传。新京报贝壳财经记者找到了AI魔改的“原始视频”，对比了魔改后的视频截图。被AI“神化”后，“王劲松”开始在视频中宣传所谓的“财富平台”，包括“CRC”和“RWA”等概念。对此，王劲松本人在微博上坦言：“你无法根据你的声音或嘴巴的形状来判断某件事是真是假。” “我的家人不知道那是否真的是我。”目前，该视频已被微信视频号立即删除。但一个值得问的问题是，人工智能“神奇地改变”名人的视频有那么容易吗？各大视频平台是否对此有所防范？从技术上来说，是否可以区分AI视频和真实视频？王劲松、于和伟、李连杰等人都有配角视频。外面流传的所谓“CRC和RWA”是谁？ 【设备实测】生成“神奇AI视频”容易吗？与王劲松“同款”？答案是“这并不容易”。新京报贝壳财经记者测试发现，市场上常用的AI视频工具在使用时无法达到“以假乱真”的效果仅限普通用户。生成“一模一样”的王劲松人工智能假视频，仍有技术要求。为了进行测试，贝壳财经记者将@抖音电视剧发布的原始视频输入到四款具有AI视频生成功能的软件（极萌AI、科灵AI、剑影、豆宝）中，让它们按照指定的广告文案生成AI视频。因此，极盟AI的“唇形同步”功能仅支持匹配嵌入的音频，生成的视频的唇形同步不会与副本完美匹配。在科灵AI生成的AI视频中，角色并没有按照指定的副本生成“口型同步”视频。您可以使用“克隆音频”功能复制剪辑。视频中角色的声音会被上传，但即使是“改变嘴型”功能也无法将视频中角色的嘴型与文案内容完美匹配。豆宝使用的Seedance2.0视频生成模型目前不支持rt上传真脸素材供参考，无法修改原视频。此外，上述四个应用程序生成的视频都带有“AI生成”水印。从这一点来看，上述四个应用程序很难同时生成“相同”的王劲松假AI视频。不过，市场上仍然有很多具有此类功能的AI模型，并且利用AI来改变角色嘴部形状的公司也已经出现。你可以在电商平台上轻松找到简单易用的“AI语音/视频修改服务”，在不改变音色的情况下，改变视频角色的音频内容，同步嘴型。新京报贝壳财经记者调查电商平台发现，不少店铺支持AI修改名人视频，上传视频后无法显示“AI生成”的字样。一分钟“魔改”视频售价响了价格从130元到400元不等。例如，“AI数字真人视频口型同步”的卖家表示，他的服务“已售出1000多台”。对方表示支持“用不同的文字和对口型替换名人视频”。预备军记者搜索电商平台，寻找支持AI“魔改”的店铺。在店铺里，有的店铺称自己使用的是“专有系统”，也有的店铺解释说使用的是数字人技术。贝壳财经记者注意到，近年来，随着技术的发展，这些“假明星”视频已经从“AI动图”演变为“AI换脸”，如今又升级为“AI对嘴型”。每一次技术的更新，都会挑战肉眼的感知能力。对于王劲松的形象是“AI”这一事实，中国政法大学知识产权中心特约研究员赵占瀚在接受采访时表示贝壳财经记者表示，如果专门利用AI工具制作虚假的明星代言视频，未能履行重要的展示义务和管理责任，图片提供者AI技术也可能要承担相应的责任。根据《生成式人工智能服务管理暂行办法》，服务提供者应当采取有效措施防止虚假信息的产生，并对生成的视频进行明确标识，避免混淆、误认。北京中闻律师事务所合伙人赵虎对贝壳财经记者表示，责任方应包括视频制作者、平台以及提供工具的AI公司。 “任何未经名人许可使用名人形象或声音的行为都构成版权侵权。平台有责任根据‘安全港原则’删除侵权视频。”最难判断的是人工情报公司。虽然技术上是中立技术，但产品本身的设计是否有问题，是否没有考虑到对他人权利的保护，是否正在成为他人犯罪的工具，都值得思考。人工智能技术正在快速发展，但必须指出的是，适用于它的法律法规并不一定完善。 《【审核】平台审核虚假AI视频有多难？目前各大视频平台审核此类“AI生成”视频的力度如何？2025年9月，新京报贝壳财经记者报道了5个平台（哔哩哔哩、微博、抖音、快手、小红书）。事实证明，除抖音、快手外，其他视频平台均无法识别这些视频是AI生成的。2月27日，新京报贝壳财经记者报道称，除抖音、快手外，其他视频平台均无法识别这些视频是AI生成的。财经记者再次尝试上传记者使用工具生成的名人视频。ar抖音和快手两个短视频平台上的人工智能工具。原来，抖音是唯一一个在视频左下角显示“本作品包含AI生成内容”字样的网站。事实上，随着AI技术的更新，平台检测AI视频变得越来越困难。该视频平台的消息人士告诉壳牌财经记者，该平台被一些社会上最知名的人士使用。该公司创建了一个图像保护库，以有效阻止假冒营销内容。然而，从平台治理的角度来看，仍然存在重大挑战。这主要体现在一些用户利用各种手段对抗平台，比如图像调整、面部遮挡、分屏、跳帧等问题。 ThePlatforms 还不断迭代其策略来应对这些变体。此外，用户可以快速更改他们使用 AIGC 创建的“图像”，例如进一步加大治理挑战。此外，声纹与人耳相似，从算法的角度来看具有非常不同的特征，这使得概括和识别突变变得更加困难。同时，由于人耳无法准确区分AI声纹，真假声纹的成本很高。熟悉视频点评业务的人士也向贝壳财经记者表示，在假明星营销的情况下，一些社会名人在平台上开展营销活动，比如自有媒体或代理商在平台上直播产品部分和推荐视频。因此，视频本身就可以区分虚假营销和正品。这是很难、非常难对付的。多位AI行业专家向贝壳财经记者表达了这样的观点：AI生成技术和AI检测技术正处于“螺旋式上升”的趋势，就是“道愈高，魔愈高”。中宣大学数据科学与智能媒体学院副教授张三一告诉贝壳财经记者，从技术角度看，虽然生成技术一再升级，但一般都能发现生成和伪造的痕迹。这通常是我们深入研究视频背后的线索以帮助我们做出决定的地方。未来会使此类视频欺骗变得更加困难的是它不是开源的。 “如果视频生成的技术路线，从检测的角度来看会比较困难。如果大致了解视频生成的技术路线，就可以作为检测的突破口。”在张三一看来，目前AI生成大规模视频模型的技术路径基本都是通过扩散模型生成，但各个公司都基于此开发了自己的核心技术，并且有很多细节问题。未公开。在这种情况下，当有人使用最新版本的人工智能模型生成的视频时，肯定会存在盲点。 “平台检测模型还需要一定的时间更新，以应对新版本的生成模型，这无疑是一个隐患。”张三一告诉记者。据贝壳财经记者不完全统计，腾讯计划从2024年开始打击利用人工智能模仿名人进行营销和广告的行为。 1月18日，微信表示，“平台将迅速严厉打击利用AI伪造名人从事非法拼接、不当营销、恶意获取流量等行为。近一个月累计下架内容12091条，废弃内容3281条。”该帐户已被关闭。据抖音电商2月25日发布的2025年年报显示，台湾一直在应对热点问题。近一年来“明星版权侵权假冒”、“滥用人工智能虚假广告、侵权模仿明星”等话题受到严格管控。迄今为止，总共解决了 11,000 个非法、被盗和虚假名人帐户，比 2025 年还要多。“主动拦截了 10,000 个被盗视频。” 【诈骗】王劲松等明星“官”，主谋涉嫌非法集资。新京报贝壳财经记者调查发现，王劲松展示的“AI”视频中，视频的用户名是“CRC Digital”。值得注意的是，虽然该视频账号被封禁，但一直发布CRC明星代言视频的微信公众号“RWA数字生态”也表示“因涉嫌欺诈，该账号已被暂停”。仍然有不少名为“CRC”、“RWA生态”的视频和账号，散布在视频账号、抖音等平台上。参与其中的名人包括李连杰、于和伟、唐国强、张国立、李亚鹏等。名人的假唱和视频写作几乎很难区分真假。社交平台上有关 CRC 的帖子。对于这些视频的真实性，新京报贝壳财经记者在微博上留下上述明星或学习留言求证。截至撰写本文时，尚未收到任何回复。针对这些视频中包含的“CRC”、“RWA生态”等概念，记者发现，这种“集资”骗局已持续数年，其背后人员涉嫌宣扬上述概念，进行非法集资。关于“华润”，华润集团也于2023年6月发布公告称，发现有公司注册并开展业务在英国的名称为“Summit Digital Financial Group”、“Overseas China Resources CRC”和“China Resource Capital Limited”。华润集团表示：“这些公司及其关联方或个人与该集团不存在关联关系或股权关系，也不存在任何投资、合作、业务或其他合作关系。”他还警告公众不要被愚弄。 2025年10月17日，大连市委财委办公室发布消息称，近期不法分子利用RWA（真实世界资产通证化）概念推销投资项目，以“金融创新高回报”为伎俩，诱导公众投资。这些活动暗藏“资金盘”陷阱，涉嫌非法集资，严重扰乱金融秩序。 2026年2月12日，江西省证监局也发布风险提示，指出不法分子利用名义诸如RWA、稳定币、区块链等，通过夸大宣传来吸引公众投资。此类诈骗行为引发非法集资等犯罪活动，严重危害财产安全。这个套路和大连广告中提到的一模一样。对此，赵展表示，在这种情况下，AI内容生成者，即视频制作者，是责任的起点。制作方未经许可使用王劲松​​的肖像和表演片段，利用人工智能技术合成虚假广告，首先侵犯了王劲松的肖像权。根据《中华人民共和国民法》规定，未经肖像权人同意，不得创作、使用、出版肖像，法律另有规定的除外。同时，该视频将王劲松“背景可疑”，可能会引发舆论负面评价并对其声誉产生怀疑或侵犯。 “所公布的项目方‘CRC数字资产’是整个事件的最终受益者和幕后推手，如果资产盘确实涉嫌欺诈或非法融资，将会利用王劲松的融资。”明星制作人工智能视频进行虚假宣传，不仅构成民事诈骗，还可能触犯刑法，涉嫌诈骗、非法吸收公款。 ”赵站长对贝壳财经记者如此说道。新京报贝壳财经记者罗一丹、主编张晓辉、校对陈莉、穆贤通。”