假雷军七天骂翻全网是谁之过 2023年基于AI的深度伪造欺诈增长了3000%

假雷军七天骂翻全网是谁之过 2023年基于AI的深度伪造欺诈增长了3000%“雷军在国庆节被雷军骂了七天”?据报道,在这个国庆节期间,短视频平台上出现了大量“雷军”的演讲视频,涉及交通堵塞、休假、游戏等热门话题。他们不仅言辞犀利,而且经常发誓。但事实上,这些演讲与雷军本人无关,而是人工智能配音。目前,相关短视频已逐步从平台上下架。

古时候就有虚假信息。如今,每个人都有“麦克风”、每个人都是信息来源,信息和新闻之间的界限越来越模糊。真假新闻和汹涌澎湃的情绪使舆论领域跌宕起伏,每天都可以看到过山车般的翻转。

如果说之前的人工造 假只是1.0版,那么AI的发展就开启了2.0时代,深度伪造,低价量产。变脸,换声音,换动作,移花接木;文生文,文生图,文生视频,随机编造...当整个虚拟图像可以定制几千块的时候,当一个普通的软件在几分钟内生成一批内容详细、真假难辨的文章,当几张图片和几个关键词可以轻松炮制“新闻”的时候,我们该如何应对?假雷军七天骂翻全网是谁之过 2023年基于AI的深度伪造欺诈增长了3000%

虚假信息的激增是一个全球性的问题。海外政要官员、商业企业精英、歌手和明星都遭受了“瓷器碰撞”。装配线欺诈不仅侵犯了隐私权益,混淆了公众认知,而且带来了巨大的风险和隐患。根据2024年人工智能安全报告,2023年基于人工智能的深度伪造欺诈增加了3000%。仅在上半年,人工智能欺诈案件的价值就超过了1.85亿元。

如何识别和管理深度伪造猖獗?一些学者主张,从虚假信息生命周期和传播链三个环节,即制造、传播和接受。以生产端为重点,中国先后出台了《互联网信息服务深度合成管理条例》等法律法规,逐步明确了各方的权利和责任,期待更有力的治理措施。从平台的角度来看,虽然已经采取了加强识别的措施,但仍然需要加强产品升级,用技术抵抗技术,用魔法打败魔法。假雷军七天骂翻全网是谁之过 2023年基于AI的深度伪造欺诈增长了3000%

信息最终会对人产生影响,媒体的跨代变化总会对观众产生深远的影响。技术进步带来了“数据的洪流”和“选择的麻烦”,这也要求人们具备基本的媒体素养。对于所谓的“实时热点”和抢眼的信息,我们不应该盲目地相信和分享“听风就是雨”。此外,有必要有意识地改进媒体使用策略,平衡信息来源,打破“茧房”,改善“信息挑食”、拒绝“倾听和相信”。人工智能最初是由“人工”创造的,也应该用于“人”和“人”服务。我们应该有足够的信心共同行动,以善治实现善“智”。

随着人工智能技术的发展,人工智能配音已经成为一种新的创作方式,越来越多的网民通过配音软件进行创作。这也引发了人们对人工智能技术应用界限的讨论。一方面,人工智能配音技术为创作提供了新的概率,使内容创作更加多样化。另一方面,人工智能配音也有滥用的风险,不当使用可能涉及侵 权。假雷军七天骂翻全网是谁之过 2023年基于AI的深度伪造欺诈增长了3000%

无论是普通人还是知名人物,未经本人同意,都使用自己的肖像和声音进行编辑生成,甚至发布具有诽 谤特征的内容,这显然侵犯了他们的相关民事权利,如肖像权、名誉权等。

《网络安全法》、《数据安全法》、《个人信息保护法》、《科技进步法》等法律对此进行了规定;2023年8月15日起,国家网络信息办公室等七个部门联合发布实施的《生成式人工智能服务管理暂行办法》也明确规定了侵犯个人信息权利的人工智能责任。

北京京本律师事务所主任连大律师表示,根据《民法典》的规定,雷军可以要求恶搞者承担法律责任,包括停止侵 权、公开道歉、恢复声誉和赔偿损失。如果恶搞者的恶搞行为违反了《治安管理处罚法》的有关规定,他们还将面临行政处罚,如行政罚款或(和)行政拘留。其次,如果恶搞内容散布谣言,造成严重的社会效应,则可能违反刑法。