网易首页 > 网易号 > 正文 申请入驻

火爆全网的外国美女竟是数字人?强力AI的边界在哪里

0
分享至

颠覆,是最常用于形容AI的词,各行各业都在拥抱AI的同时不得不引发思考:按这个速度,AI很快就能彻底改变诸多行业多年以来的运行逻辑,会创造很多新机会,也会打破许多旧秩序,可面对如此多以假乱真的内容,AI行走的边界又应该在哪儿?

01

Sora冲击波,AI引领新一轮行业变革

“我们认为Sora的出现相较于其他的“文生视频”模型,是一个非常大的跨越,已经到了实际生产力工具的阶段。”——国盛证券计算机行业 首席分析师 刘高畅。

相比于GPT刚刚破圈时大众的好奇与茫然,如今Sora一经亮相,市场就已经找到它未来的商业路径,而目前主流的观点是Sora的问世将对影视、视频、广告等行业或将带来不小的冲击。

Sora的出现意味着编剧、摄影、特效等影视行业传统角色都将被重构,谁会使用GPT和Sora,谁就将掌握新的生产力工具。尤其是短剧行业,这1分钟的文字转视频,恰好就是目前短剧每集时长,有没有可能你输入每集脚本后,Sora直接生成逼真剧集?

借助Sora这样的工具,将灯光、布景、群演等“简单步骤”交给AI完成,制作一部电影的时间和资金可能只需以前的1/10,类似“赛博朋克风格城市中的一场情侣邂逅”的视频拍摄需要用到特殊技巧,现在只需要输入一段充满想象力的文字即可,“第一部AI短剧”或许要不了多久就会出现。

而在广告行业,Sora可以根据品牌需求和营销目标,快速生成高质量的广告。内容创作的方式变革后,文学创作领域也将迎来复兴,小说可以直接生成动漫、电视剧。视频内容集中爆发,自媒体行业也将迎来重新洗牌。随着技术的不断深挖,未来Sora会将在更多领域得到推广应用,随之而来的则是一系列与版权、伦理和法律有关的问题。

02

虚实幻境,深度伪造隐患

“Sora之后,现实将不再存在”——2024年开年,中国香港警方透露了一场涉及深度AI造假技术的复杂骗局,一家跨国公司的香港办事处遭受了高达1.8亿元的重大财务损失,引发市场高度关注。

据香港警方透露,这场高达1.8亿元的骗局以该公司首席财务官和其他员工的数字重建版本为特色,他们出现在视频电话会议中,指示员工转移资金。这家跨国公司的财务人员被冒充该公司驻英国首席财务官的人要求进行所谓的秘密交易,而最初的怀疑被深度伪造技术所打消。中国香港警方表示,这已经不是第一起严重使用该技术的案件了,骗子利用AI换脸与声音模仿技术修改公开视频和其他镜头,以骗取人们的钱财。

Sora的出现,无疑进一步加深了市场对深度伪造的担忧,毕竟在曝光的demo中,Sora不仅能准确呈现细节,还能理解物体在物理世界中的存在,并生成具有丰富情感的角色,当以往的“AI感”不复存在时,普通人很难短时间分辨出影音画面的真假。

当前,各短视频平台上不是有很多肤白貌美、普通话地道的“俄罗斯美女”吗?她们热情,也热爱中国文化,为视频打上“俄罗斯女孩在中国”“中俄友谊”之类的标签,为观众朋友带来“家乡特产”的牛筋肠、羊奶粉、巧克力、手工皂。然而,如果不是平台标注或账号运营方刻意虚化模糊背景,有多少人能一下看出她们均是AI打造的?

除针对钱物的诈骗,AI干预选举的现象已经出现。在美国,1月新罕布什尔州初选投票期间,有选民称接收到了模仿美国总统拜登声音的人工智能机器人电话,劝阻他们不要投票。

这引发了监管和法律的抵制,美国一些州立法者正在起草法案来规范人工智能生成的政治内容。在欧洲,2023年11月斯洛伐克大选前几天,人工智能生成的录音冒充一名候选人,讨论提高啤酒价格和操纵选举的计划。录音在社交媒体上传播后,引起当局核查。

政客也开始尝试用这项技术与选民沟通。2月初的巴基斯坦举行国民议会选举上,该国两个前总理伊姆兰·汗以及纳瓦兹·谢里夫双双宣布胜选。正在监狱中的伊姆兰·汗还使用人工智能制作的“真人讲话”视频宣布胜利消息,引发外界关注。自入狱以来,伊姆兰·汗一直用人工智能合成信息与选民沟通。

随着AI技术的不断突破,这类深度伪造的事件只会越来越多,以Sora为地表的AI视频更会让这个问题变得复杂化。

03

版权,AIGC时代的达摩克利斯之剑

从AIGC概念诞生之初,版权就一直都是热议的焦点,无论是“以ChatGPT为代表的文本创作”“以Midjourney、Stable Diffusion为代表的图像创作”或是“以Runway、Sora为代表的视频创作”,在创作过程中涉及大量内容,这自然引发了版权问题。

一方面,AI在训练过程中可能使用了受版权保护的内容,这引发了关于如何合法使用这些内容的问题。另一方面,由AI生成的内容本身也可能侵犯他人的版权,尤其是当它们与现有作品相似时。

去年好莱坞编剧和演员大罢工的关键谈判点就是人工智能的适用范围,这一问题尚未真正得到解决。如果Sora作为创作辅助工具,其生成视频的版权是否受到保护,训练素材是否存在侵权责任,这些疑问会让担心卷入纠纷的好莱坞片方采取谨慎态度。

目前看来,包括Sora在内的AI工具有可能还是在项目前期使用,例如快速生成概念图、角色造型和分镜动画,帮助创作者挑选方向,但如果某个有趣的概念角色、场景真的被选中用于实拍,无论是电影、电视还是游戏制作,依然面临侵权索赔和版权保护追溯的风险。

04

主动监管,用规则约束AI

AI内容制作,让现实与虚拟的界线变得模糊,内容真实性、版权、隐私、数据、安全等问题纷至沓来。社会需要一套完善的政策、法律和伦理规范来应对,确保技术发展不脱轨,保护每个人的利益。OpenAI去年就曾发布公告,宣布启动全球招募“红队”网络成员,旨在引入外部力量,提前挖掘出AI系统存在的缺陷和风险。而在此之前,已有相关领域专家呼吁,国际社会应共同推进人工智能监管,以确保其安全性。

同时,面对AI技术飞速迭代,监管体系难以及时、完善对其进行约束的问题,包括中国、美国、英国和欧盟在内的28个国家和地区,于2023年11月,在首届人工智能安全峰会上签署《布莱奇利宣言》,同意协力打造一个“具有国际包容性”的前沿人工智能安全科学研究网络,以对尚未被完全了解的人工智能风险和能力加深理解,被不少人看作是“以魔法打败魔法”的尝试。

总体而言,尽管Sora是一次非常重大的飞跃,但“硬币有两面”,它也存在被滥用的可能。当“懂物理”的生成视频延长到一分钟乃至更长时间,人们看到的东西或许无法作为判断的依据,“眼见为实”也将成为过去式。

针对业界的担忧,美国联邦贸易委员会(FTC)2月15日提出了禁止使用AI工具冒充个人的规则。FTC表示,它正在提议修改一项已经禁止冒充企业或政府机构的规则,将保护范围扩大到所有个人。OpenAI内部仍在开展模型伦理侧的对抗性测试,比如错误信息、仇恨内容、偏见内容、色情暴力等,会在文本输入时被拒绝。

无论如何,AGI这一“潘多拉魔盒”正在被打开,人们或许应该尽快学会“虚实之间”的生存之道。

邮发代号:77-19

单价:8元,年价:408元

编辑|张毅

审核|吴新

爆料联系:cpcfan1874(微信)

壹零社:用图文、视频记录科技互联网新鲜事、电商生活、云计算、ICT领域、消费电子,商业故事。《中国知网》每周全文收录;中国科技报刊100强;2021年微博百万粉丝俱乐部成员;2022年抖音优质科技内容创作者

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
日媒:日本一女警察在警署等地分别与两名上司发生性行为,3人被处分

日媒:日本一女警察在警署等地分别与两名上司发生性行为,3人被处分

环球网资讯
2026-11-21 16:38:05
突发讣告!张劲松因病医治无效于2026年11月18日逝世,享年61岁

突发讣告!张劲松因病医治无效于2026年11月18日逝世,享年61岁

往史过眼云烟
2026-11-21 11:39:08
特朗普点赞深圳,称美国一些城市“脏得让人恶心”

特朗普点赞深圳,称美国一些城市“脏得让人恶心”

极目新闻
2026-11-21 09:44:24
金价连续跳水,记者走访北京菜百:有人一次买200克,现货售罄后消费者排队办理延期提货

金价连续跳水,记者走访北京菜百:有人一次买200克,现货售罄后消费者排队办理延期提货

大众网
2026-11-21 12:23:05
长安大学回应“14日面试13日出结果”

长安大学回应“14日面试13日出结果”

界面新闻
2026-11-21 20:15:09
天呐!差点没认出来,电视里那么漂亮女神,原来跟普通人也没两样

天呐!差点没认出来,电视里那么漂亮女神,原来跟普通人也没两样

情感大头说说
2026-11-20 04:49:19
特朗普APEC期间下榻深圳东海朗廷酒店,内部房间曝光

特朗普APEC期间下榻深圳东海朗廷酒店,内部房间曝光

极目新闻
2026-11-20 18:45:32
原来梁文锋很早就开始做准备了:DeepSeek成功避开英伟达垄断风险

原来梁文锋很早就开始做准备了:DeepSeek成功避开英伟达垄断风险

互联鱼
2026-11-21 00:10:08
就在今天!哈登创造了80年NBA纪录

就在今天!哈登创造了80年NBA纪录

篮球大视野
2026-11-21 12:00:04
红果短剧全面下架,彻底失控了

红果短剧全面下架,彻底失控了

李东阳朋友圈
2026-11-20 10:00:35
特朗普:普京亲口告诉我,如果当年是我担任总统,俄乌战争根本不会爆发;目前谈判的一大困难,是普京与泽连斯基之间存在“深刻仇恨”

特朗普:普京亲口告诉我,如果当年是我担任总统,俄乌战争根本不会爆发;目前谈判的一大困难,是普京与泽连斯基之间存在“深刻仇恨”

大风新闻
2026-11-21 09:33:02
奥斯卡影后当众承认隆胸:是全新的,全C罩杯

奥斯卡影后当众承认隆胸:是全新的,全C罩杯

热搜摘要官
2026-11-20 20:07:43
说出来你都不敢信,美国总统飞一趟中国,花出去的钱足足能买3辆全新的劳斯莱斯!

说出来你都不敢信,美国总统飞一趟中国,花出去的钱足足能买3辆全新的劳斯莱斯!

扶苏聊历史
2026-11-20 15:37:24
A股:紧急提醒2.5亿股民!从后天11月23日起,A股可能再次历史重演?

A股:紧急提醒2.5亿股民!从后天11月23日起,A股可能再次历史重演?

趋势清风侠
2026-11-21 08:44:23
78岁中国体育大佬被查!曾担任篮协+羽协副主席 媒体人曝光内幕

78岁中国体育大佬被查!曾担任篮协+羽协副主席 媒体人曝光内幕

念洲
2026-11-21 13:12:32
突发!黄仁勋掀桌了

突发!黄仁勋掀桌了

小鱼爱鱼乐
2026-11-21 16:08:24
网传零跑A10后备箱被几箱啤酒压穿 官方回应明确了

网传零跑A10后备箱被几箱啤酒压穿 官方回应明确了

快科技
2026-11-21 09:12:08
长津湖战役中,美军发现一整连志愿军官兵冻死在阵地上。电影里表现是美军敬礼,但据当年一名16岁幸存者回忆,美军并没敬礼,而是挨个补枪

长津湖战役中,美军发现一整连志愿军官兵冻死在阵地上。电影里表现是美军敬礼,但据当年一名16岁幸存者回忆,美军并没敬礼,而是挨个补枪

人生录
2026-11-21 00:05:14
A股关键时刻,重磅政策终于落地!大利好来了

A股关键时刻,重磅政策终于落地!大利好来了

星图金融研究院
2026-11-21 15:07:29
火箭主帅怒批球员:打得这么烂,你一场球都赢不了

火箭主帅怒批球员:打得这么烂,你一场球都赢不了

体坛周报
2026-11-21 17:34:09
2026-11-21 20:27:00
电脑报少年派 incentive-icons
电脑报少年派
最新鲜的互联网产业资讯
3978文章数 1609关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

菲总统马科斯APEC欢迎曲为《孩子》引发热议 本人回应

头条要闻

菲总统马科斯APEC欢迎曲为《孩子》引发热议 本人回应

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

游戏
亲子
时尚
艺术
手机

PC Gamer试玩GTA6百小时:双主角出色但任务重复

亲子要闻

宝宝必看的5个启蒙动画,豆瓣评分都是在9.0以上

秋天衣服别总穿纯色,试试这几件条纹单品,简单时尚又减龄

艺术要闻

投资55亿!深圳歌剧院施工现场更新,主音乐厅马蹄形已现!

手机要闻

2026年最后一款超模旗舰!小米18标准版屏幕、性能、影像全面领跑

无障碍浏览 进入关怀版