全球人工智能发展面临的风险与挑战
发布时间:2024-03-07 浏览次数:384 来源:企业改革与发展

摘要

本文以AI宏观发展视野,聚焦OpenAI发布系列产品带来的影响,深入剖析全球人工智能发展面临的风险与挑战,呼吁国际社会凝聚共识,建立自己的AI通用大模型底座及约束体系。

 

同时,结合产业发展态势,更新了“六要素”观点,提出“构建健康生态”“价值观对齐”等关乎产业未来的AI发展关键词,以驱动中国AI健康、有序、安全发展,为全球人工智能注入向善之力。

 

 

在人工智能时代,特别是在通用大模型逐渐释放出创新力和生产力的时刻,我们需要思考如何引领人工智能,做好智能向善,从而让AI为整个社会带来生产效能提升,并推动文明进化。

 

一、AI大模型发展最新动态

 

OpenAI的视频大模型Sora近期正式上线,受到全世界的关注。Sora是一个完全由数据驱动的物理引擎。你说一句话,AI就会根据你的描述,生成一段高质量的视频,这给视频等行业带来颠覆级的变化,也让我们对未来AI发展产生了无限遐想。

 

Sora的横空出世反映了三个问题:一是打造无限逼近真实的场景。Sora模拟、构建并展示了真实物理世界,打造无限逼近真实的场景。在未来我们所见的场景将愈发难以区分真实与虚拟,这意味着真正实现真假难辨。它不仅展示了人工智能在视频生成领域的强大能力,更触及了人类对创作、真实性和未来的认知。通过完全虚拟构建展示真实场景,在未来这种“真实”与“虚拟”的界限模糊,让我们不得不去思考,在AI时代,我们应该如何定义和理解真实与虚拟。二是学习能力高度类人。Sora所具备的高度模拟能力背后,反映了其强大的学习能力。这种学习能力不仅局限于数据的吸收和处理,更在于逻辑和规则上的深度理解和应用。作为一个可学习的模拟器,Sora已经在不断尝试学习拥有像人一样的规则和逻辑能力,正在加速成为真正类人的智能,不仅学习速度快,反应能力与反应速度甚至可以超越人类。三是算力至上芯片落后。Sora的出现,尤其是在能力的构建上,离不开OpenAI在人工智能领域的深厚积累。其依赖以英伟达为代表的芯片企业,凭借强大的算力基础,进一步拉大中美在AI领域的竞争差距。算力的局限无疑是制约我国AI发展的重要因素之一,因此,加强芯片研发、提升算力水平,是我国人工智能发展的当务之急。

 

面对Sora带来的颠覆性变革,我们可以采取以下应对办法:一是要短期学会驾驭Sora。普通人需要积极学习并掌握Sora的相关技术,理解和应用这一模型,能够让我们在AI时代下保持竞争力。通过深入研究Sora的工作原理和应用场景,相关从业者可以更好地发挥其在内容生成、影视制作等多领域的优势。二是中期快速学习Sora。面对Sora的快速发展,人工智能的从业者需要不断提升自身的学习能力,要跟得上Sora的步伐,确保在AI领域不被甩开身位。三是长期加强芯片的设计、研发、生产。人工智能的发展是从代码、参数到算力竞争的过程,而芯片是人工智能进化的基础。因此,提升算力才能推动AI技术实现创新的发展。就中国而言,如何应对算力方面的挑战,国家需要加速芯片的设计、研发、生产进程,通过提升芯片的性能和效率,为AI提供更强大的底层支持。

 

二、全球人工智能发展与大国要务

 

过去25年,互联网的发展深刻改变了人们的生产生活方式,可以理解为是“半次”工业革命。而人工智能将真正领衔第四次工业革命,改变未来30-50年的产业格局,在数字农业、工业互联网、万物互联、政府政务乃至国家治理中产生不可估量的作用。业界普遍认为,未来50-80年,AI都将作为最重要的生产要素之一,发挥提质增效、产业革新的作用。人工智能时代,通用大模型将作为底层操作系统,成就千行万业转型升级的产业机遇。笔者认为,人工智能未来五年的核心是构建产业生态。生态里包含社会分工、产业结构、利益分配,甚至会对国与国、人与人之间的关系进行全方位重构。因而“智能向善”的宗旨,就显得至关重要。其立意深远、行动务实,正是中国方案所倡导的关于智能发展的宗旨,可以为全球AI治理带来中国思考。我们都应该致力于让AI应用更简单。

 

三、从Open AI升级看AI生态风险

 

2023年,OpenAI发布了GPT-4 Turbo、GPT Store和GPTs,包括OpenAI最新发布的视频大模型Sora,这些牵动着全球所有从业者的神经,让我们更加注意到OpenAI的雄心,也感知到了一家AI企业能够令全球AI产业震荡的能力。业内,特别是生态和应用从业者都感受到了潜藏危机。

 

影响一:底座垄断

 

GPT-4 Turbo、GPT Store的发布再次印证了我们的观点,大模型是为开发者提供能力的AI底座。OpenAI做这件事情的目的是希望构建一个操作系统,让未来所有的AI应用与产业开发,都能够基于GPT-4 Turbo生成。

 

参考Apple Store和Google play来看GPT Store。过去十几年,前两家互联网企业已经形成了难以撼动的企业集权和产业影响力,它们对很多硬件厂商如手机、电脑、电视等品类生产者构成了严峻威胁。GPT Store希望在操作系统的基础上,构建出全新AI生态,从而获得足够多的产业和用户数据。

 

值得注意的是,GPT这个操作系统与安卓、Windows等传统操作系统有着巨大差异。它不仅可以获得用户数据,更能够掌控用户价值观,引导用户在意识形态和文化方向层面的认知,并且通过这个路径来获取超额收益。

 

影响二:统一入口

 

对于普通用户来讲,GPT-4 Turbo的入口能够非常便捷地、一站式解决问题;对于所有开发者而言,基于GPT底座进行的功能开发,都将只能是这个系统里的一个插件而已。未来全球用户在使用AI时,只能看到OpenAI提供的唯一入口,显示OpenAI的唯一品牌。长此以往,会牵引和引导用户对OpenAI或对GPT产生高度依赖。

 

影响三:隐私数据

 

在GPT-4 Turbo、GPT Store之外,OpenAI还发布了GPTs,它的作用是帮助每一位用户基于GPT训练出自己的AI助理,我们可以理解为“为地球80亿人口训练私人智能体”,这个智能体可能是数字孪生的智能体,也有可能是我们每个人训练出来的数字原生的智能体。

 

它的好处是拓展了个人用户生态,便于个人用户更好地使用AI。但它可以获得过去在互联网上所有的服务都无法获得的更加隐秘的用户数据。当我们使用GPTs来训练自己的AI助手,那它一定会在帮助我们处理事务的同时,通过长时间“待机”来掌握到更多隐私数据。

 

如:在航空公司的里程余额、挑选餐厅或订车时的偏好、搜索查询习惯、产生了何种生产消费,整个决策链条都被打通,所有数据都会沉淀在这个智能体内。

 

整合这三项服务不难发现,OpenAI意图或者正在加速构建一座“AI帝国”,在帝国里,形成数据、流量和底层技术(或模型)“三垄断”,并以此获得超额收益。

 

笔者在互联网领域从业超过20年,亲历了互联网技术从“不断的技术创新”到“不断的技术垄断”而造成的诸多不合理利益分配。前车之鉴,后事之师。因此,当下我们更能够预知和防范AI可能产生的系列生态风险。从OpenAI升级看生态风险,总结来看是六个方向:

 

一是会形成数据、流量和技术的三重垄断。AI一旦形成垄断,影响力将远超过去谷歌等所做的技术垄断。它的垄断形态是把技术、流量、数据,甚至是用户习惯和认知都垄断在了一个平台、一个入口之上,完成了互联网时代一些巨头想做而未能实现的事情。

 

二是会遮蔽开发者品牌。统一入口会抹掉所有开发者的名字,然后由入口所有者为开发者分配微薄的,或许仅仅能够保持生存的、不合理收益。

 

三是会把用户变成AI附庸。当下,我们已经意识到“AI自有意识”可能对人类文明带来挑战,但这还不是当前亟须面对的最大风险。更应警惕的是用户对OpenAI这家企业产生严重依赖,使“一小部分人掌控的AI”对现有文明体系发起挑战。

 

四是构建畸形AI生态,获取超额收益。在苹果应用商店(Apple Store)和谷歌应用商店(Google Play)利益分配规则里,无论开发者提供何种服务、产生多少营收,都要被分走30%的利润;而中国运营服务商的利润分配普遍在1~2个百分点。我们必须意识到,这30%的“分佣”是当今苹果和谷歌还没有形成绝对垄断的情况下的分配比例。当GPT统一了人工智能所有的模型底座时,它未来的“分佣比”或将达到50%~70%,可以估算,留给所有生态从业者的利润仅仅能够维持生存。为什么是这个数字?因为它要获取绝对利益。

 

五是会产生智能鸿沟。当今世界,数字经济和技术的发展已经很不平衡,我们长期为缩小数字鸿沟而不断努力,但现实是OpenAI的升级走势将会产生更加巨大的智能鸿沟。原因就在于,全球人工智能底座将由GPT来提供,这会导致其他国家的开发者被局限在应用和生态层面的开发,而没办法再进入到底座层面;用户会逐渐、过度依赖人工智能,而停止了技术和文明的进化。

 

六是存在挑战现行政府、社会和全球运行规则的风险。今天,不管是互联网或是其他数字技术,都是由大量的相关从业者、企业等主体来共同驱动技术进步、提供多元服务。这些技术是相对分散的,这种分散是创新的原动力,会带来合理的市场竞争和世界性的相对平衡。但当人们严重依赖于OpenAI提供的产品和服务,哪怕是国家军事体系也存在着被一家企业、一种通用技术、一个通用底座来制约的可能。这个唯一的底座,可能将具备在所有领域中的最高发言权。

 

四、全球AI生态与治理

 

呼吁国际社会形成共识。所有大的经济体都应该有自己的AI通用大模型底座;每个国家应该有一套与自己国家价值观对齐的AI框架或AI AGENT来包容和约束大模型;还有过去一段时间被很多人忽略掉的,要着力构建一个健康的AI产业生态,用健康、科学、合理的分工结果来保证AI产业生态可持续发展。

 

中国作为世界第二大经济体,我们需要做的也是对应的三件事。

 

第一,中国必须要有自己的AI通用大模型底座。尽管中国人工智能产业发展如火如荼,“百模大战”逐渐进入下半场,但进行底层通用大模型研发的企业数量并不多,仅有20家左右。虽然相较于OpenAI的技术来说,国内企业仍有较大差距,但已经能与谷歌、Meta等处于相近起跑线。打造中国自己的AI大模型,我们必须全力以赴。进一步推动AI技术创新与国内场景应用深化融合,技术供给与需求导向精准融合,基础研究和应用技术人才更加融通,聚力生态激发中国AI应用高质高速涌现,促进AI大模型价值落地。

 

第二,构建红色语料库、对齐中国大模型价值观,通过CHINA AI AGENT(CAA)机制,来包容和约束大模型,避免大模型发展到失控状态。

 

第三,构建健康的中国人工智能产业生态,保证我国人工智能健康、稳定,符合中国主流价值观和文明进化的状态向前发展。

 

五、人工智能浪潮中的中国态度

 

我国向来高度重视人工智能安全问题,主张秉持负责任态度,统筹推进人工智能技术发展与风险防范,推动在人工智能领域构建人类命运共同体。

 

近年,中共中央、国务院相继颁布多个人工智能治理相关文件,如2023年我国专门成立了国家数据局,是希望整合高质量数据、实现数据流动,切实以实际行动为人工智能全球治理体系注入东方智慧,展现大国形象与担当;通过数据治理方式,真正让数据产生价值,助力AI发展,并不断聚焦深化,倡导“智能向善”,逐渐成为世界榜样。与此同时,“为中国打造AI大模型”这一使命也至关重要,人工智能企业都应该对此有深刻理解与认识。

 

六、聚焦AI六要素,构建中国的人工智能生态

 

 

洞观全球AI产业发展布局与当下所面临的挑战,全球AI生态仍存在不少潜在风险,如“AI帝国”进行数据、流量、技术“三垄断”,会导致用户严重依赖,开发者丧失品牌露出,产生不健康的产业生态,加剧智能鸿沟,未来或将挑战现行政府、社会、全球运行规则的诸多影响。因此,大国行动下,企业应做好责任担当,助力中国把握AI大模型发展主动权,引领智能向善;应同时聚焦更适应中国AI发展的关键“六要素”,让AI发展驶入安全快轨。

 

第一,强健的算力。当前,全球算力发展很不平衡。一些西方国家的“禁运”政策导致中国和其他国家的智慧与创新无法得到有效释放。以芯片为核心的算力竞争上,国家、社会和业内从业者都需要形成共同认知和警惕,我们自身只有建设起澎湃算力,才能满足复杂场景需求、实现敏捷训练与高速并行,支撑大模型与时代同频共振;通过采集全球知识与高质量数据训练,才能让中国大模型具备更高性能。与此同时,引领全球建立起健康的AI生态同样需要得到重视,通过建立健康的商业模型,让AI实现自我造血和快速进化能力。让市场与科研、企业与学术互相融合,驱动AI变革。

 

第二,全球知识和高质量数据。中国的人工智能发展的痛点之一是,我们自己的语料库只占据全球语料库的3%,有超过90%的训练语料是非中文的。中文大模型要具备更高性能,必须积累高质量的知识和语料库。除此之外,目前可以称为“高质量”的数据基本还没有实现自由流动,形成了数据孤岛、数据烟囱,导致我们无法有效地使用这些数据来对大模型进行训练。AI时代与互联网时代对大数据的要求不同,如果没有高质量的数据来训练模型,无论哪家企业的AI技术有多好,都免不了落后。这就需要政府深化顶层设计打破数据僵局,下决心打通数据孤岛。

 

第三,敏捷进化的算法。以真实的市场环境为唯一检验标准,高效迭代模型算法,探索实现大模型降本增效的“更优解”。摆在国内大模型厂商面前的必答题是,如何在有限的算力下,保持AI进化?算法的持续进化便是打破困境之门的一把钥匙,同时持续进化的算法能够降低大模型对算力的需求。另外,我们必须锻炼、培养、储备更多人才,让人才在算法上进行持续优化。在这一点上,中国是有机会和有优势的,美国有非常多的AI人才其实是华人,中国人在数学领域是有领先能力的。

 

第四,价值观对齐。面向不同场景,要为用户、产业各界提供价值观正向、高质量的内容及应用,始终致力于让AI应用更简单。想要做好大模型,价值对齐是非常必要的。没有实现价值观对齐的大模型,产生的价值极其有限。大模型和我们过去常用的搜索引擎和其他产品的属性都不一样,应用市场也有本质差异。大模型可以输出价值观和意识形态,所以只有让大模型进行价值观对齐,才能够实现大模型的广泛应用。这是在所有国家通用的理念。在大模型的应用上,也不能采用把“敏感词”屏蔽、一禁了之的办法,这会严重制约大模型进化,更合适的方式是充分运用大模型智慧,让它通过上下文去自主判断,以替代对关键词“一刀切”的方式,从源头助力网络安全治理。

 

第五,构建健康的产业生态,这个重要的延伸性观点,也正是基于OpenAI发布会提出的。全球人工智能未来到底该如何走?我认为是:呼吁国际社会形成共识,所有大的经济体都应该有自己的AI通用大模型底座;每个国家应该有一套与自己国家价值观对齐的AI框架或AI AGENT来包容和约束大模型,例如中国要构建红色语料库、对齐中国大模型价值观,同时要通过CHINA AI AGENT(CAA)机制,来包容和约束大模型,避免大模型发展到失控状态;要着力构建一个健康的AI产业生态,用健康、科学、合理的分工结果来保证AI产业生态可持续发展。

 

第六,人工智能必须与应用场景兼容,实现应用场景接轨价值创造,这也是AI赋能的核心价值所在。因此,中国大模型务必要注重价值观对齐与布局,一方面能够支撑起不同的应用场景,如电商、网信、医疗、教育、制造等;另一方面可以为用户和产业各界提供价值观正向、高质量的内容及应用。此外,大模型将作为AI时代的操作系统,为互联网、工业互联网、农业互联网、物联网、元宇宙等各个产业构建基础底层能力和服务,实现场景价值变现。

 

当前,全球人工智能治理站在重要十字路口,中国发出了引领全球人工智能治理的时代强音,有力推动各方增进对话合作、凝聚共识,共建开放、公正、有效的治理机制。人工智能企业应深刻践行国家倡议,砥砺前行,始终致力于为中国打造AI大模型,让AI应用更简单,并逐渐引领全球人工智能步入向善之轨。