近日,英伟达CEO黄仁勋和Mistral AI首席执行官亚瑟·门施(Arthur Mensch)接受了a16z的播客采访,探讨了人工智能基础设施建设、开源以及企业管理等话题。黄仁勋谈到,未来企业会有生物员工和数字员工,如今的IT部门未来或许更重要,因为它会成为管理数字员工的人力资源部门。
精彩观点如下:
1.人工智能不是某些人的专属,不应该只由世界上的少数几家公司来开发,每个人都应该参与进来。
2.没有哪个国家愿意将数字智能外包给第三方,一个国家的数字智能现在就是新的基础设施,和电信、交通、电力一样。
3.IT部门将成为数字劳动力的人力资源部门,对AI员工进行入职管理、微调安全护栏、进行评估和持续改进。
4.开源能够促进各方的合作,加速创新,提升技术水平,透明度更高更安全。
5.我鼓励人们不要过度崇拜技术,有时候对技术过度推崇反而会让人不敢参与其中。
以下是对话全文(有删减):
一、AI是通用技术吗?
主持人:人工智能真的是一种通用技术吗?是像蒸汽机、电力那样加速整个社会经济进步的技术吗?
Arthur Mensch:AI是一种通用技术,它基本上改变了人类开发软件和使用机器的方式,就像互联网是一种通用技术一样,AI同样也是。它能创建各种帮助人类干活的Agent,并应用于各个垂直行业,如公共服务、农业、工业等涵盖国家发展需要关注的各个方面。相信每个国家都会重视AI,制定专门的AI发展战略。
黄仁勋:我很赞同Arthur的观点,但其中也有一些容易给人们造成误解的地方。如果认为AI是一种通用技术,而且只由一家公司就能构建这种终极通用技术,那其他人为什么还要费力去做呢?这种情况会误导大家,让人觉得AI技术只能由少数人来开发,其他人只要坐等成果就行。我建议每个人都参与到人工智能的发展中来。人工智能不是某些人的专属,不应该只由世界上的少数几家公司来开发,每个人都应该参与进来。
Arthur Mensch:人工智能不仅是一种通用技术,还承载着一种文化。发展人工智能需要一些基础设施,像芯片、能源中心,显然不是每个国家都有的。我认为一些通用模型,比如基础模型、网络压缩技术等最终可能会开源,为构建专业系统提供良好基础,除此之外,各个组织、企业和国家都得根据自身需求去建设。要让人工智能发挥作用,一种方法是采用开源模型,把特定的知识融入开源模型中,构建为自己服务的AI系统。这样逐步推进,AI系统就会变得更准确,更能满足当地用户或企业的使用需求。
因此,需要垂直领域专家、文化专家,或者关注国家发展议程的人与科技公司合作,这些科技公司提供开源基础设施。人工智能是一种横向发展技术,想从中获益,就需要与供应商和垂直领域专家合作。
主持人:与历史上的通用技术浪潮相比,人工智能有何不同?应该把人工智能当成数字劳动力吗?
Arthur Mensch:从经济角度看,人工智能和电力技术有相似之处,未来几年,它将对每个国家的GDP产生两位数的影响。每个国家都应引起重视,如果无法建立起相应的AI基础设施,具备应用AI的能力,资金可能会流向其他国家,从而影响全球经济平衡。就像电力技术,100年前如果哪个国家没有建造发电厂,就需要从邻国购买,产生依赖后经济就很危险。
但人工智能技术与电力技术也有不同之处。首先,它是一种无形的技术,如果想利用它创造数字劳动力,就需要不断塑造它,这个过程就需要基础设施、人才和软件,而且需要本地人才。因为与电力技术相比,人工智能还涉及内容生产,Agent可以生成文本、图像、语音,与人互动。当AI生产内容并与社会互动时,它就有了社会属性,承载企业或国家的文化与价值观。如果不想让这些价值观消失,不想依赖单一的中央供应商,就需要更深入地参与人工智能的发展。
黄仁勋:我想没有哪个国家愿意将数字智能外包给第三方,一个国家的数字智能现在就是新的基础设施,和电信、交通、电力一样。国家要考虑清楚如何发展数字智能,是选择外包,从此不用操心数字智能的一切,还是积极参与,控制和塑造人工智能,把它打造成国家基础设施的一部分。
还有另外一种思考方式是,把人工智能当成数字劳动力,思考是将数字劳动力外包,直接从外面引进,还是积极参与、培养自己的数字劳动力。在这两种情况下,人工智能都有助于经济发展、社会进步和文化建设,国家需要在其中发挥积极作用。
人工智能确实是通用技术,但关键是国家和企业如何塑造它。我们都知道各种数据都是属于国家的,数字化出现之前我们有很多数据没有进入互联网,比如历史文献、记录在纸上的资料等,把这些资源数字化并对社会开放,肯定给研究人员或者普通人带来了好处。人工智能也一样,国家有责任去推动它的发展,让人工智能技术也可以造福社会。
二、AI基础设施建设不要“外包”
主持人:如果我理解了人工智能基础设施和主权AI的重要性,我是否必须掌控这项技术的每个部分?
Arthur Mensch:刚才提到的数字劳动力类比很恰当,我们需要为人工智能劳动力搭建一个入职平台。这意味着要能定制模型,把本国知识注入模型中,这样模型就能更好地理解本国语言和文化。还要让模型熟悉本国的法律,这样在部署人工智能软件时,安全护栏更清晰。这个入职平台需要具备定制、引导、评估等功能,一旦发现需要改进的地方,就要及时修复和调试。
黄仁勋:IT部门将成为数字劳动力的人力资源部门,对AI员工进行入职管理、微调安全护栏、进行评估和持续改进。以后我们会有生物劳动力和数字劳动力,这太棒了。将来IT部门对我们公司来说可能更重要,帮助我们管理数字劳动力,在其他国家和公司估计也会如此。Arthur描述的那种情况,就是利用通用技术,对它进行精细调整,使其成为垂直领域的专家,这在未来的人工智能发展中会越来越重要。
主持人:你们刚才讨论了很多“软性”的概念,比如文化,和计算、存储、网络等不太一样。
黄仁勋:像算法、法律这些领域规则更明确,我们刚才讨论的定制模型需要注入的当地文化是一个更“软”的概念,没有明确的规则。
Arthur Mensch:要想把个人风格和知识这样的要素融入人工智能系统,肯定不会用严格的规则来执行,而是通过持续的模型训练来达到目的。以图书馆为例,把地区用户的使用偏好提炼出来融入模型中,就有了一套能满足用户使用需求的调用流程。如果在公司,有一套需要严格执行的政策,通常的做法是把模型和这些严格的规则联系起来,每次模型给出答案就是在验证是否与规则相符。所以这实际上是两件事:一方面,以一种较“软”的方式把知识融入模型中;另一方面,确保能严格执行一定数量的规则,保证100%的准确性。
黄仁勋:文化偏好和个人偏好是多维的,有很多特性可以定义我的偏好,人工智能需要识别这些特性。如果让Python或者C++语言把这些偏好都描述出来,得写多少规则,而人工智能有能力识别这些多维的特性,它带来了一种新的编程模式,可以处理生活中的模糊性。
主持人:听起来人工智能不仅是计算基础设施,也是一种文化基础设施。
黄仁勋:是的。我们刚才讨论了人工智能模型是如何对不同的问题做出不同的反应,因为我们将公司的服务价值观植入了AI模型中。
Arthur Mensch:这是通用人工智能模型的局限性,有人觉得可以将一些普世价值观和通用专业知识编码到通用模型中,但在某些时候,当需要了解特定群体的偏好和期望时,只能通过软性和硬性的方式对通用模型进行专业化调整。这一步不管是国家还是企业,都不是可以外包的工作,必须自己掌控。
主持人:对于大国和小国,在考虑人工智能技术时,包括芯片、计算、数据中心、模型、应用时,有什么不同的建议吗?
Arthur Mensch:不管是大国还是小国,都需要基础设施、推理语言以及把规则和模型连接起来、把模型和实时信息源连接起来的能力。有了这些之后,就可以根据自己的价值观、专业知识,借助本地人才来构建人工智能系统。不同之处在于,对于小企业或小国家来说,要弄清楚哪些是可以购买的部分,哪些是需要自己构建的部分。
黄仁勋:这并不像你想象得那么难,因为技术在不断进步。五年前做这些几乎是不可能的,但五年后可能就变得很容易了,我们现在正处于中间位置,唯一需要明确的问题就是必须做对的事情。实际上我讨厌做员工入职培训,因为需要投入很多,但人力资源组织和工作指导体系一旦建立起来,对公司和员工个人发展都有好处。任何新事物的发展起步都不容易,但如果你想在未来的市场中占有一席之地,就必须尽快行动起来。
在我们这个时代,数字智能的价值会有多大想必大家都清楚,如果你相信它很重要,就必须尽快参与其中,边做边学,它会变得越来越容易。技术本身在不断进步,留给我们不参与的借口不多了。
三、开源实际上更安全
主持人:你们都曾公开强调在主权AI背景下开源模型的重要性。为什么开源模型成为你们关注的重点?
Arthur Mensch:第一,人工智能是一种横向发展的技术,企业和国家最终都会愿意在自己的基础设施上部署它,所以开放性非常重要。第二,发布开源模型是一种加快人工智能发展的方式。从2010年到2020年,我们从事人工智能研究时发现了这一点,每个实验室都在彼此的基础上进一步研究,加快了技术进步。然而,随着OpenAI推出首批语言大模型,这种开源协作的氛围在一定程度上消失了。
我创办Mistral AI就是希望重新启动这种开源的良性循环,即我们贡献一些内容,其他实验室再贡献一些内容,一起迭代发展,加快技术进步。我们做得很好,发布模型后,Meta也开始发布模型,中国公司如DeepSeek也发布了更强大的开源模型,每个人都能从中受益。
黄仁勋:我完全支持开源,开源除了能加速人工智能基础研究外,还能激活大量创新和利基市场。医疗保健、生命科学、物理科学、机器人技术、交通运输等行业都因开源激发了市场活力。不要低估开源的惊人能力,尤其在一些小众但非常重要的领域,比如能源开采,谁会专门成立一家AI公司去开采能源?但这个行业又很重要,也有一定的市场,因此开源就可以激发这些领域的创新活力。
Arthur Mensch:你可以选择自己喜欢的任何关键任务,自己进行部署,如果仅能调用API(应用程序编程接口),是远远不够的,我们需要更多访问权限才能对模型进行全面评估。如果想确保你的系统100%准确,就不应该使用闭源模型,必须将本地数据融入模型的开发中。如果没有开源,就无法做到这一点。
主持人:如何看待开源对国家安全和国际合作的影响?
Arthur Mensch:实验室之间的合作对人类的成功来说至关重要,如果一个国家或地区决定封锁技术,放慢发展脚步,那必然会被其他国家赶超。因为一旦切断与开源的联系,维持自身竞争力的成本就太高了。人工智能是一种横向发展的技术,类似于编程语言,编程语言是开源的,所以人工智能也应该开源。
黄仁勋:软件是不可能被控制的,如果你想控制它,那么其他技术就会崛起并成为新的标准。问题在于,开源是否更安全?开源可以提高透明度,吸引更多人参与进来并进行审查。世界上大部分公司都建立在开源的基础之上,特别是云服务提供商,它们开源才是最安全的。大家发布在开源平台上的都是优质内容,因为审查非常严格,有无数双眼睛盯着。开源能够促进各方的合作,加速创新,提升技术水平,透明度更高更安全。
四、不要过度崇拜技术
主持人:从计算的角度来看,你认为未来最重要的趋势是什么?对于想要了解计算领域发展方向的人,你如何引导他们?
黄仁勋:过去10年,计算领域发生了巨大的变化,从手工编码到机器学习,从CPU(中央处理器)到GPU,从软件到人工智能,整个行业经历了彻底的变革,而且我们仍在这个变革的过程中。未来10年,变化将更加惊人。目前行业内一直在讨论扩展定律,预训练当然非常重要,现在我们还有后训练,包括思想实验、实践、辅导和指导,以及我们人类用来学习的所有技能,思考、Agent以及机器人系统,所有这些都令人兴奋。这也是为什么人们对Blackwell芯片相较于Hopper芯片算力有了巨大飞跃而感到惊讶,我们及时增强了Blackwell的推理能力。
其次我们看到了人工智能的各种发展方向,未来智能体、数字员工,智能机器人等物理AI都会蓬勃发展起来。物理AI当然是遵循并理解物理定律、原子定律和化学定律的AI,物理科学领域或将迎来重大突破,我对此非常兴奋,它对工业、科学、高等教育和基础研究都有深远的影响。
最后,我鼓励人们不要过度崇拜技术,有时候对技术过度推崇反而会让人不敢参与其中。我们所讨论的人工智能在缩小技术鸿沟方面真的发挥了重要作用,关系到世界各国企业的利益,我们都要大胆参与其中,激动人心的时刻即将到来。
来源:a16z(YouTube)
转自:中国企业家杂志,本文内容有删减