李星：从互联网的发展看人工智能的治理与创新-中国教育和科研计算机网CERNET

资讯

校园信息化

技术

资源与应用

产品与装备

信息服务

首页 > 教育信息化 > 专栏 > 李星

李星：从互联网的发展看人工智能的治理与创新

2023-11-10 中国教育网络

李星 CERNET网络中心副主任、清华大学教授

　　没有互联网就不会有ChatGPT。科幻小说《我们最后的发明》在谈及人工智能时建议：“任何情况下都不得把ASI的超级电脑接入网络”。

　　人工智能治理的互操作性

　　今年10月，第十八届联合国互联网治理论坛（IGF）在日本京都召开。此次会议吸引了来自175个国家的线上线下共9000多名参会者。人工智能的治理成为本次会议的焦点议题。

　　联合国致力于在全球范围内寻求有效的人工智能监管途径，包括国际条约、部门规范、道德准则和私人标准的制定，技术解决方案的研究，开源合作的推动，国家立法的支持，多利益攸关方的协同参与，监管沙盒的设立，行业自律的鼓励，以及技术中立等。

　　在此背景下，IGF委托研究组编写了《人工智能政策网络（Policy Network on Artificial Intelligence）》初稿。

　　报告初稿总结了互操作性和创新的重要性，主要涵盖以下三个方面：

　　一是互动和互连，包括对定义、范围和方法的持续关注，以及对连续监测、评估和采取行动的重视；

　　二是沟通和合作，包括减少地区差异，积极推动信息共享和最佳实践案例的传播。同时，鼓励培养区域多利益相关方的合作倡议，以促进他们在全球范围内的相互关联；

　　三是工具、措施和机制，包括开发技术模块及能力，以达成地区和全球层面的共识。此外，还强调了加强立法合作的重要性。

　　基于《人工智能政策网络》报告，大会组织了主题讨论，嘉宾们探讨了全球人工智能治理的实施方式。作为发言者之一，我主要提出了两个观点。

　　第一，可以运用互联网治理的理念来治理人工智能。对生成式人工智能的政策监管应当谨慎。正如互联网在发展之初也没有技术蓝图一样，生成式人工智能目前也没有确切的发展蓝图，因此，务必要留出创新空间，给学术界和技术界提供创新机遇。

　　互联网技术的发展受到IETF等各种组织的推动，如今生成式人工智能具备比TCP/IP更强大的功能，但在该领域尚未出现IETF这样的组织，应该考虑建立类似组织。希望全球能够共同推动创新，开发出激动人心的新技术。

　　第二，要注重人工智能对教育产生的重大影响。生成式人工智能给发展中国家带来了机遇和挑战。通常来说，生成式人工智能包括算法、算力和数据三个关键因素。

　　然而，教育同样是人工智能发展的重要因素，人工智能的出现需要大家重新思考传统教育体系。年轻一代需要在批判性思维、尊重事实、逻辑思维、推动全球合作这四个关键方面进行能力培养，这对教育改革至关重要。

　　正如斯坦福大学李飞飞教授所言，在人工智能时代，需要像牛顿和爱因斯坦那样的人才对教育领域进行重塑。期望看到全球建立与人工智能相关的教育系统，这与几百年前现代大学雏形的出现同等重要。

　　IETF——解决真实问题聚焦关键问题

　　互联网是怎么治理的？其治理体系基本可以总结为以下几个方面：一是域名，二是IP地址，三是协议。互联网的技术治理可以追溯到1968年，后来逐步产生了关键技术并形成了相关组织。互联网工程任务组（IETF）成立于1986年，其主要任务是进行技术治理，以确保互联网的互操作性。正如著名资深科学研究员Dave Clark曾经强调的那样：“我们拒绝国王，拒绝总统，拒绝选举，我们相信的是大概一致和可以运行的程序。”

　　IETF的具体工作领域“above the wire and bellow the application”，即在线路（计算机网络中的通信基础设施，通常包括网络电缆、光纤、无线连接等物理传输媒介）之上，应用之下，意味着其有特定职责，并非包罗万象。IETF包括若干工作组，涵盖网络、路由、传输和应用等各种领域，同时还有一些跨层的通用工作组，涉足运行、安全和一般管理等多领域。

　　IETF主要产出各类标准，遵循开放参与、流程透明、公开发表和免费使用的原则。

　　首先，开放性确保了标准制定的合法性。大部分技术标准由私营企业和非政府机构制定，进而应用于互联网实践。这些组织雇用了大量员工参与标准的制定过程，决策中的多元参与增强了多利益相关方的合法性。

　　其次，所有的决策过程都是透明的，标准具有可问责性。这为公众提供了监督及问责的机会，使他们能够获得标准开发及相关审议、备忘录和记录的全过程信息。

　　再次，互操作性进一步促进了创新。从专有协议向提供互操作性的开放互联网标准的过渡，代表了一场显著的社会技术变革。IETF免费发布互联网标准，且不收取知识产权费用，确立了开放性和互操作性的传统。这种始终如一的开放性规则，促进了互联网软硬件创新的飞速发展，我们需要继续坚守这一传统。

　　最后，IETF的决策准则是“Rough consensus and running code”，即基本共识和可以执行的代码。目前，在提出新标准前，必须有可以执行的代码，并且需要进行充分的讨论。

　　IAB曾总结了开放互联网的关键词：自愿使用、自下而上的创新、在必要时竞争、需要合作时合作。互联网的特点之一是分散性，它并不统一。因此，其参与者通常具备热情、聪明、外向和技术卓越的特质。

　　参与IETF有助于解决实际问题，聚焦关键问题。需要具备全球视野，通过电子邮件与同行交流，建立广泛的人际关系。我们鼓励年轻一代积极参与，追求卓越，同时还要乐在其中。

　　人工智能在教育领域的影响

　　除了算法、数据和算力，教育也是一个非常重要的议题。算法和数据等都依赖于人类来开发和应用。人工智能的发展引发了新的教育挑战。

　　我们曾讨论过，在互联网发明之前和之后该如何当教授？在互联网出现之前，教授拥有很多学生无法获得的信息。然而，随着互联网的普及，学生能够访问更多的信息。这导致学生可能浏览大量信息，但往往难以辨别其是否有用和必要，从而记下所有信息。教授的核心任务就是帮助学生辨别和筛选初有价值的信息，并培养他们提出问题和解决问题的能力。

　　对于教育而言，互联网的发明代表了一次思想解放，而ChatGPT则是新一轮思想解放，将对教育产生深远的影响。然而，我们也必须同时接受人工智能的不可解释性。要创新，就必须允许犯错误，并在开放和治理之间找到平衡。

　　生命是多样且美丽的，大语言模型如ChatGPT具有语言多样性、文本多样性、领域多样性、观点多样性和随机性等特点。面对人工智能，我们必须具备批判性思维和逻辑思维，要尊重事实，并积极推动全球合作。

　　另外，我们还需警惕数字鸿沟问题。随着人工智能的出现，我们更应重视人工智能鸿沟，它不仅包括外在问题，还牵涉到内涵问题。这关系到人们的教育水平和教育方法是否能够适应人工智能的发展。如果我们仍然坚持传统的教育理念，数字鸿沟将不断扩大。

　　爱因斯坦曾说：“想象力比知识更重要。”这句话在当前人工智能的背景下可能有新的内涵。就人工智能的分工而言，我认为机器能够胜任那些规则明确的、常见的任务。而人类的价值在于创新，处理少见的、挑战常规的任务就需要人类的创造力。因此，新一代的教育应该培养学生打破常规思维的能力。

　　2024年标志着中国加入互联网已经30周年，这是一个重要的里程碑。互联网一直在朝着更为开放的方向发展，但人工智能的进步不仅需要开放性，还需要相应的技术和政策支持。这是新一代专业人士面临的挑战，也是我们老一代互联网从业者的期望。

　　本文根据清华大学李星教授在“AIGC和大模型的新发展与新挑战”论坛上的演讲整理

　　编辑：李佳

　　特别声明：本站注明稿件来源为其他媒体的文/图等稿件均为转载稿，本站转载出于非商业性的教育和科研之目的，并不意味着赞同其观点或证实其内容的真实性。如转载稿涉及版权等问题，请作者在两周内速来电或来函联系。