EDUCAUSE：应对高等教育的人工智能伦理困境-中国教育和科研计算机网CERNET

资讯

校园信息化

技术

资源与应用

产品与装备

信息服务

首页 > 教育信息化 > 资　　讯 > 国　　际

EDUCAUSE：应对高等教育的人工智能伦理困境

2025-03-12 中国教育网络

　　在应对人工智能复杂性的同时维护伦理标准，需要采取一种平衡的方法，综合考虑采用人工智能所带来的利益和风险。

　　随着人工智能不断改变世界，包括高等教育领域，负责任地使用人工智能的需求前所未有的迫切。虽然人工智能在加强教学与学习方面具有巨大潜力，但围绕社会公平、环境以及人文问题的伦理考量不断浮现。高校教学中心（CTL）肩负着支持教师进行最佳教学实践的任务，面临着越来越大的压力，需要采取平衡的方法来采纳新技术。不可预测和快速变化的环境使这一挑战更加复杂。随着新的人工智能工具不断出现，教育领域的机遇和挑战呈指数增长。对于历来引领高校创新的教学中心而言，这种挑战尤其艰巨。

　　为了支持高校教职员工和学生，在遵循伦理标准的同时应对人工智能集成的复杂性，高校教学中心必须优先采取一种平衡的方法，既要考虑采用人工智能的益处，也要兼顾其风险。高校应加强对人工智能的批判性认知，正视社会不公平问题，审视人工智能技术的环境影响，并推广以人为本的设计原则。

　　解决社会不公平问题

　　尽管人工智能系统的设计初衷是积极的，但可能会导致一些学生处于不利地位。与人工智能相关的最紧迫问题之一是其可能延续甚至加剧社会不公平。由于人工智能算法通常是在历史数据的基础上进行训练的，因此它们往往会反映社会固有偏见。这可能导致本已代表性不足的学生群体在获得机会和接受评估方面进一步被边缘化。

　　以人工智能驱动的自动评分系统为例。这些平台可以快速对作业进行评分并提供反馈，甚至可以减少人工评分中的一些主观因素。人工智能评分系统解放了教师的时间，使他们可以专注于其他有意义的教学活动，如规划课程或与学生互动。然而，并非所有评分都是公平的。虽然人工智能评分系统能够对死记硬背式的作业进行评分，但对更主观的评估提供细致入微的反馈则需要人类的专业知识和判断力。使用自动化系统对主观性作业进行评分可能会导致偏见，并加剧不公平。

　　根据学生学习表现量身定制教学指令的自适应学习平台也令人担忧。虽然这类系统可以增强个性化学习体验，但它们也是基于现有数据进行学习的，导致其延续了对某些群体固有的社会偏见，阻碍了学术进步。

　　由于自适应学习系统依赖于定量数据，因此没有考虑影响学生学习的更深层次情境因素。此外，虽然人工智能有可能增加获得个性化学习支持的机会，如一对一辅导，但许多提供更准确结果的强大工具都设置了付费壁垒。能够负担增强版工具的学生将比他们的同龄人更具优势，从而加剧数字鸿沟现象。

　　为了解决这些问题，高校教学中心可以率先促进关于人工智能使用和获取方面的社会公平对话。他们可以提供研讨会、短期课程和资源，探讨人工智能加剧社会不公平的问题。例如，密歇根大学的学术创新中心提供了关于人工智能、正义和公平交叉领域的课程。威克森林大学和特拉华大学的教学促进中心举办了关于人工智能在教育中的伦理影响的论坛和研讨会。这些项目鼓励学生、教师和其他人员批判性地思考如何在教育环境中应用人工智能工具。

　　以公平为中心的支持途径

　　高校教学中心在利用人工智能工具时，可以采用以下可行策略来促进公平：

　　创建生成式人工智能培训材料，为教职员工和学生提供支持，以消除数字鸿沟。

　　定期举办研讨会，讨论人工智能如何在教育环境中延续偏见，特别关注评分系统、自适应学习平台和人工智能检测平台。

　　鼓励教师在将人工智能工具融入教学之前对其进行批判性评估，注意该工具是否会强化社会偏见。

　　向学生提供资源，解释人工智能工具如何影响他们的学习体验，并培养学生在必要时倡导更公平的评估实践的能力。

　　鼓励教师对人工智能评分辅以人工监督，特别是对于需要细致入微、主观判断的作业。

　　让教师、学生、员工和其他来自代表性不足群体的利益相关者参与制定人工智能使用指南，以确保从不同角度为人工智能工具在教学中的伦理整合提供依据。

　　支持教师设计传统考试和论文之外的其他评估方式——传统考试和论文可能容易产生人工智能偏见——以确保知识展示方式的多样化。

　　与学校各部门合作，探索生成式人工智能如何改善可访问性和学生支持度。在这些探索的基础上创建和分发资源。

　　鼓励教师针对学生使用生成式人工智能工具可能遇到的障碍做好准备。建议教师利用学校资源，如借用相关设备或计算机实验室。如果为国外的学生授课，在指派学生使用相关生成式人工智能工具之前，确保他们能够使用这些工具。

　　制定相关指南，使教师了解如何利用知识产权和个人信息训练人工智能工具并影响其未来产出。

　　通过提高意识和提供多种培训途径，高校教学中心可以帮助教师和学生充分利用人工智能的优势，同时积极减轻其可能加剧社会不公平的潜在影响。解决人工智能中的社会不公平问题是一个持续的过程，需要保持警惕，适应变化，并致力于推动包容性和公平性。

　　理解人工智能的环境影响

　　人工智能的环境影响在教学决策讨论中往往被边缘化；然而，随着高等教育机构将人工智能技术融入教育，这些影响应成为关键考量因素。人工智能系统——尤其是大语言模型和深度学习算法——需要巨大的计算能力，这意味着高能耗和碳排放量的增加。随着人工智能使用的增加，其环境影响也随之加剧，由于数据中心地理分布不均，进一步加剧了不公平现象。

　　在教学、学习和管理中采用人工智能工具所累积的环境影响可能是巨大的。部分学校已在人工智能可持续发展方面走在前列，将环境影响讨论纳入高等教育课程。例如，麻省理工学院和威廉与玛丽学院已将关于人工智能环境成本的讨论融入其哲学和数据科学课程中，促使师生在技术选择时考虑可持续性。

　　向学生讲解生成式人工智能的负面影响时必须谨慎，因为这可能导致学生认知和情感上的负担过重，使他们感到无能为力。为消除这种无助感，瑞德福大学鼓励学生集思广益应对棘手问题，不仅探讨人工智能使用的负面影响，还探讨潜在的解决方案——这些活动培养了学生的批判性思维和领导能力。

　　以可持续性为重点的支持途径

　　以下是一些可供高校教学中心在利用人工智能的同时促进可持续发展的可行策略：

　　鼓励教师选择对环境影响较小的人工智能工具，以及优先考虑环境可持续性的供应商，例如那些致力于在其人工智能基础设施中减少水消耗和碳排放的供应商。

　　重点介绍采用节能算法或由可再生能源供电的数据中心托管的人工智能技术和工具的案例研究，并鼓励教师采用这些替代方案。

　　与教师合作，将可持续发展话题纳入人工智能相关课程，特别是哲学、伦理学和数据科学课程，让学生能够批判性地评估人工智能系统对环境造成的后果。

　　举办将可持续发展融入课程设计的研讨会。教师可以学习如何在使用人工智能工具时做出明智的选择，从而在提高学习效果的同时减少课程对环境的影响。

　　为课程设计开发可持续发展记分卡，教师可利用记分卡评估并尽量减少人工智能技术对环境的影响。

　　通过可持续发展挑战或竞赛促进学生参与。鼓励学生分析人工智能工具对环境的影响，并提出减少碳足迹的创造性解决方案。

　　与各部门合作，将人工智能可持续发展项目纳入现有课程。

　　提供系统思维和领导技能方面的资源和培训，不仅鼓励学生了解人工智能的负面影响，而且鼓励其制定应对这些挑战的解决方案。

　　创建关于人工智能和环境可持续性的讨论空间，让教师和学生参与其中，探索可以采取的可行步骤，为更环保地使用人工智能做出贡献。

　　与学校可持续发展办公室或绿色委员会合作，确保人工智能的采用与学校的碳减排目标相一致。

　　高校教学中心可以帮助教师将可持续实践融入人工智能使用中，并提供工具和知识以做出更具环保意识的决策，从而最大程度减少人工智能对高等教育的生态影响。通过这些努力，高校教学中心可以确保人工智能对教育的赋能不会以牺牲环境为代价。

　　强调以人为本的学习

　　随着人工智能越来越多地融入高等教育，确保这些技术增强而不是削弱学习中的人文因素至关重要。以人为本的教学设计旨在创造技术先进且公平、无障碍的学习环境。虽然人工智能具有个性化和增强学习体验的潜力，但过度依赖这些工具可能会削弱作为教育核心的人际互动。自动化系统虽然高效，却缺乏传统教学特有的同理心和直觉。利用人工智能进行以人为本的教育设计，应优先考虑学生和教师的需求、偏好和福祉，使用直观、无障碍、支持人类互动和创造力的人工智能教育工具和系统。

　　人工智能有潜力通过个性化学习体验、自动化管理任务以及实时反馈来彻底改变教育领域。然而，如果不采取以人为本的方法，就有可能创造出缺乏人情味、一刀切的学习环境，无法满足学生的多样化需求和体验。以人工智能驱动的自适应学习平台为例，这些平台可以通过分析学生数据来定制教学，但也可能削弱人工参与。如果整合不当，这些工具可能会导致学生处于孤立的学习状态，与技术的互动多于与同学或教师的互动。

　　高校的挑战在于，如何在利用人工智能的优势和保留教育的人文因素之间取得适当的平衡。在不削弱对教育至关重要的人情味的同时，提高可访问性和支持性。例如，佐治亚理工学院部署了一个名为“吉尔·沃森”的人工智能助教，在一门大型在线课程中回答学生的常规问题，这使得人类助教可以专注于更复杂的、以学生为中心的互动。这种方法展示了如何利用人工智能来辅助人类教学，而非取而代之。

　　为了优先考虑包容性和可访问性，在设计融入人工智能的课程时，可以采用通用学习设计（UDL）指南来促进公平学习，为不同背景、能力和学习风格的学生提供更具包容性和个性化的学习体验。例如，康奈尔大学鼓励教师不要因为担心学术不端行为而阻碍跨模式的灵活作业和评估方法，让学生更广泛地展示其学习成果。

　　以人为本的支持途径

　　在支持教师做出以人为本的决策方面，高校教学中心具有得天独厚的优势。以下是高校教学中心的可行策略：

　　为教师举办以人为本的设计原则研讨会，平衡人工智能与人类参与，强调技术如何增强而不是取代有意义的师生互动。

　　为教师提供工具和指南，鼓励他们在课程中公开人工智能的使用目的，促进学生的知情参与。

　　支持教师在将人工智能融入课程材料时应用UDL原则，以确保人工智能增强工具不会损害包容性和可访问性。

　　鼓励教师使用人工智能工具重新设计课程材料，以提高可访问性，提供个性化学习体验，同时保持灵活性和公平性。

　　在坚持以人为本的教学理念的同时，提供如何使用人工智能处理行政任务的指南。鼓励教师使用人工智能处理重复性任务，以便教师能把更多时间用于以学生为中心的活动。

　　促进教师之间就整合人工智能的最佳实践进行讨论与合作。这些讨论可以侧重于如何平衡人工智能的自动化优势与师生之间的互动。

　　促进对人工智能辅助课程设计的同行评审，教师可以分享在关注学生福祉的同时融入人工智能技术的相关策略。

　　在整合自适应学习系统的同时保留协作和教师指导活动，防止学生在技术驱动的环境中感到孤立。

　　开展反思性实践，使教师能够定期评估人工智能在教学中的作用，确保人工智能增强而不是削弱学生的体验。

　　推广人工智能使用情况的反馈机制，让学生就人工智能对学习的影响发表意见。

　　通过采用以人为本的人工智能使用方法，高校教学中心可以帮助教师利用人工智能工具来增强公平性、无障碍性和学习体验，同时在教学中保持有效的人际互动。

　　引领人工智能伦理融合之路

　　要在高等教育中负责任地使用人工智能，必须在顺应人工智能发展浪潮与坚持伦理原则之间取得平衡。高校可以发挥人工智能的变革潜力，同时保障学生、教职员工和社会的福祉。通过提供均衡且有针对性的工具和资源，高等教育将走向更加包容、公平和可持续发展的未来。

　　*本文同时刊登于《中国教育网络》2024年12月刊

　　来源：EDUCAUSE

　　作者：卡塔琳·沃戈，布赖尔·安德森

　　编译：项阳

　　责编：项阳

　　特别声明：本站注明稿件来源为其他媒体的文/图等稿件均为转载稿，本站转载出于非商业性的教育和科研之目的，并不意味着赞同其观点或证实其内容的真实性。如转载稿涉及版权等问题，请作者在两周内速来电或来函联系。