人工智能教育设计 ：开发人员的基本指南2024 年 7 月 人工智能教育设计 ： 开发人员的基本指南miguel a. cardona, ed. d.美国教育部秘书罗伯托 · j · 罗德里格斯规划、评价和政策发展办公室助理部长 2024 年 7 月示例不是背书本文档包含为方便用户而提供的示例和资源材料。列入任何材料并不旨在反映其重要性，也不旨在认可所表达的任何观点或提供的产品或服务。这些材料可能包含各种主题专家的观点和建议，以及联系地址，网站和由其他公共和私人组织创建和维护的信息的超文本链接。这些材料中表达的意见不一定反映美国的立场或政策。s.教育部。the u.s.教育部不控制或保证这些材料中包含的其他来源的任何信息的准确性，相关性，及时性或完整性。除了文件中包含的法规和法规要求外，本指南的内容不具有法律的效力和效力，也无意约束公众。合同和采购本文件不打算提供法律咨询或批准任何潜在的联邦承包商的商业决策或战略与任何当前或未来的联邦采购和 / 或合同。此外 ， 本文件不是招标、征求建议书或其他招标。许可和可用性本指南属于公共领域 ， 可在美国教育部网站 https: / / tech. ed. gov 上获得。诸如盲文或大字体等替代格式文档的请求应通过致电 1 - 202 - 260 - 0852 或通过电子邮件联系 504 协调员提交给替代格式中心 om _ eeos @ ed. gov 。英语能力有限的人士须知如果您难以理解英语，您可以请求 u.s.向公众提供的教育部信息。这些语言援助服务是免费提供的。如果您需要有关口译或笔译服务的更多信息，请致电 1 - 800 - usa - learn (1 - 800 - 872 - 5327) (tty: 1 - 800 - 437 - 0833) ； 发送电子邮件至 ed 。语言。协助 @ ed 。政府 ； 或写信给美国s.马里兰州大道 400 号 lbj 教育大楼信息资源中心教育部。华盛顿特区 sw 20202 。如何引用虽然没有必要允许转载本出版物 ， 但建议的引文如下 ：美国教育部 ， 教育技术办公室 ， 人工智能教育设计 ： 开发人员的基本指南 ， 华盛顿特区 ， 2024 年。 acknowledgements项目团队人工智能教育设计 ： 开发人员的基本指南是在罗伯托 · j · 罗德里格斯规划、评估和政策发展办公室助理秘书 ，anil hurkadli教育技术办公室临时副主任 ，伯纳黛特 · 亚当斯， 教育技术办公室高级政策顾问 ， 以及凯文 · 约翰斯顿， 教育技术办公室教育计划专家。这项工作是在合同 （ 91990019c0076 ） 的数字承诺的支持下开发的 ， 由jeremy roschelle与安东尼 · 贝克, pati ruiz, eric nentrup, gabrielle lueand莎拉 · 马丁.开发者社区的贡献成员●kristen dicerbo ， 可汗学院●泰迪 · 哈特曼 ， goguardian●neil heffernan ， 伍斯特理工学院●karl rectanus ， edsafe ai 联盟●史蒂夫 · 里特 ， 卡内基学习●sharad sundararajan, merlyn mind●alyssa van camp, teachfx●julia winter, alchemie solutions, inc.我们也感谢许多开发人员 ， 行业协会和非营利组织参加了我们的听力会议 ， 并提出了他们的想法 ， 将教育部关于人工智能教育的建议转化为实用指南。 目录introduction 1回应 2023 年 10 月的行政命令 2广义定义 “人工智能 ” 和“ edtech ” .......................................................................................................................................3关键信息 ： 建立信任的共同责任..................................................................................................4从教育设计到获得信任的途径 10建议 1 ： 为教学和学习设计 12知道什么 12提问 16追求的方向 16资源 17建议 2 ： 为基本原理和影响提供证据 18知道什么 19要问的问题 23追求的方向 23资源 24建议 3 ： 促进公平和保护公民权利 26知道什么 27要问的问题 31追求的方向 32资源 32建议 4 ： 确保安全和安保 33知道什么 33提问 38追求的方向 38资源 39建议 5 ： 促进透明度和赚取信任 40知道什么 40提问 44追求的方向 44资源 44结论 45 1人工智能教育设计 ： 开发人员的基本指南introduction今天和未来，越来越多的人工智能 （ ai ） 模型和功能将被纳入专门服务于教育环境的产品中。the u.s.教育部 （ departmet ） 致力于鼓励教育技术 （ edtech ） 的创新进步，以改善全国教育系统的教学和学习，并支持开发人员使用 ai 为教育市场创建产品和服务。在该部门先前的报告《人工智能与教学与学习的未来 ： 见解和建议》 （ 2023 年人工智能报告 ） 的基础上，本指南旨在为产品负责人及其创新者，设计师，开发人员，面向客户的员工和法律团队提供信息。这种情况比构建大型语言模型 （ llm ） 或部署聊天机器人的情况要广泛; 它包括现有和新兴的 ai 功能可用于进一步共享教育目标的所有方式。我们在这里的见解旨在支持管理团队的人员设计和开发利用 ai 来改善教学和学习的产品。我们试图解决与整个 edtech 开发人员相关的主题，其中包括已建立的公司和新来者，以及研究，非营利组织和营利性组织的开发人员。我们不仅面向正规教育环境 （ 包括中小学、学院和大学 ） 的产品开发人员，还面向家庭、社区和其他非正规环境的教育用途。为此，本文档的每个部分都围绕一个核心建议构建，并包括一组讨论问题，组织中的领导者可以使用这些问题来促进对话，促进强大的开发流程的后续步骤以及可以提供额外支持的资源。请注意，美国商务部和其他联邦机构正在积极考虑下一步措施，以促进安全和负责任地使用人工智能。因此，该文档向故意开放的开发人员建议 “要问的问题 ” 和“ 追求的方向 ” 。本指南提供了与联邦准则和护栏相一致的非监管性、针对特定教育的指导。本指南对现有联邦准则和护栏的覆盖并不全面或详尽。它不旨在也不使开发人员能够建立其对法规的遵守。此外，它无意也不引入任何新的要求。其中给出了示例，包括指向非 u 的链接。s.政府网站，它们旨在说明问题，而不是将本指南的应用限制在其他形式的人工智能上，因为它们可以用于教育。我们提供这些外部链接是因为它们包含与本文档中讨论的主题相关的其他信息。 2否则可能对读者有用。我们无法证明引用的第三方网站或任何其他链接的第三方网站上提供的信息的准确性。我们提供这些链接仅供参考 ； 与外部资源的链接并不构成新闻部的认可。开发人员可以使用本指南来增加对基本联邦指南和护栏的理解，以指导他们在为教育环境创建 ai 应用程序时的工作。回应 2023 年 10 月的行政命令本指南是对美国总统乔 · 拜登 （ joe biden ） 于 2023 年 10 月 30 日发布的《关于人工智能的安全 ， 安全和可信开发和使用的行政命令》 （ ai 行政命令 ） 的回应 ， 该命令规定如下 ：为了帮助确保人工智能在教育部门的负责任的开发和部署，教育部长应在本命令发布之日起 365 天内，制定有关人工智能的资源、政策和指导。这些资源应解决人工智能在教育中的安全、负责和非歧视性使用问题，包括人工智能系统对弱势和服务不足社区的影响，并应酌情与利益相关者协商制定。本指南通过与学生，家长和教育工作者以及开发人员，行业协会和非营利组织进行的一系列广泛的公开聆听会议提供信息。这包括代表各种公司规模，资金模式和组织类型 （ 营利性 / 非营利性 ） 的开发人员的横截面。会议参与者分享了他们当前的安全和保障方法，他们和他们的用户面临的风险，关于支持和资源的建议，以及关于未来建立信任的机会的想法。与最初参与的开发人员中的较小的一组开发人员 （ 在上面的贡献成员部分中列出 ） 进行了几次额外的聆听会议。本指南指的是聆听会议，它包括所有这些听取选民意见的机会。本指南借鉴了越来越多的关于人工智能的联邦出版物 ， 其中包括以下示例 ：●人工智能权利法案科学和技术政策蓝图办公室： 2022 年白宫白皮书 ， 广泛塑造了一项战略 ， 告知和保护公民免受人工智能和相关技术的侵害●美国国家标准与技术研究所 (nist) ai 风险管理框架： 一个保护开发者和最终用户利益的七步框架 ， 特别是与使用 ai 组件和即将推出的新兴技术的 edtech 公司相关●biden - harris 政府确保了另外八家人工智能公司的自愿承诺 ， 以管理 ai 带来的风险 | 白宫 ：白宫与科技公司的接触强调了联邦政府、开发者组织和其他选民之间的共同责任。 3方框 a ： 人工智能行政命令中定义的人工智能。术语 “人工智能 ” 是指基于机器的系统 ， 对于给定的一组人类定义的目标 ， 可以做出影响真实或虚拟环境的预测 ， 建议或决策。人工智能系统使用基于机器和基于人类的输入来执行以下操作 ：● 感知真实和虚拟环境●通过自动分析将这种感知抽象为模型● 使用模型推理来制定信息或行动的选项方框 b ： 定义教育技术 （ edtech ）根据该部门的定义2023 年 ai 报告， edtech 包括以下内容 ：a.专为教育用途而设计的技术b.在教育环境中广泛使用的一般技术广义定义 “人工智能 ” 和“ edtech ”该部门对术语 “ai ” 和“ edtech ” 有广泛的看法。本文档的指南广泛适用于开发人员可能集成的许多类型的 ai ， 以及他们的产品可能在教育环境中使用的许多方式。作为定义 “ai ” 的起点，我们注意到 ai 的法定定义 （ 见上文方框 a ），该定义也出现在 ai 行政命令中。正如我们在该部门的 2023 年人工智能报告中指出的那样，人工智能是许多研究和创新子领域的总称。根据国家人工智能研究资源工作组发布的 2023 年人工智能指数报告，我们继续观察到人工智能能力在许多领域的快速发展，如语音、视觉、机器人和文本。同样，我们广义地定义 “edtech ” (方框 b) 。在一家独立的市场研究公司的报告中，截至 2022 年，k - 12 和高等教育的全球教育技术市场价值为 1230 亿美元。这个市场包括初创公司，小型企业，非营利组织和大型公司 - 具有特定于教育的使命的公司以及其他具有用于教育和其他领域的产品的公司。产品范围广泛，从基础设施到学生信息系统，再到学习管理系统，再到特定的最终用户应用程序等等。虽然市场是由买家和卖家定义的，但我们广泛地定义了 edtech “生态系统 ”，包括许多不同的人和组织共同设计和改进新产品和服务。在这个生态系统中，对 “安全，保障和信任 ” 的行政命令概念的讨论将注入更具体的教育概念 （ 例如procedre、证据、公平、数据隐私) 如下所述。生态系统参与者包括。 4教育采购部门，其他教育决策者，教育工作者，家长和监护人，学生，非营利组织，高等教育机构和更广泛的社区成员。该生态系统包括直接创建或使用 ai 产品的人员以及受 ai 产品影响的教育系统中的人员。建立信任的共同责任远远超出了买卖; 它在整个生态系统中的开放和参与交流中蓬勃发展。关键信息 ： 建立信任的共同责任通过聆听会议 ， 该部了解到 2023 年人工智能报告中的一项关键建议 “优先加强信任 ” ， 引起了开发者的共鸣 ，