网络安全动态 ·

特朗普签署行政令:在联邦政府推行“可信赖人工智能”

特朗普签署行政令:在联邦政府推行“可信赖人工智能” 网络安全动态 第1张

12月3日,特朗普总统签署一项行政命令,为联邦机构使用人工智能制定指导方针,旨在促进公众在政府决策中接受该技术。该命令要求各机构准备整个部门的人工智能使用案例清单,并指导白宫为办公用人工智能制定政策路线图。

美国首席技术官迈克尔·克拉特西奥斯(Michael Kratsios)表示,该行政命令「将增进公众对该技术的信任,推动政府现代化,并进一步展示美国在人工智能领域的领导地位。」

该命令强调,人工智能的使用必须「合法、有目的性、以性能为驱动、准确、可靠、有效、安全、有保障、有弹性、可被理解、负责任、可跟踪、可定期监测、透明和可问责。」

目前,人工智能已经被许多政府机构用作预测性执法工具,并被监管机构用于处理和审查大量数据,以发现趋势并影响政策制定。但是,美国一些州和城市已经对人工智能应用提出了担忧,特别是执法部门在使用人脸识别软件时可能存在的算法偏见。

斯坦福大学和纽约大学的研究人员在2月份提交给美国行政机构的一份报告中记录了64个联邦机构使用人工智能的157个案例,并说它可以「使公共管理现代化,促进更高效、更准确和更公平的行为形式。」

但与此同时,人工智能可以被用来否认某些利益或做出影响公众权利的决定,可能会加剧人们对政府的任意行为的担忧。关键问题在于,将是如何让这些工具有意义的可问责性。

特朗普签署的行政命令全文如下。

特朗普签署行政令:在联邦政府推行“可信赖人工智能” 网络安全动态 第2张

根据美利坚合众国宪法和法律赋予我总统的权力,特此命令如下:

第一条款 目的。人工智能(AI)有望推动美国经济增长,改善所有美国人的生活质量。根据2019年2月11日颁布的第13859号行政命令(维持美国在人工智能领域的领导地位),各行政部门和机构(机构)已经认识到人工智能在以下方面的力量:改善其运营、流程和程序;实现战略目标;降低成本;加强对纳税人资金使用的监督;提高效率和任务效率;改善服务质量;提高安全性;培训员工队伍;支持联邦员工决策等等。鉴于人工智能的广泛适用性,几乎所有机构和这些机构所服务的机构都可以从人工智能的合理使用中获益。

各机构已经在使用人工智能方面处于领先地位:将其应用于加快监管改革;审查联邦要求遵守监管的请求;打击针对纳税人的欺诈、浪费和滥用;识别信息安全威胁并评估相关非法活动的趋势;增强联邦政府信息系统的安全性和互操作性;便利对大型数据集的审查;简化赠款申请流程;模拟天气模式;促进预测性维护等。

机构被鼓励在适当的时候继续使用人工智能造福于美国人民。人工智能的持续采用和接受将在很大程度上取决于公众的信任。因此,机构设计、开发、获取和使用人工智能的方式必须在保护隐私、公民权利、公民自由和美国价值观的同时,与适用的法律和第13859号行政命令的目标相一致。

如国防部《人工智能伦理原则》 (2020年2月24日)、国家情报局长办公室《情报共同体人工智能伦理原则》 (2020年)、《情报共同体人工智能伦理框架》 (2020年)等机构已经通过了为国家安全或国防目的使用人工智能的指导原则 。这些指导方针和原则将确保在这些情况下使用人工智能将有利于美国人民并值得他们的信任。

该命令第3条为联邦政府除国家安全和国防以外的目的使用人工智能制定了额外原则,以同样地确保人工智能的使用符合我们国家的价值观并有利于公众。该命令进一步确立了通过跨机构的共同政策指导来实施这些原则的程序。

第2条款 政策。

(a)美国的政策是在适当的情况下促进对人工智能的创新和使用,以促进公众信任,建立对人工智能的信心,保护我们国家的价值观,并与所有适用的法律保持一致的方式改善政府的运作和服务,包括 与隐私、公民权利和公民自由有关的法律。

(b)美国的政策是本命令第8条中定义的负责机构在考虑政府对人工智能的设计、开发、获取和使用时,应以本命令第3条中提出的共同原则为指导,这些原则旨 在促进公众对人工智能的使用的信任和信心,保护我们国家的价值观,并确保人工智能的使用符合所有适用的法律,包括与隐私、公民权利和公民自由有关的法律。

(c)美国的政策是政府使用人工智能的原则应受本命令第4条中概述的管理和预算办公室(OMB)发布的共同政策指导,并符合适用的法律。

第3条款 政府使用人工智能的原则 。在联邦政府设计、开发、获取和使用人工智能时,机构应遵守以下原则:

(a) 合法并尊重我们国家的价值观。机构应在设计、开发、获取和使用人工智能的方式表现出对我国价值观的适当尊重 ,并符合宪法和所有其他适用的法律和政策,包括涉及隐私、公民权利和公民自由的法律和政策。

(b) 有目的并以绩效为驱动。机构应寻求设计、开发、获取和使用人工智能的机会,在这样做的好处明显大于风险 ,并且风险可以评估和管理的情况下。

(c) 准确 、可靠和有效。机构应确保其对人工智能的应用与培训人工智能的用例一致,并且这种使用是准确、可靠和有效的。

(d) 安全、可靠和具有弹性。机构应当确保人工智能应用的安全性、安全性和弹性,包括在面对系统漏洞、敌对操控和其他恶意攻击时的弹性。

(e) 可理解。机构应当确保其人工智能应用的操作和结果能够被专家、用户和其他适当地充分理解。

(f) 负责和可追溯 性。机构应当确保人员的角色 和职责得 到清晰 的定义和理解,并在设计、开发、获取和使用人工智能时适当分配 。机构应当确保人工智能的使用方式与本原则和每次人工智能的预期目的一致。人工智能的设计、开发、获取和使用,以及特定人工智能应用的相关输入和输出 ,应当在适当和可行的情况下有良好的文件记录和可追溯性。

(g) 定期监测。机构应当确保其人工智能应用按照 这些原则定期进行测试。应当维持机制以取代、脱离或停用显示性能或结果与预期用途或这一顺序不一致的现有人工智能应用。

(h) 透明 。机构在可行的范围内 并根据适用的法律和政策,向包括国会和公众在内的相关利益方披露关于其使用人工智能的相关信息时应透明 ,包括关于隐私保护和敏感执法、国家安全和其他受保护信息的信息。

(i) 负责 。机构有责任实施和实施适当的保障措施 ,以正确使用和运作人工智能应用程序,并应对这些保障措施的遵守情况进行监测、审核和记录 。机构应当为所有负责人工智能的设计、开发、获取和使用的机构人员提供适当的培训。

第4条款 原则的实施。

(a) 现有的管理和预算管理政策目前涉及信息和信息技术设计、开发、获取和使用的许多方面,这些方面适用于人工智能,但不是唯一的。只要与本顺序中的原则和适用法律相一致,这些现有政策应继续适用于政府使用人工智能的相关方面。

(b) 在本命令发布之日的180天内,管理和预算办公室主任应与其确定的主要利益相关者协调 ,公开张贴一份路线图,该路线图是管理和预算办公室计划创建或修订以更好地支持人工智能的使用。该路线图应在适当的情况下包括与公众接触的时间表 和最终确定相关政策指导的时间表 。在解决政府使用人工智能的新方面,管理和预算办公室应考虑更新其政策指导的广度,包括管理和预算办公室通告和管理备忘录。

(c) 在可获得的情况下,各机构应继续使用由行业参与制定的自愿协商一致的标准,前提是该等使用不会与适用法律相冲突或在其他方面不可行。管理和预算办公室在修订或制定人工智能指导时也应考虑这些标准。

第5条款 人工智能使用案例代理清单 。

(a) 在本命令发布之日起60天内,联邦首席信息官委员会(CIO理事会 )应在其认为适当的情况下,确定 机构使用人工智能的非机密和非敏感使用案例的标准、格式和机制,并予以公布。

(b) 在首席 信息官理事会完 成本命令第5 (a)条中的指令后180天内,以及此后每 年,每个 机构应在本命令第9条规定 的范围内 ,根据机构的任务,准备 一份非机密的和非敏感 的人工智能使用案例清单,包括 当前的和计划的用途。

(c) 作为其各自的人工智能使用案例清单的一部分,机构应识别、审查和评估

为支持机构任务而部署和运作的现有人工智能,以发现与本命令的任何不一致之处。

(i) 在完成各自清单 的120天内,机构应制定 计划,为每个 人工智能应用实现与本命令的一致性,或退役被发现以与本命令不一致的方式开发或使用的人工智能应用。这些计划必须按照本命令第8条的规定 ,在相同的120天期限内获得机构指定的负责官员的批准。(ii) 在与机构数据治理机构和没有在该机构中代表 的机构的相关官员协调下,机构应根据现有资源水平 ,努力在计划批准后180天内执 行已批准 的计划。

(d) 在各自的人工智能使用案例清单完成后60天内,代理机构应在可行且符合适用法律和政策的范围内 ,包括有关保护隐私和敏感执法、国家安全和其他受保护信息的法律和政策。这种共享应酌情通过首席信息官和首席 数据官理事会,以及其他机构间的机构协调,以改进机构间的协调和信息共享。

(e) 在清单完 成后120天内,代理机构应在可行的范围内 ,并根据适用的法律和政策,包括 有关保护隐私和敏感执 法、国家安全和其他受保护信息的法律和政策,向公众开放他们的库存。

第6节 机构间协调 。代理机构应参与机构间机构,以促进本原则实施和符合本顺序的人工智能的使用。在本命令发布后45天内,首席信息官理事会应公布推荐的机构间机构间机构和论坛的名单 ,供代理机构在符合其各自权限和使命的情况下选择参加。

第7节 人工智能实施专业知识。

(a) 在本命令发布之日起90天内,由总务署(GSA)与其他机构共同管理的总统创新奖学金项目(PIF)应确定优 先专业领域并建立人工智能跟踪 系统,以吸引来自业界和学术界的专家到代理机构进行一段时间的工作。这些PIF专家将在各机构内部工作,根据本命令,促进政府对人工智能的设计、开发、购置和使用。

(b) 在本命令发布之日起45天内,人事管理办公室(OPM)应与总务署和相关机构协调 ,建立一份联邦政府轮换计划清单 ,并确定如何使用这些计划来扩大这些机构内具有人工智能专业知识的雇员的数量。

(c) 在本命令第7(b)条所述的政府轮换计划清单建立后180天内,OPM应出具 一份报告 ,说明如何最好地使用清单中的计划来扩大代理机构内具有人工智能专业知识雇员的数量。该报告应与根据本命令第6条确定的机构间协调机构共享 ,使代理机构能够更好地使用这些程序来使用人工智能,并与本命令一致。

第8节 负责机构和官员。

(a) 就本命令而言,「代理」一词是指《 美国法典》第44编第3502条第(1)款所规定的所有代理,但第44编第3502条第(5)款所规定的代理除外。

(b) 本命令适用于在本命令第9条所定义 的范围内 拥有人工智能用例的机构,不包括 国防部以及那些完全属于情报界的职能的机构和代理部门。「情报界」一词具有《美国法典》第50编第3003条所规定的含义。

(c) 在本命令发布之日起30日内,每个机构应指定该机构的负责官员,该官员将与机构数据治理机构和其他相关官员协调 本命令第3条中所列的原则的实施,并与根据本命令第6条确定的机构间协调机构进行合作。

第9节 适用范围。

(a) 本命令使用《2019年国防授权法》第238 (g)条中规定 的人工智能的定义作为参考 点。随着联邦政府对人工智能的使用的成熟和发展,根据本命令第4条制定或修订的OMB指南应包括必要的定义 ,以确保本原则在本命令中适用于适当的用例。

(b) 除本命令第9 (d)条中规定的或适用法律规定的除外情况外,本命令中的原则 和实施指导应适用于专门设计、开发、获得或用于推进机构任务的执行、加强决策制定或为公众提供特定利益的人工智能。

(c) 本命令适用于人工智能的现有和新的使用;独立的人工智能和嵌入到其他系统或应用程序中的人工智能;由机构或由第三方代表机构为完成特定的机构任务而开发的人工智能,包括用于培训人工智能的相关数据输入和用于支持决策的输出;以及机构采购人工智能应用程序。

(d) 本命令不适用于:(i) 全部或部分用于国防或 国家安全系统(由代理机构确定 的44 U.S.C. 3552 (b)( 6)中定义 的人工智能,但代理机构应遵守其他适用于国防和国家安全目的的方针和原则 ,如国防部和国家情报局长办公室所采用的方针和原则;(ii) 嵌入在文字处理器或地图导航系统等普通商业产品中的人工智能,但应注意到政府对此类产品的使用必须遵守适用的法律和政策,以确保安全、隐私、公民权利、公民自由和美国价值观得到保护;以及(iii)人工智能的研究和开发活动,尽管本准则和管理办公室实施指南应告知任何针对人工智能在联邦政府未来潜在应用的研发活动。

第 10节 总则。

(a) 本命令中的任何内容均不应被解释为损害或以其他方式影响:(i) 法律授予行政部门或机构或其负责人的权力;或(ii) 与预算、行政或立法建议有关的职能。

(b) 本命令应根据适用法律并视可获得拨款而定。

(c) 本命令并不旨 在也不创设任何一方针对美国及其部门、代理或实体、其管理人员、雇员或代理人或任何其他人的在法律上或衡平法上可强制执行的任何权利或利益。

参考链接:

https://www.whitehouse.gov/presidential-actions/executive-order-promoting-use-trustworthy-artificial-intelligence-federal-government/

声明:本文来自机器之能,版权归作者所有。文章内容仅代表作者独立观点,不代表安全内参立场,转载目的在于传递更多信息。如有侵权,请联系 2018288588@qq.com。

参与评论