首页 / 美国军事 / 正文

情报机构发布AI的伦理原则:突破防御

放大字体  缩小字体 2020-08-12 10:41  浏览次数:67

Several government officials stand in front of a computer at a DHS cyber demonstration

2016年,时任代表约翰·拉特克利夫参观了国土安全部的国家网络安全和通信集成中心(NCCIC),这是自动化网络工具推出的一部分。

阿尔伯克基——今天,美国国家情报总监办公室(Office of the Director of National Intelligence)发布了一套不断演变的人工智能伦理使用原则的首份报告。DNI John Ratcliffe上月批准的从隐私到透明到网络安全的六项原则被称为1.0版本。

这六条原则被定位为国家许多情报部门的指导,尤其是帮助他们与私人公司合作,为政府建立人工智能。因此,他们提供了一个明确的补充五角大楼的人工智能原则,由国防部长马克埃斯珀在二月份提出。

ODNI公民自由、隐私和透明度办公室(Office of Civil Liberties, Privacy and Transparency)负责人本•许布纳(Ben Huebner)表示:“这些人工智能伦理原则不会削弱我们完成国家安全使命的能力。”“相反,它们帮助我们确保我们的人工智能或使用人工智能能够提供政策制定者所要求的公正、客观和可操作的情报,这是我们的根本使命。”

五角大楼的人工智能伦理原则是在谷歌工作人员启动的一项长期程序的最后阶段提出的。这些工人要求这家科技巨头退出为Maven项目构建图像处理人工智能的合同,该项目旨在识别军方录制的视频中的物体。

虽然ODNI的原则附带一个六页的道德框架,但没有像国防部提出的那样广泛的80页的支持附件。

ODNI首席技术顾问Dean Souleles表示:“我们需要把时间花在框架和我们正在推出的指导方针上,以确保我们在指导方针的范围内。”“这是一辆拥有这项技术的高速列车。在我们的工作小组中,我们正在积极地为从业者制定许多不同的标准和程序,并开始采用这些技术。”

在人工智能发展的过程中管理它,就像在火车运行时规划铁轨一样。这对所有人来说都是一个棘手的问题——但技术发展太快,难以预测,要想永远在石头上刻下戒律。

以下是六项原则,用该文件自己的话来说:

尊重法律,诚信行事。我们将以尊重人类尊严、权利和自由的方式使用人工智能。我们对人工智能的使用将完全遵守适用的法律当局以及保护隐私、公民权利和公民自由的政策和程序。

透明和负责任的。 我们将向公众提供适当的透明度和客户关于我们的人工智能方法,应用程序,并使用的范围内安全、技术、和releasability通过法律和政策,符合IC智能透明的原则。我们将开发和使用机制,确定责任和提供问责的使用人工智能及其结果。

客观和公正。根据我们提供客观情报的承诺,我们将采取积极措施来确定和减轻偏见。

以人为本的开发和使用。我们将开发和使用人工智能来增强我们的国家安全,并通过应用人类判断来增强我们值得信赖的伙伴关系,特别是当一项行动有可能剥夺个人的宪法权利或干涉他们自由行使公民自由的时候。

安全的和弹性。我们将开发和采用最佳实践,以最大限度地提高人工智能设计、开发和使用的可靠性、安全性和准确性。我们将采用安全最佳做法,以建立弹性,并最大限度地减少潜在的对抗性影响。

以科学和技术为基础。我们将在开发和使用人工智能方面严格执行,积极参与整个集成电路和更广泛的科学技术社区,利用公共和私营部门的研究进展和最佳实践。

伴随的框架提供了更多的问题,供人们在编程、评估、来源、使用和解释由AI提供的信息时询问。虽然通过算法对数据进行大量处理对情报机构来说不是什么新鲜事,但使用一种学习算法来为人类分析和总结数据却是一个相对较新的特点。

做对了,不仅仅意味着要在法律范围内,还意味着要确保调查产生的数据在交给那些使用情报产品制定政策的人时是准确和有用的。

许布纳说:“我们绝对欢迎公众就此发表意见和反馈。”他指出,公众可以在Intel.gov上得到反馈。他说:“毫无疑问,我们所做的事情会有一些方面仍然是机密。不过我认为,我们能做的是笼统地谈谈我们正在做的一些事情。”

内部法律审查,以及来自监察长的机密评估,可能会让机密数据处理对政策制定者负责。对于一般公众来说,由于它提供了对情报机构使用人工智能的评论,例子将不得不来自外部分类,并且可能会集中在私营部门的人工智能的例子。

她说:“我们认为,情报部门的需要和私营部门的需要有很大的重叠,而私营部门需要我们能够而且应该共同努力。”

他特别提到了威胁识别的任务,即利用人工智能识别试图对网络造成伤害的恶意行为者,无论是电子商务巨头还是三字母机构。根据个人对私人公司与政府之间收集和处理信息的感觉,当涉及到对间谍AI执行公共问责时,情报界将有商业案例可以借鉴,这要么是一种安慰,要么是一种预兆。

她说:“我认为,我们今后可以讨论的很多领域,都有重叠之处,不会暴露我们的秘密来源和方法,因为很多很多这些事情都是非常普遍的问题。”

热门搜索排行
声明:本站信息均由用户注册后自行发布,本站不承担任何法律责任。如有侵权请告知,立即做删除处理。
违法不良信息举报邮箱:[email protected]
粤ICP备20049235号
中国互联网举报中心