人工智能引论计算机领域本科教育教学改革试点工作计划（“101计划”）研究成果吴飞浙江大学计算机学院浙江大学人工智能研究所101
人工智能伦理与安全第八章
未雨绸缪、成己成物人工智能是新一轮科技革命和产业变革的重要驱动力量，是引领这一轮科技革命和产业变革的战略性技术，具有溢出带动性很强的‘头雁’效应，对经济发展、社会进步、国际政治经济格局等产生重大而深远的影响，体现出其赋能社会的技术属性。同时，人工智能正创造和形成人与机、机与机以及人机共融新的社会形态，因此我们必须确保把人类价值观、道德观和法律法规贯穿于人工智能的产品和服务，赋予人工智能社会属性。《礼记·中庸》曾言，“诚者，非自成己而已也，所以成物也。成己，仁也；成物，知也”
一、人工智能伦理二、人工智能模型安全三、人工智能可解释性
伦理概念起源一、人工智能伦理“伦理”来源于希腊语的“道德”（character，性格）和拉丁语的“风俗”（customs）这两个单词之间的组合。这两个单词结合在一起刻画了人和人之间言行道德与准则，以指导个体之间互动行为。“伦”表示各种人际关系、“理”则说明人际关系是有条有理。有原则有标准的伦理学就是对道德、道德问题及道德判断所作的哲学思考。伦理学是哲学的一个课题，是对道德、道德问题和道德判断所做的哲学思考。伦理一词在中国最早见于《礼记·乐记》中“乐者，通伦理者也”。在中文语境中，对“伦”的诠释主要有三重含义：其一，伦者从“人”从“仑”，许慎《说文解字》将伦解释为辈，讲伦起码要两人以上，伦即指人与人之间的辈分次第关系，单个人无所谓伦；其二，伦与乐相通，如《礼记·乐记》曰“乐者，通伦理者也”，强调音乐与伦理、美与善的相通性，或者说乐是通伦理的最佳方式，伦理以愉悦与和谐为要；其三，伦表达了“类”的内涵，如郑玄在《礼记·乐记》的注释中写道：伦，犹类也，理之分也，强调伦的本质是对不同类的分辨。可见，“伦”在中文中表达了一种关系、一种规则以及一种秩序。
科技的双重属性一、人工智能伦理传统的科技发展往往采取一种所谓的“技术先行或占先行动径路（proactionaryapproach）”模式，以发展技术为优先原则，体现出一种强大的工具理性，即“通过缜密的逻辑思维和精细的科学计算来实现效率或效用的最大化”。这种对技术效用单一维度的追求导致了科技异化现象，技术发展逐渐时而偏离“善”的方向，进而引发了一系列伦理风险。为确保科技发展的正当性与合理方向，在科学的社会建构思潮影响下，科技伦理应运而生。随着物联网、随着移动终端、互联网、传感器网、车联网、穿戴设备等的流行，计算与感知已经广泛遍布世界，与人类密切相伴。网络不但遍布世界，更史无前例地连接着个体和群体，开始快速反应与聚集他们的意见、需求、创意、知识和能力。世界已从“物理世界-人类社会”二元空间结构（Physicsworld-HumanSociety）演变为“信息空间-物理世界-人类社会”三元空间结构CPH（Cyberspace-Physicsworld-HumanSociety）。在CPH三元空间中，带来的伦理学讨论不再只是人与人之间的关系，也不是人与自然界既定事实之间的关系，而是人类与自己所发明一种产品在社会中所构成的关联，科技呈现双重属性特点，在推动科技发展过程中需要既考虑其技术属性、又考虑其社会属性，形成人机共融所形成社会形态应遵守道德准则和法律法规。
科林格里奇困境与普遍智能一、人工智能伦理英国技术哲学家大卫·科林格里奇（DavidCollingridge）在1980年出版的《技术的社会控制（TheSocialControlofTechnology）》一书的“前言”中写道：我们不能在一种技术的生命早期阶段就预言到它的社会后果。然而，当我们发现其不好的后果之时，技术通常已经成为整个经济与社会结构的一部分，以至于对它的控制变得极端困难。这就是控制的困境。当容易进行改变时，对它的需要无法得以预见；当改变的需要变得清楚明了之时，改变已经变得昂贵、困难而且颇费时日。这就是对新技术进行控制的困境，也被称为“科林格里奇困境（Collingridge’sDilemma）”。马克思在第二次工业革命之开端曾指出，机器体系不同于一般工具，是“人手创造出来的人脑器官”，既是一种异己的强大的机体，也受控于全社会所共同积累和分享的“普遍智能”。
对抗攻击二、人工智能模型安全在输入识别样本中人为故意添加若干人类无法察觉的细微干扰信息，导致模型以高置信度给出错误识别结果，这一攻击人工智能模型的行为被称为对抗攻击（adversarialattack）。 在对视觉信息处理的卷积神经网络中，一组高层神经元随机线性组合所表达语义信息与单个高层神经元表达语义信息没有区别。也即是说，一个神经元刻画的语义解释性与一组神经