小我信息泄露、信息鸿沟、信息茧房…丨人工智能伦理问题的现状分析与对策

本文刊载于《中国科学院院刊》2021年第11期"专题：科技伦理管理的计策研究"

原标题《人工智能伦理问题的现状剖析与对策》

1、当古人工智能伦理问题

伦理是处理人与人之间关系、人与社会之间关系的道理和秩序规范。
人类历史上，重大的科技发展每每带光降盆力、生产关系及上层建筑的显著变革，成为划分时期的一项主要标准，也带来对社会伦理的深刻反思。

人类社会于 20 世纪中后期进入信息时期后，信息技能伦理逐渐引起了广泛关注和研究，包括个人信息透露、信息鸿沟、信息茧房、新型权力构造规制不敷等。

信息技能的高速变革发展，使得人类社会迅速迈向智能时期，其突出表现在带有认知、预测和决策功能的人工智能算法被日益广泛地运用在社会各个场景之中；前沿信息技能的综合利用，正逐渐发展形成一个万物可互联、万物可打算的新型硬件和数据资源网络，能够供应海量多源异构数据供人工智能算法剖析处理；人工智能算法可直接掌握物理设备，亦可为个人决策、群体决策乃至国家决策供应赞助支撑；人工智能可以利用于聪慧家居、聪慧交通、聪慧医疗、聪慧工厂、聪慧农业、聪慧金融等浩瀚场景，还可能被用于武器和军事之中。

然而，迈向智能时期的过程如此迅速，使得我们在传统的信息技能伦理秩序尚未建立完成的情形下，又急迫须要应对更加富有寻衅性的人工智能伦理问题，积极构建智能社会的秩序。

打算机伦理学创始人Moore将伦理智能体分为 4 类：

1. 伦理影响智能体（对社会和环境产生伦理影响）；

2. 隐式伦理智能体（通过特定软硬件内置安全等隐含的伦理设计）；

3. 显示伦理智能体（能根据情势的变革及其对伦理规范的理解采纳合理行动）；

4. 完备伦理智能体（像人一样具有自由意志并能对各种情形做出伦理决策）。

当古人工智能发展尚处在弱人工智能阶段，但也对社会和环境产生了一定的伦理影响。
人们正在探索为人工智能内置伦理规则，以及通过伦理推理等使人工智能技能的实现中也包含有对伦理规则的理解。

近年来，越来越多的人呼吁要授予人工智能机器一定的道德主体地位，但机器能否成为完备伦理智能体存在巨大的争议。
只管当古人工智能在一些场景下的功能或行为与人类靠近，但实则并不具有“自由意志”。
从经典社会规范理论来看，是否能够成为规范意义上的“主体”来承担任务，并不取决于其功能，而因此“自由意志”为核心来构建的。
黑格尔的《法哲学事理》即以自由意志为出发点展开。
因此，当前阶段对人工智能伦理问题的剖析和解决路径构建应紧张环绕着前 3 类伦理智能体开展，即将人工智能定性为工具而非主体。

当前阶段，人工智能既承继了之前信息技能的伦理问题，又由于深度学习等一些人工智能算法的不透明性、难阐明性、自适应性、利用广泛等特色而具有新的特点，可能在基本人权、社会秩序、国家安全等诸多方面带来一系列伦理风险。

例如：

1. 人工智能系统的毛病和代价设定问题可能带来公民生命权、康健权的威胁。
2018 年，Uber 自动驾驶汽车在美国亚利桑那州发生的致命事件并非传感器涌现故障，而是由于 Uber 在设计系统时出于对搭客舒适度的考虑，对人工智能算法识别为树叶、塑料袋之类的障碍物做出予以忽略的决定。

2. 人工智能算法在目标示范、算法歧视、演习数据中的偏失落可能带来或扩大社会中的歧视，侵害公民的平等权。

3. 人工智能的滥用可能威胁公民隐私权、个人信息权。

4. 深度学习等繁芜的人工智能算法会导致算法黑箱问题，使决策不透明或难以阐明，从而影响公民知情权、程序正当及公民监督权。

5. 信息精准推送、自动化假新闻撰写和智能化定向传播、深度假造等人工智能技能的滥用和误用可能导致信息茧房、虚假信息泛滥等问题，以及可能影响人们对主要新闻的获取和对公共议题的民主参与度；虚假新闻的精准推清偿可能加大影响人们对事实的认识和不雅观点，进而可能鞭策民意、操纵商业市场和影响政治及国家政策。
剑桥剖析公司利用 Facebook 上的数据对用户进行政治偏好剖析，并据此进行定向信息推送来影响美国大选，这便是范例实例。

6. 人工智能算法可能在更不易于被察觉和证明的情形下，利用算法歧视，或通过算法同谋形成横向垄断协议或轴辐协议等办法，毁坏市场竞争环境。

7. 算法决策在社会各领域的利用可能引起权力构造的变革，算法凭借其可以处理海量数据的技能上风和无所不在的信息系统中的嵌入上风，对人们的权柄和自由产生显著影响。
例如，银行信贷中通过算法进行信用评价将影响公民是否能得到贷款，刑事法律中通过算法进行社会危害性评估将影响是否进行审前羁押等，都是突出的表示。

8. 人工智能在事情场景中的滥用可能影响劳动者权柄，并且人工智能对劳动者的替代可能引发大规模构造性失落业的危急，带来劳动权或就业机会方面的风险。

9. 由于人工智能在社会生产生活的各个环节日益广泛运用，人工智能系统的漏洞、设计毛病等安全风险，可能引发个人信息等数据透露、工业生产线停滞、交通瘫痪等社会问题，威胁金融安全、社会安全和国家安全等。

10. 人工智能武器的滥用可能在世界范围内加剧不平等，威胁人类生命与天下和平……

人工智能伦理风险管理具有繁芜性，尚未形成完善的理论架构和管理体系。

1. 人工智能伦理风险的成因具有多元性，包括人工智能算法的目标失落范、算法及系统毛病、受影响主体对人工智能的信赖危急、监管机制和工具欠缺、任务机制不完善、受影响主体的防御方法薄弱等。

2. 人工智能技能和家当运用的飞速发展，难以充分刻画和剖析其伦理风险及供应办理方案。
这哀求我们必须战胜传统规范体系的滞后性，而采取“面向未来”的眼力和方法论，对人工智能的设计、研发、运用和利用中的规范框架进行积极思考和构建，并从确立伦理准则等软法开始，引领和规范人工智能研发运用。

关于人工智能的发展，我们既不能盲目乐不雅观，也不能因噎废食，要深刻认识到它可以增加社会福祉的能力。
因此，在人类社会步入智能时期之际，必须趁早从宏不雅观上勾引人工智能沿着科学的道路前行，对它进行伦理反思，识别个中的伦理风险及其成因，逐步构建科学有效的管理体系，使其更好地发挥积极代价。

2、人工智能伦理准则、管理原则及进路

当前环球人工智能管理还处于初期探索阶段，正从形成人工智能伦理准则的基本共识出发，向可信评估、操作指南、行业标准、政策法规等落地实践逐步深入，并在加快构建人工智能国际管理框架体系。

伦理准则

近几年来，浩瀚国家、地区、国际和海内组织、企业均纷纭发布了人工智能伦理准则或研究报告。
据不完备统计，干系人工智能伦理准则已经超过 40 项。
除文化、地区、领域等成分引起的差异之外，可以看到目前的人工智能伦理准则已形成了一定的社会共识。

近年来，中国干系机构和行业组织也非常积极生动参与个中。
例如：2018 年 1 月，中国电子技能标准化研究院发布了《人工智能标准化白皮书（2018 版）》，提出人类利益原则和任务原则作为人工智能伦理的两个基本原则；2019 年 5 月，《人工智能北京共识》发布，针对人工智能的研发、利用、管理 3 个方面，提出了各个参与方该当遵照的有益于人类命运共同体构建和社会发展的 15 条原则；2019 年 6 月，国家新一代人工智能管理专业委员会发布《新一代人工智能管理原则——发展负任务的人工智能》，提出了人工智能发展的 8 项原则，勾勒出了人工智能管理的框架和行动指南；2019 年 7 月，上海市人工智能家当安全专家咨询委员会发布了《人工智能安全发展上海倡议》；2021 年 9 月，中关村落论坛上发布由国家新一代人工智能管理专业委员会制订的《新一代人工智能伦理规范》等。
从发布内容上看，所有准则在以人为本、促进创新、保障安全、保护隐私、明晰任务等代价不雅观上取得了高度共识，但仍有待连续加深理论研究和论证，进一步建立共识。

管理原则

美国、欧洲、日本等国家和地区在大力推动人工智能技能和家当发展的同时，高度重视人工智能的安全、康健发展，并将伦理管理纳入其人工智能计策，表示了发展与伦理安全并重的基本原则。

习近平总布告高度重视科技创新领域的法治培植问题，强调“要积极推进国家安全、科技创新、公共卫生、生物安全、生态文明、戒备风险、涉外法治等主要领域立法以良法善治保障新业态新模式康健发展”。

近年来，我国在应对新技能新业态的规制和监管方面，形成了“原谅谨严”的总体政策。
这项基本政策在 2017 年就已正式提出。
在 2020 年 1月1日起履行的《优化营商环境条例》第 55 条中更是专门规定了“原谅谨严”监管原则：“政府及其有关部门应该按照鼓励创新的原则，对新技能、新家当、新业态、新模式等实施原谅谨严监管，针对其性子、特点分类制订和实施相应的监管规则和标准，留足发展空间，同时确保质量和安全，不得大略化予以禁止或者不予监管。
”这为当古人工智能伦理管理供应了基本原则和方法论。

一方面，要看重不雅观察，认识到新技能新事物每每有其积极的社会意义，亦有其发展完善的客不雅观规律，应予以一定空间使其能够发展完善，并在其发展中的必要之处形成规制方法和方法。

另一方面，要坚守底线，包括公民权利保护的底线、安全的底线等。
对付已经形成高度社会共识、凝集在法律之中的主要权柄、代价，在司法、法律过程中都要依法进行保护。
这既是法律对干系技能研发者和利用者的明确哀求，也是法律对付在智能时期保护公民权柄、促进科技向善的郑重承诺。

管理进路

在人工智能管理整体路径选择方面，紧张有两种理论：“对立论”和“系统论”。

“对立论”紧张着眼于人工智能技能与人类权利和福祉之间的对立冲突，进而建立相应的审查和规制制度。
在这一视角下，一些国家和机构重点关注了针对人工智能系统本身及开拓运用中的一些伦理原则。
例如，2020 年《人工智能伦理罗马倡议》中提出 7 项紧张原则——透明、原谅、任务、公道、可靠、安全和隐私，欧盟委员会于 2019 年《可信赖人工智能的伦理指南》中提出人工智能系统全生命周期应遵守合法性、合伦理性和稳健性 3 项哀求，都表示了这一进路。

“系统论”则强调人工智能技能与人类、其他人工代理、法律、非智能根本举动步伐和社会规范之间的折衷互动关系。
人工智能伦理涉及一种社会技能系统，该系统在设计时必须把稳其不是一项伶仃的技能工具，而是须要考虑它将要在若何的社会组织中运作。
我们可以调度的不仅仅是人工智能系统，还有在系统中与之相互浸染的其他要素；在理解人工智能运作特点的根本上，可以在全体系统内考虑各个要素如何进行最佳调配管理。
当前在一些政策和法规中已有一定“系统论”进路的表示。
例如，IEEE（电气与电子工程师协会）发布的《合伦理设计》中提出的 8 项原则之一即为“资质”（competence），该原则提出系统创建者应明确对操作者的哀求，并且操作者应遵守安全有效操作所需的知识和技能的原则，这表示了从对利用者哀求的角度来填补人工智能不敷的系统论视角，对智能时期的教诲和培训提出了新需求。

我国国家新一代人工智能管理专业委员会 2019 年发布的《新一代人工智能管理原则——发展负任务的人工智能》中，不仅强调了人工智能系统本身该当符合若何的伦理原则，而且从更系统的角度提出了“管理原则”，即人工智能发展干系各方应遵照的 8 项原则；除了和谐友好、尊重隐私、安全可控等侧重于人工智能开放和运用的原则外，还专门强调了要“改进管理办法”，“加强人工智能教诲及科普，提升弱势群体适应性，努力肃清数字鸿沟”，“推动国际组织、政府部门、科研机构、教诲机构、企业、社会组织、公众在人工智能发展与管理中的折衷互动”等主要原则，表示出包含教诲改革、伦理规范、技能支撑、法律规制、国际互助等多维度管理的“系统论”思维和多元共治的思想，供应了更加综合的人工智能管理框架和行动指南。
基于人工智能管理的分外性和繁芜性，我国应在习近平总布告提出的“打造共建共治共享的社会管理格局”的辅导下，系统性地思考人工智能的管理维度，培植多元共治的人工智能综合管理体系。

3、我国人工智能伦理管理对策

人工智能伦理管理是社会管理的主要组成部分。
我国应在“共建共治共享”管理理论的辅导下，以“原谅谨严”为监管原则，以“系统论”为管理进路，逐渐培植形成多元主体参与、多维度、综合性的管理体系。

教诲改革

教诲是人类知识代际通报和能力培养的主要路子。
通过国务院、教诲部出台的多项方法，以及联合国教科文组织发布的《教诲中的人工智能：可持续发展的机遇与寻衅》、《人工智能与教诲的北京共识》13等报告可以看到，国内外均开始重视教诲的发展改革在人工智能技能发展和运用中有着不可或缺的浸染。

为更好地支撑人工智能发展和管理，应从 4 个方面进行完善：

1. 遍及人工智能等前沿技能知识，提高"大众年夜众认知，使"大众理性对待人工智能；

2. 在科技事情者中加强人工智能伦理教诲和职业伦理培训；

3. 为劳动者供应持续的终生教诲体系，应对人工智能可能引发的失落业问题；

4. 研究青少年教诲变革，冲破工业化时期传承下来的知识化教诲的局限性，回应人工智能时期对人才的需求。

伦理规范

我国《新一代人工智能发展方案》中提到，“开展人工智能行为科学和伦理等问题研究，建立伦理道德多层次判断构造及人机协作的伦理框架”。
同时，还需制订人工智能产品研发设计职员及日后利用职员的道德规范和行为守则，从源头到下贱进行约束和勾引。

当前有 5 项重点事情可以开展：

1. 针对人工智能的重点领域，研究细化的伦理准则，形成具有可操作性的规范和建议。

2. 在宣扬教诲层面进行适当勾引，进一步推动人工智能伦理共识的形成。

3. 推动科研机构和企业对人工智能伦理风险的认知和实践。

4. 充分发挥国家层面伦理委员会的浸染，通过制订国家层面的人工智能伦理准则和推进操持，定期针对新业态、新运用评估伦理风险，以及定期评比人工智能行业最佳实践等多种办法，促进前辈伦理风险评估掌握履历的推广。

5. 推动人工智能科研院所和企业建立伦理委员会，领导人工智能伦理风险评估、监控和实时应对，使人工智能伦理考量贯穿在人工智能设计、研发和运用的全流程之中。

技能支撑

通过改进技能而降落伦理风险，是人工智能伦理管理的主要维度。
当前，在科研、市场、法律等驱动下，许多科研机构和企业均开展了联邦学习、隐私打算等活动，以更好地保护个人隐私的技能研发；同时，对加强安全性、可阐明性、公正性的人工智能算法，以及数据集非常检测、演习样本评估等技能研究，也提出了很多不同领域的伦理智能体的模型构造。
当然，还应完善专利制度，明确算法干系发明的可专利性，进一步勉励技能创新，以支撑符合伦理哀求的人工智能系统设计。

此外，一些重点领域的推举性标准制订事情也不容忽略。
在人工智能标准制订中，应强化对人工智能伦理准则的贯彻和支撑，看重对隐私保护、安全性、可用性、可阐明性、可追溯性、可问责性、评估和监管支撑技能等方面的标准制订，鼓励企业提出和公布自己的企业标准，并积极参与干系国际标准的建立，促进我国干系专利技能纳入国际标准，帮助我国在国际人工智能伦理准则及干系标准制订中提升话语权，并为我国企业在国际竞争中奠定更好的竞争上风。

法律规制

法律规制层面须要逐步发展数字人权、明晰任务分配、建立监管体系、实现法治与技能管理有机结合。
在当前阶段，应积极推动《个人信息保护法》《数据安全法》的有效履行，开展自动驾驶领域的立法事情；并对重点领域的算法监牵制度加强研究，区分不同的场景，磋商人工智能伦理风险评估、算法审计、数据集毛病检测、算法认证等方法适用的必要性和条件条件，为下一步的立法做好理论和制度建议准备。

国际互助

当前，人类社会正步入智能时期，天下范围内人工智能领域的规则秩序正处于形成期。
欧盟聚焦于人工智能代价不雅观进行了许多研究，期望通过立法等办法，将欧洲的人权传统转化为其在人工智能发展中的新上风。
美国对人工智能标准也尤为重视，特朗普于 2019 年 2 月发布“美国人工智能操持”行政令，哀求白宫科技政策办公室（OSTP）和美国国家标准与技能研究院（NIST）等政府机构制订标准，辅导开拓可靠、稳健、可信、安全、简洁和可协作的人工智能系统，并呼吁主导国际人工智能标准的制订。

我国在人工智能科技领域处于天下前列，须要更加积极主动地应对人工智能伦理问题带来的寻衅，在人工智能发展中承担相应的伦理任务；积极开展国际互换，参与干系国际管理政策及标准的制订，把握科技发展话语权；在最具代表性和打破性的科技力量中霸占发展的制高点，为实现人工智能的环球管理作出积极贡献。

背景

人工智能（AI）是第四次家当革命中的核心技能，得到了天下的高度重视。
我国也环绕人工智能技能制订了一系列的发展方案和计策，大力推动了我国人工智能领域的发展。
然而，人工智能技能在为经济发展与社会进步带来重大发展机遇的同时，也为伦理规范和社会法治带来了深刻寻衅。
2017 年，国务院印发的《新一代人工智能发展方案》提出“分三步走”的计策目标，掀起了人工智能新热潮，并明确提出要“加强人工智能干系法律、伦理和社会问题研究，建立保障人工智能康健发展的法律法规和伦理道德框架”。
2018 年，习近平总布告在主持中共中心政治局就人工智能发展现状和趋势举行的集体学习时强调，要加强人工智能发展的潜在风险研判和戒备，掩护公民利益和国家安全，确保人工智能安全、可靠、可控。
要整合多学科力量，加强人工智能干系法律、伦理、社会问题研究，建立健全保障人工智能康健发展的法律法规、制度体系、伦理道德。
2019 年，我国新一代人工智能发展方案推进办公室专门成立了新一代人工智能管理专业委员会，全面卖力开展人工智能管理方面政策体系、法律法规和伦理规范研究和事情推进。
《中华公民共和国国民经济和社会发展第十四个五年方案和2035年远景目标纲要》中专门强调要“探索建立无人驾驶、在线医疗、金融科技、智能配送等监管框架，完善干系法律法规和伦理审查规则”。
这些均表示了我国对人工智能伦理及其管理的密切关注程度和积极推进决心，同时也突出了这一问题的主要性。

来源：中国科学院院刊