信息化带来伦理挑战

当前，以互联网、大数据、人工智能为代表的新一代信息技术蓬勃发展，深刻改变着人类的生存方式和社会交往方式，有可能带来伦理风险。我们应当认真研究思考并树立正确的道德观、价值观和法治观，有效提升公众诚信意识和社会信用水平，统筹兼顾人工智能应用和个人隐私保护。本期观察版的几篇文章围绕信息时代的伦理挑战进行探讨。

　　——​编者

　　信息时代的伦理审视(人民观察)

　　曾建平

　　习近平同志指出，当前，以互联网、大数据、人工智能为代表的新一代信息技术日新月异，给各国经济社会发展、国家管理、社会治理、人民生活带来重大而深远的影响。现代信息技术的深入发展和广泛应用，深刻改变着人类的生存方式和社会交往方式，深刻影响着人们的思维方式、价值观念和道德行为。

　　信息时代的伦理变革

　　信息化正在广泛而深刻地影响和改变着人类社会，它不仅对人类引以为荣的智能唯一性发出有力挑战，而且有可能动摇人类的道德主体地位。

　　目前，智能机器已获得深度学习能力，可以识别、模仿人的情绪，能独立应对问题等。那么，智能机器能否算作“人”？人与智能机器之间的关系应当如何定位、如何处理？智能机器应当为其行为承担怎样的责任？智能机器的设计者、制造者、所有者和使用者又应当为其行为承担怎样的责任？人们会不会设计、制造并使用旨在控制他人的智能机器？这样的情况一旦出现，人类将面临怎样的命运？这一系列问题关乎人伦关系的根本性质和价值基础，也关乎人类整体的终极命运。

　　在传统意义上，人与物的关系是主体与客体的关系。信息时代，人工智能创造物已不仅仅是技术化的工具，而是越来越具有类似于人类思维的能力，甚至在某些方面具有超越人类思维的能力。可以说人与人工智能创造物的关系，既不是主体与客体之间的关系，也不是主体之间的关系，而是一种主体与类主体之间的关系。例如，倘若自动驾驶汽车出了交通事故，该由谁承担责任？面对诸如此类的问题伦理学应该如何确立“伦”与“理”？从伦理学角度看，当大数据和人工智能的发展改变甚至颠覆人类活动的主体地位时，传统伦理就会发生解构，人具有排他性主体地位的伦理时代就可能结束。

　　信息时代的伦理进步

　　信息技术已渗透到人们的日常生活中，也深度融入国家治理、社会治理的过程中，对于实现美好生活、提升国家治理能力、促进社会道德进步发挥着越来越重要的作用。

　　信息化深入发展有助于改善政府部门与人民群众的关系。比如，在政务服务领域，各地积极推进“互联网政务服务”，推出“最多跑一次”事项清单，甚至部分事项“一趟不用跑”，打通政务服务的“最后一公里”，实现“让数据多跑路、让群众少跑腿”，不断增强人民群众的获得感幸福感安全感。又如，在反腐败领域，各地探索运用互联网、大数据和信息化手段，通过微信、微博、手机客户端等新媒体，让失德官员无处躲藏，权力运行更加阳光。

　　信息化深入发展为最大程度实现社会公平提供技术条件。例如，在教育领域，信息技术打破时空藩篱，让即便身在地球两端的学生也能同上一堂课；打破城乡壁垒，让农村孩子有机会与城里孩子享受到同等教育资源；打破线上线下界限，让学习无处不在、课堂互动“永不下线”，进一步促进优质资源共享和教育公平。

　　信息化深入发展扩大社会交往，提出更高的伦理道德要求。传统的社会交往主要局限于相对狭小的熟人范围，人们之所以遵守伦理道德很大程度上是因为相对狭小的熟人圈子中无所不在的外在监督，并且一些人对伦理道德的信守主要局限于相对狭小的熟人圈子，对圈子之外的人则未必守信。现代社会交往日益突破传统的熟人交往范围，建基于强大信息技术的互联网进一步打破传统交往的时空限制，使之成为普遍性的社会交往。这就要求人们具备更高程度的道德自律、更高程度的宽容与尊重，从而促进形成以普遍的诚实、守信为价值基础的现代社会公德。

　　互联网是一个实时、动态、开放的社交平台，各种悖德行为一旦曝光，就会在很短时间内遭到广泛的舆论谴责，在使悖德行为者承受压力的同时，让更多人受到潜移默化的教化。尤其是自媒体的广泛兴起，让人们随时随地能将身边的人和事拍摄下来、发到网上，更广泛有效地发挥社会舆论的监督、谴责与教化作用。

　　信息化深入发展使包括身份信息和行为信息在内的各类信息变得更透明、更对称、更完整，大大提升了对悖德行为乃至违法犯罪行为的防控、识别、监督、追究与惩处能力。例如，居民身份证存储着个人信息并实现全国联网，入住酒店、乘坐交通工具、购置房产以及其他一些有必要知晓行为人身份的行为或业务往来，都要求提供身份证明；政府部门借助发达的网络和信息传递技术，广泛而及时地向人们公布、推送失信人或其他违法犯罪分子的相关信息；重要公共场所安装高清摄像头，有的场所则配置更为先进的人脸识别技术。这使得悖德行为者及违法犯罪分子处于无所不在的监控之下而无处遁形，促使人们更审慎地权衡利弊并尽可能地减少、规避失信行为或其他违法犯罪行为，有效维护、巩固和增进以诚信为基础的主流伦理道德。

　　信息时代的道德风险

　　在可以预见的将来，人工智能将重塑生产力、生产关系、生产方式，重构社会关系、生活方式。

　　实际上，人工智能算法带来的歧视隐蔽而又影响深远。信息的不对称、不透明以及信息技术不可避免的知识技术门槛，客观上会导致并加剧信息壁垒、数字鸿沟等违背社会公平原则的现象与趋势。如何缩小数字鸿沟以增进人类整体福利、保障社会公平，这是一个具有世界性意义的伦理价值难题。

　　信息技术在加速大数据传播、搜集、共享的同时，也为一些国家或组织利用网络霸权干涉别国内政或实施网络攻击提供了漏洞和暗网，严重威胁国家主权和安全。因此，防范数据霸权是信息时代维护国家主权的重要内容。

　　互联网时代出现的一些现象和趋势，应当引起高度重视。例如，有些人沉迷于网络虚拟世界，厌弃现实世界中的人际交往。这种去伦理化的生存方式，从根本上否定传统社会伦理生活的意义和价值，放弃自身的伦理主体地位以及相应的伦理责任担当，已经触及价值观念基础这一更为根本的层面。

　　应对信息时代伦理风险的道德原则

　　习近平同志强调：“要整合多学科力量，加强人工智能相关法律、伦理、社会问题研究，建立健全保障人工智能健康发展的法律法规、制度体系、伦理道德。”面对信息技术的迅猛发展，有效应对信息技术带来的伦理挑战，需要深入研究思考并树立正确的道德观、价值观和法治观。从整体上看，应对信息化深入发展导致的伦理风险应当遵循以下道德原则。

　　服务人类原则。要确保人类始终处于主导地位，始终将人造物置于人类的可控范围，避免人类的利益、尊严和价值主体地位受到损害，确保任何信息技术特别是具有自主性意识的人工智能机器持有与人类相同的基本价值观。始终坚守不伤害人自身的道德底线，追求造福人类的正确价值取向。

　　安全可靠原则。新一代信息技术尤其是人工智能技术必须是安全、可靠、可控的，要确保民族、国家、企业和各类组织的信息安全、用户的隐私安全以及与此相关的政治、经济、文化安全。如果某一项科学技术可能危及人的价值主体地位，那么无论它具有多大的功用性价值，都应果断叫停。对于科学技术发展，应当进行严谨审慎的权衡与取舍。

　　以人为本原则。信息技术必须为广大人民群众带来福祉、便利和享受，而不能为少数人所专享。要把新一代信息技术作为满足人民基本需求、维护人民根本利益、促进人民长远发展的重要手段。同时，保证公众参与和个人权利行使，鼓励公众提出质疑或有价值的反馈，从而共同促进信息技术产品性能与质量的提高。

　　公开透明原则。新一代信息技术的研发、设计、制造、销售等各个环节，以及信息技术产品的算法、参数、设计目的、性能、限制等相关信息，都应当是公开透明的，不应当在开发、设计过程中给智能机器提供过时、不准确、不完整或带有偏见的数据，以避免人工智能机器对特定人群产生偏见和歧视。(作者为中国伦理学会副会长)

　　确保安全、可靠、可控

　　兼顾人工智能应用和隐私保护(势所必然)

　　杨 明

　　作为新一轮科技革命和产业变革的重要驱动力量，人工智能正在深刻影响社会生活、改变发展格局。同时，人工智能如同一把“双刃剑”，如果应用不当，就可能带来隐私泄露的伦理风险。如何在人工智能应用中兼顾隐私保护，确保安全、可靠、可控，是一项亟须关注的伦理课题。

　　人工智能应用存在隐私泄露的伦理风险。人工智能应用需要以海量的个人信息数据作支撑。数据是人工智能的基础，正是由于大数据的使用、算力的提高和算法的突破，人工智能才能快速发展、广泛应用，并呈现出深度学习、跨界融合、人机协同、群智开放、自主操控等新特征。人工智能越是“智能”，就越需要获取、存储、分析更多的个人信息数据。可以说，海量信息数据是人工智能迭代升级不可缺少的“食粮”。获取和处理海量信息数据，不可避免会涉及个人隐私保护这一重要伦理问题。今天，各类数据信息采集无时不有、无处不在，几乎每个人都被置于数字化空间之中，个人隐私极易以数据的形式被存储、复制、传播，如个人身份信息数据、网络行为轨迹数据以及对数据处理分析形成的偏好信息、预测信息等。可以预见，在不远的未来，越来越多的人工智能产品将走进千家万户，在给人们生活带来便利的同时，也会轻易获取更多有关个人隐私的数据信息。借助获取的数据信息，基于日益强大的数据整合、处理能力，人工智能技术可以为用户精准“画像”，而其中就潜藏着不容忽视的隐私泄露风险。如果人工智能应用得不到合理管控，人类将被置于隐私“裸奔”的尴尬境地，从而产生严重的伦理风险。

　　人工智能应用与隐私保护并非不可兼得。尽管人工智能应用在一定程度上存在隐私泄露的风险，但这并不意味着它与隐私保护之间是绝对对立的关系。一方面，人工智能应用决不能以隐私泄露为代价。隐私权不容侵犯，它既是公民的基本权利，也是社会文明进步的显著标志。有效保护隐私有利于人们维护人格尊严、保持心情舒畅，有利于促进人的全面发展。人工智能技术无论如何发展、发展到什么程度，归根结底都是为了辅助人、服务人，为使用者提供便利，而不能成为肆意损害人格权利、恶意泄露个人隐私的工具。这是人工智能应用必须坚守的底线，否则人工智能技术就会失去价值，也难以走远。另一方面，不能因为存在隐私泄露的伦理风险，就延缓甚至放弃人工智能应用。目前，人工智能应用得到世界主要国家的高度重视，被认为是科技创新的下一个“超级风口”，具有溢出带动性很强的“头雁”效应。在一定程度上讲，谁把握住了人工智能技术，谁就把握住了未来。加快发展新一代人工智能技术，是我国发展必须牢牢抓住的宝贵机遇。我们既要有效防范伦理风险，又要加快人工智能技术发展。事实上，人工智能应用与个人隐私保护之间并不是非此即彼的关系，完全可以通过多种手段从伦理层面对人工智能应用加以正确引导，将隐私泄露的风险降至最低。作为一种新兴技术，人工智能本身并无善恶、对错之分，关键在于使用者能否在符合伦理规范的前提下对其进行正当应用。隐私泄露现象是人工智能应用不当导致的，从深层看则大多是利益驱动的结果。所以，不能将隐私泄露简单归为技术层面的问题，也不能简单归咎于人工智能。

　　在推进人工智能应用中加强隐私保护。习近平同志强调，要加强人工智能发展的潜在风险研判和防范，维护人民利益和国家安全，确保人工智能安全、可靠、可控。在人工智能应用中加强隐私保护，需要加强人工智能应用的风险研判和防范，综合运用技术创新、伦理规范、法律制度等手段方式，防止其“野蛮生长”，确保在符合伦理规范的前提下实现人工智能健康发展。在技术层面，要加快研发和应用隐私保护的安全技术，可将用户隐私保护需求嵌入人工智能系统设计中，让最大限度保护隐私成为系统的默认规则。在伦理层面，要探索和确立保护个人隐私的原则。2019年6月17日，我国新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》，要求人工智能发展应尊重和保护个人隐私，充分保障个人的知情权和选择权。人工智能从业人员要树立社会主义核心价值观，加强自律，规范技术应用的标准、流程、方法，最大限度尊重和保护个人隐私。在法律层面，应加快制定加强隐私保护的法规制度。当前，我国隐私保护法律体系还不能完全适应人工智能发展需求，应在相关法律法规中进一步强化隐私权保护，并在条件成熟时制定针对人工智能应用中保护公民隐私的法律条文细则，充分保障公民在人工智能应用中的知情权和选择权，严格规范人工智能应用中个人信息的收集、存储、处理、使用等程序，反对窃取、篡改、泄露和其他非法收集利用个人信息的行为。(作者为南京艺术学院教授、江苏省伦理学会执行会长)

　　网络诚信建设刻不容缓(观察者说)

　　孙伟平

　　人无信不立，业无信不兴，国无信不强。诚信是公众必须具备的基本素养，也是文明社会不可或缺的基石。进入信息时代，快速发展的信息技术让人们生产生活更便捷、通信交流更畅通、信息获取更方便，但也带来了不同形式、不同程度的诚信缺失问题。信息时代呼唤诚信，迫切需要让诚实守信成为全社会的高度共识和行为自觉。

　　进入信息时代，智能手机、移动互联网、在线社交软件等日益普及，大数据、云计算、物联网、人工智能、区块链等新兴科技快速发展。截至2018年底，我国网民规模达到8.29亿，互联网普及率达到59.6%。数字经济规模达到31万亿元，约占国内生产总值的1/3。《数字中国建设发展报告(2018年)》显示，2018年31个省市区信息化发展指数平均达到67.15%，比上年提升4.88%。借助信息技术，人们在家中指尖轻点就可远程购物、远程学习、远程就医，“互联网政务服务”让社会治理更加智能化、精准化、科学化。从迭出爆款的新媒体到热点不断的网络综艺，从如火如荼的电子商务到改变生活的共享经济，信息技术正在为社会生活带来越来越多的精彩和便利。

　　但也要看到，同其他新技术一样，信息技术具有明显的双刃剑效应，正当使用带来的是便利，不正当使用则会造成严重的伦理风险，这其中就包括诚信缺失问题。例如，利用信息技术，一些不法分子盗用他人社交账号诈骗钱财；极少数商家通过疯狂刷单来伪造好评；少数新媒体一味求快，未经调查核实就发布信息，导致新闻时有“反转”；等等。出现这些问题，一方面表明在信息时代少数人诚实守信的“螺丝帽”拧得还不够紧，另一方面反映出社会诚信建设仍存在一些亟须补齐的短板。

　　信息时代之所以出现诚信缺失问题，主要有以下几方面原因：从技术层面看，信息技术具有数字化、虚拟化、开放性等特点，借助信息技术，人与人之间的交流更多呈现符号化、超地域性、隐匿性等特征。这让人际交往似乎进入一个互不熟识、缺少监督的“陌生人社会”，从而使一些人放松或忽视了诚信自律，做出失信行为。从利益驱动层面看，少数门户网站、自媒体重经济效益轻社会效益，为最大程度攫取经济利益不惜当“标题党”，甚至传递虚假信息，恶意透支社会信用。从体制机制层面看，相较于快速更新迭代的信息技术，诚信监督体系建设比较滞后，对失信者的威慑和惩戒还不够及时、有力，甚至在个别领域存在“牛栏关猫”的现象，从而让失信者有机可乘，造成诚信缺失问题。

　　中华优秀传统文化历来具有讲诚信、重承诺的优良传统。我们党一贯高度重视诚信建设，将诚信作为社会主义核心价值观的重要内容之一，把说老实话、办老实事、做老实人作为立身做人、干事创业的基本准则。“人而无信，不知其可也”。如果听任诚信缺失现象蔓延，不仅会带来社会信息交流不畅，而且会导致人与人之间缺乏必要的信任感，甚至会出现信任危机。

　　在信息技术快速发展的当下，有效提升公众诚信意识和社会信用水平，关键是加强网络诚信建设，坚持法治与德治并举、线上与线下联动，推动网络诚信建设法规越来越严密、覆盖越来越广泛、要求越来越严格。要在不断完善顶层设计、解决突出问题、形成长效机制上下功夫，打好网络诚信建设“组合拳”，综合运用互联网、大数据、云计算、人工智能等信息技术手段，广泛发动公众监督举报网上失信行为，开展诚信等级评价，动态发布诚实守信“光荣榜”和失信者“黑名单”，让诚实守信者受到尊重，令失信违约者处处受限，在人人参与、多元共治中大力营造诚实守信的健康网络生态。(作者为上海大学社会科学学部主任、马克思主义学院院长)

来源：人民日报、信用中国网