第 11 期 计 算 机 教 育

2020 年 11 月 10 日 Computer Education 161

文章编号：1672-5913(2020)11-0161-04 中图分类号：G642

AI 背景下的伦理困境与解困之道
李  婵 1，季凌斌 2，周  苏 3
（1. 浙江安防职业技术学院 社科· 基础部，浙江 温州 325016；
2. 浙江安防职业技术学院，浙江 温州 325016；
3. 浙江安防职业技术学院 教师发展中心，浙江 温州 325016）

摘  要：针对人工智能技术的发展现状，分析其存在的信息安全挑战、技术可控性难题和部分科研人
员存在伦理缺失的 3 方面问题，提出人工智能实现健康发展的伦理解困之法：注重人文关怀、完善相
关法律以及发挥教育作用。
关键词：AI；人工智能；伦理；监督；安全
DOI:10.16512/j.cnki.jsjjy.2020.11.039

0 引  言 们的担忧。
1.1 个人隐私受到侵犯，公共安全受到危害
习近平总书记在 2018 世界人工智能大会开
人工智能算法是否可以“偷盗”你的信息？
幕式上强调，要处理好人工智能在法律、安全和
剑桥大学的一项最新研究表明：这是很有可能
道德伦理等方面提出的新课题 [1]。人工智能（AI）
的。就拿人脸识别来说，如果人脸识别技术被人
作为当下最热、未来最需要的新技术，必将如蒸
轻松掌握，隐私对每个人来说将会成为奢侈品；
汽机的发明、电力设备的使用和互联网的普及一
如果人脸识别技术被犯罪分子破解，人们的隐
样，带来新一轮产业与社会变革，催动各行业发
私、财产甚至人身安全都会面临巨大的威胁。据
生翻天覆地的变化。当前，人工智能正带领人类
人民网舆情数据中心统计，2018 年上半年全国
社会向充满不确定性的未来疾驰，在冲进未知之
范围内接到网络诈骗举报 12 052 起，涉案总金
门前，对存在的伦理困惑进行探讨与解惑，如此
额 19 419.3 万元，人均损失 1.6 万元，网络诈骗
方能真正行稳致远。
造成的人均损失还在不断提升。抖音平台有这样
一个视频，当一个人去超市买东西时，他在用手
1 AI伦理困惑之所在
机支付的同时，他的个人信息赤裸裸地泄露在商
人工智能和大数据是当今社会发展的趋势， 家面前。不管是不是现实存在还是未来有可能发
其对社会的影响是多元的，既有拉动经济、造福 生的，怀疑“偷盗”不啻为一声响亮的警钟，给
民生和造福社会的正面效应，又可能出现安全失 我们发出警示：在人工智能和大数据时代，公民
控、法律失准、道德失范、伦理失常以及隐私失 个人信息权益的保护，相较于技术发展更加脆
[2]
密等社会问题 。贺建奎基因编辑婴儿诞生事件、 弱，必须尽快找到可行的应对之道。正如墨菲定
无人驾驶交通事故“先救谁”难题和教育 +AI 产 律所说的——如果事情有变坏的可能，不管这种
品中人脸识别侵犯学生隐私现象等一系列科技伦 可能性有多小，它总会发生，并造成最大可能的
理问题，都在招致不同程度的社会争议，引发人 破坏。

基金项目：浙江安防职业技术学院 2020 年院级教研项目“课程思政的教学设计与实践——以高职人工智能专业

课程建设为例”（JY202018）。
第一作者简介：李婵，女，助教，研究方向为高教管理，大数据应用，895223055@qq.com。
 计 算 机 教 育
162 Computer Education
AI 带来信息安全的挑战、隐私的泄露、网
络诈骗和恶意攻击等，不仅危害个人安全，甚至
危及到国家安危。AI 面对的伦理道德问题还有
仿造和深度伪造包含面部调换、声音模仿、面部
重演及嘴唇同步等，如唐纳德 · 特朗普宣布核战
争的唇形同步视频。深度伪造技术的发展目标是
让没有什么技术能力的人也能轻松掌握其使用，
如若真的如此，会对全球构成一种强大的威胁。
因此，在 AI 还没有对人们的信息安全造成更大
威胁之前，我们必须做好防患于未然的举措，将
其消灭在萌芽之中。
1.2 相关法律有待完善，技术的可控性有待
提升
首先，AI 相关的法律有待完善。AI 面临着
伦理道德框架、隐私与安全保护等诸多复杂的
伦理问题，这些伦理问题往往直接转化为具体的
法律挑战，或是引发复杂的连带法律。但由于人
工智能是新事物，在原来的法律体系中并没有人
工智能方面的法律法规，为了让人工智能实现
健康发展，急需一套完善的法律体系与之匹配。
目前，中国人工智能的总体政策在 2017 年 7 月
国务院发布的《新一代人工智能发展规划》中得
到体现，但该规划只是要求对人工智能在部分
领域初步建立伦理规范和政策法规，尚未上升
至法律层面。由此，人工智能的立法需尽快提上
日程。此外，人工智能也对传统的法律法规和社
会规范提出挑战，因而有必要与时俱进完善相关
法律。
其次，技术的可控性有待提升。从娱乐、出
行到支付手段，人工智能悄然改变着我们的生
活。人工智能在为国家发展和社会进步带来新
机遇的同时，也带来一系列的新挑战。在这些
新挑战中，最令普通人所关注的，或许就是人
工智能时代的“人机关系”：高阶人工智能有
没有失控风险？未来的机器会不会挑战人类社
会的秩序，甚至获得自主塑造和控制未来的能
力？在电视剧“西部世界”里，机器人对人类举
起手枪。人们不禁疑问：随着人工智能日新月
异的发展，是否有一天人工智能的崛起会威胁
到人类自身，人工智能是否会超越人类？在梵
2020
蒂冈城举行的“数字时代科技公益大会”上，一
位教皇认为：
“如果人类所谓的技术进步成为共
同利益的敌人，这将导致一种不幸的回归，人
类将回到一种由最强者法则支配的野蛮状态”[3]。
已故著名物理学家、剑桥大学教授史蒂芬 · 霍
金在世时曾警告：强大的人工智能的崛起，要
么 是 人 类 历 史 上 最 好 的 事， 要 么 是 最 糟 的 [4]。
灾难与否，取决于人类自己的选择，为了使科
技真正意义上做到造福于人类，就需要加强对科
技的约束，因为技术能为人服务的前提便是技术
要能够被人类理解与控制。
1.3 部分孩子盲信科技权威，少数科研人员
伦理缺位
首先，孩子们存在对人工智能的盲信。2017
年，麻省理工媒体实验室的“个人机器人小组”
进行了一项研究。他们邀请 6～10 岁的孩子去媒
体实验室玩各种智能设备（比如亚马逊的 Alexa
或 Google Home），调查结果显示，100% 的孩子
都认为亚马逊的 Alexa 设备比人更加聪明 [5]。孩
子们天生好奇，总想通过科技的视角理解周遭
的世界。但是这项研究的结果表明：孩子们总
将科技视作权威，但却不了解科技是如何运作
的。2018 年，Zeynup Tufecki 在 纽 约 时 报 上 发
表了文章《矛盾激化者：Youtube》，YouTube 的
推荐算法和“自动播放”功能会不断大量地向她
推荐自己曾经浏览过内容的相关视频。YouTube
如今是最受青少年欢迎的社交媒体平台，并且
约 70% 的成年人用 YouTube 学习新事物或者了
解世界新闻，如此事实着实让人担忧。科技，尤
其是人工智能，在孩子心中所处的地位是否太过
权威？
其次，存在科研人员伦理缺位现象。2018
年 11 月，南方科技大学副教授贺建奎的基因编
辑婴儿实验饱受热议，事件发生后各相关部门陆
续发声，引发公众对人类福祉的伦理讨论和批
判思考。更为所有的科研成员敲响警钟，任何
一个科技的发明创造都不应违背伦理原则。著
名的物理学家霍金担心，一旦出现基因改造而
成的“超人”，“没得到改造的人类”可能无法得
到竞争，逐渐绝迹，或者变得“不重要”，人类
第 11 期 教育与教学研究 163

会展开“自我设计”的竞争。中国医学科学院生 福社会、造福人类为荣，以危害社会、危害人类
命伦理研究中心执行主任、北京协和医学院教 为耻。总之，科研人员对科技伦理的相关问题要
授翟晓梅说：
“任何一个国家的科学家都没有权 做到认识上有共识、行动上有落实，更好地为科
力轻易改变人类的基因库。一旦改变，风险是 研发展作贡献。
什么，我们现在都不可预料。”我们呼吁科研人 其次，完善相关的科技伦理原则。①加强国
员这个共同体，遵守相关的伦理原则，自觉约束 际合作。欧盟的“欧洲科技和新技术伦理小组”
自己的行为。 呼吁希望各国能够合作起来共同制定标准和规
则。2018 年 7 月 9 日，中国发展研究基金会和
2 AI伦理的解困之道 微软公司联合发布的报告《未来基石——人工智
能的社会角色与伦理》中指出，要通过各界合作
随着 AI 日益广泛的应用，社会上对其的关
建立一套切实可行的指导原则，鼓励发展以人
注和讨论越来越多，有人担心人工智能会超越人
为本的人工智能。2019 年 6 月 9 日，G20 批准
类，最终取代人类，成为人类文明永续的最大
了以人为本的 AI 原则，这是首个由各国政府签
威胁。其实，技术本身并没有伦理问题，关键是
署的 AI 原则，以人为本的人工智能发展理念正
制造者、使用者和传播者们如何正确对待人工智
在获得国际社会的共识。我们需要在此基础上，
能技术。本该是为人类服务、造福社会的科学利
加深国际对话和交流，凝聚全球共识，致力于
器，不应成为刺痛人类的利剑。人类应该尽快有
防范人工智能发展可能带来的国际风险和其他
所行动，让伦理和科技的发展同频共振，AI 应
风险。②打破部门隔阂。政府主管部门要牵头，
该是可持续并能朝着更有利于人类和人类社会的
方向发展，促进积极的社会变革。 组织跨学科领域的行业专家、人工智能企业代
表、行业用户和公众等相关方，开展人工智能
2.1 注重人文关怀，补齐伦理缺位
任何一项技术的发展都是以促进人类社会进 伦理的研究和顶层设计。高校和研究机构要开

步、增进人民福祉为遵循，人工智能也不例外。 展前瞻性科技伦理研究，为相关规范和制度的建

苹果公司 CEO 库克曾说过，科技和人文的联姻 立提供理论支撑。产业界、研究人员、民间组

才是能够震撼心灵的歌唱。“如果你做的一切都 织和其他利益攸关方要展开广泛对话和持续合
以人为本，就可以产生巨大的影响，注入了价 作，制定切实可行的指导原则。应进一步打破
值观的技术才能够使得所有人共同进步”[6]。在 学科之间的隔离墙，制定各个学科和多学科研
AI 发达以后，不能忽视的是伦理的约束，我们 究及成果应用的伦理规范 [7]，与时俱进地使人
希望让人类更多地享受到技术革新益处的同时， 工智能相关的伦理原则更趋完善，加快人工智能
让冰冷的科技亦呈现温暖的底色，创造有温度的 伦理原则落地。
未来。 2.2 建立健全法律法规，构建约束监管机制
首先，提升科研人员的伦理素养。AI 的研 庄子说：“有机械者必有机事，有机事者必
发人员在研发过程中应注重遵守基本的伦理准 有机心。”AI 是一把双刃剑，如果不能对 AI 发
则。“首例基因编辑婴儿”事件备受关注，深圳 展有可能带来的各种问题做好防范措施和划定红
医学伦理委第一时间回应并启动调查。在医学行 线，未来的我们可能会由于不作为而自食恶果。
业，伦理对于技术制约的重要价值已得到很好的 正如马化腾在 2019 年两会中就科技伦理建设所
体现，AI 技术的高速发展就跟基因编辑技术一样， 指出的：
“只有进一步加强科技伦理对科技活动
同样需要伦理来制约。科研人员也要自觉努力提 的引导和规范，才能促使科技活动朝着更加有利
升自己的伦理素养，一方面，在 AI 的设计目标、 于人类和人类社会的方向发展”[8]。
技术路线与功能实现等方面的研发中自觉遵守伦 首先，建立健全相关法律法规，加大执法和
理工作标准；另一方面，在使用 AI 时，要以造 惩戒力度。国务院在《新一代人工智能发展规划》

164
中提出，“建立人工智能法律法规、伦理规范和
政策体系，形成人工智能安全评估和管控能力”。
“在大力发展人工智能的同时，必须高度重视可
能带来的安全风险挑战，加强前瞻预防与约束引
导，最大限度降低风险，确保人工智能安全、可
[9]
靠和可控发展。 ”相关部门要加快立法，与时
俱进、有针对性地完善相关法律法规条款，尽可
能扎紧篱笆，确保降低可能侵犯人权的智能系统
产生的风险。执法部门要加大对数据滥用、侵犯
个人隐私和违背道德伦理等行为的执法力度和惩
戒力度，为人工智能的创新发展提供有力的法治
保障。
其次，建立健全相关监管机构，加大监督和
制约力度。2016 年，亚马逊、微软、谷歌、IBM
和脸书联合成立了非营利性的人工智能合作组织
以解决此问题。2018 年，非常多的组织和机构建
立了道德咨询委员会来应对数据泄露和消费者隐
私保护问题，增加对“信任支柱”（算法公平性、
可解释性、稳健性和透明度）的研究投入。2019
年 7 月 24 日通过的《国家科技伦理委员会组建
方案》要求组建国家科技伦理委员会。无论是国
家层面还是行业和公司层面，对 AI 的监管势在
必行。AI 的发展需要建立健全公开透明的人工
智能监管体系，建立以伦理专家、技术专家以及
企业领导人为核心的监管机制，在 AI 的设计和
应用监督上双管齐下，对 AI 的全过程进行监管，
为 AI 的发展构建良好的生态环境。此外，要以
海纳百川的胸怀积极借鉴国外的经验做法，如国
外科技巨头的科技伦理委员会、医疗行业的医学
伦理委员会等。
2.3 发挥教育作用，增强科技伦理教育
首先，中小学校要加强科技伦理教育，并
结合科学、科技教育的内容进行学习。国务院
在 2017 年发布的《新一代人工智能发展规划》
中提到：在中小学阶段设置人工智能相关课程。
教育部《2019 年教育信息化和网络安全工作要
点》文件，再次提出在中小学阶段设置人工智能
相关课程 [10]。人工智能教育应该纳入义务教育、
普通高中和大学的课程体系，确保学校作为人
[11]
工智能教育的主渠道 。学校不应让科技社会
计 算 机 教 育
Computer Education 2020
伦理方面的内容成为学生认知的盲区，要构建
全员、全程育人的格局，使人工智能课程与思
想政治理论课同向同行，将伦理道德意识有机融
入课堂，引导学生科学、正确地对待和使用“人
工智能 + 教育”产品，使未来的一代掌握好使用
的边界。
其次，高等教育要适应时代需要加大人工智
能人才培养，加强校企联合。约翰 · 普克罗夫
特提出，“教育对大数据创新发展具有重要意义，
大数据需要高等教育的发展。”国家教育部特别
印发了《高等教育人工智能创新行动计划》，我
国开始将人工智能人才培养计划提上日程，并
将高校摆在培养前线的主力位置。教育部印发
公布了 2018 年普通高等学校本科专业备案和审
批结果，同意国内 35 所高校新增人工智能本科
专业，让人工智能人才培养迈上正轨 [12]。2020
年我国 171 所高职院校成功申报人工智能技术服
务专业。
随着 AI 技术的发展与应用不断扩大，大量
的产业研发人才、应用开发人才和实用技能人才
需求将会呈现井喷态势。为此，高校需要适应时
代潮流，完善人才培养模式，积极推动人工智能
专业实施课程思政教学改革，从而为社会发展
培养德才兼备的高素质的人工智能专业化人才。
例如，浙江安防职业技术学院首度吹响开设公
共选修课《AI 伦理与职业素养》的号角，课程
开设以来受到领导与广大师生尤其是学生的一
致好评，充分肯定了开设本门课的价值。虽然
人工智能专业作为新兴专业，未来还有很长的
路要走，但浙江安防职业技术学院此举着实可为
其他高校人工智能专业课程思政教学改革提供借
鉴与参考。此外，学校要特别重视与企业的合
作，构建产教融合和校企合作的双师型教师教育
体系，实现学校人才培养目标与产业需求标准相
结合。
3 结  语
回首走过的岁月，千百年来，人类一次次成
功驾驭一代代新技术以改变世界，人类文明得以
不断进化，人类社会突飞猛进。面向未来的新征
（下转第169页）
第 11 期 教育与教学研究 169

培养改革中仍然存在一些困难和问题，如工程实 业将秉承中国工程教育专业认证“持续改进”的
训课程群对所有教师的工程实践能力提出了较高 要求，继续向知名高校学习，加强校企合作，综
的要求，“双师型”队伍的建设迫在眉睫；软件 合考虑各方面因素，改革教学方法，逐步完善课
工程综合实践课程安排在第 7 学期，严重影响了 程体系，培养适合于新工科要求的高素质软件工
学生考研等。在后续的改革中，我校软件工程专 程人才。

参考文献：
[1] 吴爱华, 侯永峰, 杨秋波, 等. 加快发展和建设新工科 主动适应和引领新经济[J]. 高等工程教育研究, 2017(1): 1-9.
[2] 言十. 新工科建设与系统能力培养[J]. 计算机教育, 2018(7): 1-4.
[3] 王志英, 周兴社, 袁春风, 等. 计算机专业学生系统能力培养和系统课程体系设置研究[J]. 计算机教育, 2013(9): 1-6.
[4] 高小鹏. 计算机专业系统能力培养的技术途径[J]. 中国大学教学, 2014(8): 53-57, 34.
[5] 刘卫东, 张悠慧, 向勇, 等. 面向系统能力培养的计算机专业课程体系建设实践[J]. 中国大学教学, 2014(8): 48-52.
[6] 袁春风, 王帅. 大学生计算机专业教育应重视“系统观”培养[J]. 中国大学教学, 2013(12): 41-46.
[7] 教育部高等学校软件工程专业教学指导分委员会. 高等学校软件工程专业规范[M]. 北京: 高等教育出版社, 2011.
[8] 李立新, 王文军, 高红江. 面向工程系统能力提升的土建类专业培养方案优化[J]. 教育现代化杂志, 2019(40): 146-150.
[9] 教育部高等学校软件工程专业教学指导委员会C-SWBOK编写组. 中国软件工程知识体系C-SWEBOK[M]. 北京: 高等教育出
版社, 2018.
[10] 张锦, 刘宏. 软件工程专业人才培养模式实践与思考[J], 软件导刊, 2020(1): 11-14.
[11] 赵军霞, 焦铬, 张剑. 新工科背景下的软件工程实践课程教学改革[J]. 计算机教育, 2019(11): 69-72.

（编辑：赵 原）

（上接第164页）

途，中国将构建我国 AI 领域的国际制度性话语 同努力下，人类同样可以很好地驾驭 AI，让 AI

权，推动构建 AI 人类命运共同体，使其更好地 向善。
服务社会、造福人类。相信未来在国际社会的共

参考文献：
[1] 新华网. 习近平致2018世界人工智能大会的贺信[EB/OL]. (2018-09-17)[2020-05-15]. http://www.xinhuanet.com/politics/
leaders/2018-09/17/c_1123441849.htm.
[2] 周苏, 王文. 人工智能概论[M]. 北京: 中国铁道出版社有限公司, 2020: 85.
[3] 猎心网. AI伦理背后的权力游戏[EB/OL]. (2019-11-15)[2020-05-15]. https: //zhuanlan. zhihu. com/p/91909228.
[4] 王春晖. 人工智能的伦理、法律与监管[EB/OL]. (2018-08-20)[2020-05-15]. http://www.legaldaily.com.cn/IT/content/2018-08/20/
content_7622575.htm.
[5] 凤凰网. AI也要从娃娃抓起?用伦理打破科技权威[EB/OL]. (2019-06-23)[2020-05-15]. https://tech.ifeng.com/c/7nk0kjORPOP.
[6] 环球网. AI伦理: 李彦宏立论, 马斯克宣言, 贝佐斯被打脸[EB/OL]. (2018-07-22)[2020-05-15]. https://m.sohu.com/
a/242639290_162522/.
[7] 季凌斌, 周苏. AI伦理与职业素养[M]. 北京: 中国铁道出版社有限公司, 2020: 29.
[8] 用“科技向善”理念引领人工智能发展(专家解读)[N]. 人民日报海外版, 2019-05-06(10).
[9] 中华人民共和国中央人民政府. 国务院关于印发新一代人工智能发展规划的通知[EB/OL]. (2017-07-20)[2020-05-15]. http://
www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm.
[10] 教育部办公厅. 教育部办公厅关于印发《2019年教育信息化和网络安全工作要点》的通知教技厅[2019]2号[EB/OL].
（2019-03-25）[2020-05-15]. https://www.chinaxwcb.com/info/551307.
[11] 中国教育新闻网. 人工智能教育中不能忽视伦理教育[EB/OL]. (2019-06-15)[2020-05-15]. http://www.jyb.cn/rmtzgjyb/201906/
t20190615_241830.html.
[12] 教育部办公厅. 教育部关于公布2018年度普通高等学校本科专业备案和审批结果的通知[EB/OL]. (2019-05-29)[2020-05-15].
https://gaokao.eol.cn/news/201903/t20190330_1652324.shtml.

（见习编辑：安 然）