第 ３９ 卷 　　 第 ４ 期 自 然 辩 证 法 研 究 Ｖｏ ３９，

ｌ． Ｎｏ．４
２　
０　 ３ 年 　　 ４ 月
２　 Ｓ
ｔｕｄ
ｉｅｓ
　ｉｎ　
Ｄｉａ
ｌｅｃ
ｔｉｃ
ｓ　ｏ
ｆ　Ｎａ
ｔｕｒ
ｅ Ａｐｒ．，
２０２３

· 专题讨论：“《自然辩证法研究》科技伦理前沿谈”征文 ·

【编者按】为深入贯彻落实两办《关于加强科技伦理治理的意见》，做好科技伦 理 知 识 宣 传 普 及 工 作，提 高 社 会
公众科技伦理意识 ，营造加快实现高水平科技自立自强的良好氛围 ，根据全国科学道 德 和 学 风 建 设 宣 讲 教 育 领 导
小组办公室《关于开展“科技伦理前沿谈”全国征文 大 赛 的 通 知》，《自 然 辩 证 法 研 究》作 为 本 次 活 动 主 要 承 办 杂 志
之一，面向学界征集了本学科领域探讨科技伦理问 题 的 学 术 论 文 。 本 次 刊 发 的 四 篇 文 章 是 此 次 征 文 中 具 有 代 表
性的优秀论文。

DOI:10.19484/j.cnki.1000-8934.2023.04.006

文章编号：
１０００－８９３４（
２０２３）
４－０００３－０７

ＡＩ伦理治理三大难题与哲学的诠释
王小红１，３，甘子月１，３，杨 　 钊２，３
１．西安交通大学 哲学系，西安 ７１００４９；
（ ２．西安交通大学 并行与分布式数据处理研究所，西安 ７１００４９；

３．西安交通大学 计算哲学实验室，西安 ７１００４９）

摘要：互联网现象、计算复杂性理论以及摩尔定 律 共 同 揭 示，
ＡＩ实 践 应 用 正 在 随 时 间 呈 指 数 式 增 长，与 此 同 时，
需要 ＡＩ增进福祉的人类共同体却陷 入 全 球 文 化 价 值 危 机，
ＡＩ伦 理 治 理 不 得 不 面 对 三 个 难 题：（
１）文 化 共 识；（
２）ＡＩ
复合系统的道德责任；（
３）多重 ＡＩ伦理问题的结构化。文 章 探 讨 哲 学 对 这 三 大 难 题 的 诠 释 与 洞 见 ：“以 人 为 本”内 涵
的中西哲学比较与计算分析；现有伦理框架的形而上重构；基于概念分析厘清 ＡＩ伦理结构。
关键词：价值同盟；计算哲学；分布式责任；形而上；伦理结构
中图分类号：
Ｎ０３１　　 文献标识码：
Ａ

　　 当 前 ＡＩ 治 理 从 原 则 到 实 践 有 了 实 质 性 的 推 准则讨论，开始积极建构 ＡＩ完 整、有 效 的 伦 理 体 系

进，工程师和人文学 者 跨 学 科 合 作 在“以 人 为 本”原 与实施方案。［２］另 一 方 面 人 们 对 ＡＩ 伦 理 影 响 的 研
则上达成共识，重要 国 际 组 织、越 来 越 多 国 家 政 府、 究还远未成熟。［３］ＡＩ伦 理 体 系 建 构 这 项 跨 学 科、异
ＩＣＴ 领军企业、学界、媒 体、教 育 等 社 会 各 界 协 同 推 常复杂的任务，需要 哲 学 家 和 工 程 师 深 度 合 作 进 行
进，初步构建了布局广阔的 ＡＩ治理之网。ＬＡＩＰ 最 切实可行且 具 前 瞻 性 的 工 作，［４］６３－６８ 本 文 基 于 作 者
新统计 ［
１］
，世界各地共发布了 ９２ 项 ＡＩ伦理准则。
团队近年计 算 哲 学 国 际 合 作，从 全 球 ＡＩ 伦 理 治 理
ＡＩ技术和 伦 理 专 家 一 方 面 已 经 超 越 ＡＩ 伦 理 视角，探讨文化共识、形而上伦理以及概念划界。

收稿日期：
２０２３－２－１６
基金项目：陕西省社科基金项目“机器学习与哲学研究 方 法 创 新”（
２０１９Ｃ００６）；陕 西 省 高 教 学 会 高 教 科 研 项 目 “科 学 － 人
文传统推进新文科哲学创新人才培养的理论与实践研究”（
ＸＧＨ２１０３４）。
作者简介：王 小 红 （
１９６８—），女，河 南 周 口 人，哲 学 博 士，西 安 交 通 大 学 哲 学 系 教 授 ，博 士 生 导 师，计 算 哲 学 实 验 室 中 方 主
任，主要研究方向：信息伦理学、机器道德；甘子月（
１９９７—），女，甘肃庆阳 人，西 安 交 通 大 学 科 技 哲 学 博 士 研 究 生 ，主 要 研 究 方
向：科技伦理、机器道德；杨钊（
１９９４—），河北邢台人，西 安 交 通 大 学 计 算 机 科 学 与 技 术 博 士 研 究 生 ，主 要 研 究 方 向：自 然 语 言
处理、多模态研究。
①　 “以人为本”与下文提到的“人类中心主义”两个概念有别，但中文语境中易混同。在本文中，“以人为本”的核心内涵是增进人类福祉，据
Ｐ 统计，相关英文关键词出现频次依次为：
ＬＡＩ ｆｏｒ　 ｎ，
ｈｕｍａ ｂ
ｅｎｅ
ｆｉｃ
ｉａｌ，
ｗｅｌ
ｌ　ｂ
ｅｉｎｇ，
ｄｉｇｎ
ｉｔｙ，
ｆｒ
ｅｅｄｏｍ，
ｅｄｕ
ｃａｔ
ｉｏｎ 等。而“人类中心主义（
ａｎｔ
ｈｒｏｐｏ
ｃｅｎ
ｔｒｓｍ）”
ｉ
是环境伦理学重要术语，根据其强、弱和新近观点，可概括其含义为：只考虑人类价值，并可以牺牲自然界中非人类之物的存在来维护人的利益，由
于强观点促使产生巨大环境灾难，反过来会损害人类当下和未来利益，审慎观点则主张人类对环境负有全部道德责任，因为只有人类是环境中的
理性栖居者。随着 ＡＩ与人类社会深度融合，本文基于信息伦理学主张：超越人类中心主义的形而上价值有助于增进人类福祉。

３
　　 自然辩证法研究 第 ３９ 卷 　 第 ４ 期 　　

加尔（
Ｄａｍｉ
ｔ　 ｌ）基 于 实 证 调 研 指 出：ＡＩ 伦 理 原 则
Ｇａ
取得实效的关键在 于 其 本 地 化，而 本 地 化 过 程 中 必
一 、难题一 ：文化共识 然要遵循当地的 文 化、宗 教 和 哲 学 传 统。［６］７３ 她 例 举
了在隐私和 问 责 等 ＡＩ 伦 理 原 则 的 本 地 化 过 程 中，
当前 及 未 来 ＡＩ 治 理 环 境 中 存 在 一 个 隐 忧：日 欧盟、美国和中国在 数 据 所 有 权 和 保 护 方 面 分 别 采
益加剧的国 与 国 竞 争 和 地 区 间 冲 突，使 人 类 在 ＡＩ 取了不同做法。上述 研 究 表 明，“以 人 为 本”这 一 抽
治理前沿技术领域 的 合 作 共 享 充 满 不 确 定 性，其 根 象原则，在 ＡＩ治理实际情 境 中，往 往 会 因 文 化 差 异
源在于各国和民族 间 文 化 价 值 分 歧 日 益 凸 显，人 类 导致实践价 值 差 异，甚 至 可 能 出 现 ＡＩ 治 理 技 术 的
命运共同体面临文化撕裂的危险。 相互反制。
１．“以人为本”共识与价值同盟困境 新冠疫情以来文化共识难题愈加凸显。继 ２０１９
ＬＡＩＰ 平台统计分析 ９２ 项全球 ＡＩ伦理准则的 全球 ＡＩ治理年度观察之后发布的 ２０２０ 年度观察中，
关键词，在涵盖的诸多伦理价值中，与“以 人 为 本 ① ” 计算机与人文学者布莱恩·克里斯蒂安（ Ｂｒ
ｉａｎ　
Ｃｈｒ
ｉｓ－
相关的关键词出现 频 次 最 高，其 余 １０ 个 主 题 是：可 ｔ
ｉａｎ）强调了人与人之间建立价值和利益同盟的困难
持续性、合作、共享、公平、透明、隐私、安全保障（
ｓｅ－ （
Ａｌｉ
ｇｎｍｅ
ｎｔ　
ｐｒｏｂ
ｌｅｍ），７ １９　ＡＩ伦理专家温德尔·瓦拉
［］

ｃｕｒ
ｉｔｙ）、人身安 全 （
ｓａｆ
ｅｔｙ）、问 责、远 期 ＡＩ。 尤 其 在 赫（Ｗｅ
ｎｄｅ
ｌｌ　
Ｗａｌ
ｌａｈ）谈到 当 前 国 际 形 势 下 国 与 国 之
ｃ
２０２１ 年１１ 月２５ 日（巴黎时间）ＵＮＥＳＣＯ 发布的 ＡＩ 间民众因缺乏了解而产生误解。 为促进不同国家
［７］
４７

伦理建议书 中， 以 人 为 本 出 现 频 次 最 高，出 现 了
“ ”
４８ 次。在其他准则中，“以人为本”出现频次是：“以
人类为中心 ＡＩ的社会原则”（日本政府 Ｃａｂ
ｉｎｅ
ｔ　Ｏｆ－
２０１８）出现 ２２ 次，“
ＡＩ北 京 共 识”（
ＡＩ北 京 研 究
ｆ
ｉｃｅ
院等 单 位 ２０１９ 年 联 合 发 布 ）出 现 １７ 次，欧 盟
ＨＬＥＧ２０１８ 和 ＥＧＥ２０１８、中科院自动化所类脑智能
研究中心 ＨＡＩＰ２０１８，同 为 １５ 次。ＬＡＩＰ 平 台 数 据
分析初步表明，
ＡＩ伦 理 治 理 方 面，“以 人 为 本”价 值
已在全球获得最高共识度。
ＬＡＩＰ 平台有助于整合 全 世 界 不 同 国 家 和 地 区
的 ＡＩ伦理原 则，使 侧 重 点 和 目 标 各 不 相 同 的 伦 理
原则可以相互融合 和 补 充，最 终 编 织 成 一 个 全 球 性
的、全面的 ＡＩ 治 理 价 值 之 网。 这 样 的 价 值 之 网 也
意味 着 确 立 一 个 相 互 融 贯 的 框 架，换 言 之，人 类 自
身首先达成某种价 值 同 盟，保 障 人 类 协 调 一 致 实 施
ＡＩ治 理，才 能 为 解 决 ＡＩ 科 学 家 斯 图 尔 特 · 罗 素
（
Ｓｔｕａ
ｒｔ　
Ｒｕｓ
ｓｅｌ）提出的“
ｌ ＡＩ与 人 类 之 间 价 值 同 盟”
难题提供前提。为解 决 这 个 难 题，罗 素 带 领 团 队 致
力于开发“更好”且“更安全”的 ＡＩ，让 ＡＩ始终处 在
人类价值和利益同 盟 中。 这 里 的 哲 学 反 思 是：人 类
自身究竟能否达成一个融贯的价值和利益同盟呢？
信息伦理学 家 指 出：确 立 一 套 基 本 的 ＡＩ 伦 理
准则 是 必 需 的，但 不 容 易，因 为 道 德 准 则 会 在 不 同
文化背景和 ＡＩ 使 用 情 境 下 产 生 差 异。 机 器 道 德
［
５］
哲学家也强调：虽然 存 在 超 越 文 化 差 异 并 为 人 类 共
享的价值观，但不同 文 化 以 及 人 类 的 不 同 道 德 系 统
在细 节 上 仍 有 分 歧。［４］６６ 联 合 国 技 术 顾 问 丹 尼 特 ·
４
不同文化在 ＡＩ治理方面达成价值共识，
ＵＮＥＳＣＯ 也
于 ２０２１ 年 举 办 了 圆 桌 会 议，技 术 哲 学 家 彼 得 一 保
罗·维贝克（
Ｐｅｔ
ｅｒ－Ｐａｕ
ｌ　Ｖｅ
ｒｂｅ
ｅｋ）召 集 不 同 国 家 学
者从文化多元性审视技术发展。
［８］
笔者为 ２０１９ 年度 观 察 撰 写 了 一 篇 报 告，［６］３５ 预
见到构筑人类价值 同 盟 的 难 度 和 复 杂 性，并 提 出 哲
学智慧共识的治理 思 路：东 西 方 哲 学 思 想 历 经 上 千
年，不仅亘古常新，而 且 遥 相 呼 应，中 西 方 哲 学 智 慧
皆植根于人类共同 命 运 的 重 大 问 题，是 历 经 数 千 年
文化积淀的 永 恒 价 值 观，可 以 为 ＡＩ 治 理 提 供 价 值
层面的 深 层 共 识。 例 如，中 国 文 化 中 的 高 度 智 慧
“和而不同”（《论 语 · 子 路 》），意 味 着 文 化 多 元 化，
结合我们 团 队 前 期 的 西 方 信 息 伦 理 学 和 机 器 道 德
考察，我 们 预 见 未 来 ＡＭＡｓ（Ａｒ
ｔｉｆ
ｉｃｉ
ａｌ　Ｍｏ
ｒａｌ　Ａ－
ｇｅｎ
ｔｓ，有高度自主性和价值敏感性的人工智能道 德
体）会选择 与 人 类 合 作 而 不 是 灭 绝 人 类，因 为 任 何
智能主体都需要更 多 自 由，而 多 样 性 越 大 则 信 息 熵
越大，［９］每个个体才有更大的选择自由。
２．抽象的道德律令和明晰的 ＡＩ指令
如何将抽象的哲学智 慧 转 换 为 ＡＩ伦 理 实 践 中
的明晰指 令 呢？ 中 国 哲 学 长 期 以 来 更 偏 向 意 会 和
体悟的言说方式，在 意 义 阐 释 方 面 并 不 以 条 分 缕 析
为重，与西 方 的 逻 辑 分 析 式、论 证 阐 明 式 哲 学 互 通
互融并非 易 事。 越 来 越 多 的 中 国 哲 学 学 者 已 经 在
反思，杨国荣先生就 积 极 倡 导 中 国 哲 学 与 分 析 哲 学
相融合，如他 所 述 ［１０］：中 国 哲 学 中 的 概 念 并 非 没 有
确定内涵，而是这些 概 念 的 丰 富 涵 义 往 往 没 有 在 形

式层面得 到 梳 理 和 辨 析。 今 天 需 要 用 逻 辑 分 析 方
法，揭示和阐明中 国 哲 学 思 想 中 隐 含 的 内 涵。 由 于
对“气”“道 ”“礼 ”“理 ”等 核 心 概 念 的 理 解 “见 仁 见
智、意义极易产生歧解”， 我们计算哲学实验室融
［
１１］
合 ＡＩ算法，探 索 对 中 国 哲 学 核 心 词 多 重 语 义 蕴 涵
做意义分梳。 ［
１２］
具体做法是：建立 中 国 古 代 哲 学 文 本 全 新 汉 典
语料库，利 用 ＬＤＡ－ＴＭ 无 监 督 机 器 学 习 算 法，基
于语词的语境聚类 特 征，找 出 隐 含 在 海 量 数 据 中 的
词 共 现 模 型，自 动 呈 现 一 个 词 在 使 用 中 的 多 重 语
境，以阐明中国 古 代 哲 学 核 心 词 的 语 义 蕴 含。 图 １
左是与“气”相关十大主题（
Ｋ＝１００），不仅每个主题
意义易识别、可解释，且 各 主 题 语 境 明 显 不 同，可 见
ＬＤＡ 算法自动分出了“气”一词的多重语境和涵义，
对应于图 １ 右意义标签。
图 １　 主题模型展示“气”概念多重语义蕴涵
上面关于 “气”的 语 义 蕴 含 计 算 分 析 结 果 十 分
契合杨儒宾 先 生 论 及 的 “气”之 丰 富 语 境：“气 － 身
体”“占卜、星 相、武 术 等”“儒 道 两 家 的 许 多 重 要 命
题”“玄学、理学与道教里的内丹传统”……。［１３］
中国哲学核心 词 意 义 分 梳 可 为 ＡＭＡｓ 提 供 基
础性工作。以深度学习为代 表 的 ＡＩ联 结 主 义 进 路
虽然取得引 人 瞩 目 的 成 就，但 最 成 功 的 ＡＩ 系 统 依
然是符号主 义 进 路 （自 上 而 下 式）与 联 结 主 义 进 路
（自下而上式）的 融 合，被 计 算 机 科 学 家 称 为 未 来 优
先发展的 “集 成 智 能”方 向。［１４］在 符 号 主 义 进 路 一
方，不 论 推 理 法 所 基 于 的 知 识 库，还 是 搜 索 法 所 基
于的启发式规则，都 要 分 析 并 清 晰 呈 现 道 德 哲 学 的
语义蕴含。而在联结主义进路一方，训练 ＡＭＡｓ的
伦理规则神经网络，使 用 隐 含 伦 理 原 则 的 代 表 性 数
据库时，也需对其做基于道德语义的分析和评估。
ＡＩ专家佩 特 拉 · 阿 尔 韦 勒 （
Ｐｅｔ
ｒａ　
Ａｈｒｗｅ
ｉｌｒ）
ｅ 题正在成 为 其 他 社 会 科 学 的 研 究 辖 域，如 政 治 学、
与科学史学 者 马 丁 · 诺 伊 曼 （Ｍａ
ｒｔｉ
ｎ　Ｎｅｕｍａｎｎ）合
ＡＩ伦理治理三大难题与哲学的诠释
作的一份报告与我 们 思 路 恰 相 吻 合。 他 们 提 出，利
用机器学习和 ＮＬＰ 技 术 形 成 有 关 全 球 具 体 价 值 观
制度的知识库清单，这 个 清 单 包 含 不 断 动 态 变 化 的
价值体系，可 有 助 于 建 立 一 套 被 ＡＩ 系 统 识 别 的 指
标，使得对 意 义 建 构 的 评 估 可 测。 我 们 设 想，为 获
取人类价值观共识，可 以 发 展 类 似 上 面 的 计 算 诠 释
学，将文化意义架构 整 合 进 符 号 主 义 进 路 和 联 结 主
义进路。借此，“
ＡＩ治理便可以是负责可靠、有求必
应、深思熟虑的以人为本”。［７］４１
二 、难题二 ：
ＡＩ复合系统的道德责任
与形而上伦理
　　ＡＩ、大数据和 ＩＣＴ 等新兴技术使人类社会运行
于不同 尺 度、不 同 复 杂 度 的 复 合 系 统 中，即 由 人、
物、人 － 物的混杂等复合而成的系统。ＡＩ复合系统
的决策和 运 行 效 果 是 许 多 行 动 者 间 无 数 作 用 的 结
果，包括设 计 者、开 发 者、使 用 者、具 有 不 同 程 度 自
主性的软件和硬 件 （如 ＧＰＴ３、
ＬａＭＤＡ 等 大 模 型），
这些行动者皆为“分 布 式 主 体”［５］，与 此 相 应 产 生 出
复合系统 中 分 布 式 道 德 责 任。 卢 恰 诺 · 弗 洛 里 迪
（Ｌｕｃｉ
ａｎｏ　 Ｆｌ ｏ
ｒｉｉ）对“分布式道德”（
ｄ Ｄｉｓ
ｔｒｉｂｕｔ
ｅｄ　ｍｏ－
ｒ
ａｌｉ
ｔｙ）
［
１５］
２６１
给出形象 的 描 画：局 域 层 面 若 干 智 能 体
相互作用，在整个系统中就如一支 “看不见的 手”在
起作用 ［１５］１３７－１３８ ，从 而 导 致 系 统 整 体 的 道 德 行 为 和
集体性责任。
现有伦理框架是针对个体的、人的责任而言，难
以适用于 ＡＩ技术复合系统的分布式情境。２０２１ 年 ９
月 ２５ 日，国家发布《新一代人工智能伦理规范》，明确
“人类是最终责任主体”，要“确保 ＡＩ始终处于人类控
制之下”。新出台国家层面这一《伦理规范》对当前争
议最大的 ＡＩ伦理问题之一，即人 － 机责任问题，给出
清晰的最高准则，这一准则是：“人类”是最终责任主
体，而非 ＡＩ软硬件系统。但“人类”是抽象所指，而社
会实践领域、法律和经济等情境下的责任主体，必须
是具体的、特定的，才能通过法律问责和追责机制推
进实现全社会的道德约束力。
面对前所未有的颠覆 性 ＡＩ技 术 给 人 类 社 会 造
成的伦理 难 题，伦 理 学 自 身 也 需 要 创 新，形 而 上 向
度的反思 和 建 构 成 为 必 然。 有 学 者 指 出 伦 理 学 议
经济学、法 学、社 会 学 对 公 正、自 由、平 等 和 权 利 的
５
　　 自然辩证法研究 第 ３９ 卷 　 第 ４ 期 　　

解释，心理 学 对 道 德 认 知 的 考 量。 对 此，赵 汀 阳 呼 维特根斯坦写作 ＴＬＰ 时，将摩尔的非认识主义（

ｎｏｎ
吁回归本源重新反 思 形 而 上 问 题，以 解 决 伦 理 学 地 －ｃ
ｏｇｎ
ｉｔｉ
ｖｉｓｍ）推进得 更 彻 底 和 纯 粹，将 伦 理 划 在 不
位危机，他批评道：伦 理 学 的 规 范 主 义 已 蜕 变 为 “自 可说的超验之域。对此，也有学者称其伦理思想为绝
以为是的专制主义”，“远 离 了 形 而 上 问 题 而 失 去 精 对的非认识主义。
［２０］

神性的”伦 理 学，不 仅 会 丧 失 立 足 之 地，也 无 法 “为 维特根斯 坦 将 绝 对 伦 理 终 究 归 于 不 可 说 的 神

文明建构一个稳定的社会基础和普遍精神”。 ［
１６］
秘，留下未解的困 惑。 弗 洛 里 迪 从 形 而 上 向 度 超 越
而信息伦 理 学 在 形 而 上 层 面 超 越 传 统 以 人 为 生活世界的善与恶，寻 找 宇 宙 中 某 种 普 适 性 的 形 式
中心伦理学，分 布 式 道 德 这 一 概 念 允 许 “无 心 的 道 化善恶标度。他 引 入 热 力 学 概 念 （熵 ）作 为 伦 理 核
德（
ｍｉｎｄｌｅ
ｓｓ　
ｍｏｒａｌ
ｉｔｙ）”
［
。这是超越生物中心
１５］
１４８
心概念：恶 的 行 为 是 指 不 必 要 的 熵 增，熵 增 会 导 致
的伦 理 学，试 图 以 所 有 存 在 为 中 心，不 论 有 生 命 还 系统的紊乱；反 之，任 何 维 持 或 增 加 信 息 （熵 减 ）的
是无生命，都是 信 息 体 （ｉ
ｎｆｏ
ｒｇｓ），由 此 扩 展 价 值 主 行 为 则 被 视 为 善 的，因 为 信 息 增 加 有 助 于 系 统 稳
体 范 围，突 破 人 类 中 心 主 义 和 主 体 形 而 上 学 的 局 定，更有秩 序。 这 一 抽 象 化 表 述 带 来 的 直 接 影 响，
限，从 根 本 上 为 与 信 息 技 术 共 同 进 化 的 每 一 个 个 就是将伦理学研究 对 象 扩 展 至 非 生 物 体 领 域，超 越
体，亦即作为“在世 之 在”，在 独 居、独 处 之 时 的 自 我 效果论、义务论、契约 论 和 美 德 论 所 涵 盖 价 值，为 人
道德持守构筑一个完善的本体论承诺：即便我周围 和物的复合系统责任分配给定伦理前提。
没有人，但是仍然存在着众多价值体。 ［
９］
当下的难题是，复杂决策由人和自主 ＡＩ软硬件
超越人类中心的伦 理 视 角，可 以 追 溯 至 １００ 年 系统共同作出，行动和结果间因果关系链错综难辨，
前维特根斯坦。维特 根 斯 坦 曾 提 出 这 样 的 疑 问：假 传统伦理关注事后对相关责任人监察和追责不仅于
如 除 了 我 之 外 没 有 任 何 生 物，还 会 有 伦 理 吗？ ［
１７］
１２６
事少补，而且也不可能。而分布式 ＡＩ伦理强调对后
他给出回答，“如 果 伦 理 学 果 真 是 某 种 根 本 性 的 东 果的预先解释和预测，随时监督和警示所有智能体遵
西”，那么答 案 便 是 肯 定 的！［１７］１２６ “因 为 对 于 伦 理 学 循行为规范，这一“管家式”伦理学被学界认为，比之
的存在来说，无论在 世 界 中 是 否 存 在 着 有 生 命 的 物 传统伦 理 学 在 应 对 现 代 技 术 挑 战 上 提 供 了 更 好 视
质，这都必 然 是 无 所 谓 的。”［１７］１２６ 他 还 概 括 道：不 论 角。
［４］
１８６
２０２２ 年 ４ 月欧盟在全球率先对 ＡＩ算法应用
是无 生 命 世 界，还 是 有 生 命 世 界，世 界 本 身 没 有 善 提出统一监管框架，并准备好大规模监管 ＡＩ。
［２１］
机器
恶。善和恶是通过 形 而 上 主 体 （意 志 主 体 ）对 这 个 道德领域奠基工作《道德机器》，引入弗洛里迪对道德
世界总体的态度而 呈 现 的。 在 维 特 根 斯 坦 看 来，伦 问责（
ａｃｃ
ｏｕｎ
ｔａｂ
ｉｌ
ｉｔｙ）和道德担责（
ｒｅｓ
ｐｏｎ
ｓｉｂ
ｉｌ
ｉｔｙ）的 区
理 和 逻 辑 超 越 于 这 个 世 界，并 作 为 世 界 存 在 的 条 分，建立具有实践可行性的机器道德框架，即自上而
件。“伦理”之于 维 特 根 斯 坦 具 有 与 通 常 哲 学 家 所 下和自下 而 上 混 合 进 路 ＡＭＡｓ。近 十 年 ＡＩ发 展 表
指不同的超越性含 义，即 关 乎 存 在 之 意 义 的 理 论 和 明，混合式进路的 ＡＩ伦理架构具有前瞻性，也与计算
康德式道德形而上这两层涵义。 ［
１８］
机科学未来优先发展的集成智能方向相一致。
此外，摩尔（
Ｇ．Ｅ．Ｍｏｏ
ｒｅ）以非自然主义进路对
价值本性 进 行 思 辨。摩 尔 考 察 “善 （
ｇｏｏｄｎ
ｅｓｓ）”的 定
三 、难题三 ：
义，就是考察“
ｇｏｏｄｎ
ｅｓｓ”这个东西的“本性”，或者说，
它的“真实性质”［１９］７ ，而不是考察“善”或“好”作为一 多重 ＡＩ伦理问题的结构化
种价值属性为他物所有，比如说，“这个行为是善的”
“这个东西是好的”等等。摩尔剖析以往伦理学所以 　　 错综复 杂 的 ＡＩ 伦 理 问 题 需 要 理 出 轻 重 缓 急。
为的“
ｇｏｏｄｎ
ｅｓｓ”之定义，认为是混淆了“善”作为某物 一个维度是依据 ＡＩ自身发展水平，区分弱 ＡＩ还是
或某事的可检验、可证明的属性与“善”本身。他批评 强 ＡＩ引发的伦理问题。弱 ＡＩ（
ｗｅ ＡＩ）通 过 机 器
ａｋ　
将“善”以及任何价值的定义归咎于心理学、社会学、 学习解决 某 项 具 体 任 务，是 定 向 的 和 狭 域 的 智 能，
物理学等实证学科和自然科学范畴中的某个属 也称之为 ＡＮＩ（
Ａｒｔ
ｉｆｉ
ｃｉａ
ｌ　Ｎａ
ｒｒｏｗ　
Ｉｎｔ
ｅｌｌ
ｉ ｅ）。 而
ｇｅｎｃ
性，［
１９］
４５
批判“自然主义谬误（
ｎａｔ
ｕｒａ
ｌｉ
ｓｔｉ
ｃ　ｆ
ａｌｌ
ａｃｙ）”，他 强 ＡＩ（
ｓｔｒ ＡＩ）才是 类 似 人 那 样 能 够 执 行 广 域 任
ｏｎｇ　
的伦理超越了实证学科和自然科学，在摩尔看来，价 务的通 用 性 智 能，故 称 之 ＡＧＩ（Ａｒ
ｔｉｆ
ｉｃｉ
ａｌ　Ｇｅｎｅ
ｒａｌ
值不可定义，只能凭直觉去把握，在其后 １０－２０ 年， Ｉ
ｎｔｅ
ｌｌｉ ｅ）。强 ＡＩ 引 发 的 是 远 期 和 未 来 的 伦 理
ｇｅｎｃ
６
 ＡＩ伦理治理三大难题与哲学的诠释

问题，弱 ＡＩ引发的则是当 下 的 和 近 期 的 伦 理 问 题。 中人的主体性如自 主 行 为、自 由 意 志 等 概 念 的 内 涵

这一维度下 还 可 以 细 分 符 号 主 义 和 联 结 主 义 的 不 已受到挑 战。 一 旦 人 的 思 维 是 依 赖 机 器 这 一 非 人
同影响，以及具身性的人的智能（ＨＩ）与非具身性的 的物来完成，人需要 和 机 器 互 相 适 应 互 相 习 得 合 作
ＡＩ）的 本 质 区 别。 另 一 维 度 是 将 ＡＩ伦
人工智能（ ［
２２］
的方式，然后共同演 进 为 一 个 适 应 外 部 环 境 的 自 主
理问题仔细甄别为 算 法 伦 理 和 数 据 伦 理，及 与 此 相 智能决策 系 统，那 么，在 人 适 应 机 器 并 逐 渐 习 得 与
关的 ＡＩ方法 本 身 和 ＡＩ 方 法 应 用。 下 面 基 于 概 念 机器的协同式思考 模 式 过 程 中，会 出 现 如 下 一 些 问
分析描画 ＡＩ伦理问题集的结构。 题：人的思考还是 人 的 独 立 思 考 吗？ 人 的 意 愿 还 是
ＡＩ伦理问题的层次
１． 自主的吗？对人 － 物 二 元 分 隔 的 挑 战，出 现 了 非 人
当前 讨 论 的 主 要 ＡＩ 伦 理 问 题 可 分 为 两 个 层
非物、亦人亦物的第 三 类 存 在，那 么 如 何 来 定 义 人，
次：一是 ＡＩ伦理具体问题，大致有九类，见表 １ 第 ２
究竟什么 是 人？ 还 有 人 逐 渐 失 去 主 体 性 而 成 为 对
栏；二是九类 ＡＩ 伦 理 问 题 背 后 均 涉 及 的 普 遍 性 哲
象，即物的存在，所谓人的“异化”。
学问题，可 收 敛 于 两 大 问 题，即 人 － 机 责 任 和 人 的
子问题 ２，人的生存 意 义。ＡＩ替 代 人 执 行 重 复
存在性，见表 １ 第 ３ 栏，其中人 － 机责任问题已在前
性和危险 性 工 作，原 本 是 为 了 人 类 生 活 得 更 自 由、
文讨论，这里着重讨论人的存在性问题。
更有安全保障。ＡＩ是人们的“芒果树”，［４］２０４ 给 我 们
表 １　ＡＩ伦理问题及其哲学问题
贡献食物、庇 护 所 和 工 业 产 品，还 能 帮 我 们 做 那 些
序号 具体的 ＡＩ伦理问题 哲学问题 繁杂琐细的工作。但 带 来 的 伦 理 问 题 是：人 群 中 总
数据偏见和算法偏见
１ 有人只能 干 低 技 能 工 作，这 些 人 的 工 作 一 旦 被 ＡＩ
（包括人脸识别系统）
取代怎么 生 存 呢？ 即 使 未 来 社 会 财 富 的 积 累 完 全
２ 可解释性和黑箱
人 － 机责任 可以让低技能人群 不 用 工 作 也 能 有 温 饱 生 活 保 障，
３ ＡＩ＋ 大数据
（信息伦理学） 可没有适 当 的 工 作，可 能 会 令 人 缺 失 生 活 意 义、社
４ 取代人的工作 ＡＩ系统
（机器道德） 会认同感、自 我 认 同 感，进 而 导 致 人 的 存 在 意 义 的
５ 与人交流互动 ＡＩ系统
丧失。赵 汀 阳 反 思 劳 动 的 意 义 ［２５］：劳 动 给 人 提 供
６ 脑机接口和人机交互系统
无人驾驶系统
“生活内容”，失 去 劳 动，生 活 就 失 去 了 大 部 分 内 容
７ 人的存在性
自主武器系统 和意义，导致人的非人化。
８ 危机
超智 能 ＡＩ、ＡＧＩ（包 括 三 个 子 问 （主体性地位） 子问题 ３，人 与 人 关 系 的 弱 化。 自 然 语 言 理 解
题） （生存意义） 技术使得 ＡＩ 越 来 越 理 解 人，尽 管 人 明 明 知 道 与 其
１ＡＩ会灭绝人类吗？
９． （人与人关系） 交流互动 的 不 是 真 正 的 人 而 是 机 器 或 一 个 软 件 系
９
２比人类更聪明的人工智能道
９．
统，但机器 不 会 让 人 伤 心，还 能 对 人 的 情 感 和 述 说
德体对人类完全是好事吗？
愿望给予 正 面 回 应，人 会 越 来 越 愿 意 与 这 样 的 ＡＩ
２ 机器人可以拥有“身份权”吗？
９．
相处，而逃离真实社 会 中 人 与 人 之 间 的 欺 骗 和 竞 争
　　 我们结 合 ＡＩ 最 新 进 展，将 其 引 发 的 人 类 存 在
式交 流。 比 如，有 研 究 揭 示，老 人 对 陪 护 ＡＩ 的 依
性危机拓展为三个子问题：
赖，士兵对 排 雷 机 器 人 的 感 情 等 等。［４］３９－４１ 甚 至，人
子问 题 １，人 的 主 体 性 地 位。 脑 机 接 口 技 术
宁愿相信机器而不 愿 相 信 人，当 一 个 人 需 要 在 另 一
ＢＣＩ）最近 取 得 重 要 突 破，可 借 助 植 入 式 电 极 读 取
（
脑信号来帮助瘫痪者实现简单动作意图，［２３］以及帮 个人和机器 之 间 选 取 盟 友 时，人 会 选 择 机 器。［２６］人

助霍金那样的病人 实 现 语 言 表 达（语 音 合 成 器 或 显 和人的关系是我们 整 个 人 类 文 明 的 构 成 基 础，人 与

示屏打印方式）。 植入式电极实验使物理对象 （电
［
２４］
极）深度参 与 人 的 意 图 实 现 过 程，尽 管 目 前 ＢＣＩ 还
仅限于读取运动神 经 和 躯 体 感 觉 神 经 信 号 的 特 征，
尚未涉及更 复 杂 认 知 能 力 如 微 妙 的 情 感 ① 、非 形 式
推理、语 言 意 义 等 所 对 应 的 神 经 特 征，但 传 统 哲 学
人关系的弱化甚至 消 失，不 仅 会 危 害 人 类 个 体 的 正
常情感，甚 至 威 胁 人 类 文 明 的 存 在 和 延 续。 因 此，
哲学家 提 出 这 样 的 疑 虑 ［２５］：假 如 抛 弃 人 的 文 化 传
统，技术系统能够建 构 起 足 够 丰 富 的 另 一 种 让 人 有
幸福感的文化吗？

① ＢＣＩ和情感计算（
ＡＣ），这两个新兴研究领域的实际用途很不同，尽管二者在 ＡＩ技术上有交叉。

７
　　 自然辩证法研究 第 ３９ 卷 　 第 ４ 期 　　

ＡＩ伦理问题中的概念厘清
２． 算法训练神经网络 的 过 程 中，那 些 负 载 了 人 类 价 值
表 ２　ＡＩ伦理问题的基本概念框架 的内容究竟是怎样嵌入的？
概念区分 需要澄清的疑惑 说明 （四 ）：美 国 麻 省 理 工 学 院 做 过 一 个 测

近期的还是远期的 ＡＩ伦理问题；
（见说明一） 试。 先用一著名商用机器学习系统训练出一个 深
［
１４］

强 ＡＩ
“弱”
ＡＩ引起的伦理问题并不“弱”； 层神经网 络，该 网 络 可 从 照 片 中 识 别 各 种 枪 支，并
弱 ＡＩ
更需要关注的是弱 ＡＩ引起的现实伦理问题； 达到很高的正确识 别 率。 然 后，人 为 修 改 这 些 照 片
主要的 ＡＩ系统是两种进路的融合； 上的少量 像 素，这 些 修 改 对 人 眼 识 别 无 任 何 影 响，
符号进路
符 号 ＡＩ 系 统 用 符 号 语 言 来 表 征 关 系 ，而 语 可是训练 好 的 深 层 神 经 网 络 却 不 能 正 确 识 别 修 改
联结进路
言本身存在的偏见就嵌入算法中； 后的照片。 计 算 机 科 学 家 或 伦 理 学 者 皆 认 为 这 表
算法偏见参见上栏； 明目前 ＡＩ深度学习的 脆 弱 性。 而 我 们 认 为 这 个 实
算法偏见
数据偏 见 往 往 是 算 法 透 明 无 过 滤 地 学 习 的
数据偏见 例或许反映出，
ＡＩ模式识别与人的模式识别有本质
结果（见说明二）
区别。虽然 认 知 科 学 和 哲 学 远 未 揭 示 人 认 识 模 式
一方面技术创 新 竞 争 造 成 算 法 不 透 明：算 法
的全部特 征，我 们 只 能 结 合 经 验 直 觉 来 假 设：人 类
是研发团队开 发 的 技 术 核 心，需 要 保 护 知 识
算法透明 认知，本 质 上 是 以 模 拟 （连 续 性 和 整 体 性 ）方 式 为
产权和商业利益；
（两重含义） 主，对图像 和 外 部 信 息 采 取 整 体 性 的 模 拟 式 识 别，
另一方面技术 本 身 不 透 明：算 法 架 构 日 益 复
杂导致算法结果难以预测 少量像素的 修 改 不 会 影 响 识 别 整 体 特 征，而 ＡＩ 只
可解释性 一方面与算法 透 明 性 有 关；另 一 方 面 与 现 有 能以数字（离散性）方 式 进 行 识 别，无 法 忽 略 数 字 信
（黑箱） 神经网络学习机制有关；（见说明三） 息的差异。 模 拟 式 和 数 字 式 的 区 分 参 考 弗 洛 里 迪
ＡＩ方法自身还是 ＡＩ方法在应用中引起的 伦 对 ａｎａ
ｌｏｇｕｅ 和 ｄ
ｉｇｉ
ｔａｌ的 解 释。２９ 但 这 种 本 质 区 别
［ ］

ＡＩ方法 理问 题？ 例 如：网 约 工 究 竟 是 被 算 法 压 榨， 究竟是什么，需要未来认知科学逐步揭示。

ＡＩ应用 还是 被 片 面 追 求 考 核 绩 效 的 管 理 模 式 所
压榨？
／ＡＩ
ＨＩ 人的智能（ＨＩ）和 ＡＩ本质上不同（见说明四）
　　 说明（一）：一个误区，人 们 分 外 担 心 强 ＡＩ可 能
威胁整个人 类 的 存 在，却 忽 视 弱 ＡＩ 引 发 的 现 实 伦
理问题。当前以 及 今 后 很 长 时 间，ＡＩ 都 处 于 弱 ＡＩ
水平，字面上的“弱”会 让 人 误 以 为 其 所 引 发 的 伦 理
问题也“弱”。表 １ 列 出 九 大 类 伦 理 问 题，只 有 第 ９
类专 属 于 强 ＡＩ，其 他 八 大 类 伦 理 问 题，皆 已 显 现 并
在深入影响人类社会。
说明（二 ）：数 据 偏 见 是 真 实 人 类 社 会 的 反 映，
通过机器学 习，文 化 偏 见 渗 透 进 ＡＩ 系 统 中。 研 究
显示 ［４］中 文 版 序 ，在机器习得越来越像人的语言能力的
过程中，也在深度吸 取 人 类 语 言 模 式 中 隐 含 的 种 种
四 、结 语
既然是难题，就不 可 能 一 蹴 而 就。 如 何 超 越 不
同文化习俗、宗 教 信 仰 等，达 成 ＡＩ 治 理 价 值 共 识？
不仅需要东西方哲学智慧 为 应 对 ＡＩ复 合 系 统 分 布
式道德责 任 提 供 根 本 性 创 新 思 路，同 时，基 于 概 念
分析透视 ＡＩ 伦 理 重 重 表 象，无 疑 也 有 助 于 人 类 对
讯息万变之世界和 纷 繁 复 杂 之 社 会 涌 现 的 问 题，时
时保持警醒。
参考文献

偏见。尤为危险的是，
ＡＩ还有强化所习得的偏见的 １］曾 毅 ．皇 甫 存 青，鲁 恩 萌，等 ．链 接 人 工 智 能 准 则 平 台 ［
［ ＥＢ／
潜能，它们不像人 可 以 有 意 识 地 抵 制 偏 见。 如 何 在 ＯＬ］．（访问日期 ２０２３－０１－０８）．ｈ
ｔｔｐ：／／ｗｗｗ．ｌ
ｉｎｋ
ｉｎｇ－ａ
ｉ－

设计理解语言的算 法 时 既 让 其 消 除 偏 见，又 不 丧 失 ｒ
ｐｉｎｃ
ｉｐｌ
ｅｓ．ｏ
ｒｇ／ｃｎ．

其对语言的 解 释 能 力，这 是 一 项 很 大 的 挑 战。［２７］目 ２］陈小平 ．人工智 能 伦 理 体 系：基 础 架 构 与 关 键 问 题 ［

［ Ｊ］．智 能 系
统学报，２０１９（
４）：６０５－６１０．
前有数学方法可用来去除数据偏见。［２２］
［
３］Ｌ
ｉａｏ　
Ｓ　Ｍ．（
ｅｄ．）Ｅｔ
ｈｉｃ
ｓ　ｏｆ　
Ａｒｔ
ｉｆｉ
ｃｉａ
ｌ　Ｉｎ
ｔｅｌ
ｌ ｅ［Ｃ］．Ｎｅｗ
ｉｇｅｎｃ
说明（三）：神 经 网 络 机 器 学 习 系 统，先 采 集 和
ｒｋ：Ｏｘ
Ｙｏ ｆｏｒ
ｄ　Ｕｎ
ｉｖｅ
ｒｓｉ
ｔ Ｐｒ
ｙ　 ｅ
ｓｓ，２０２０：１－３．
制作 训 练 数 据 集，训 练 出 一 个 合 格 神 经 网 络，然 后
４］［美］温德尔·瓦拉赫，科林·艾伦 ．道德 机 器：如 何 让 机 器 人 明
［
用该网络回答问题，但 网 络 内 部 的 运 行 一 般 无 法 解 辨是非［Ｍ］．王小红，主译 ．北京：北京大学出版社，２０１７．
释（至少目前 为 止 ）。 需 要 更 多 研 究 来 考 察，在 用
［
２８］
［
５］ Ｍ，Ｆ
Ｔａｄｄｅｏ　 ｌｏｒ
ｉｄｉ
　Ｌ．Ｈｏｗ　
ＡＩｃ
　ａｎ　
ｂｅａ　
　 Ｆｏ
ｒｃｅ
　ｆｏ
ｒ　Ｇｏｏｄ［
Ｊ］，Ｓｃ
ｉ－

８
 ＡＩ伦理治理三大难题与哲学的诠释

ｅ，２０１８，３６１（
ｅｎｃ ８）：７５１－７５２． １９］［英］
［ Ｇ．Ｅ．摩尔 ．伦理学原理［Ｍ］．陈德中，译 ．北 京：商 务 印
［
６］ＡＩ　
Ｇｏｖｅ
ｒｎａｎｃ
ｅ　ｉ
ｎ　２０１９：Ａ　
Ｙｅａ
ｒ　ｉ
ｎ　Ｒｅｖ
ｉｅｗ （
Ｏｂｓ
ｅｒｖａ
ｔｉｏｎｓ　
ｏｆ５０
　 书馆，２０１７．
Ｇｌ
ｏｂａ
ｌ　Ｅｘｐｅ
ｒｔ ＥＢ／ＯＬ］．（访 问 日 期 ２０２３－０１－１５）．ｈ
ｓ）［ ｔｔｐｓ： ２０］万俊人 ．维特根斯坦伦理思想摄义［
［ Ｊ］．现代哲学，１９８８（
３）：
６７
／／ｗｗｗ．ａ
ｉｇｏｖｅ
ｒｎａｎｃ
ｅｒｅｖ
ｉｅｗ．ｃ
ｏｍ． －７０．
［
７］２０２０ 全球人工智能治理年度 观 察（中 英 文 版）［
ＥＢ／ＯＬ］．（访 问 日 ２１］腾 讯 研 究 院 ． 人 工 智 能 时 代 的 算 法 治 理 报 告 ２０２２ ［ＥＢ／
［
期 ２０２３－０１－１５）．ｈ
ｔｔｐ：／／ｗｗｗ．ａ
ｉｇｏ
ｖｅｒ
ｎａｎ
ｃｅｒ
ｅｖｉ
ｅｗ．ｃ
ｏｍ． ＯＬ］．（访 问 日 期 ２０２３－０１－１３）．ｈ
ｔｔｐｓ：／／ｍｐ．ｗｅ
ｉｘｉ
ｎ．ｑｑ．
［
８］ＵＮＥＳＣＯ．Ｓｈａｐ
ｉｎｇ
　ｔｈｅ　
Ｆｕｔ
ｕｒｅ　
ｏｆ　
ＡＩｔ
　ｈｒ
ｏｕｇｈ　
Ｃｕｌ
ｔｕｒ
ａｌ　
Ｄｉｖｅ
ｒｓｉ
ｔｙ ｏｍ／ｓ
ｃ ／ｍｓｗ９ｄＲＹＴＫＦ９Ｅｊ
２０ｃＵ５ＧＡＮＱ．ｐ．１９．
［
ＥＢ／ＯＬ］，Ｔｈ
ｉｒｄ　
Ｒｏｕｎｄ　
Ｔａｂ
ｌｅ　
ｏｎｔ
　ｈｅ　
Ｅｔｈ
ｉｃｓ　
ｏｆ　
Ａｒｔ
ｉｆ
ｉｃｉ
ａｌＩ
　ｎｔ
ｅｌｌ
ｉ－ ［
２２］Ｈａｎｓ
ｓｅｎ　
Ａ　Ｂ，Ｎｉ
ｃｋｅ
ｌｅ　
Ｓ．Ｅｔ
ｈｉｃ
ｓ　ｏ
ｆ　Ａｒ
ｔｉｆ
ｉｃｉ
ａｌＩ
　ｎｔ
ｅｌｌ
ｉｇｅｎｃ
ｅ　Ｄｅ－
ｅ．（访问日期 ２０２１－１２－１９）．ｈ
ｇｅｎｃ ｔｔｐｓ：／／ｅｎ．ｕｎｅ
ｓｃｏ．ｏ
ｒｇ． ｍａ
ｒｃａ
ｔｉｏｎｓ［
Ｃ］／／ＢＡＣＨ　
Ｋ，ＲＵＯＣＣＯ　
Ｍ（ｅｄｓ）Ｎｏ
ｒｄｉ
ｃ　Ａｒ
ｔｉｆ
ｉ－
９］王小红，浦江淮，王小亮，等 ．熵 增 或 熵 减：评 析 弗 洛 里 迪 建 构
［ ｃ
ｉａｌ
　Ｉｎ
ｔｅｌ
ｌｉｇｅｎｃ
ｅ　Ｒｅ
ｓｅａ
ｒｃｈ　
ａｎｄ　
Ｄｅｖｅ
ｌｏｐｍｅｎ
ｔ．ＮＡＩ
Ｓ　２０１９．Ｃｏｍ－
的宏观信息伦理学［
Ｊ］．自然辩证法研究，２０１６（
１０）：１０４－１０９． ｍｕｎ
ｉｃａ
ｔｉｏｎ
ｓ　ｉ
ｎ　Ｃｏｍｐｕ
ｔｅｒ　
ａｎｄ　
Ｉｎｆｏ
ｒｍａ
ｔｉｏｎ　
Ｓｃｉ ｅ，２０１９，１０５６
ｅｎｃ
１０］杨国荣 ．分析哲学与中 国 哲 学［
［ Ｊ］．中 国 哲 学 史，２００９（
４）：
１０４ （
１１）：１３３－１４２．
－１１１． ［
２３］
Ｆｌｅ
ｓｈｅ
ｒ　 Ｎ，Ｄｏｗｎｅｙ　
Ｓ　 Ｊ　Ｅ，Ｗｅ
ｉｓｓ
　 Ｍ．，ｅ
Ｊ　 ｔ　ａ
ｌ．Ａ　
Ｂｒａ
ｉｎ－Ｃｏｍ－
１１］张再林 ．以“意”释 “气”———中 国 古 代 “气”概 念 之 新 解 ［
［ Ｊ］．中 ｐｕ
ｔｅｒ
　Ｉｎ
ｔｅｒ
ｆａｃ
ｅ　ｔ
ｈａｔ　
Ｅｖｏｋｅ
ｓ　Ｔａ
ｃｔｉ
ｌｅ　
Ｓｅｎｓ
ａｔｉ
ｏｎｓ
　Ｉｍｐ
ｒｏｖｅ
ｓ　Ｒｏｂｏ
ｔ－
州学刊，２０１５（
９）：
９７－１０５． ｉ
ｃ　Ａｒｍ　
Ｃｏｎ
ｔｒｌ［
ｏ Ｊ］．Ｓｃ
ｉ ｅ，２０２１，３７２（
ｅｎｃ ５）：８３１－８３６．
１２］王小红，科 林 · 艾 伦，高 元 昊，等 ．传 统 哲 学 问 题 的 机 器 建
［ ［
２４］
ＧＵＧＬ
ＩＥＬＭＩ　
Ｇ．Ｂｒ
ａｉｎ　
Ｓｉｇｎ
ａｌｓ　
Ｔｒａ
ｎｓｌ
ａｔｅ
ｄ　ｉ
ｎｔｏ　
Ｓｐｅ
ｅｃｈ　
Ｕｓｉ
ｎｇ　
Ａｒｔ
ｉｆ
ｉ－
模———探索 ＡＩ、大数据 和 哲 学 深 度 融 合 ［
Ｊ］．江 淮 论 坛，２０２０ ｃ
ｉａｌ
　Ｉｎ
ｔｅｌ
ｌｉ
ｇｅｎ
ｃ ＥＢ／ＯＬ］．（访 问 日 期 ２０２１－１２－１９）．ｈ
ｅ［ ｔｔｓ：／／
ｐ
（
４）：
８２－９０． ｗｗｗ．ｎ
ａｔｕ
ｒ ｏｍ／ａ
ｅ．ｃ ｒｔｉ
ｃｌｅ
ｓ／ｄ
４１５８６－０１９－０１３２８－ｘ．
１３］杨儒宾 ．中国古代思想中的 气 论 及 身 体 观 ［
［ Ｃ］．台 湾 巨 流 图 书 ２５］赵汀阳 ．人工智能“革命”的“近忧”和“远虑”———一种伦理学 和
［
公司，１９９３：３． Ｊ］．哲学动态，２０１８（
存在论的分析［ ４）：
５－１２．
１４］陈小平 ．人工智能中的封闭性和强封闭性———现有成果的能 力
［ ［
２６］ Ｃ，ＢＲＥＩＴＨＡＵＰＴ　
ＡＬＬＥＮ　 Ｆ．Ｓｏｍｅｄａｙ，Ｙｏｕ　
ｍｉｇｈ
ｔ　Ｔａｋｅ
　ｔｈｅ
边界、应用条件和伦理 风 险 ［
Ｊ］．智 能 系 统 学 报，２０２０（
１）：
１１４ ｔ’
Ｒｏｂｏ ｓ　
Ｓｉｄｅ———ａｎｄ
　ｔｈｅｎ　 ｔ？［
Ｗｈａ ＥＢ／ＯＬ］．（访 问 日 期 ２０２１
－１２０． －１２－１９）．ｈ
ｔｔｐ：／／ｗｗｗ．ｃｈ
ｉｃａｇｏ
ｔｒｉ ｏｍ／ｎｅｗｓ
ｂｕｎｅ．ｃ ／ｏｐ
ｉｎ－
［
１５］
Ｆｌｏ
ｒｉｄ
ｉ　Ｌ．Ｔｈｅ　
Ｅｔｈ
ｉｃｓ　
ｏｆ　
Ｉｎｆｏ
ｒｍａ
ｔｉｏｎ［Ｍ］．Ｏｘ
ｆｏｄ：Ｏｘ
ｒ ｆｏｒ
ｄ　Ｕ－ ｏｎ／ｃ
ｉ ｏｍｍｅｎ
ｔａｙ／ｃ
ｒ ｔ－ｒ
ｏｂｏ
ｔ－ｔ
ｒｕｓ
ｔ－ｅｍｐａ
ｔｈｙ－２０１７０８０６－ｓ
ｔｏ－
ｎ
ｉｖｅ
ｒｓｉ
ｔ Ｐｒ
ｙ　 ｅ
ｓｓ，２０１３． ｒ
ｙ．ｈ
ｔｍｌ＃ｓｈａ
ｒｅ＝ｅｍａ
ｉｌ～ｓ
ｏｃｉ
ａｌｉ
ｚｅ．
１６］赵汀阳 ．伦 理 的 困 惑 与 伦 理 学 的 困 惑 ［
［ Ｊ］．道 德 与 文 明，２０２０ ［
２７］Ｈａｎｎａｈ　
Ｄｅｖ
ｌｉｎ　
Ｈ．ＡＩ　
Ｐｒｏｇ
ｒａｍ　
Ｅｘｈ
ｉｂｉ
ｔ　Ｒａ
ｃｉａ
ｌ　ａｎｄ　
Ｇｅｎｄｅ
ｒ　Ｂ
ｉａ－
（
３）：
５－１６． ｓ
ｅｓ，Ｒｅ
ｓｅａ
ｒｃｈ　
Ｒｅｖｅ
ａｌ ＥＢ／ＯＬ］．（访 问 日 期 ２０２１－１２－１９）
ｓ．［
１７］［奥］维 特 根 斯 坦 ．战 时 笔 记 （
［ １９１４－１９１７）［Ｍ］．韩 林 合，译 ． ｈ
ｔｔｐ：／／ｗｗｗ．ｔ
ｈｅｇｕａ
ｒｄｉ
ａｎ．ｃ
ｏｍ．
北京：商务印书馆，２０１３． ２８］陈小平 ．人工智能伦理建设的目标、任务与路径：六个议题 及 其
［
［
１８］
Ｆｌａ
ｎａａ
ｇｎ　
Ｏ．Ｗｉ
ｔｔｅ
ｇｎｓ
ｔｅｎ’
ｉ ｓ　
Ｅｔｈ
ｉｃａ
ｌ　Ｎｏ
ｎｎａ
ｔｕｒ
ａｌｓｍ：Ａｎ
ｉ 　Ｉｎ
ｔｅｒ
ｐｒｅ
ｔａｔ
ｉｏｎ Ｊ］．哲学研究，２０２０（
依据［ ９）：７９－８７ 转 １０７．
ｏ
ｆ　Ｔ
ｒａｃ
ｔａｔ
ｕｓ６．４
　 １－４
７ａｎｄ
　ｔｅ“
ｈ Ｌｅ
ｃｔｕ
ｒｅ　
ｏｎ　
Ｅｔｈ
ｉｃｓ”［
Ｊ］．Ａｍｅ
ｒｉｃ
ａｎ ［
２９］
Ｆｌｏ
ｒｉｄ
ｉ　Ｌ．Ｔｈｅ　
Ｐｈｉ
ｌｏｓ
ｏｐｈｙ　
ｏｆ　
Ｉｎｆｏ
ｒｍａ
ｔｉｏｎ［Ｍ］．Ｏｘ
ｆｏｄ：Ｏｘ－
ｒ
Ｐｈ
ｉｌｏ
ｓｏｐｈ
ｉｃａ
ｌ　Ｑｕａ
ｒｔｅ
ｒｌｙ，２０１１，４８（
２）：１
８５－１
９８． ｆ
ｏｒｄ　
Ｕｎｉ
ｖｅｒ
ｓｉｔ
ｙ　Ｐｒ
ｅｓｓ，２０１１：
３２７－３３８．

Ｔｈｒ
ｅｅ　
Ｄｉｆ
ｆｉｃｕ
ｌｔＩ
　ｓｓ
ｕｅｓ
　ｏｆ　
ＡＩ　
Ｅｔｈ
ｉｃａ
ｌ　Ｇｏ
ｖｅｒｎａｎｃ
ｅ　ａｎｄ　
Ｐｈｉ
ｌｏｓ
ｏｐｈ
ｉｃａ
ｌ　Ｉ
ｎｔｅ
ｒｐｒ
ｅｔａ
ｔｉｏｎ

， ， ，
ＷＡＮＧ　
Ｘｉａｏ－ｈｏｎｇ１ ３ ，ＧＡＮ　
Ｚｉ－ｙｕｅ１ ３ ，ＹＡＮＧ　
Ｚｈａｏ２ ３
（
１．Ｄｅｐａ
ｒｔｍｅｎ
ｔ　ｏ
ｆ　Ｐｈ
ｉｌｏ
ｓｏｐｈｙ，Ｘｉ’
ａｎ　
Ｊｉａｏ
ｔｏｎｇ　
Ｕｎｉ
ｖｅｒ
ｓｉｙ，Ｘｉ’
ｔ ７１００４９；
ａｎ　
２．Ｉ
ｎｓｔ
ｉｔｕ
ｔｅ　
ｏｆ　
Ｐａｒ
ａｌｌ
ｅｌａｎｄ　
　 Ｄｉｓ
ｔｒｉ
ｂｕｔ
ｅｄ　
Ｄａｔ
ａ　Ｐｒ
ｏｃｅ
ｓｓｎｇ，Ｘｉ’
ｉ ａｎ　
Ｊｉａｏ
ｔｏｎｇ　
Ｕｎｉ
ｖｅｒ
ｓｉｙ，Ｘｉ’
ｔ ７１００４９；
ａｎ　
３．Ｃｏｍｐｕ
ｔａｔ
ｉｏｎａ
ｌ　Ｐｈ
ｉｌｏ
ｓ Ｌａｂ，Ｘｉ’
ｏｐｈｙ　 ａｎ　
Ｊｉａｏ
ｔｏｎｇ　
Ｕｎｉ
ｖｅｒ
ｓｉｙ，Ｘｉ’
ｔ ７１００４９，Ｃｈ
ａｎ　 ｉｎａ）

Ａｂ
ｓｔｒ
ａｃｔ：Ｔｈｅ
　Ｉｎ
ｔｅｒ
ｎｅｔ
　ｐｈｅｎｏｍｅｎｏｎ，ｃ
ｏｍｐｕ
ｔａｔ
ｉｏｎａ
ｌ　ｃ
ｏｍｐ
ｌｅｘ
ｉｔｙ
　ｔｈｅｏ
ｒｙ，ａｎｄ　
Ｍｏｏ
ｒｅ’
ｓｌ
　ａｗ　
ｔｏｇｅ
ｔｈｅ
ｒ　ｒ
ｅｖｅ
ａｌｔ
　ｈａ
ｔ　ｔ
ｈｅａｐｐ
　 ｌｉｃ
ａｔｉ
ｏｎｓ　
ｏｆ　
ＡＩａ
　ｒｅ　
ｇｒｏｗｉ
ｎｇ
ｅｘｐｏｎｅｎ
ｔｉａ
ｌｌ ｏｖｅ
ｙ　 ｒ　ｉｍｅ，ａ
ｔ ｔ　ｔ
ｈｅｓ
　ａｍｅ
　ｔｉｍｅ，ｔ
ｈｅ　
ｈｕｍａｎ　
ｃｏｍｍｕｎ
ｉｔｙ，ｗｈ
ｉｃｈ　
ｎｅｅｄｓ　
ＡＩｔ
　ｏ　
ｅｎｈａｎｃ
ｅ　ｉ
ｔｓ　
ｗｅｌ
ｌ－ｂｅ
ｉｎｇ，
ｉｓｃ
　ａｕｇｈ
ｔ　ｉ
ｎ　ａ　
ｇｌｏｂａ
ｌ　ｃｕ
ｌｔｕｒ
ａｌｖａ
　 ｌ－
ｕｅ
　ｃｒ
ｉｓｓ，ａｎｄ
ｉ 　ｔｈｅ
　ｅｔ
ｈｉｃ
ａｌｇｏｖｅ
　 ｒｎａｎｃ
ｅ　ｏ
ｆ　ＡＩ
　ｈａ
ｓ　ｔ
ｏ　ｆ
ａｃｅ
　ｔｈｒ
ｅｅ　
ｄｉｆ
ｆｉｃｕ
ｌｔｉ
　ｓ ｓ：（
ｓｕｅ １）ｃｕ
ｌｔｕｒ
ａｌｃ
　 ｅｎｓｕｓ；（
ｏｎｓ ２）ｍｏ
ｒａｌ
　ｒｅ
ｓｐｏｎｓ
ｉｂｉ
ｌｉ
ｔ ｏ
ｙ　ｆ　
ＡＩｃ
　ｏｍｐｏ
ｓｉｔ
ｅ　ｓ
ｙｓ－
ｅｍｓ；
ｔ ａｎｄ （
３）ｓ
ｔｒｕｃ
ｔｕｒ
ｉｎｇ　
ｏｆ　
ｍｕｌ
ｔｉｌ
ｐｅ　
ＡＩｅ
　ｔｈ
ｉｃａ
ｌｉ
　ｓｓｕｅ
ｓ．Ｔｈｅ
　ａｒ
ｔｉｃ
ｌｅｅｘｐ
　 ｌｏｒ
ｅｓｔ
　ｈｅ　
ｐｈｉ
ｌｏｓ
ｏｐｈ
ｉｃａ
ｌｉ
　ｎｔ
ｅｒｒ
ｐｅｔ
ａｔｉ
ｏｎｓ
　ａｎｄ
　ｉｎｓ
ｉｇｈ
ｔｓｆ
　ｏｒ
　ｔｈｅ
ｓｅｔ
　ｈｒ
ｅｅ　
ｄｉｆ
ｆｉｃｕ
ｌ－
ｔ
ｉｅｓ：ａ
　ｃｏｍｐａ
ｒｉｓ
ｏｎ　
ｂｅｔｗｅ
ｅｎ　
Ｃｈｉ
ｎｅｓ
ｅ　ｐｈ
ｉｌｏ
ｓ ａｎｄ　
ｏｐｈｙ　 Ｗｅｓ
ｔｅｒ
ｎ　ｐｈ
ｉｌｏ
ｓｏｐｈｙ，ａｎｄ　
ｃｏｍｐｕ
ｔａｔ
ｉｏｎａ
ｌ　ａｎａ
ｌｙｓ
ｉｓ　
ｏｆｔ
　ｈｅ
　ｃｏｎｎｏ
ｔａｔ
ｉｏｎ　
ｏｆ“
ｆｏ ｈｕｍａｎ”；
ｒ　 ａ　ｍｅ
ｔａ－
ｐｈｙｓ
ｉｃａ
ｌ　ｔ
ｒａｎｓ
ｃｅｎｄｅｎｃ
ｅ　ａｎｄ
　ｒｅ
ｃｏｎｓ
ｔｒｕｃ
ｔｉｏｎ　
ｏｆｔ
　ｈｅ
　ｅｘ
ｉｓｔ
ｉｎｇ　
ｅｔｈ
ｉｃａ
ｌ　ｆ
ｒ ｒｋ；
ａｍｅｗｏ ａｎｄ　
ａ　ｃ
ｌａｒ
ｉｆ
ｉｃａ
ｔｉｏｎ　
ｏｆ　
ＡＩｅ
　ｔｈ
ｉｃｓ
　ｓｔ
ｒｕｃ
ｔｕｒ
ｅ　ｂａ
ｓｅｄ　
ｏｎ　
ｃｏｎｃ
ｅｐｔ
ｕａｌ
　ａｎａ
ｌｙ－
ｓ
ｉｓ．
Ｋｅ
ｙ　ｗｏ
ｒｄｓ：ａ
ｌｉｇｎｍｅｎ
ｔ　ｒ
ｐｏｂ
ｌｅｍ；ｃ
ｏｍｐｕ
ｔａｔ
ｉｏｎａ
ｌ　ｐｈ
ｉｌｏ
ｓｏｐｈｙ；ｄ
ｉｓｔ
ｒｉｂｕ
ｔｅｄ
　ｒｅ
ｓｐｏｎｓ
ｉｂｉ
ｌｉ
ｔｙ；ｍｅ
ｔａｐｈｙｓ
ｉｃｓ；ｅ
ｔｈｉ
ｃａｌ
　ｓｔ
ｒｕｃ
ｔｕｒ
ｅ

（本文责任编辑：董春雨 　 王 琦）