专 题 FEATURES

认知域作战新利器
—ChatGPT认知剖析及对策
陈昌孝 李 浩 王梓晗 姜文博

2
022年11月30日，美国人工智
能 公司 O p e n A I 正 式 发 布 大
型自然 语言 交 互 程 序 聊 天机 器人
ChatGPT（Chatbot Generative
Pre-training Transformer）。
随后，又推出GPT-3.5并很快迭代
到GPT- 4。这对于信息生产、流通
全过程的改变，不仅掀开了人工智
能被用于现实传播问题的序幕，也
将助长国 际体系 与 社 会生 活中 根
深蒂固的系统性偏见、有意欺诈、
政治造谣、伪造身份等问题。这种
强有力的 变 革 对 认 知 域作战同 样
会产生巨大影响，将会使得认知域
作战的形式更加丰富、手段更加隐
蔽、防范更加困难，其对于社会生
活 、政 治 生 态 和 社 会总体 意 识 形
态的影响也将会更加深入。需要深
入 分析其 在 认 知 域作战中的 运 用
场景，把握认知规律、重塑认知内
容、优化认知过程。
认知域作战视角下的
ChatGPT主要特性
ChatGPT是在GPT（Generative
Pre-trained Transformer）模型的
基础上通过改进优化得到的，针对
对话场景利用“人在回路”进行了优
化。GPT是一种大型语言模型，是现
阶段对于自然语言进行机器学习的
主流思路，能够生成各种不同的文
本类型。它可以根据上下文自动生成
与人类语言类似的文本对话。GPT
模型主要思路是让AI在通用的、海
量的数据上学习文字接龙，即掌握
基于前 文内容生 成 后 续 文本的 能
力。目前GPT模型已经发展到了第
四代，是针对对话场景进行针对性
优化的结果。相比于以往的固定对
话式人工智能，ChatGPT拥有自己
的思考逻辑，因此在不处于“人在回
路”的监管时，系统可以对同一问题

军事文摘 28 2023.06
 FEATURES 专 题

给出多种回答，只不过这些回答在
系统偏好的作用下以概率分布的形
式存在。
ChatGPT作为新一代人工智
能，在引入大数据进行自主学习时
使 用人 工 对系统学习结果 进 行 评
价，从 某种意义上说，该过程正是
赋予系统“灵魂”、完 成画龙 点睛
的过程。但是由于人类本身固有的
GPT用海量数据学习“文字接龙”
政治立场或倾向，使得在对学习结
果进行筛选时，筛选结果不可避免
地被打上了监督者的个人标签，从 往会得到不同答案，并且这种改变 随着特定倾向性的数据
而在这一过程中给系统带入了一种 是 随着社会 动态的变化而随 时改 训 练 ，给 定 的 价 值 观 会 演 变 成
“预设的价值观”，使其成为认知 变的。这种“见 人下 菜 碟”的行为 为 工 具 本 身 的 价 值 观 ，将 会 使
域作战的“新利器”。 说明该智能系统仍处于成长学习阶 C hat GP T以网络空间“虚 拟 人”
一 是 难以 抹 去的价值 底色 。 段，且在该过程中系统所受到的人 的身份进行输出，而它所擅长的自
ChatGPT的价值观底色根植于参 为干预远不止训练模型中标注出来 然 语言学习将 会成 为 这 种 输出的
与该 系统设 计研发 人 员的价值 观 的那么简单，这种实时且强有力的 主要路 径与助力。以C hat GP T 为
取向，即“硅谷价值观”，属于美国 人为干预将ChatGPT的预设价值 代 表的智能 系统 将会 拓展 现有网
左派的温和派。这种底层逻辑的审 观推向了更加隐蔽、更加晦涩的深 络空间，成为元宇宙的重要组成。
视使得ChatGPT常常表现为美国 层次。 在 元 宇宙中，C h at GP T可以催 生
精神的“卫道者”，在测试者的政治 二是 开放可塑 的 数 据 训练 。 出一种不 具 有 现 实 映 射 的“虚 拟
性话题中，ChatGPT对于涉美议题 C h a t G P T 本质 上 是 基 于 G P T 模 人”，不仅仅以“系统的一部分”的
或涉及外国政治人物的话题上往往 型，针对聊天环境进行指向性优化 形式存在，而是会基于其预设价值
采取中立或避而不谈的态度，但是 的 结 果 。G P T 模 型在面 对不同 来 观，成为某种价值观的代言人，通
在 关于美国正面 话题 的 谈论 上却 源 的 数 据 进 行 学习 时，会 根 据 数 过网络虚 拟 空间 对现 实世界产生
表现得相对积极。除此之外，对于 据本身“意义分布”的不同而学习 巨大的影响。
诸如少数族裔问题、枪支问题、堕 得到不同的结果。这意味着，已经 三是高度逼真的自主输出。随
胎问题、环保问题等争议性话题， 被ChatGPT证明相对成熟的GPT 着Chat GP T上线 互联网，人们发
ChatGPT也表现出相对保守的态 模 型将可以在 差异 性 数 据 来源 的 现ChatGP T已经跨越了以往工具
度，并且在整体取向上更加偏向于 情况下，被培养成为适用于不同领 在面临“领会意图”这一问题上难
温和左派。 域的特定人工智能。这种可塑性使 以跨越的人机鸿沟，自然语言学习
在ChatGPT上线互联网后， 得GP T系统的发 展前景大 大 超 过 的过程赋予其超越指令的能力。若
世界 各 国 的 网民 也 都 参 与到了与 以往的自然语言学习系统，并且为 将其运用到认知域作战当中，将可
ChatGP T的互动中来，并在大 量 GP T 家 族 的发 展 壮 大 提 供了可能 替代目前进行流量攻击的“网络水
的交流中逐渐发现ChatGPT在面 性，也极大地拓宽了其市场前景与 军”。ChatGPT强大的数据产生能
对不同语言的提问时，同一问题往 应用场景。 力与强自主性的概略意识，将使认

2023.06 29 军事文摘
 专 题 FEATURES

知攻击的响应时间更短、行动更灵
活、反馈更迅速，同时作战成本将
会 进一步降低，作战向无人化、智
能化迈出了实质一步。
同时，C hat GP T所带来的深
度造假技术的提升，使得认知域作
战的进攻行动更加隐蔽。在现有的
进攻行动中，敌方往往需要依托于
热点事件，通过网络水军的集结来
造成舆论攻势，进而造成部分民众
的认知混乱。但是ChatGP T却能
GPT与T5、BERT模型的演化
够脱离热点事件，取代网络水军的
集结行动，将认知域作战的进攻行
动以一种更加平滑的方式融入到日 的 机 机 交 互模 式 ，将 会 使 得认 知 使 得 这一 过 程 更 加 平 滑 顺 畅，负
常生活中去。未来的认知域作战所 域进攻作战在时空上都更加平均， 能 量信息被 包含 在一次 次看似 正
依 托的 社会事件热 度将会 进 一步 同时这种 时 空分布 状 态 对进攻 烈 常的抱怨、内涵与“合理的利益诉
降低，呈现出多点开花、多线出击 度 进行 积分所得到的总进攻 强 求”中，悄悄烙入人们的潜意识，
的态势。 度 又会 远 远 高于以往 。这 种 变 化 形 成 思 维 底 色 。这 种 潜 在 印 象将
所带 来 的 直 接 影 响 就 是日常生 活 会在长 期 的 加 强下慢 慢 毒 化 社会

ChatGPT在认知域作战中的 中任 何一起 稍具 影 响力的 社会事 风气、影响对于特定事件的社会风

运用场景构设 件 都 有可能 成 为 认 知 域作战 的战 评、建 立“事件 — 情绪”的对应关

在人类历史绝大部分时间内，
科 学 技 术发 展的最 新成 果 往 往被
最先应用于军事领域，ChatGPT的
武器化势在必行，其在认知域作战
中有着广泛的潜在应用场景。
利 用 沉 锚 效 应，实 现 认 知 预
设 。沉 锚 效 应 是 指 ：人 们 做 决 策
前，思 维 往 往 会 被 所 得 到 的 第一
信息所左右，第一信息就会像沉入
海 底 的 锚 一 样，把 你 的 思 维 固 定
在 某 处 ，从 而 产 生 先 入 为主 的 歪
曲认识。Chat GP T 将会首先取代
网络水 军 在认 知 域作战中的 生 态
位置。强劲的系统架构、强大的数
据 处 理能 力，为ChatGPT带来的
数 据 生 产能 力以 及 直 接 对 接网络
场。ChatGP T的预设价值 观不再 系，在不知不觉中改变一个人的认
需要 特 定的 社会事件才 能 进行表 知逻辑与行为方式。
达 ，而 是 会 广 泛 地 渗 透 在 社 会 的 打 造 信 息 茧 房，形 成 认 知 依
各 个 角落，通 过 扭曲、造谣、带 节 赖。信息茧房是信息时代不可避免
奏 的 方 式 从 生活中的点滴小 事上 的社会问题，是个体或群体在信息
持续输出负面信息。 消费 过 程中因自身或 外 界 的 因素
ChatGPT强大的信息生产能 而形成的 信息 来源 窄化 和 观 念 极
力，将进一步突破信息生产力的上 化现象。认知域作战过程中，通过
限，加剧个体“信息 过 载”状态， 大数据对个体展开偏好分析，形成
并对社会信息构成产生影响。从个 个性化的用户画像，为精准认知攻
体微观视角来看，直观地感受就是 击提供可能。ChatGP T的强大数
负能 量的戾气 充 斥在 社会 的 方 方 据 处 理 能 力以 及较 高 的自主性 使
面面，同时大量具有相同预设价值 得 其可以 获 得进 行 偏 好 分析以 及
观 的信息会在任 何社会 实践 发 生 后续包括相关信息生产、信息投送
的时候 扑面而来 。而且C hat GP T 的能力。
的“不厌其 烦”“潜 移 默化”将会 ChatGPT的智能系统可以实

军事文摘 30 2023.06
 FEATURES 专 题

现偏好抓取到信息投送一体化，具 地位，极大提高了信息茧房制设效 聚力、向心力的丧失，也 就 是说在

备自主、持 续、自适应的认知作战 率。同时基于分散社会事件的信息 社群 效 应 影 响下的小团体分 裂 行
能 力。这 将 会 大 大 提 高 现 有 的 信 投送模式也更难被发现和监管，使 为最终必然导向社会原子化，进而
息茧房制设效率。传统认知域作战 得认知域作战的进攻成本与响应速 产生社会群体的极化。
中，对于个体或群体信息茧房的制 度进一步缩减。 在认知域作战过程中，认知预
设，一方面需要长期的用户跟踪、偏 强 化 社 群 效 应，塑 造 群 体 极 设旨在源源不断地制造特定人群，
好分析和信息投送；另一方面需要 化。社群效应是指：当一部分人群 拥有“入群”潜力的个体会在相关
借助热点事件或制造热点事件才能 拥有相近的价值观时，就会在无形 信息 所 织 造的信息 茧 房的不断提
达到理想效果，这都要花费较大资 中产生相较于日常人际关系更为紧 纯与筛选下，逐步形成对于这种特
源，且攻击过程易被识别、干扰和破 密的联系。在人口总基数相对不变 定价值观信息的认知依赖。最后这
坏。但ChatGPT以平滑的姿态进行 的前提下，当越来越多的人群被剥 类经过特殊培养、培育的人就会在
进程设计，并将预设的价值观安插 离出主流价值观时，主流价值观的 自觉 或 外力的 助 推下形成 抱 团 取
到任何一起稍具影响的社会事件中 影响力就会受到削弱，一旦信仰主 暖的小圈子，在被不断饲养下逐渐
去，不需要借助或制造热点，使得 流价值观的人口基数在社会中不足 成长，并最终对主流价值观形成挑
信息茧房制设常态化；ChatGPT高 以达到大多数时，主流价值观也会 战 或 者与其他 意见 相 悖 的小圈子
度自主性、智能化，可针对受到影响 丧失其主流地位。在这一过程中如 相互攻讦，用混乱的小团体乱斗搅
的个体进行精准分类，加大信息投 果不能 确 立出新 的主流价值 观 或 乱社会思想的统一。ChatGP T所
送，促使潜意识中被植入的印象逐 新 的主 流价 值 观与国家 利 益不匹 拥 有 的 精准信息 投 送 能 力与人群
渐成长并在个人的思想中占据主导 配，那么就会在事实上造成社会凝 分类 能 力在 这一 过程中将 会 切 实

以ChatGPT为代表的智能系统将会成为元宇宙的重要组成

2023.06 31 军事文摘
 专 题 FEATURES

领土”一样进行主权建设。维护以
社会主义核心 价值 观 为代 表 的主
流价值观的主流地位，深化主流价
值观的宣传教育，把宣传阵地牢牢
掌握在自己手里。丰富拓展宣传部
门的工作形式与宣传手段，发掘符
合主流价值观的好人好事，树立典
型、弘扬正气，主动掌握社会舆论
的定义权与主导权。采取人民群众
更加喜闻乐见的方式，深化宣传教
育效果，实现中华民族传统文化、
中国 特 色 社 会主 义 理 论 体系和国
家建设社会实践三者有机结合，加
快实现四个自信，正本清源，从根
社群效应影响下的小团体分裂行为最终必然导向社会原子化
源上杜绝ChatGPT颠倒黑白的一
切可能。
高效地助长各类小团体的形成。同 自主分析能 力的多 维 感 知 系统 。 坚持开展技术研发，丰富拓展
时通 过向处 于信息 茧 房中的特 定 需要进 一 步 健 全 网络监 控体系， 应用手段。实现以政府为主导、以
人 员不 断投 放 对应信息 来 制 造 出 使 之具有网络舆论态 势感 知及 溯 企业为主体，构建“政产学军研用”
一批拥有极化思想的个人。当该类 源能力，并 拥有从内容重复性、逻 六位一体的协同创新机制，推进高
人群人口基数达到临界值后，就通 辑 性 、语 法 语 义等 方 面 开发 的 人 精尖技术的不断前进与应用技术的
过网 络将这一类 人 员组 织 成 为小 工智 能 内 容 鉴 别 能 力。实 现 准 确 大规模应用，将平台建设、基础设
团体并持续投放相关信息，使得该 识 别由人 工智 能 控 制 账 号发布 的 施投资与科技进步有效转化成为政
团体不断地纯化、成长。这些受到 虚 假 信 息 以 及 诱 导 性 言 论 ，对 虚 府面对网络新兴挑战的反击力量。
ChatGPT培养的众多小团体都会 假消息源头进行“发 送、甄 别、封 在平台建设中借鉴民用互联网的先
在客 观 上削弱主流价值 观 的影 响 禁 、溯 源、抓 捕”的 快 速 反 应，堵 进经验，实现网络认知对抗诸多力
力，而这种隐晦繁杂的认知进攻方 截C h at GP T 发布虚假 信息的渠 量的扁平化管理；在基础设施投资
式 的出现 正 是 基于算力的 进 一 步 道 ，削 减 其 参 与 认 知 域 作 战 的 能 上由政府牵头、多方参与，在硬件上
提升以及ChatGPT智能高效的算 力。加强专业人才队伍建设，形成 确保监管系统的正常运转；在科技
法架构。 一支快 速反映、灵敏有效、忠诚可 进步上以监管与军事需求为主导，
靠 、技 术 过 硬 的 认 知 域作 战 人 才 院校与科研院所充分参与，尽快突

应对ChatGPT的策略思考 队伍，在网络环境下认知对抗的常 破 认 知 域作 战 态 势 感 知 、战 场 孪
健全网络监控体系，实时感知 规力量对比中占据优势。 生、用户画像等技术瓶颈，下好应对
舆论态势。网络舆情态势感知和监 坚 决 守 住 舆 论 阵 地，深 化 教 ChatGPT用于网络认知对抗的先
测能 力是 夺取认 知 域作战 主动 权 育宣传效果。深刻意识到网络空间 手棋。
的 前 提 条 件，而 高 效 舆 论 感 知 网 所具备的主权特征，全社会多部门
络又 是 基 于 先 进 算 法 、具 有一 定 共同参与，将网络空间当作“数字 责任编辑：王宇璇

军事文摘 32 2023.06