Professional Documents
Culture Documents
● 方师师
《算法推荐管理规定》中的政策矩阵与交互想象
摘 要 :本文梳理《互联网信息服务算法推荐管理规定(征求意见稿)
》中所涉及的
治理算法的政策矩阵,并从管理导向、场景适用、记录铭刻三个层面就该规定如何想象
与算法进行交互的问题做出了解读。
关键词 :算法 ;治理 ;政策 ;实践
DOI:10.15997/j.cnki.qnjz.2021.19.028
青年记者·2021年10月上
81
新闻与法
接之间,但是“信息服务”是和人、和用户最为贴近的、 增加透明度,通过自我汇报和记录铭刻,备案系统将成
有着最直接相关的“交互界面”[4]。因此可以说,此次征 为可溯源存案,算法推荐服务提供者如不及时跟进和更
求意见的《算法推荐管理规定》主要针对的就是与用户 新备案,还可能会面临信任危机和制度化追责。安全评
的在线信息获取与接触直接相关的算法技术与应用服务。 估则是在外部对算法推荐服务进行合规审核,这体现出
搜索引擎、推荐引擎、精准广告可以看作算法推荐 对算法的监督不仅要求在技术层面公正公平、科学合理,
信息服务与用户直接相关的最重要的三种应用。互联网 同时对其运行过程是否公开透明、诚实信用也提出了要
上与信息相关联的海量服务大多可以化约为这三种应用 求。
的变化与组合。这三种应用彼此之间存在关联和重叠, 通过建立与算法系统相对称的监管机制,追求有意
但也各有偏向 :搜索引擎主要依靠用户自发的信息检索 义的算法透明度而非绝对透明的思路同时呈现出一种新
行为,但可以通过信息排序、自动搜索补全等技术“主动” 的客观性。但这一制度给出的填表式监管方案可能只能
地调整用户获取某类信息的概率 [5] ;推荐引擎依赖用户 对算法服务在非常有限的显性层面进行监督,更多是一
的留存率和停留时间,通过将标签化的内容、用户画像 种规范流程。备案中哪些信息可以修改,哪些不能随意
和场景信息结合起来,
可以形成类似“成瘾”的使用体验, 改动?算法推荐服务日志如何执行,谁来操作?日志在
并推动用户获取的内容朝着极化方向演进 ;[6] 精准广告 不同分类分级的应用服务中留存期、监管查询是否有所
则希望通过将“合适”的信息在“适时”的时候被用户 不同?外部安全评估的标准从何而来?等等,监督系统
可见,从而影响目标人群的认知、意愿和行为,最终将 的操作实践化关系到《算法推荐管理规定》的真正落地,
信息接收者转化为现实行动者。[7] 也关系到这部管理规定的立法技术能否对这一快速变化
算法是整个推荐系统中的强制通行点 [8],所有的数 领域存在的风险和机遇达成有效的治理平衡。
据组合形式都要通过算法输出,与用户的使用场景关 【本文为上海社会科学院创新工程“移动互联全媒体
联——不管是点击、沉浸还是购买,最终都通过用户的 传播研究”
(创团 20210054)子课题“算法社会的结构转
行为体现出来。但这些服务在一开始所设定的功能与意 型研究”阶段性成果】
图,与最终所达到的效果之间,并非直接且对等的关系。 参考文献 :
此次《算法推荐管理规定》中,第十九、二十、二十三、 [1]Rahwan, I., Cebrian, M., Obradovich, N., Bongard, J.,
Bonnefon, J. F., Breazeal, C., ... & Wellman, M. (2019). Machine
二十九条涉及具有舆论属性或社会动员能力的算法推荐
behaviour.Nature,568(7753), 477-486.
服务,是相对涵括的概称,与之相关的具体场景多元且 [2]Thaler, Richard H., and Cass R. Sunstein. (2009). Nudge:
Improving Decisions about Health, Wealth, and Happiness. New York, NY:
流动。在 2018 年国家网信办和公安部联合发布的《具有
Penguin.
舆论属性或社会动员能力的互联网信息服务安全评估规 [3]Feezell, J. T., Wagner, J. K., & Conroy, M. (2021). Exploring
定》中,第二条描述了具有舆论属性或社会动员能力的 the effects of algorithm-driven news sources on political behavior and
polarization. Computers in Human Behavior, 116, 106626. doi:10.1016/
互联网信息服务情形 :
(一)开办论坛、博客、微博客、
j.chb.2020.106626
聊天室、通讯群组、公共账号、短视频、网络直播、信 [4]De Souza e Silva, A. (2006).From Cyber to Hybrid: Mobile
Technologies as Interfaces of Hybrid Spaces. Space and Culture, 9(3),
息分享、小程序等信息服务或者附设相应功能 ;
(二)开
261–278.?doi:10.1177/1206331206289022
办提供公共舆论表达渠道或者具有发动社会公众从事特 [5]Epstein, R., & Robertson, R. E. (2015). The search engine
定活动能力的其他互联网信息服务。但这样枚举式的描 manipulation effect (SEME) and its possible impact on the outcomes of
elections.Proceedings of the National Academy of Sciences,112(33),
述很难适应算法“数字接口”通过创新与协作所带来的
E4512-E4521.
层出不穷的新应用和新场景,也难对用户最终的行为方 [6]Inside TikTok’s Algorithm: A WSJ Video Investigation. The
WSJ. Retrieved on Sep 4, 2021, from https://www.wsj.com/articles/
式做出预测。如何将技术 - 功能 - 应用 - 群体 - 场景 -
tiktok-algorithm-video-investigation-11626877477.
时空结合起来通盘考虑,在哪个层面上去推进管理和规 [7]Zarouali, B., Dobber, T., De Pauw, G., & de Vreese, C. (2020).
范,需要更加细致和全面的考虑。 Using a personality-profiling algorithm to investigate political microtargeting:
assessing the persuasion effects of personality-tailored ads on social media.
Communication Research, 0093650220961965.
记录铭刻与操作实践
[8]Callon, Michel (1986), "Elements of a sociology of translation:
Domestication of the Scallops and the Fishermen of St Brieuc Bay".?In?John
此次《算法推荐管理规定》中还有一个重要的部分是,
Law?(Ed.),Power, Action and Belief: A New Sociology of Knowledge
要求算法推荐服务提供者遵照要求在互联网信息服务算 London, Routledge: 196-233.
法备案系统中进行填报备案并接受安全评估(第二十、
二十一、二十二、二十三、二十四条)
。通过输出、建 (作者为上海社会科学院新闻研究所副研究员,互联
档、留存的方式,算法服务提供者需要从内部打开黑箱、 网治理研究中心主任)
青年记者·2021年10月上
82