Professional Documents
Culture Documents
生成式人工智能的著作权困境... hatGPT和文心一言为例 郑飞-1
生成式人工智能的著作权困境... hatGPT和文心一言为例 郑飞-1
DOI:10.19685/j.cnki.cn11‐2922/n.2023.05.009
生成式人工智能的著作权困境与制度应对
——以 ChatGPT 和文心一言为例
郑 飞 1,夏晨斌 2
摘 要:ChatGPT 和文心一言不仅实现了自然语言处理的多任务、多功能集成式变革,还带来了模型“输入端”学习数据“指
数化”和“输出端”内容生成“拟人化”的新趋势。基于此,新一代大规模语言模型“输入端”面临着预训练学习难以纳入合理
“输出端”则面临着生成内容不具有可版权性的版权荒漠困境。为顺应生成式 AI 的技术演进趋势,激
使用的版权壁垒困境。
励技术创新和智能创作,宜基于“宽进宽出”原则分别从“输入”和“输出”两端调整著作权规制。一是打破封闭式立法的“合
理使用”制度架构,构造义务规则下的“选择退出”机制。二是构建“法人视为作者,版权归于法人”—“AI 视为作者,版权归
于法人”—“AI 即为作者,版权归于 AI”的渐进式、纵深式版权主体权利归属机制。三是消除“作品”的价值评价维度,构建客
观性审查。
关键词:生成式人工智能;ChatGPT;文心一言;版权壁垒;可版权性
中图分类号:D 923 文献标志码:A 文章编号:2096⁃9783(2023)05⁃0086⁃11
意义。所谓自然语言处理,即机器理解和运用人类语
一、新一代大规模语言模型的技术 言的过程[3]。17 世纪哲学家莱布尼茨在跨语言交流
原理与特征 的“摧毁巴别塔”构想中提出了“普遍代数学”和“普遍
字符”概念。随后阐述了基于数学、语言学、字符学、
(一)新一代大规模语言模型的技术原理 密码学的自然语言处理哲学方法[4]。囿于时代限制,
曾有学者预言“AI 苏醒,并不存在不可逾越的天 这一思想直到 1950 年基于人机对话的“图灵测试”理
花板”[1]3。从新一代大规模语言模型(Large Language 论 提 出 后 才 走 下 哲 学 神 坛 ,成 为 指 导 现 实 的 技 术
Model,LLM,以下简称大模型)雨后春笋般的产业态 理论[5]。
势来看,人类确实大踏步走在“逾越天花板”的路上。 随着计算机硬件和机器学习算法的迭代发展,基
Open AI 开发的 ChatGPT 实现了单模态下自然语言处 于人工智能技术的自然语言处理逐渐成为主流。但
理的多任务高效集成。GPT-4 和百度文心一言则突 是卷积神经、循环神经的“千层饼”构造使得传统神经
破了单模态限制,实现了大模型对文本、图像、语音、 网络语言模型构造复杂且效率低下,而且语言模型与
视频等理解生成的多功能集成。新一代大模型在自 任务模型之间存在一一对应关系,无法做到一个模型
然语言理解和反馈上展现出革命性进步和极高的处 处理多种任务[6]。2017 年谷歌的基于自注意力机制
“ChatGPT+”模式更被认为将在全社会各领
理水准。 的 Transformer 模型极大改善了模型任务用途单一问
域掀起一场智能化浪潮[2]。 题 ,并 极 大 提 升 了 输 出 语 句 的 情 感 表 达 准 确 性[7]。
热问题还需冷思考。拨开技术迷雾,祛魅智能面 2018 年,OpenAI 公司在 Transformer 的基础上开发了
纱 ,才 能 见 新 一 代 大 模 型 真 身 ,探 生 成 式 AI 法 理 。 生 成 式 预 训 练 Transformer(Generative Pre-Trained
ChatGPT 和文心一言的出现对于自然语言处理技术 Transformer,GPT)。随后 OpenAI 又在 GPT 的基础上
(Natural Language Processing,NLP)发展具有里程碑 迭代了 GPT-2、GPT-3、GPT-3.5、ChatGPT 和 GPT-4。
基金项目:证据科学教育部重点实验室开放基金项目“大数据背景下的证据法理论创新研究”
(2021KFKT02)
作者简介:郑 飞(1985—),男,北京人,副教授,法学博士,副院长,研究方向:人工智能法学;
夏晨斌(1995—),男,江西赣州人,研究员,硕士研究生,研究方向:人工智能法学。
- 86 -
郑 飞 夏晨斌 生成式人工智能的著作权困境与制度应对
- 87 -
科技与法律(中英文) 2023 年 第 5 期 总第 17 期
SCIENCE TECHNOLOGY AND LAW(CHINESE-ENGLISH VERSION)
法》)第二十四条第十三款新增了合理使用的兜底条 “少数服从多数”的方式认定。这就使得为训练挖掘
款,在原《著作权法》十二项合理使用的基础上新增了 使用作品数据即便可以解释进“正常使用”的文义射
“法律、行政法规规定的其他情形”。对于这一兜底条 程,并在“转换性使用”理论和“市场中心”理论中具有
款的认识,学界分为三大流派:一是半封闭论,认为第 合理正当性,但是依然不能在司法活动中基于“三步
十三款在立法模式上属于封闭式立法,但在司法活动 检验法”解释为合理使用。
[15]
上存在突破空间 。二是全封闭论,认为第十三款完 2. 缺乏合理使用适用空间的作品数据挖掘使用
全倒回了传统的封闭式立法模式上,并评价其为“貌 行为面临版权壁垒困境
[16]
似开放,实则封闭” 。三是对立统一论,认为第十三 针对新一代大模型而言,大规模数据训练是模型
款在立法模式上具有封闭性,但在合理使用的立法本 搭建与效果产出的刚需。因此,大规模作品数据使用
[17]
身上留下了开放空间 。尽管上述三者在第十三款 刚需与著作权保护之间存在天然张力。而大模型生
的封闭性认识上存在差异,但都认为其立法模式属于 成所需的作品数据挖掘使用无法纳入合理使用之中,
封闭式。事实上,第十三款是《著作权法》修订时立法 所 以 ,挖 掘 使 用 行 为 必 须 获 得 版 权 方 的 授 权 。 以
开放与司法开放争论的妥协产物。这一妥协结果就 GPT-3 为例,其训练数据主要来自维基百科(Wikipe‐
是将合理使用解释的开放性留给了立法者,而把封闭 dia)、书籍(Books)、期刊(Journals)、Reddit 社交新闻
性留给了司法者。这意味着司法者在第二十四条列 站点、Common Crawl 和其他数据集[21]。其中 Common
举的具体情形外解释适用合理解释或司法创设新情 Crawl、维基百科等开源免费,对其文本数据的使用一
形的空间被牢牢限制。因此,从法律规定的角度来 般不需要获得特别授权。但是书籍、期刊和网络新闻
看,为训练大模型挖掘使用作品数据的行为不属于合 文章只要其还在版权保护期内,毫无疑问需要版权方
理使用范畴。其难以解释入兜底条款之中,也无法适 授权甚至付费使用。而超大规模的书籍、期刊和网络
用关于研发合理使用的第二十四条第一款和第六款。 新闻文章文本数据的使用将不可避免地面对“版权壁
因为大模型训练不属于个人行为,主体不属于大专院 垒”问题。
“版权壁垒”问题由来已久,且与大规模作品
校、科研院所,训练所需使用的数据量也显著不满足 使用似乎是一对“双生子”。2004 年,Google 启动了人
少量要求。 类历史上规模最大的数字图书馆计划,计划通过扫描
此外,在我国司法活动中,司法者对合理使用的 成千上万册图书将海量书籍知识数字化。然而,这场
认定虽然具有灵活性,但是合理使用的司法解释仍须 理想远大的知识工程却在世界各国版权方的口诛笔
遵循“三步检验法”之限制。从法律适用角度来看, 伐中变成了苦难行军。2011 年,美国第二巡回上诉
“三步检验法”首先要求其适用于“特定且特殊情形 法院驳回了 Google 的图书和解协议,历时 7 年的“版
下”,其次应符合“正常使用”,最后“应不得不合理损 权战争”以 Google 功亏一篑告终[22]。
害著作权人合法利益”。但是从立法目的来说,
“三步 海量的数据使用意味着需要获取海量的版权主
检验法”作为《伯尔尼公约》的宣示条款,旨在为各国 体授权并承担天价的交易成本。针对大规模授权问
立法做出原则化指示,而无统一明确法律内涵之目 题 ,Google 曾 在 图 书 和 解 协 议 中 提 出 了“ 选 择 退 出
的。因此,
“ 三步检验法”的三要件缺乏明确、细致可 (opt-out)”规则。
“ 选择退出”规则是一种先使用、先付
[18]
直接适用的法定内核 。目前,国内学者多认为“特 费,授权后置的“默示授权”规则。该模式允许使用人
定”
“特殊”的指代情形以《著作权法》第二十四条所列 在正常支付版权费用的前提下先行使用版权文本,但
举的情形作为特定法源,对于“特定”
“特殊”的理解适 版权人有退出选择权。当版权人告知使用人不同意
[19]
用,司法者只能“找法”不能“造法” 。此外,对于“三 使用意图后,使用人应当停止使用[23]。不幸的是,包
步检验法”三大要件的适用顺序和相互关系也有学者 含这一模式的图书馆和解协议最终被裁定驳回,未能
[20]
提出了“递进累积关系论” 。因此,对于“正当使用” 经由英美法系的判例法制度成为一项法定模式。此
和“不得不合理损害著作权人合法利益”的理解与适 外,
“ 选择退出”模式也违反了版权授权的一般惯例。
用不得脱离“特定且特殊情形”的底层逻辑限定,不得 以我国为例,
《著作权法》第二十六条明确了以订立合
进行先行判断或者独立判断,也不可以相对独立地以 同形式的许可使用规则。该规则实际上暗含了版权
- 88 -
郑 飞 夏晨斌 生成式人工智能的著作权困境与制度应对
难题 仅是一个被精巧设计过的工具,与“类人智慧”有着云
在大模型生成活动中,信息首先被转化为数据用 泥之别。其次,新一代大模型的学习生成过程仍然依
以大模型训练,随后数据作为一种暂存态用以机器学 赖人类监督。其语言风格及文本输出结果的准确性
习,最后通过机器学习再将数据重组为信息文本用以 完全依赖于人类的训练素材选择和数据标注。从素
输出。在信息文本转化的输入阶段,大模型面临着大 材选择到数据标注,每一步都是人为主动介入的结
数据来源的版权合法性问题。在机器学习阶段,数据 果,而非自主意识做出的。换言之,模型从第一步学
的暂存态与《著作权法》中复制行为的稳定持久态相 习素材选择开始就不具有完全的强自主性。最后,新
抵触,因此该阶段通常不存在显著的著作权法律困 一代大模型在创作过程中的根本推理逻辑是数学推
境。需要进一步讨论的是,作为数据形式存在的输出 理,其创作过程是对高价值语句的判断与输出。尽管
文本是不是“作品”,即是否具有可版权性。 数学可能是艺术,但艺术绝对不是数学。人类对文学
1. 新一代大规模语言模型版权主体不适格 艺术创作的逻辑推导不是理性的数学判断,而是感性
无论是大陆法系还是英美法系均对“作者”作了 的美学判断。因此,新一代大模型在艺术创作领域完
人类限定。例如,
《德国著作权法》严格恪守“创作者 全不具备“类人推理”。
为作者原则”,作者只能是自然人[25]。又如,美国版权 2. 新一代大规模语言模型生成内容不具有一定
局在最新版权登记指南中再次重申了“作者”的自然 的思想和情感表达
人属性①。我国现行《著作权法》虽然采纳了“视为作 “思想与表达二分法”是识别版权客体的重要基
体的主体资格有何争议,都无法影响新一代大模型在 识产权组织《版权公约》则规定著作权不保护纯粹的
现有技术环境下不具有主体资格这一事实。过于关 思维活动②。基于“思想与表达二分法”的共识,法律
注抽象语境以及未来不确定的科学技术,只会让法学 含义下的“二分”即思想不受保护而表达受到保护。
研究走上科幻歧路[26]。人工智能体主体资格肯定说 但是从语义学层面理解,思想与表达难以二分,因为
① Copyright Registration Guidance: Works Containing Material Generated by Artificial Intelligence, U.S. Copyright Office, Library
of Congress (March 16, 2023), https://www.govinfo.gov/content/pkg/FR-2023-03-16/pdf/2023-05321.pdf.
②《知识产权协定》第 9 条第 2 款和《版权公约》第 1 条。
- 89 -
科技与法律(中英文) 2023 年 第 5 期 总第 17 期
SCIENCE TECHNOLOGY AND LAW(CHINESE-ENGLISH VERSION)
思想是表达的内在基础,表达是思想的外在表现,脱 问题”中,语言模型被假设为一个坐在放有中英对照
离思想的表达真实存在吗?一种可行的路径是跳出 语法规则和对照词典中的英语使用者。英语使用者
语义层思维,而“将其理解为著作权法中受保护的部 只是遵照规则和词汇匹配将英语短句重组为中文短
[30]
分与不受保护的部分的隐喻” 。因此,
“思想与表达 句,其既不认识每个中文词汇的意思,也不理解所表
二分原则”依然具有著作权保护层面的法律合理性。 达句子的内涵[31]。其次就批判而言,新一代大模型虽
综合其语义关系和隐喻关系来看,受保护之客体为经 然展现出了人类独有的质疑、认错、更正等类人批判
由思想产生的表达,而非单纯割裂于思想的“表达”。 思维,但其只具有类人批判思维的形,而不具有类人
进而,就新一代大模型的“思想”与“表达”判断而言需 批判思维的实。从原理上看,质疑、认错、更正等仅是
要讨论以下两个问题。问题 1:何为“思想”,以及学 基于人类反馈的强化学习技术实现的对人类智慧活
习活动是否属于“思想”范畴?问题 2:何为表达,以 动的形式模仿,是一种对人类批判认识规律的逆向工
及生成活动是不是基于思想的“表达”? 程表现,而非对错误的反思。最后,不存在对认识的
“思想”一词在《著作权法》中被提及却未有一个 批判,自然也不存在对批判的批判。由于“思想/表达
明确的定义。思想与表达二分原则最早来源于美国 二分原则”仅是一种隐喻,因此不具有思想前提也没
1976 年《著作权法》第 102 条(b)款,该款中对思想一 有必要再讨论表达之结果。
词的表述是“idea”,随后 TRIPs 协议第 9 条第 2 款和 3. 新 一 代 大 规 模 语 言 模 型 生 成 内 容 不 具 有 独
WIPO 版 权 条 约 第 2 条 都 使 用 了“idea”一 词 。 从 ③
创性
“idea”一词的判例法来源看,该词来源于美国联邦最 我国《著作权法》中的独创性包含“独”和“创”两
④
高法院贝克诉塞尔登侵犯著作权案 。 个维度。其中,
“ 独”是“独创性”有无的性质门槛,而
在贝克诉塞尔登案中,法院认为书中的创意方法 “创”则是“独创性”高低的程度门槛[32]。我国著作权
及创意思想不受著作权法保护。因此,从判例法渊源 法既需要对“独创性”的性质门槛认定,也需要对程度
角度对“idea”一词进行解读,将其解读为“一种创造 门槛的判断[33]。
性想法”较妥。在创作过程中,无论是文学创作还是 回到新一代大模型来看。就“独”而言,其要求
艺术创作,作者总是基于一定的创造性想法进行创作 “独立完成”和“个性化表达”。当前新一代大模型生
的,而其最终作品便是这一创造性想法的外化表现。 成难以满足上述两点。一旦离开数据标注员的参数
因此,思想一词做“创造性想法”解读更为贴切。解决 标注和训练员的文本数据输入,大模型不可能生成任
了“思想”一词的定义问题,又一新问题萦绕心头,何 何其他类型的新作品。因此,新一代大模型自身不满
为“创造性想法”?马克思主义认识论揭示了人思想 足“独立完成”要件。此外,ChatGPT 和文心一言的
上推陈出新的本质规律,即“否定之否定”。基于马克 “个性化表达”也非 AI 本身的个性化体现,而是创作
思主义认识论,可以将“创造性想法”再拆解为三步, 者对大模型训练的特定体现。就“创”而言,其生成成
第一步“基于客观存在的抽象认识”,第二步“对认识 果可以很好地满足客观主义下的“最低限度创造”的
的批判”,第三步“对批判的批判”。在日常生活中,论 形式要求。因此,新一代大模型在客观主义下不存在
文写作是这一规律的真实写照。至此,
“思想”一词已 显著的创造性障碍。但是,当前我国对独创性之“创”
经具象化为人类的认识规律。下一个问题是新一代 还存在隐含的价值判断,这一点在学界和司法实践中
大模型对自然语言的理解与处理是否符合这一规律? 十分显见。例如,有学者认为“作品”应有文艺和科学
目前来看,其只具有“基于客观存在的抽象认识”形 美感[34]。又如,司法者在涉艺术品司法判决中对独创
式,而不具有认识实质,同样不具有批判和对批判的
批判。首先就认识而言,
“中文屋子问题”形象地解释
了语言模型对自然语言的所谓“认识”。在“中文屋子
- 90 -
郑 飞 夏晨斌 生成式人工智能的著作权困境与制度应对
⑤ 广州大川大丰电子科技有限公司诉佛山市佰彩电子有限公司等著作权权属侵权纠纷案,广东省高级人民法院(2020)粤
民终 1281 号民事判决书。
⑥《人工智能未来法案》第 4 节 b.1.e.
⑦《数字化单一市场版权指令(欧盟第(EU)2019/790 号指令)》第 3 条。
⑧《研发韩版 ChatGPT》,载《韩国中央日报(中文版)》,https://chinese.joins.com/news/articleView.html?idxno=109530,最后访问
时间:2023 年 3 月 31 日。
- 91 -
科技与法律(中英文) 2023 年 第 5 期 总第 17 期
SCIENCE TECHNOLOGY AND LAW(CHINESE-ENGLISH VERSION)
- 92 -
郑 飞 夏晨斌 生成式人工智能的著作权困境与制度应对
也给世人带来了作者能不能死的讨论,至少让作者的 而不存在。法律只是“实然”的“应然”映射。
主体性在哲学层面变得不再具有“神权天赋”般的应 2. 实现版权法转向,建立客观性审查
[48]
然性 。如果说罗兰·巴特的“作者之死”只是在哲学 “AIGC”时 代 的 客 体 要 件 回 应 主 要 包 括 两 个 方
层面第一次消解人类作者的主体应然性,那么大模型 面,一是将作者权法转向版权法,二是将独创性的主
则在现实层面对其进行二次消解。罗兰·巴特把文学 客观一体审查改为客观审查。AI 的发展正将作者中
艺术创作的焦点从作者拉到文本上,大模型则证明这 心主义转向作品中心主义,而作品的价值在于交易,
一转变的可行性。文学也好,绘画也罢,其总能被类 有学者认为著作权制度的功能在一定程度上在于促
型化、模块化。从结果来看,大模型创作在效率层面 进作品的商品化[52]。如果恪守作者中心主义,要求作
显著优于人类,其仅在非理性表达上不及人类。尽管 品必须体现一定的思想意志表达,那么“AIGC”将无
由于 AI 无法良好计算更为抽象的意识表达,文学界 法纳入商品化的进程中来。这既不符合“AIGC”的发
尚不愿意承认 AI 的作者主体性,而更愿意将其视为 展业态,也不利于保护和鼓励技术创造。因此,更可
“他者”,但是巴特的“作者之死”和大模型高度“拟人 行的做法是伴随着作品中心主义的转向,推动以人格
化”的作品削平了文学的深度,对何为文学意义上的 权为出发点的作者权法向以财产权为出发点的版权
[49]
作者带来了二次拷问 。在迭代时期,可以预见生成 法转向,消除一定的思想意志表达的要求,同时也迎
式人工智能将展现出真正的“类人”智能水准,以及 合作者主体的“去人类中心化”改造。
“以假乱真”的生成成果。其生成内容的客观外在表 客观审查并不意味着不审查主观方面,而是将主
现将与人类作品无异,甚至在创作思维与智力活动上 观方面作进一步隐喻化处理。从立法的目的来看,独
都与人类相似,仅在主体的意识活动能力上尚不具有 创性之“独”旨在保护独立创作这一事实,而将抄袭、
自主性,只在意识自主上尚属于背后团队的“意识奴 剽窃、篡改等广义复制行为剔除出去[53]。由于上文已
隶”。在这一阶段,可以采取名义权利主体与实际权 经讨论了“作者”主体的扩容,因此不必再拘泥于独立
利归属相分离的构造,开放作者的去人类空间,将 AI 创作是人类做出、AI 做出还是人类借助 AI 做出,只要
视为作者。同时,基于民事法律主体和权利归属要求 考量其形式上满足独创即可。只要不是借助 AI 抄
以及著作权雇佣作品权利归属理论将作品著作权归 袭、剽窃、篡改等“创作”就符合“独”之要件。再者,客
于法人。 观审查还需要对“创”进一步改造,消除价值维度。从
最后,在强人工智能阶段,宜构建“AI 即为作者, 哲学上看,
“休谟之问”将哲学上的事实维度与价值维
版权归于 AI”的版权主体权利结构。首先,从法律渊 度一分为二。由于法学的奥秘蕴含于哲学,因此事实
源角度出发,康德虽然创设了“伦理人”,但是作为大 与价值二分原则也被很自然迁移到法哲学之中。法
陆法系民法滥觞的德国民法却没有采纳“伦理人”构 哲学上认为“事实与价值分属两个领域,事实问题以
[50]
造,而是选择了基于“权利能力”的“形式人”构造 。 客观标准验证某一事物是否为“真”;而价值问题则是
换言之“形式人”因具有“权利能力”而成为法律主体, 人基于特定需求对事物善恶、美丑之主观评价”[54]。
而不因是“伦理人”成为法律主体。回到强人工智能 在这一法哲学思想上,人们对著作权的“创作高度”认
上,这一阶段的 AI 在思想上已经与人类无异,甚至拥 识也发生了改变。例如,德国发展出的小硬币理论认
有独立自主意识。这意味着其能够独立做出意思表 为著作权的“创作高度”标准很低,达到一枚小硬币的
示,并承担相应的法律后果,具有一定的“权利能力”, 厚度即可[55]。事实、价值二分原则和小硬币理论的发
自然应因视为民法上的“形式人”。其次,从工具主义 展标志着独创性不必再具有“创作高度”的价值判断
角 度 出 发 ,赋 予 AI 版 权 主 体 地 位 可 以 有 效 解 决 “AIGC”要想生成具有高度思
维度[56]。从现实来看,
“AIGC”所面临的“行动之法”与“纸面之法”相偏离的 想深度的仿真作品需要对大规模模型进行难以估量
问题。最后,保守主义论者认为“一旦赋予人工智能 成本的调试。这在技术上存在难度,在经济商用上更
民事主体地位,意味着两种智能主体的并存”,进而导 没有“钱”途。而这一没“钱”途的价值追求又与知识
[51]
致民事法律关系被颠覆 。但是,
“伦理人”不是因为 产权立法之基“是一种经济需要”[57]背道而驰。因此,
写入法律而存在,强人工智能也不会因为不写入法律 无论从法哲学层面的独创性理论发展来看,还是从
- 93 -
科技与法律(中英文) 2023 年 第 5 期 总第 17 期
SCIENCE TECHNOLOGY AND LAW(CHINESE-ENGLISH VERSION)
- 94 -
郑 飞 夏晨斌 生成式人工智能的著作权困境与制度应对
- 95 -
科技与法律(中英文) 2023 年 第 5 期 总第 17 期
SCIENCE TECHNOLOGY AND LAW(CHINESE-ENGLISH VERSION)
Abstract:ChatGPT and ERNIE Bot have realized the integration of multi-tasking and multi-function in natural lan‐
guage processing technology, and led to a new trend of "large-scale" learning data at the input end of the model and
"anthropomorphic" content generation at the output end. Based on this, based on this, there is a dilemma in the new
generation of Large Language Model that data usage is difficult to incorporate into the fair use of copyright at the input
end. The data output end has a problem that the generated content is not copyrightable. In order to comply with the
technological development trend of generative AI, stimulate technological innovation, and protect intelligent creation,
it is advisable to adjust copyright regulations from both "input" and "output" ends based on the flexible principle. First
of all, it should break the closed legislative model of the "fair use" and construct an "opt-out" mechanism under the ob‐
ligation rule. Secondly, it is necessary to establish a gradual and in-depth copyright mechanism with "legal person re‐
gards author and copyright belongs to legal person" - "AI regards author and copyright belongs to legal person" - "AI
is author and copyright belongs to AI". Finally, it should eliminate the value evaluation dimension of "works", and es‐
tablish an objective review mechanism.
Keywords: generative artificial intelligence; ChatGPT, ERNIE Bot; copyright barriers; copyrightability
- 96 -