新書推薦：
《
从大繁荣到大萧条 1919—1939年美国社会生活史
》
售價：NT$
500.0
《
中西交通史 陆海书系
》
售價：NT$
296.0
《
图说新质生产力1：科技创新 落地化解读新质生产力的内涵和精髓
》
售價：NT$
301.0
《
从弗洛伊德到百忧解：精神病学的历史（医学人文丛书）
》
售價：NT$
398.0
《
雪
》
售價：NT$
352.0
《
当代学术·中古中国与粟特文明
》
售價：NT$
653.0
《
财政与国家治理
》
售價：NT$
755.0
《
魏特琳日记（重新修订，震撼上市）
》
售價：NT$
449.0
|
| 編輯推薦： |
1.权威性与专业性：由中国传媒大学文化产业管理学院发起的 “文化法治论坛” 优秀论文集结，参与作者涵盖全国 20 余所高校、科研机构及司法机关专家，内容兼具学术深度与实践指导性。
2.前沿性与时效性：聚焦 2023 年生成式人工智能爆发后的法律挑战，涵盖人工智能生成内容创作版权、虚拟数字人权益、算法行政伦理等热点问题，紧密贴合技术发展与行业需求。
3.理论与实务结合：既包含文化法学 “文化”意涵、人工智能国际法定位等理论研究，也涉及人工智能生成内容版权归属、司法大数据外包风险等实务案例分析，兼顾学术探索与实践操作。
4.跨领域覆盖：内容横跨法学、文化产业、人工智能三大领域，涉及知识产权法、行政法、刑法等多个法律分支，为不同背景读者提供跨界视角。
5.多元视角融合：汇集学术界、产业界、司法界的多方观点，形成良性互动与碰撞，呈现人工智能法律问题的多维度解决方案。
|
| 內容簡介： |
|
本书主要围绕人工智能领域相关法律问题展开，重点集中于文化传播、新闻传播、艺术创作等领域的著作权、数据保护、内容治理等主题，既有理论知识的探讨，也有司法裁判的实践，兼具国际视野，反映当下人工智能技术所引发的法律问题的发展与思考。论文作者既有高校教育研究者，也有法院一线审判人员，还有案例代理律师，以及新生代年轻学者，他们分别从不同视角分享人工智能领域面临的挑战与问题，并提出具有前瞻性、学理性、实践性的解决方案和创新思路。
|
| 關於作者： |
|
周丽娜，博士，中国传媒大学文化产业管理学院法律系教授。研究领域包括互联网内容治理、数据安全、个人信息保护、文化法治等。参与和主持国家级、省部级科研项目十余项。参与出版有《英国传媒监管研究》、《新闻传播法教程》（第六版、第七版）、《媒体与隐私：英国新闻报道侵犯隐私案例研究》等。主持研究生、本科生课程思政、通识核心课程等教改项目。在《中国出版》《新闻记者》《中国网络传播研究》《现代传播（中国传媒大学学报）》《判解研究》《国际新闻界》等核心期刊发表论文数十篇。
|
| 目錄：
|
理论篇
文化法学研究中的“文化”意涵探析 李丹林 吕烨馨
我国演出行业的监管实践与理论逻辑 郑 宁
人工智能在国际法上的角色定位探讨 戚春华
生成式人工智能赋能艺术创作的特点、风险与应对 周丽娜
回溯人本：审判辅助自动化决策算法的法伦理反思与规制 余亚宇 肖明倩
数智时代背景下我国传媒大数据治理路径研究 谢 欣
突出“艺术”：基于人工智能技术下的电影法价值重塑 徐 晴
法理视角下人工智能参与创作的著作权认定与探究 SHAWN RICH
国内外人工智能法律的研究热点与思考——基于2014—2024 年3116 篇文献的可视化分析 庄昕昊
人工智能时代下数据库的确权研究 容 非
实务篇
技术正当程序：行政行为中算法应用的司法审查 张丽颖 余亚宇
司法大数据应用事务外包的风险与防范——以数据和外包两大风险来源叠加为视角 刘连康
AI 生成内容的著作权归属及其保护机制构建 赵永刚
人工智能创作的著作权挑战及应对 陈 茜
人工智能技术在影视创作中的应用场景及其法律风险分析 吕烨馨
AI 对文化产业的影响与著作权法保护分析 王雪妍
人工智能生成内容的可版权性检视与反思 陈宏湲
浅析人工智能生成内容的可版权性及权利归属 罗 楠
人工智能生成内容的刑法规制路径——以侵犯著作权罪为视角 陈一诺
虚拟数字人的著作权保护——以马栏山多豆乐数字人公司为例 谷 伟
以真人为原型生成AI 虚拟数字人的人格权侵权问题研究 龚泊榕
算法推荐机制下网络平台的注意义务探究 崔璐瑶
论算法推荐下网络服务提供者在著作权侵权中的注意义务 林 鹏
生成式人工智能数据训练的合理使用问题研究 陈昌沛
人工智能背景下声音权益的法律保护模式研究 孙一娇
|
| 內容試閱：
|
《人工智能法律理论与实务》是第二届文化法治论坛部分优秀学术论文的汇集，也是继2023 年首届文化法治论坛后阶段性学术成果。
文化法治论坛是由中国传媒大学文化产业管理学院发起并每年举办的学术品牌活动。首届文化法治论坛于2023 年6 月召开，是学习中共中央办公厅、国务院办公厅联合印发的《关于加强新时代法学教育和法学理论研究的意见》（简称《意见》）的重要学术活动，也是贯彻落实6 月在北京召开的文化传承发展座谈会上习近平总书记重要讲话精神的重要行动。《意见》强调，要加快构建中国特色法学学科体系、学术体系、话语体系，加强文化法学等学科建设。2023 年6 月，习近平总书记在文化传承发展座谈会上指出：“在新的起点上继续推动文化繁荣、建设文化强国、建设中华民族现代文明，是我们在新时代新的文化使命。”
中国传媒大学是我国较早从事文化法相关教学科研的高校之一，一直以来都将学科建设和我国文化行业的繁荣发展紧密联系起来。文化法治论坛作为文化法教学和科研活动的重要品牌活动，召开伊始，便得到中宣部、国家网信办、文化和旅游部、国家广电总局等国家主管部门的深切关心和大力支持，民主与法制网、中国经济网、中国社会科学网、中国新闻出版广电网等国内多家主流媒体关注并报道了该学术活动。
2023 年，人工智能技术发生深刻变革，被称为生成式人工智能发展元年。大语言模型（LLM）彻底颠覆了内容生产方式，也为文化领域的内容生产和传播带来新的机遇与挑战。为回应社会发展需求，深化文化法治研究和治理能力，2024 年第二届文化法治论坛以“人工智能时代的文化法治”为主题，于6 月22 日至23 日在中国传媒大学召开。会议邀请全国人大教科文卫委员会、中宣部法规局、中央网信办网络法治局、国家广播电视总局政策法规司、文化和旅游部政策法规司、国家文物局政策法规司、北京互联网法院、北京市东城区人民法院、北京市海淀区人民检察院等党政机关及司法机关，全国20 余所高校、科研机构、文化传媒企事业单位的近60 位专家与会发言。此外，会议还收到高校、法院、检察院、公证处、律所等65 家单位98 篇投稿，形成学术界、产业界和司法界共话人工智能相关法律问题的良性互动。
此外，本届论坛还新增了“青年学者论坛”环节，主要是为青年法官、律师、博士研究生和硕士研究生搭建理论与实践结合的交流平台。他们作为未来文化法治事业高质量发展的新生力量和推动者，显示出充满创见、活力、新锐的研究热情和成果。
为总结阶段性研究成果，会议组织方将部分优秀投稿论文结集出版。此论文集围绕文化法学的“文化”内涵、人工智能在国际法上的法律角色定位、生成式人工智能赋能艺术创作的风险及应对、自动化决策算法的伦理、传媒大数据治理等理论问题，以及人工智能生成内容、虚拟数字人、算法行政、影视创作、网络平台责任等文化产业领域的司法和实务问题进行研讨。此论文集还选取了部分优秀硕士研究生论文，以鼓励后辈勤学敏思之精神。
编者
2024 年7 月14 日
生成式人工智能赋能艺术创作的特点、风险与应对
周丽娜 中国传媒大学文化产业管理学院法律系教授
摘 要：生成式人工智能技术的出现和应用，为艺术领域带来很大变革。一方面，该技术广泛应用于视频、音频、文本等内容生成领域；另一方面，因为生成内容的能动性、工作原理不可解释性和实践应用场景的广泛性，可能会带来侵犯人类创造力、创作内容同质化、滋生文化霸权、生产有害内容等风险。本文建议从理论价值层面和实际操作层面两个维度防范风险，力图实现技术服务人类、造福人类的根本目的。
关键词：人工智能；AI；艺术创作；风险
随着人工智能技术快速迭代发展，生成式人工智能不仅能识别和分类数据，还能创造出新的数据，使人工智能基础发生颠覆性变革。从我国目前的应用来看，生成式人工智能技术被广泛应用于智能写作、代码生成、有声阅读、新闻播报、语音导航、影像修复等领域，通过机器自动合成文本、语音、图像、视频等方式推动互联网数字内容生产的变革。
2023 年被称为“生成式人工智能元年”。人工智能技术通过促进内容生产向智能化转变，迅速催生了全新的科技革命系统，促进了科技互动和知识共享。学者们亦从多个角度阐释人工智能生成内容（AIGC）的价值意蕴，尤为关注文化内容生产的颠覆性变革。人工智能已深刻影响文化内容生产的各个环节，文化生产在内容创作流程上比之前更为简化，在生产渠道和传播载体上也随着信息通道的迁移而发生了改变。生成式人工智能因其独特的创造能力，应用于许多创意和生成类场景中，如新闻生产、艺术创作、工业设计、代码编写等。在艺术创作领域，因其基于科技与艺术相结合的特点而有别于其他领域，需要额外关注。在电影艺术领域，人工智能目前已广泛应用于图像识别、图像分割、目标检测、图像生成等领域，并能协助完成人物的建模、场景的重构、物理效果的模拟等计算机视觉技术。在媒介内容创作方面，人工智能可以通过对大量人类作品进行融合与再造，打破人类固有的思维惯性，使创作者得到灵感和启发，促进作品质量与创作水平的提升。数字音乐产业在人工智能的加持下，逐渐体现出生产端、传播端以及消费端三者相连的特性，用户可以自主参与音乐创作、音乐传播以及音乐消费的环节，极大地改变了数字音乐产业的商业模式。
一、生成式人工智能概念、工作逻辑及应用场景
（一）生成式人工智能与人工智能、人工智能生成内容的区别
作为一个专业术语，“人工智能”可以追溯到20 世纪50 年代。美国计算机科学家约翰·麦卡锡及其同事在1956 年的达特茅斯会议上提出，“让机器达到这样的行为，即与人类做同样的行为”可以被称为人工智能。此后60 年间，人工智能总体上经历了“三起两落”发展阶段，直至2016 年，以AlphaGo 击败围棋世界冠军李世石为标志的新一代人工智能，在强大的计算能力、更先进的算法、大数据、物联网等诸多因素共同作用下，成为政府、产业、科研机构以及消费市场竞相追逐的对象。
2023 年随着ChatGPT 在全球范围爆火，以生成式人工智能为代表的人工智能问世，改变了人工智能技术与应用的发展轨迹，加速了人与AI的互动进程，成为人工智能发展史上新的里程碑。
生成式人工智能属于人工智能的一个子集，是人工智能中作为技术手段的机器学习的一个进阶阶段，也被认为是下一代的人工智能。如果说传统人工智能在于能够从海量数据中学习并作出最优决策或预测，但不发明新的规则或者策略，那么生成式人工智能则可以创造新的东西。例如AlphaGo 知道所有围棋规则，并且能够根据对弈者行为作出最明智的对策，但是不发明新的下棋方法。生成式人工智能可以根据人的一个提示，例如一个故事的起点，“很久很久以前，在一个遥远的星系……”，生成完整的太空冒险故事，包括角色、情节和结局。它就像一个富有想象力的朋友，可以想出原创的、有创意的内容，包括文本、图像、音乐、视频、程序代码等。
人工智能生成内容，即我们通常所说的AIGC，是生成式人工智能生成的客体，可以是文本、音乐、视频等。如果说人工智能生成内容是一种外在的有形客体，那么生成式人工智能更多的是一种模型或者算法的进阶，两者是生产结果和生产过程的关系。
（二）生成式人工智能工作逻辑
生成式人工智能逻辑内涵是指人工智能创作中的逻辑规则、算法模型和自我学习能力。首先，训练过程主要依赖于海量数据的“投喂”，通过对大规模数据集的学习，能够捕捉到投喂艺术作品中的模式、风格和特征，并在生成过程中进行模仿和创新。数据驱动的创作使生成式人工智能能够从投喂的艺术作品中获取灵感，并将其融合、转化为新的创作内容。其次，生成式人工智能的核心是机器深度学习的规则和算法。深度学习算法在生成式人工智能创作中发挥着重要作用，通过多层次的神经元网络模拟人类的认知和创造过程，实现对艺术创作元素的理解和创建。最后，生成式人工智能能够自我学习和迭代进化。通过引入反馈机制和迭代训练，它能够根据创作结果满意度进行自我调整和优化。它能够累积成功和失败的经验并从中进行学习，逐步改进生成的作品。这种自我学习和进化的过程，使生成式人工智能具备了适应性和创新性，能够不断改进和提高创作水平，从而不断探索新的艺术形式和创作风格。
生成式人工智能能够生成内容，或者说创新内容，需要经过前期“投喂”、深度学习和自我迭代，需要用户通过输入提示词（prompt）与之互动，从而激发AI 的创造性。生成高质量艺术作品的关键是创建提示词的精准性，通过对提示词精准语义分析和把握，合理设计和编写，从而引导深度学习模型生成高质量的艺术内容。提示词可以包含主题情感、作品风格、创作方式、条件限制等多领域内容。对于不同的生成内容，如图像、音乐、视频等，提示词还需要显示个性特征。在图像生成中，提示词多是表示图像类型、图像特征、图像风格、图像细节等方面的描述。在音乐生成中，提示词需要更加注重音乐素材（旋律、节奏、和弦等）的语义相关性，以保证生成的音乐作品符合音乐理论和审美标准。在视频生成中，提示词需要更加注重时间维度上的控制，并注意连贯性和逻辑性。
（三）生成式人工智能赋能艺术创作的应用场景
早期专用人工智能在专业内容生成（PGC）领域已经可以替代人类完成重复性和机械性的工作。如在特效制作方面，电影《指环王》《狮子王》《摩根》都成功将人工智能技术运用于电影制作中。在用户生成内容（UGC）领域，随着人工智能技术普及，如AI 剪辑、AI 配音、AI 字幕、AI 换脸等更加平民化的人工智能技术的成熟和流行，自媒体和短视频行业迅速繁荣，一键式AI 创作，真正实现了艺术平权。
在影视艺术创作中，类GPT 人工智能可以完成如创意、角色表现、拍摄和编辑等最能反映艺术价值的过程，特别是具备了剧本写作的能力。以菲律宾28 Squared 工作室和Moon Ventures 工作室创作的6 分钟短片《安全地带》（The Safe Zone）为例，这是一部使用ChatGPT 创作剧本的影视作品。28 Squared 工作室的首席执行官理查德·胡安曾在采访中说：“人工智能将彻底改变我们制作电影的方式，它将自动生成文本、分镜，来帮助电影制作者节省时间和资源、激发新的创意，并真正给我们提供讲故事的新方法。”可见，人工智能在《安全地带》中实质上扮演了编剧和导演的双重角色，在人机协同创作模式中，人在影视艺术创作中主要起到引导、把关、表演、筛选、审核的作用，艺术的生产权几乎被全部赋予人工智能。
二、生成式人工智能赋能艺术创作的独特之处
人工智能系统可以应用于多个行业和场景，包括医疗保健、农业、食品安全、教育和培训、媒体、体育、文化、基础设施管理、能源、运输和物流、公共服务、安全、司法、资源和能源效率、环境监测等。人工智能技术在文化领域，尤其是艺术创作领域的应用，有其独特之处。
人工智能技术在艺术领域的应用以创作型为主。如果说人工智能在医疗、交通、能源、安全、物流等领域的应用，更多的是提供整合数据、提高效率、优化方案等功能，那么在传媒、文化等领域的应用，其发展趋势是更注重生成式人工智能的应用，例如生成信息、视频、音频、虚拟人物等。因此，生成式人工智能一方面有创造性贡献，另一方面也对人类的创造性能力形成制衡。如何更好地使生成式人工智能赋能人类的艺术创作，是未来需要面对更要解决好的问题。
人工智能艺术创作与人类艺术创作存在多重差异，如艺术家在创作过程中注入了自身的情感和感受，而人工智能只能依赖算法和数据处理；传统绘画强调艺术家的创作新意和技巧，而人工智能绘画注重对传统经验的提炼和融合；艺术家在传统绘画过程中能享受创作的乐趣，而人工智能绘画更在意创作的结果；传统绘画讲求造型语言的变换，而人工智能讲求造型语言的使用。从某种程度上讲，传统绘画所展现的“手工价值”是人工智能无法替代的，而人工智能所展现的“智能价值”也是传统绘画无法替代的。虽然人工智能的艺术创作是基于人的经验而进行的，但艺术创作需要创造力和想象力，这些能力超出了算法目前所能涉及的范畴。
艺术创作是艺术工作者展示艺术技能和技巧、抒发情怀、表达感情、实现创意的主要途径。从艺术创作的共性模式来看，艺术的创作过程可以划分为审美体验、艺术构思、艺术表达三个阶段。尽管人工智能在技术层面越来越完善，但是它目前仍然无法完全替代人类的艺术创作。如前所述，艺术创作不仅包含技术和工具，还涉及人类特有的直觉、本能、天性、创造力、想象力，以及人类情感和人文等方面的因素；但是，人工智能在其能力和发展速度方面的革命性进展会超出我们的预想，这就为人工智能创作在艺术创作领域内引发的进一步变革预留了无限的可能性，也会推动艺术创作的变革性发展。
（一）艺术创作的核心要义是人的“创造力”
与其他领域应用生成式人工智能场景不同，如果说应用于新闻生产的重要性在于真实、快捷，应用于代码编写的特点在于24 小时不间断工作，那么应用于艺术领域的显著特点便是“创新”，需要体现的只有人类独有的“创造力”和“想象力”。那么AI 具有创造力吗？
美国国家艺术基金会（NEA）将创造力定义为“超越传统观念、规则、模式、关系或类似事物的能力，并且能够创造有意义的新想法、形式、方法、解释等”。《创造力研究杂志》将创造力定义为“产生既具有新颖性（即原创性、意外的）又具有恰当性（实用性、针对任务约束的适应性）的作品的能力”。原创性并非创造力的唯一要素，原创性的事物必须是有效的。
最为著名的被广泛应用于该领域的框架之一是1961 年罗德斯提出的4P 框架，即产品（Product）、过程（Process）、出版物（Press）和主体（Person）。该框架强调了创新的多面性，每一个P 代表了创新的一个独特维度。后来，格拉韦迭代了新的版本，称为5A 模型，即人工制品（Artifact）、行为（Action）、供给（Affordance）、受众（Audience）、行为人（Actor），将焦点转向社会文化和分布式的视角。5A 模型综合考虑了文化、背景、行为和社会影响等多个因素。总的来说，这两个框架/ 模型共享许多核心思想。
弗里德曼（Fridman）认为，创新感觉就像是一种飞跃，而不是线性的积累。梅斯（Mace）和沃德（Ward）认为，艺术品构思、创意发展、制作和完成艺术品是一个复杂的过程，各个阶段之间存在持续的反馈循环，并受到众多外部和物质限制的影响。杜威（Dewey）指出，艺术是一个“发展的过程”和一种愿景，它不是通过完美的机械的方式，而是通过试错、观察以及调整行动方向来实现的。创意过程的流动性和动态特性源于支撑创新的社会文化的本质。兰伯特（Lambert Zuidervaart）提出，艺术具有自主性，艺术应该是一个独立的价值来源。
（二）艺术创作侧重于情感抒发和思想表达
生成式人工智能可以运用于一般的问答、聊天、信息播报等，这是根据算法或者规则指令而输入的一段数据的表现形式，它不具有任何的情感意涵，也提供不了情感价值。艺术创作通过艺术家的艺术表达，可表现出对过去的留恋、现实的评价或者未来的憧憬，重在引发人的共鸣和共情。
“艺术一词的用意，无论是在古代还是中世纪……它不只包括美术，也包括手工艺。”在西方传统美学语境中，艺术的定义主要有模仿说和表现说。发源于古希腊的模仿说，将艺术定义为模仿，将模仿自然看作艺术的本质，强调艺术反映现实，艺术是人模仿自然的产物。亚里士多德认为艺术是真实的，是对现实世界的本质和规律的模仿；柏拉图则认为艺术是对模仿的模仿。此后的巴托、达·芬奇、莱辛等都在各自的立场上继承了模仿说。然而，随着浪漫主义运动的兴起，主体性日渐凸显，模仿说式微，表现说逐渐占据上风。克罗齐提出“艺术即直觉，直觉即表现”，科林伍德认为“艺术表现即情感表现”，等等，都强调艺术是人的情感的表达。虽然模仿说和表现说所强调的内容不同，但两者都突出了人的主体性和能动性，是人在模仿自然、表现自然，艺术是人的作品。正是因为艺术创作能够表达情感、传递思想，杜尚展示小便池的行为才被视为艺术，表明人类可以通过多种行为方式表达某种观点、情绪、感情等。
（三）人类进行艺术创作的目的是对美的精神需求及知识的价值赋能
人类要了解、学习艺术，甚至通过艺术进行创作，是为了发展欣赏美、了解美、创造美的能力，而这种能力或者精神需求不是通过与机器的互动，并产生自己可能都无法预知内容的过程或结果。
芬兰学者对文生图的人工智能在手工艺教育中的应用进行研究，他们怀疑生成式人工智能的使用会造成全新的技能差距（skill gap），即人工智能创建的可视化和可使用的材料资源，无法满足学生对实际技能和知识需求。工艺创作离不开创意、实践、材料选择、可视化呈现等过程，且很多创意或者想法是在实践及材料选取过程中，通过失败、尝试、再失败的经历而产生或者建立的，因此只对着电脑、利用提示词的生成，无法完成创作最实质的核心要求。有学者表示，人工智能应用的门槛低（low floor），不需要经过特别培训或者技能，就能有高产出（high ceilling）甚至可以获奖的作品，同时，其应用能够扩展到更广领域（wide walls），这些特点使任何人都可以“创作”。如果人工智能应用于艺术的作用只限于此，那么人类真正能称为创作的水平和创作的本质又是什么？生成式人工智能创作时代已经来临，其背后的运转逻辑仍然基于人工智能的大数据模型和人类以往的经验去理解作品、解释作品，并进行创作。它似乎可以完成基于人类以往经验的艺术创作，并形成与艺术家的竞争。但是，艺术家作品中展现出来的是人类文化的精神境界，有自身情感作为依托，包含着独特的审美判断，这是艺术家创作的源泉，也是未来人工智能艺术创作的重要依靠。
三、生成式人工智能赋能艺术的风险
风险是一种可能带来损失的不确定。新技术快速迭代，生成式人工智能可能给艺术创作带来何种威胁？从业者和研究者基于目前对世界的认识以及生成式人工智能的应用经验，总结其可能会给艺术创作带来以下风险。
（一）艺术创作主体认定风险
就传统而言，艺术创作是人专有的一种智力活动，它是人类基于审美经验、经过艺术构思，通过艺术表达的方式，传递、呈现出来的一种人类思维活动。正因为人具有思维能力，所以才与其他生物有了本质区别。
人区别于其他生物的一个显著地方，即人具有创造性和想象力。黑格尔曾明确指出，“真正的创造就是艺术想象的活动”，“最杰出的艺术本领就是想象”。“想象是人创造活动的一个必要因素”，“想象，或想象力，也像思维一样，属于高级认知过程，其中明显地表露出人特有的活动性质。如果没有想象出劳动的已有结果，就不能着手进行工作。人类劳动与动物本能行为的根本区别在于借助想象力产生预期结果的表象。任何劳动过程必然包括想象。它更是艺术、设计、科学、文学、音乐以及任何创造性活动的一个必要方面”。
有学者指出，要重视“人”对科技的重要导向作用。“人的存在是衡量生成式人工智能的价值尺度”，因此，我们要将人类与人工智能的关系视为“智能关联主义”，正确理解人工智能所带来的数字化人文的命题。
（二）艺术创作单一性风险
生成式人工智能工作逻辑的起点，在于先有投喂的数据、资料或者素材，然后再进行学习。尽管每个生成式人工智能被投喂的数据都声称是海量的、巨大的，但是相比于人类创造、想象的空间，似乎又是渺小和微弱的。首先，被投喂的数据需要满足能被数据化的最低要求，那些蕴含于人类文明的古老的、口头传承的、没有文字记载的内容则遗落于被“投喂”的范围之外。其次，被投喂的内容需要是人类之前能够理解、解释或者知道的知识、数据，这样才能将之进行有意义的投喂，否则便仅是数据化的符号。但是作为开发人工智能的人类，对知识的认识毕竟是有限的，对所投喂内容的理解或者语言表达方式的认识也是有限的，这种知识的有限性，决定了投喂的数量、质量和多样性的有限性，进而影响机器学习和生成的内容。例如，有学者研究表明，Midjourney 等工具自然倾向于呈现、复制分析数据中最常重复的构图和美学解决方案。这意味着Midjourney 并不倾向于尝试并想出违反其所掌握的美学标准的视觉解决方案。又如，波兰概念艺术家格雷格·鲁特科夫斯基（Greg Rutkowski）的风格成了Stable Diffusion 最受欢迎的模仿对象之一。2024 年3 月初，格雷格·鲁特科夫斯基做客《华尔街日报》AI 专题访谈时表示，上次检索时，他的名字已经被AI 使用了300 万次。一方面，对他个人著作权存在潜在侵害；另一方面，当成千上万的人在与计算机互动，促使人工智能绘制并输出格雷格风格时，进一步放大了训练数据中已经流行的风格的数量，他的作品在AI 中的应用已经远远超过了达·芬奇和毕加索。这导致一个有趣的现象：当该艺术家本人用谷歌搜索自己的名字时，出现的不是他自己的作品，而是人工智能生成的画作。
（三）产生文化霸权的风险
如前所述，生成式人工智能的工作原理是基于语料、算法规则以及与用户互动而时时迭代的自我学习能力，但从逻辑原点来看，其所生成的内容受到语料和互动者的很大影响。
根据世界经济论坛统计，全球有7000 多种语言，而人工智能机器人接受的语料训练是100 多种。英语虽然占世界人口不足20%，但是在大语言模型中的占比超过2/3。
联合国教科文组织（UNESCO）表示，随着语言以每两周“消失”一种的速度，生成式人工智能可能会成为许多语言的丧钟，抑或救世主。
此外，拥有类人响应能力的生成式人工智能，无可避免地会带有人类思维与文化中的固有偏向。特别是以生成“话语”为主要目的的ChatGPT等大型语言模型，在掌握话语灵活度、创造力的同时，会无意识地学习预训练阶段文本所在时空的文化观念特征。这些偏向隐藏于人机对话文本中，对越发依赖人工智能进行信息收集和内容创作的领域产生形塑作用。例如，由于英文内容在互联网世界占据主导地位，ChatGPT 等大语言模型表现出与美国、英国等西方国家文化价值观更强烈的一致性。由于西方国家“先发”的现代性曾赋予西方价值观深远而持久的影响力，这一倾向不仅出现在英文互联网中，也可能出现在其他国家的互联网语料中，干扰基于该国语言训练的人工智能的价值判断，并进一步对其施加话语权力。虽然ChatGPT 等模型自称不具有情感、价值观、信仰的偏好，旨在为输入的信息作出客观和信息性的回应，但其学习的海量文本来源于书籍、新闻、社交媒体等网络公开信息和电子资源，而特定文化价值观在时空维度中的主导优势“折叠”于互联网话语中，使建立在特定价值观文本内容和逻辑上的生成式人工智能天然带有一定的偏向。生成内容理应具有多样性特点，被具有绝对时空话语权的价值观覆盖，人工智能生成的知识被“合法”文化裹挟，并将符号权力进一步投射至话语和知识所指导的行为实践中。
迄今为止，已经有多项研究证实了自然语言处理技术可能会捕捉、传播和放大社会歧视，包括种族、性别、国籍的倾向等。有学者测试，无论是文心一言还是ChatGPT，都更偏向美国文化背景和其推崇的主流价值观，并没有充分展现基于中国文化主体性的价值观，且这些价值判断并没有社会事实依据，而是直接复制已存在于互联网海量语料中的根深蒂固的态度倾向，说明目前版本的生成式人工智能尚未产生近似于人类的逻辑思考能力。对互联网情境的“模拟”不可避免地带有数据主体所在时空的文化观念：ChatGPT 主要基于英文语料进行训练，受西方互联网中自由主义价值观的强烈形塑；文心一言主要建立在中文语料上，但由于中文互联网“时空折叠”的特征，也会产生一定程度的文化偏向。
（四）艺术创作存在同质化、规范化风险
如果技术或者工程讲究规范化、整齐划一，那么创作，尤其是艺术创作，看重的则是百花齐放、各美其美。艺术创作是艺术家认知世界和表达世界的一种既具模式化又具个性化特征的操作，因此个性化是传统影视艺术创作的重要特征。人工智能以算法为基础，在形式美的创造上具有比较统一的规格，人工智能科学家通常将审美标准以数学公式的方式予以表达。例如，当下影视作品中大量演员形象的美颜、修图就是人工智能依据黄金人脸比例、光学数据等数学参数进行的自动调整。人工智能的自动调光、白平衡、滤镜、曝光等都是规范化、公式化地制造美，而这种美缺乏艺术创作所蕴含的多样性、情感性和表达性等特点。
（五）人机关系取代人类真实实践的风险
艺术创作包括艺术和工艺的创作。工艺需要人类动手实践，需要人类动用触觉、知觉、味觉等五官去体验、探索，甚至获取灵感。人工智能时代的人机关系如果使用过度，则会阻止人类对未知世界的探索，遏制发现更多可能性的机会。人工智能系统是为响应人类主动性而创造出来的，但系统有自己的决定，因此，人类试图建立一个系统，以满足他们的欲望或要求时，还需要一个适应的过程。同时这种人机语言也会给创作带来评价难题。对于一个创作结果，评价的是其生成内容的艺术性，还是评价“提示词”的准确性或者艺术性？
芬兰教育者在对15 名艺术教育工作者采访中发现，许多参与者强调了人工智能的设计不是“制作”本质。安妮塔教授认为，“不是所有的东西都要自动化……人类需要客观的存在感或制作、修改原材料……或至少能物理地修改原材料”。她说：“我需要感觉到我手中的工具和材料质地。”艺术教师在思考如何触摸、塑造材料，如何亲手制作，从而给孩子们带来丰富的感官体验，并激活对儿童发育至关重要的大脑区域。人类也是通过动手、制作、激活内啡肽，从而获得满足感。人类能够处理复杂或者负面的情绪，本身也是创作过程非常重要的一部分。“简单点击几下鼠标，就能迅速产生非常壮观的可视化图像，这在某种程度上规避了一些挫折感，但与此同时，也让使用者错过了一个机会，一个可以通过这种挫折学习的机会。但这对发展、成长和学习是至关重要的。”
（六）人工智能固有技术无法规避的风险
人工智能固有技术风险持续放大。以深度学习为核心的人工智能技术正在不断暴露由其自身特性引发的风险隐患。一是深度学习模型存在脆弱和易受攻击的缺陷，使人工智能系统的可靠性难以得到足够信任。二是黑箱模型具有高度复杂性和不确定性，算法不透明容易引发不确定性风险。三是人工智能算法产生的结果过度依赖训练数据，如果训练数据中存在偏
见歧视，则会导致不公平的智能决策产生。
此外，对数据大量需求而导致的数据安全，也是重要原生风险之一。近年来，各国纷纷出台更严格的数据安全保护法律，使客观上利用人类产生的数据训练人工智能变得更为烦琐。这些数据中不仅可能隐含个人信息，其中的许多数据还受著作权保护。在互联网隐私与著作权保护尚未形成统一标准与完善架构的当下，使用互联网数据进行训练，极易导致大量法律纠纷。若考虑对这些数据进行脱敏，又面临筛查识别准确率方面的挑战。两难之下，合成数据就成为最惠而不费的一种选择。
早在2021 年，一群来自大型科技公司的研究人员，如谷歌、苹果、Open AI 等，就开始对大语言模型（LLM）泄露个人隐私的情况进行了调查。他们发现当时最先进的LLM——GPT 2，在面临恶意前缀注入时，模型会返回疑似训练数据中包含的敏感信息的内容，包括某机构与某人的名称、邮箱、手机号、传真号。即便现在随着GPT 的演化，不断注重隐私风险方面，但仍然有不法分子尝试在LLM 中进行恶意序列注入，企图获取其训练数据的一些特征或信息。这些不法分子通过黑客攻击获取用户信息，借助仿真模拟，利用合成的虚假信息等进行诈骗，通过互联网及大数据追踪用户，造成了一系列财产损失。
最后，使用人类数据进行训练，还可能导致人工智能学到有害内容。一些诸如使用日用品制造炸弹、管制化学品的方法，另一些则包括许多人工智能本不应当出现的坏习惯，譬如像人一样在任务执行过程中偷懒、为了取悦用户而说谎、产生偏见和歧视。若改用合成数据，使人工智能在训练中尽可能减少接触有害内容，则有望克服以上使用人类数据训练时附带的缺点。作为一个未经管理（uncurated）的数据驱动系统，生成式人工智能创建的数字内容可以将社会中长期存在的偏见和刻板印象，比如基于种族、性别、性取向和其他属性偏爱或边缘化个人或群体的数据，纳入机器学习中。
四、风险应对
（一）理论价值层面
1. 防止AIGC 场景应用泛化
AIGC 应用的根本目的是更好地创造美、体验美；但是如果被不加区分地应用，如产生过度依赖，而失去创作灵感、激情，则适得其反，又如被应用于制造诈骗图像、视频等信息，则会危害公众合法利益。这类人工智能的滥用和泛化，应当被制止。
2. 保持人作为艺术创作主体的主体地位
尽管在人工智能技术加持下，人类能够达到以往无法实现的目标或者生成内容，但是毕竟人具备主体性，计算机化的算法生成内容始终是数据产出的结果，具有不可预测性和无法解释性。无论是最早召开的有关人工智能伦理的阿西洛马国际会议，还是我国制定的《新一代人工智能发展规划》，都强调“以人为本”。
“以人为本”包含两层含义：一是始终坚持人类是人工智能应用的主体，人—机协同合作时，一定是“人”在“机”前，人使用和利用“机”进行创作或者提供服务。人工智能的使用不能脱离，甚至离开人的控制和掌握，由人来决定“机”的应用场景、应用程度，以及是否最终使用其产出的内容。二是人工智能应用的场景是用来服务人、造福人或者便利人的，也就是“科技向善”，而不能用于诈骗、造假、逃避监管等。
3. 坚持文化多样性及传承性，弥合数字鸿沟
当投喂的技术模型和数据主要来自技术发达国家和数字化程度高的国家时，我们需要警惕技术带来的更深的数字鸿沟。在博鳌亚洲论坛2024年年会——人工智能全球治理分论坛上，有学者指出，AI 虽然是一种信息技术，能够让很多普通人更方便地掌握某些关键知识和技能，从而获得更多社会权力，但同时，AI 也可以理解为一种通过利用能源来提高效率的技术。这就可能让那些率先掌握技术的人拥有更多优势，也可能让那些无法接触技术的人失去竞争力，也就是通常所说的数字不平等或数字鸿沟。因此，从全球治理角度来看，应该努力打破国家间的技术壁垒，促进发展中国家技术学习和扩散。不然，人工智能技术只能用来助长霸权国家扩大霸权优势。
4. 加强艺术教育和提高艺术素养
AI 已来。无论人们愿不愿意接受AI，还是会不会、能不能使用AI，它都已渗透到我们的生活、教学、学习、社交等各个层面。对AI 应用的媒介素养教育，急需纳入教育体系中，以正确认识AI 的工作机制、存在的黑箱、无法解释、对数据过度抓取、生成内容不确定等其自身存在的问题，建立对待AI 的正确和科学的态度。
（二）实际操作层面
人始终是人工智能的主体。关于人工智能生成内容的主体地位的讨论，目前热点主要集中在著作权领域。之前在法律层面讨论人工智能是否可以具有主体地位，或者能否成为拟制主体，主要是基于人工智能能否承担相应义务，享有相应权利。
人工智能生成内容是客体。人工智能生成的文本、音乐、图像、视频等各类内容，都需要人的主动介入，利用人的判断来分辨其中可能会涉及的歧视、隐私、淫秽、虚假、暴力等问题。不同人的判断力、审美力又有所不同，因此很难对生成内容有一个规范化的标准，这时就需要重新回到价值判断层面去引导用户。首先，具备价值判断意识，对上述提到的可能出现的危害有问题意识和敏感度。其次，对于生成内容需要明确予以明示，表明系人工智能生成。最后，对生成内容的使用、传播等，应明确是否应当由生成人员或者平台负有一定的责任。
立法是实践中对人工智能风险管控的最直接、最有利的途径。目前只有欧盟通过了《人工智能法》。我国此后连续发布《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等部门规章，专门针对人工智能。这三个文件在我国法律体系中虽然尚属于最低位阶的部门规章，但是有《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律为上位依据，具有权威性，正在积极实施。
此外，在实践应用的治理层面，也需要转变思维方式，构建从技术视角出发的新型治理模式和框架。突破权利义务二元结构或权利义务范式，建立动态的风险治理和防范模式。
结 论
生成式人工智能技术已应用于各领域，艺术领域的独特性决定了生成式人工智能在应用过程中，应当格外注意对人的主体性、创造性、情感性的识别和保护，将机器“智能”与人类“智慧”有机结合和统一，从而实现技术让人类生活更美好的愿景。
|
|
購物車/收銀台(0) | 在線留言板
| 付款方式
| 聯絡我們
| 運費計算
| 幫助中心 |
加入書簽
HOME
新書上架
