界面新闻记者 | 于浩

5月9日，抖音发布关于人工智能生成内容的平台规范暨行业倡议。针对创作者、主播、用户、商家、广告主等平台生态参与者在抖音应用生成式人工智能技术的情况，抖音均做出了相关规范。 

公告中提及，发布者需对人工智能生成内容产生的相应后果负责。同时，发布者应对人工智能生成内容进行显著标识，帮助其他用户区分虚拟与现实，特别是易混淆场景。虚拟人也需在平台进行注册，虚拟人技术使用者需实名认证，使用已注册的虚拟人形象进行直播时，必须由真人驱动进行实时互动，不允许完全由人工智能驱动进行互动。

此外，抖音还规定禁止利用生成式人工智能技术创作、发布侵权内容，包括但不限于肖像权、知识产权等。禁止利用生成式人工智能技术创作、发布违背科学常识、弄虚作假、造谣传谣的内容。上述违规行为一经发现，平台将严格处罚。

抖音于公告中倡议，各生成式人工智能技术的提供者，均应对生成内容进行显著标识，以便公众判断。同时使用统一的人工智能生成内容数据标准或元数据标准，便于其他内容平台进行识别。

为了便于上述倡议落地，抖音还承诺平台将提供统一的人工智能生成内容标识能力，帮助创作者打标，方便用户区分。此外，平台还将提供虚拟人的注册能力，对已注册的虚拟人形象进行保护，并且提供用户反馈渠道，方便用户反馈违规生成内容。 

ChatGPT在国内迅速掀起了生成式人工智能的潮浪，相关监管也随之而至。今年开年以来，国家互联网信息办公室相继发布《互联网信息服务深度合成管理规定》（以下简称《规定》）、《生成式人工智能服务管理办法（征求意见稿）》（以下简称《办法》）。

《规定》第十六条、第十七条也提及，深度合成服务提供者提供服务中，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，且该标识应不影响用户使用。《办法》中更进一步对利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人的责任进行了规定。 

国际范围内，美国商务部曾于4月11日就相关问责措施正式公开征求意见，其中就包含新人工智能模型在发布前是否应经过认证程序。意大利数据保护局也宣布禁止使用ChatGPT、限制OpenAI处理该国用户信息，并开始立案调查以确定其是否存在非法收集用户数据等问题。 

从《办法》的内容来看，服务提供者需对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责，同时也要对用户的使用过程、生成内容负责。用户使用过程中如有违反法律法规，违背商业道德、社会公德行为时，服务提供者需中止服务；生成内容不符合《办法》要求时，服务提供者也需应当采取措施，停止生成，防止危害持续。

平安证券在研报中提及，监管政策的出台对AIGC本身的成长以及相关安全产业的培育都有积极意义，但同时这也意味着行业合规风险上升，如果后续国内与部分国家类似的严格措施，AIGC行业未来可能会面临应用落地的挑战。 

目前，百度、360、阿里巴巴、华为、科大讯飞等企业相继推出或宣布预计推出AI大模型及相关应用产品。此次抖音所发布的人工智能生成内容平台规范正是相关监管政策在行业中的落地体现。

回顾移动互联网、云计算、大数据、区块链的发展历程，新技术的发展和监管合规往往相辅相成。如何在合规的基础上稳步实现应用落地、推进产品迭代，是入局AIGC的企业后续需要考虑的一点。