2025年3月，中央网信办印发《人工智能生成合同内容标识方法》，明确要求对利用人工智能生成的文字、图片、音视频等内容进行显著标识，旨在提升公众对人工智能生成合成内容的辨识能力，强化合成信息的可追溯性与可识别性，从源头守护国家安全与社会公共利益。为响应人工智能内容治理的全球趋势，中国计算机学会（CCF）青年计算机科技论坛（YOCSEF）广州分论坛于2025年9月19日举办了“标识机器创作：人工智能生成合成内容的权与责”技术论坛，聚焦生成式AI内容的版权确权与责任溯源，探索从技术标识到权责认定的实践路径，推动生成式内容在可信可控治理框架下有序发展。本次论坛由CCF主办，YOCSEF广州学术委员会组织，暨南大学、广东外语外贸大学以及杭州安恒信息技术股份有限公司广州分公司支持，由CCF YOCSEF广州现任副主席姜思羽（广东外语外贸大学）和CCF YOCSEF广州AC委员夏志华（暨南大学）共同担任执行主席。
论坛邀请了复旦大学教授张新鹏、公安部鉴定中心副处长康锦涛、华南农业大学教授王春桃作为引导嘉宾，中山大学教授卢伟、奇安信科技集团事业部总经理姚磊、广东外语外贸大学院长王常吉作为特邀思辨嘉宾。广东省计算机学会理事长韩国强（华南理工大学）、黄治军（粤港澳大湾区生成式人工智能安全发展联合实验室）、袁炯贤（广东省网络数据安全与个人信息保护协会）、YOCSEF广州往届主席黄栋（华南农业大学）、优秀AC委员刘雷（广东科技报社），YOCSEF广州现任主席苏申（广州大学），刘伟莉（广东技术师范大学）、王幸涛（安恒信息）、李宇翔（头歌平台）等AC委员以及阳建华（广东技术师范大学）等委员，YOCSEF 南京学术秘书臧天梓（南京航空航天大学），蒋盛益（广东外语外贸大学），李佩雅（暨南大学），刘静（广州九盛电子有限公司），卢颖杰（华南理工大学智能算法研究中心），边山（华南农业大学）等来自多所高校及多家企业事业单位的代表共100多人参加本次论坛。
论坛首先由论坛执行主席姜思羽介绍论坛背景等相关情况。广东省计算机学会理事长韩国强致辞发言。韩国强理事长首先对参会嘉宾表示诚挚欢迎，并介绍道，当前正处于AI研发加速突破、网络安全备受关注、科技创新引领发展的重要阶段。在此背景下，他期待青年学者们围绕“标识机器创作：人工智能生成合成内容的权与责” 展开深入交流，凝聚共识，启发思路，并预祝本次论坛取得圆满成功。
图1 论坛执行主席姜思羽介绍论坛背景等情况
图2 韩国强理事长致辞
由CCF YOCSEF广州现任主席苏申介绍YOCSEF的文化核心，他强调，YOCSEF 始终以 “思辨精神” 为底色，以“自由发言”和“平等交流”为核心原则，每位参会者都能自由表达见解，最后对支持单位表达了感谢。
复旦大学张新鹏教授以“从深度模型确权到AIGC溯源”为题作引导报告，针对“鉴伪”和“溯源”两大核心问题，分享了应对思路与技术方案，为 AIGC 内容的全生命周期治理提供技术支撑。公安部鉴定中心副处长康锦涛以“AI生成伪造语音鉴定的挑战与方法”为题作引导报告，指出传统语言鉴定面临的挑战，接着提出构建数据基础、使用新算法等新范式，同时，他也抛出了当前行业亟待解决的关键疑问“如何建立动态更新的数据集？如何训练出兼具通用性与针对性的鉴定模型？”这些问题为后续的技术研发与行业协作指明了需重点突破的方向。华南农业大学王春桃教授以“面向溯源与鉴伪的潜在扩散模型水印初探索”为题作引导报告，围绕AIGC的“溯源”与“鉴伪”展开，介绍了后处理方法、开源场景模型权重微调、非开源场景模型适配器等方法。
图3 张新鹏教授作引导报告
图4 康锦涛副处长作引导报告
图5 王春桃教授作引导报告
图6 颁发引导嘉宾感谢牌
在三位引导发言嘉宾作报告后，由论坛执行主席姜思羽、夏志华主持论坛思辨环节。思辨嘉宾中山大学教授卢伟、奇安信科技集团事业部总经理姚磊、广东外语外贸大学院长王常吉围绕“当前给人工智能生成合成内容做标记的技术有哪些？目前如果要使用当前技术来应对攻击/通过司法鉴定，还存在哪些不足”“人工智能标记在现实应用中可能面临哪些技术攻击手段？什么样的标记生成技术才能做到攻击的容错性？”“人工智能生成合成内容的标记如果要通过司法鉴定，还需要哪些技术、法律的支撑？”三个议题展开了深入思辨，总结得到以下观点。
思辨议题1: 当前给人工智能生成合成内容做标记的技术有哪些？目前如果要使用当前技术来应对攻击或通过司法鉴定，还存在哪些不足？
针对此议题，卢伟教授聚焦模型的结构性保护，并着重探讨了在模型训练过程中，如何对数据集水印进行保护这一核心问题。数据集水印是人工智能生成合成内容标记技术的重要载体，其有效性直接关系到后续内容溯源、权属认定的准确性，若能在模型训练阶段就建立起对数据集水印的保护机制，可以提升水印对抗恶意攻击的能力。阳建华副教授指出，人工智能生成合成内容相关技术以数据驱动为核心，依赖于数据库，基于这一特性，他进一步提出疑问，在涉及此类技术的司法鉴定场景中，如何确定模型在不同数据场景下具备可靠性。康锦涛副处长针对这一疑问给出如下回答，他指出在当前的实践中，检验人员会将输出结果中固有的不确定性转换为确定性结果，他认为这样操作存在较大风险，可能会存在主观因素，导致司法判断偏离技术客观实际。因此，他提出优化方向，未来在司法场景应用模型结果时，不应该只传递确定性结论，而应将模型结果本身的不确定性同步传递给法院，为司法决策提供更全面、客观的技术参考依据。此外，还有其他嘉宾补充了模型可解释性的突出问题，即模型在得出结论的过程、依赖的关键特征难以清晰地拆解和说明，这一问题会进一步影响司法等场景中对模型结果的信任度和采信度，是后续技术优化的重要方向之一。
思辨议题2: 人工智能标记在现实应用中可能面临哪些技术攻击手段？什么样的标记生成技术才能做到攻击的容错性？
姚磊结合数据安全从业经验，明确指出当前标识技术的关键痛点，显性/隐性标识均面临“去除攻击”风险，且商业市场水印产品应用有限。此外，他还探讨了“生成后加标识”与“生成时同步加标识”的技术可行性差异，以及大模型、数据、检测程序备案对鉴定精准度的影响，为技术落地难题提供了实践视角。有嘉宾认为，在涉及人工智能标记的司法鉴定场景中，可以对整个鉴定过程（涵盖所用数据、采用的模型及操作环节等关键要素）进行全面备案。备案的过程信息也可降低攻击对鉴定结果准确性的干扰，从流程层面为标记技术的攻击容错性提供补充保障。同时，也有嘉宾针对“全流程备案”的建议提出疑问，聚焦其实施的可行性，一方面需考量技术落地问题，如大量备案数据的存储安全性、调取便捷性，以及如何避免备案信息自身被篡改；另一方面需关注实践适配性，如不同鉴定场景的技术标准差异是否会影响备案流程的统一性，且备案操作是否会额外增加鉴定成本、延长鉴定周期，这些均需结合实际场景进一步验证。
思辨议题3: 人工智能生成合成内容的标记如果要通过司法鉴定，还需要哪些技术/法律的支撑？
有嘉宾认为，在技术层面需要优先解决标记自身的安全性与可靠性问题，当前AIGC处于初级发展阶段且未来变数大，标记易被篡改、伪造，因此需研发能鉴定标记真实性的技术，避免因标记安全无保障加剧责任界定混乱，需适配AIGC技术的动态发展，避免因技术迭代导致现有标记检测、溯源技术失效。法律层面，首先需明确责任划分细则，即便有标记，仍需法律明确AIGC内容引发不良后果时，内容产生方、平台与用户自身的责任边界，避免责任归属模糊。还有嘉宾认为，在技术上要结合具体场景设计，避免单一技术依赖，通过在司法判定关键节点布设多技术、串联各证据联合提升可信度，并借鉴密码学思路增强隐性标识抗破解能力，应对非法生成无标识有害内容的情况。
图7 思辨现场热烈讨论
图8 颁发思辨特邀嘉宾感谢牌
最后，YOCSEF 广州往届主席黄栋对论坛进行总结。以标识塑信，是技术共识；以责任护界，是制度方向。本次论坛针对人工智能生成合成内容标记的技术、法律、司法鉴定等核心议题展开深度交流，凝聚多方智慧形成系列共识。未来，期待在专家学者的协同推动下，深化权责归属问题探讨，强化行业引领作用，为人工智能技术在内容安全场景下的可信应用发展提供清晰指引。
图9 与会嘉宾合影留念
评论 0