12月19日下午，“第七届啄木鸟数据治理论坛”在北京成功举办。此次论坛由南方都市报数字经济治理研究中心联合中国政法大学数据法治研究院举办，多位大咖嘉宾围绕“数据为本，AI向善”主题，分享最新的观察与思考。
会上，中国信通院人工智能研究中心常务副主任魏凯带来了以《人工智能安全治理现状及实践探索》为主题的演讲，从产业界角度探讨以大模型为基础的人工智能的优势以及治理方向。
魏凯认为，如今人工智能的“奇点”即将临近，而“奇点”就是通用人工智能。无论开车、写作、问答、下棋……机器在所有任务上全面超越人类的时间点可能在逐渐逼近。从技术角度出发，他总结了相比于从前的人工智能，当前最火热的以大模型为基础的人工智能所具备的三点突出优势。
一是规模可扩展性强。以大模型为基础的人工智能具有规模效应，通过增大模型参数量、“堆算力”“堆数据”，模型的效果会变得越来越好。二是通用性强。最近一年，大模型技术突飞猛进，不仅可以处理和生成自然语言，也可以处理图片、视频等多模态数据。除了聊天机器人外，人工智能在气象、自动驾驶、生物、化学以及机器人等领域相继取得重大突破，底层都用的是同一类通用算法，而不是以往垂直化、“支离破碎”的专门算法。
三是可塑性强，以大模型为基础的人工智能给出的答案质量会随着用户提问的精细程度而变化。“（它）像一个很聪明的孩子，给它一些思维启发，它的回答会越来越聪明——这也展示了通用人工智能的潜力。”
从今年3月，马斯克等千名科技人士发公开信要求暂停训练比GPT-4更强大的AI系统，到11月全球首届人工智能安全峰会发布《布莱奇利宣言》，通用人工智能飞速发展的同时，对于其背后隐藏风险的担忧也日益强烈。
魏凯表示，大模型技术突破可能放大的人工智能安全风险包括三个方面：应用风险、数字安全维度和广义安全维度。
从应用角度，大模型技术可能存在幻觉、偏见，也可能被不法分子滥用、错误使用，进而沦为作恶的工具。在数字安全方面，模型本身的参数面临泄露、被攻击等风险。“人工智能风险不只是数字领域的安全问题，广义来看也包括对经济安全、社会安全、国家安全等的影响。”
魏凯在会上指出，我国人工智能治理水平已走在世界前列，目前已针对人工智能的训练数据、模型、内容、伦理、服务等提出一系列完美体育与国情相适应的具体要求。不过，除了监管驱动的“他律”，产业界的“自律”也必不可少。为此，魏凯从产业界角度提出四点治理策略。
首先，人工智能治理需要在法律法规的框架下，凝聚多方力量，形成合力，共同参与。中国信通院作为智库研究机构和行业发展平台，在国家政策法律指引下，发挥链接产业各方的桥梁纽带作用，促进相关法律法规宣贯落实，积极推进行业自律。具体而言包括三个方面。
在实现治理之前，要先对治理目标有清晰的认识——首先是全面梳理、监测人工智能风险，构建“风险库”。魏凯表示，目前，基于风险开展人工智能治理已成为国际共识，中国信通院将围绕人工智能全生命周期，系统梳理其对个人、社会、国家等带来的风险，建立动态的风险水位监测机制，推动产业界共享风险信息和防控技术。
其次是开展风险管理理论研究，明确“路线年发起《人工智能行业自律公约》以来，中国信通院联合产业界逐步完善、形成了一套体系化方法论，将可靠可控、透明可释、数据保护、明确责任、多元包容等共识原则，以及最新的法律法规要求，融入到企业设计、研发、运营等各个环节中。
再者，中国信通院正积极开展相关标准制定，根据人工智能生命周期，针对大模型在设计开发、模型测试、部署应用、维护升级等环节中的风险防范能力设立“坐标尺”，便于进行体系化的风险管控。
另外，中国信通院还联合产业界各方，共同建立安全风险防范基础性平台，形成“工具箱”。具体包括大模型安全评测、大模型生成内容标识、特定内容巡查三大系统，提升自动化测试、内容标识鉴别和监测能力。
“大模型服务顺利上线，是一个新阶段的开始。建立系统化的AI风险管理机制，在后续模型服务和应用过程中，开展常态化动态监测和应对各种风险，落实敏捷治理，才是能确保人工智能负责任发展的长久之道。”他说。
