从AlphaGo战胜人类棋手，到ChatGPT开启的AI狂潮，在“子弹”飞过一段时间后，人工智能技术及产业不断加速发展，引来了更多的关注。AI应用从消费、互联网等领域，不断延申到制造、电力等传统行业。
2023世界人工智能大会上，工信部副部长徐晓兰表示，我国人工智能核心产业规模达到5000亿元，企业数量超过4300家，智能芯片、开发框架、通用大模型等创新成果不断涌现。
北京市人大代表、天融信科技集团董事长兼CEO李雪莹介绍，完美体育“当今时代，人工智能被广泛应用于通信、医疗、教育、交通、安防等各个领域，改变着人们的生产生活模式。但与此同时，人工智能带来的安全隐患与道德争议，也让各界对AI技术更加重视，对其应用变得更加谨慎。”数据泄露、算法偏见、AI技术被滥用、安全隐患、法规不完善等问题亟待解决。
新技术的应用往往蕴藏新的安全风险、带来新的安全挑战。今年北京市两会期间，李雪莹代表与记者交流时谈到，目前人工智能技术应用面临多重风险，缺乏有效的安全评估和管理机制，同时数据安全问题成为制约人工智能产业发展的主要因素，健全人工智能创新发展的安全保障机制已十分必要。
根据《数字时代安全科技价值报告》显示，人工智能安全风险可分为三类：第一是内生安全，由软硬件系统组成的人工智能系统，也会存在技术本身的脆弱性和数据依赖性等缺陷；第二是衍生安全问题，即人工智能被利用或不恰当使用而可能引发其他领域的一些重大安全事故，如深度合成伪造声音和视频的电信诈骗；第三是人工智能系统面临的外部入侵和攻击。与此同时，人工智能模型训练需要海量、高质量数据，数据质量、数据规模直接影响人工智能模型的准确性及可靠性。人工智能安全风险与网络安全、信息安全风险交织叠加，人工智能应用的安全评估和管理已成为当前亟待解决的问题。
针对以上问题，李雪莹代表提出三点建议：一是引入人工智能产品准入机制，制定人工智能应用安全风险评估与管理规范；二是鼓励人工智能安全应用技术创新，打造人工智能数据安全最佳实践；三是推动人工智能在网络安全领域应用，以人工智能技术防范人工智能风险。
