近年来，全球人工智能产业呈现蓬勃发展势头，安全形势也变得日趋复杂。
2023年7月18日，2023中国互联网大会AI安全论坛在北京举办，与会嘉宾共同围绕着“探寻AI下的安全新变局，探索数字安全建设发展新机遇”进行了分享。
当前，我们站到了一个新的历史拐点，互联网不仅进入了万物互联3.0时代，也进入了万物皆可AI的时代。
中国互联网协会副理事长黄澄清在致辞中表示，未来的世界应该是一个人工智能驱动的世界。我们要统筹发展和安全牢牢抓住新一轮科技革命和产业变革的历史机遇，加快人工智能产业创新发展的步伐，推动与实体经济深度融合，达到新水平，推动行业规范发展，实现新突破，治国经邦人才为急，无论是AI走入产业还是走进家庭，我们期待涌现一批行动力强的实践者，共同助力我国AI迈上新的台阶。
据统计，截至2022年北京拥有人工智能核心企业数量，人工智能算力发展水平，人工智能领域核心技术的人才占比和人工智能论文发展数量在全国均列第一。不过，人工智能在赋能产业应用，提高生产效率和质量，降低成本和风险的同时，也给我们带来了一系列新的安全应用风险与挑战。
对于人工智能产业未来的发展，北京市通信管理局党组成员、副局长王晖提出三点建议：
一是坚持发展与安全并重。只有不断探索并完善与创新发展相适应的安全保障方式，在创新发展与风险规避之间寻求平衡，方能行稳致远。
二是坚持权利和义务并重。企业要积极用好政策红利，发挥自身优势，加快人工智能领域的创新发展，同时要积极履行企业的主体责任，要加强人工智能发展的潜在风险研判和防范，维护人民利益和国家安全，确保人工智能安全可靠可控。
三是坚持自主与协作并重。人工智能技术是战略性新兴技术，需要掌握核心技术和知识产权，提高自主创新能力和竞争力，同时人工智能技术的发展需要跨学科跨领域的协作，需要企业高校、科研机构等各方合作，共同开展技术研发、人才培养和产业应用等工作。
今年以来，国产的大模型不断涌现。根据《中国人工智能大模型地图研究报告》显示，截至2023年5月28日，中国10亿参数规模以上的大模型已发布79个。与此同时，启明星辰、天融信、深信服、瑞星、墨云科技等公司将大模型用于网络安全的工作。另外，还有一些公司专门训练网络安全领域垂直的大模型，并应用于产品形态中。
在中关村国家实验室、清华大学教授李丹看来，大模型在安全领域的应用场景主要集中在三个方面：
第一，代码的漏洞挖掘。大模型可以高效处理很多的代码数据，并且利用自身强大的学习能力和脱敏能力，能够快速发现代码里很多潜在的漏洞，同时根据上下文和目标自动给出合适的代码的修改方案，提高代码的合理性。
第二，通过大模型的能力开发网络安全运维机器人。可以基于大模型的文本理解生成能力、代码的理解及生成能力、网络安全风险评估值的规则引擎，以及像安全情报、样本库、知识库等进行精调，形成一个网安领域的垂直大模型，降低在网安领域对运维人员的专业要求，并且提高实时响应的能力。
第三，自主进化攻防演练。基于大模型建立红蓝对抗，就像AlphaGo机器人通过虚拟对抗模拟实际对弈一样。可以将很多攻防工具集、攻防资源池，甚至自动发现的一些零日漏洞等，分别集成到红蓝队中，进行自动对抗，给网络安全领域带来很多新的技术发展的机会和变量。
值得一提的是，为了促进AI安全产业的快速发展，天翼安全科技有限公司中国电信安全公司(以下简称“电信安全”)发起了《共建安全大模型高质量数据集》的倡议。具体倡议如下：
一、数据共享：鼓励安全领域的组织共享其积累的高质量安全数据集，包括但不限于：安全领域知识、恶意代码样本、安全处置经验等。承诺遵循相关法律法规来确保数据安全共享。
二、质量为先：倡导各位业界专家共同努力，确保共建的数据集满足质量标准，满足安全领域数据的三大特性：准确性、专业性和时效性。
三、有效流通：致力构建一个平等的合作生态。首先，在数据脱敏的前提下，推进数据在合作机构之间的有效流通;后续将逐步开放给业界的专业研究人员。
四、合法合规：承诺遵循国家网信办、工信部等七部委《关于生成式人工智能服务管理暂行办法》(第七条、第八条)关于训练数据处理活动、数据标注要求的相关准则;承诺遵循中共中央、国务院《关于构建数据基础制度更好发挥数据要素作用的意见》、工信部印发《工业和信息化领域数据安全管理办法(试行)》以及全国信息安全标准化技术委员会印发《信息安全技术网络安全信息共享指南》(征求意见稿)，确保数据要素生产流通使用全过程的合法合规。
综上，电信安全将“数据共享、质量为先、有效流通、合法合规”作为整体指导方针，通过共建安全大模型高质量数据集，促进AI安全产业的合理有序发展。我们邀请安全行业的各方共同参与，共同努力，共建AI安全的未来。
写在最后：
总的来说，对于网络安全领域来说，AI技术的不断发展可谓是机遇与挑战并存。一方面，AI应用落地将带来新的安全风险;但另一方面，AI也会提升安全运营的可见性和生产力。
面向未来，只有加强AI技术安全，避免AI技术可能带来的风险，并引导其始终在法律的红线内运行，才能推动AI技术的健康发展，并在网络安全领域充分发挥自身价值。
