“大模型 安全”创造AI安全新机遇,百度安全出席信安标委2023年第二次“标准周”全体会议

2023-11-03 19:16:0415481人阅读

2023年11月1日,全国信息安全标准化技术委员会(以下简称“信安标委”)2023年第二次“标准周”全体会议在武汉国家网络安全人才与创新基地成功召开。信安标委主任委员赵泽良,中央网信办网络安全协调局局长、信安标委副主任委员高林,湖北省委宣传部副部长、省委网信办主任谢双林出席会议。会议由中国电子技术标准化研究院党委书记、信安标委秘书长杨建军主持。

image.png

赵泽良主任委员在讲话中指出,网络安全标准化工作要把握好习近平新时代中国特色社会主义思想的世界观和方法论,坚持好、运用好贯穿其中的立场观点方法,把习近平总书记关于网络强国的重要思想和关于网络安全和信息化工作的重要指示精神作为根本遵循。一是要围绕国家网络安全重点工作做标准,充分发挥标准的基础性支撑作用;二是要聚焦典型业务场景和突出问题做标准,充分发挥标准的规范引领作用;三是要拓展全球视野,积极参与网络安全国际标准规则制定。赵泽良主任委员强调,人工智能安全标准化工作要统筹发展和安全,加强对人工智能、大语言模型、生成式人工智能等相关理论基础、训练机制、应用模式的研究,提出相关标准规范,针对使用人工智能生成的代码安全问题,加快开展安全评价和标准规范的研究。

image.png

高林局长就人工智能治理有关工作进行了介绍,一是把贯彻落实习近平总书记提出的《全球人工智能治理倡议》作为行动指南,推动《倡议》各项理念主张的落实;二是持续落实好《生成式人工智能服务管理暂行办法》,抓好生成式人工智能的全链条监管;三是加快推进人工智能标准化工作,着力发挥标准在人工智能安全治理中的作用。奇安信集团董事长齐向东、天融信科技集团董事长兼CEO李雪莹、北京百度网讯科技有限公司副总裁陈洋、华为AI生态与产业发展副总裁秦尧、蚂蚁集团副总裁韦韬围绕人工智能技术发展与安全风险应对等主题分别作了技术报告。image.png

image.png

“大模型+安全”创造AI安全新机遇

当下,以大模型为代表的生成式AI技术,取得了前所未有的突破。自百度3月发布知识增强大语言模型文心一言至今,文心一言的基础模型已迭代到文心大模型4.0版本,在理解、生成、逻辑、记忆四大基础能力上都有了显著提升。基于有监督精调、偏好学习、强化学习等技术进行多阶段对齐,保证模型更好地与人类的判断和选择对齐。可再生训练技术通过增量式的参数调优,有效节省了训练资源和时间,加快了模型迭代速度。此外,百度进一步研制了智能体机制,包括理解、规划、反思和进化,能够做到可靠执行、自我进化,并一定程度上将思考过程白盒化,让机器像人一样思考和行动,自主完成复杂任务,在环境中持续学习实现自主进化。

过去几个月,百度对旗下各个产品线进行了AI原生化的重构,这些应用底层均来自于百度文心大模型。与会,百度副总裁陈洋分享了文心大模型应用在安全领域,在安全运营、内容审核、APP隐私合规检测、业务风控等多领域的AI原生应用构建思路与实践,助力大幅提升安全效率及能力。陈洋认为,未来,基于大模型,通过智能人机协同可以重构整个安全业务流程,大模型可以进化成为一种“生产力工具”。

1699009948944093.png

陈洋认为,如何提升行业AI 原生安全应用研发的效率也非常关键。目前,基于百度领先的AI大模型平台,百度安全打造了百度AI安全底座。AI安全底座的核心有两部分,一个是安全知识和技能强化的大模型,它提供的是“思考”能力,一个是全场景的智能体,它提供的是执行能力,基于智能体控制大模型完成行动规划和工具编排,并能够与外部环境自主交互,形成端到端的分析来解决安全难题。在此之上,针对各类安全业务场景,能够以低代码的方式实现人机协同安全工作流,进而通过AI原生安全服务层,让各类的安全应用都可以高效、低成本的使用AI原生化的方式进行重构。

另一方面,当下,大模型虽然在安全领域的应用已经取得了一定的成果,但也存在一定的安全局限性。目前,百度从大模型全生命周期视角出发,结合百度文心大模型的内部实践总结出一套从服务提供方视角的应对思路,目前已落地行业应用,涵盖大模型训练、部署、业务运营等关键阶段,助力企业构建平稳健康、可信、可靠的大模型服务。

标准促进人工智能合规可持续发展

10月11日,全国信息安全标准化技术委员会发布了关于征求信安标委技术文件《生成式人工智能服务安全基本要求》(征求意见稿)意见的通知,该文件给出生成式人工智能服务在安全方面的基本要求,为面向境内公众提供生成式人工智能服务的提供者提高服务安全水平提供参考。在生成式人工智能方面,百度迄今深度参与了3项国家标准及1个实践指南,1个技术文件的编写和应用,还作为《基本要求》标准推广单位,基于标准要求在编制过程中结合业务实践开展符合性验证,指导业务合规,降低安全风险。

面对当下“大模型+安全”所面临的新形势、新机遇、新挑战,百度安全将一方面不断拓展人工智能技术在网络安全领域的技术革新与应用,一方面与各界保持合作,共筑大模型安全防线,探索更安全的大模型赋能千行百业的无限可能,并以实践经验推动相关标准的建设,助力构建完善的人工智能安全保障体系。

0
现金券
0
兑换券
立即领取
领取成功