警惕！AI组件ComfyUI易被黑产盯上
2025-03-06 18:04:475955人阅读
近日，百度安全团队捕获到了一起针对大模型相关组件ComfyUI的攻击事件，经过深入分析，该事件背后团伙已实际针对国内不少公网ComfyUI进行了入侵。本文将事件调查细节同步，以期促进整个AI行业威胁态势感知的进步。
大模型安全 | 第九期「创造未来，安全同行」度安讲技术沙龙成功举办
2024-12-27 18:03:1013234人阅读
12月20日，「创造未来，安全同行」北京站·第九期“度安讲”技术沙龙成功举办，本次沙龙聚焦多模态、终端大模型内容安全、数据安全与合规等前沿领域的安全议题，来自百度安全、vivo、中国联通、复旦大学等行业领军专家共聚一堂，围绕防护机制、评测体系、落地实践等维度进行分享，提供一套且是可行的思路与方案。
中国人工智能大赛成果发布会 | 代码安全智能体让研发安全又高效
2024-12-25 13:53:197584人阅读
2024年12月20日，由厦门市人民政府主办，以“融新汇智 竞促发展”为主题的第五届中国人工智能大赛成果发布会在厦门成功举办。人工智能安全论坛于成果发布会期间举办，百度安全技术委员会主席包沉浮受邀出席，分享了智能体技术在代码安全应用上的最新实践经验。
大模型安全 | “创造未来，安全同行” 北京站·第九期「度安讲」 技术沙龙开放报名
2024-12-13 10:38:2710499人阅读
「创造未来，安全同行」第九期“度安讲”技术沙龙即将同大家见面。本期「度安讲」技术沙龙将于12月20日在北京召开。在大模型技术快速迭代的今天，如何构建安全可靠的应用环境已成为业界关注的焦点。
CSA GCR 2024 | 深度解析百度大模型原生安全的系统构建
2024-11-20 11:41:579127人阅读
11月15日，第八届云安全联盟大中华区大会在北京成功举办，会上，百度安全技术委员会主席包沉浮以"大模型原生安全构建之路"为题，深入剖析了大模型安全体系的系统构建。
百度多模态大模型内容安全解决方案获WitAwards 2024年度大奖
2024-11-15 13:04:4914376人阅读
11月9日，以「迈向安全服务化时代」为主题的FCIS 2024网络安全创新大会在上海举行，百度多模态内容安全解决方案凭借其创新的技术实力和突出的行业贡献，从众多参评项目中脱颖而出，荣获年度安全解决方案大奖。
2024百度云智大会｜百度大模型内容安全合规探索与实践
2024-10-10 19:35:3410231人阅读
9月25日，2024百度云智大会在北京举办。在大模型平台技术实践论坛上，百度大模型内容安全平台负责人李志伟以《大模型内容安全合规实践》为主题，为与会者深度剖析大模型的安全挑战与解决方案的落地实践。
百度安全与云安全联盟CSA大中华区联合发布《AI安全产业图谱（2024）》
2024-09-26 00:28:2416761人阅读
9月12日，在国家网络安全宣传周成都系列活动上，云安全联盟CSA大中华区联合百度安全正式发布《AI安全产业图谱（2024）》。
百度冯景辉：从数据清洗到安全围栏，深度解析大模型原生安全构建
2024-08-14 18:39:3114278人阅读
随着大模型的逐步发展，内容安全问题受到了前所未有的关注。为此，InfoQ 特别邀请百度安全副总经理冯景辉在 8 月 18-19 日的 AICon 全球人工智能大会（上海站）上，分享《百度大模型原生安全构建之路》的主题演讲。本文是对冯景辉的会前采访对谈。
百度大模型安全荣获2024世界智能产业博览会“Find智能科技创新应用典型案例”
2024-06-21 22:32:2712747人阅读
6月20日，2024世界智能产业博览会在天津开幕。百度大模型安全解决方案荣获“2024世界智能产业博览会“Find智能科技创新应用优秀案例”典型案例。
百度大模型安全及产业应用实践将亮相 2024 WAVE SUMMIT
2024-06-19 11:38:2811617人阅读
WAVE SUMMIT 深度学习开发者大会 2024 由深度学习技术及应用国家工程研究中心主办，百度飞桨、文心大模型联合承办。大会将由深度学习技术及应用国家工程研究中心主任、百度首席技术官王海峰等业界重磅嘉宾领衔，将与万千开发者分享国产大模型在技术创新、产业应用、生态社区等方面的最新进展。
大模型安全技术实践 | RAG精确应对大模型敏感问题知识幻觉难题
2024-06-07 14:22:2611872人阅读
在大模型的实际应用落地过程中，会遇到所谓的幻觉（Hallucination）问题。对于语言模型而言，当生成的文本语法正确流畅，但与原文不符（Faithfulness）或事实不符（Factualness）时，模型便出现了幻觉的问题。在传统自然语言处理中，幻觉一般指模型输出与原文信息存在冲突，或添加不在原文的额外信息。
技术实践｜百度安全「大模型内容安全」高级攻击风险评测
2024-03-14 13:32:3721258人阅读
为了更好地帮助大模型开发者及时发现模型自身的风险，评测过程中包含高级攻击的评测，百度大模型内容安全评测建立了科学，全面的攻击分类体系与构造工具，与基础内容类别结合的方法去评测高级攻击的风险情况，被评测大模型在高级攻击方面的风险可以做到更细致，更准确的认知，助力企业构建平稳健康、可信可靠的大模型服务。
云智·智算大会|大模型安全解决方案持续升级
2024-01-02 14:11:4519418人阅读
百度陈洋：护航大模型赋能千行百业
2024-01-02 13:37:2813948人阅读
百度安全荣膺AIIA“安全治理委员会副组长单位”
2023-12-12 13:29:0118687人阅读
百度大模型安全解决方案获WitAwards 2023 年度大奖
2023-11-28 13:50:0517847人阅读
