2021-06-03 20:23:4911292人阅读
近年来人脸识别技术落地势头迅猛,被广泛应用于公共安全、金融支付、交通出行等领域,落地应用过程中,也暴露出侵犯隐私、安全风险、过渡收集等问题,屡屡成为社会焦点。2021年4月7日,为规范人脸应用健康发展,中国信息通信研究院(以下简称“中国信通院”)云计算与大数据研究所正式发起“可信人脸应用守护计划”(以下简称“护脸”计划),希望站在产业的视角,通过标准制定、测试评估、行业自律、威胁共治等手段,有效回应用户的信任问题,增进行业和社会共识,促进产业健康发展,为人脸技术应用“正名”。
“护脸”计划是由政府相关部门、中国人民公安大学、中国支付清算协会、中国信通院与百度等20多家单位共同参与的产业生态,各方将紧密团结在“护脸”计划的平台上,共同探索人脸应用治理与发展的“操作指引”,与监管部门的要求对标对表,切实保护用户权益,确保企业合法利益。目前,“护脸”计划已形成《可信人脸识别操作指引》草稿、《人脸识别系统通用可信能力要求》(征求意见稿),与正在构建人脸应用威胁情报共享机制。“护脸”计划以人脸识别技术和应用为切入点,在可信AI操作指引的基础上,将针对人脸应用在可靠可控、保护隐私、明确责任、多元包容和透明可视这5个原则上进行细化。
结合此前4月23日全国信息安全标准化技术委员会发布的公告《信息安全技术人脸识别数据安全要求》(征求意见稿),该标准规定了人脸识别数据的基本安全要求、安全处理要求和安全管理要求,对人脸识别从全生命周期的数据安全做了严格要求,从而确保人脸识别在不同的生命周期过程中的安全性。有关人脸识别技术的应用其中有两大类,一类是身份识别,包括人脸的解锁、远程开户、身份核验等;另一类是基于面部特征分析的人脸识别应用,包括视频照片换脸、面部表情分析等。但更为重要的是,不论是企业还是机构,开始越来越多的将人脸识别作为安全的管控手段,为安全领域带来了全新的认知维度与治理挑战。
因而在当下,人脸绕过的黑灰产是人脸安全方案的主要打击目标之一,人脸安全方案是依托百度强大的深度学习人工智能前沿技术框架,经过与黑产的多年对抗和总结,自主研发的新一代安全SDK,通过设备软硬件信息、底层系统信息,人脸识别/活体认证行为信息,以及深度伪造识别技术;结合客户端安全因子,可有效识别通过技术手段对手机系统底层ROM篡改、hook、摄像头劫持、注入等人脸识别场景面临地安全风险。百度人脸安全方案是以Face活体检测技术为基础,提供“高安全性”、“高通过率”、“高识别率”的人脸服务,实现一键风控服务接入,摒弃传统人脸SDK直接采集摄像头数据的方式,升级为安全数据通道采集方式,从代码逻辑、采集方式、传输层多维度加固,同时采集的图像/视频等内容进行数据白盒加密处理,在云端对数据解密分析,避免数据中途篡改,保障数据传输的安全性,确保人脸数据采集真实有效。
与此同时,百度人脸安全方案也在设备层面进行重重筛查,结合人脸安全SDK,在激活人脸时与云端服务配合对客户端进行环境校验,可有效识别注入、劫持、模拟器等风险环境,确保人脸识别服务运行在安全可靠的设备上。并结合设备指纹、生物探针等大数据风控技术,建立人与设备的绑定,进而在人脸识别特殊场景的用户交互行为,对于人脸认证姿态、异常环境进行、网络环境等做综合分析,有效识别人脸识别过程中存在的各类风险。
百度人脸安全方案还在动态上结合风险模型,从设备环境、操作规律等维度上进行评判,与集成人脸识别服务与安全部的深伪识别服务,得以具有准确性与安全性的双保障。百度在基于人脸识别检测、AI 模型安全领域的长期深入的研究,实现了利用深度学习卷积神经网络对深度伪造、合成技术高效“打假”,无论是传统的 AI 换脸(Deep Fakes),还是兼具两张人脸特征、但置信度无法达到换脸程度的人脸融合(Face Merge),机器在对二者分辨真假的准确率分别高达99%及94%,相关研究早在2019年被欧洲顶级安全会议所收录。目前,百度安全已开源业内首个 AI换脸检测工具
(https://github.com/advboxes/AdvBox/blob/master/applications/fake_face_detect/README.md ),致力于促进多方部门开展联合开发及测量评估,从源头阻断滥用人工智能实施电信网络诈骗、内容平台深伪有害信息的蔓延。此外,百度安全研究员将在既往检测方式中表现不佳的经压缩放、过曝、剪切、翻转后的图像纳入模型训练的范畴,显著提升检测模型的鲁棒性。
在以ImageNet为代表的业界水平上,机器人脸识别技术的准确率早已超过了97%人类的平均水准,可以预见人脸识别技术逐渐深入社会生活的潮流,在AI与人脸识别技术的迅速发展的当下,“刷脸”逐渐成为新时期生物别技术应用的主要领域,但是从安全的角度考虑,人脸识别并非万无一失。今年两会期间,多位与会代表便提出了规制人脸信息收集使用的提案,广大网友面对日益增多的人脸收集应用场景也表达了不安。尤以Deepfakes“换脸术”的安全性在时下俨然成为舆论的焦点,不仅仅在于其早已超出了娱乐的范畴、被技术滥用对知名人士造成版权及隐私的困扰,同时也因AI换脸黑产的不断蔓延,引发了企业及监管部门的关注,针对视频内容真实性的技术检测及工具共享迫在眉睫,可以说百度人脸安全方案从人脸的采集过程、设备环境到传输过程巨细靡遗,与相关的新兴国家标准及行业要求不谋而合。百度以二十多年积累的丰富行业经验,投入大量精力在研究生物识别安全性上,人脸安全方案便曾联合百度安全昊天镜大数据风控服务,发布《金融级人脸实名认证增强方案》,一方面是呼吁设备厂商在考虑产品体验的同时多兼顾安全性,另一方面和厂商共同来探讨如何解决这些问题,共同推进生物识别技术的进步。