专题出品人: 韦韬

百度 首席安全科学家

专题:安全

互联网安全日益成为企业可持续发展的关注点,追求高效信息安全技术和整体方案成为企业刻不容缓的重点关注点。我们邀请业界顶级安全专家讲解最新落地案例,让听众体验、学习安全研究成果的力量与价值。

本专题下的议题

第三方视角下的移动互联网用户隐私风险
王文杰 北京众安天下科技有限公司 合伙人&CTO
所属专题:安全

课程概要

案例背景介绍:
移动互联网蓬勃发展,移动互联网应用在开发的过程中大量引入第三方SDK,在史上最严的个人数据保护条例GDPR背景下,第三方SDK安全性及用户隐私泄露出现多重隐患,议题以大量移动互联网应用及第三方SDK作为分析案例,浅析第三方视角下的移动互联网用户隐私风险。

解决思路/成功要点:
介绍国内外用户隐私保护情况,通过对SDK和APP应用分析采集安全性及用户隐私相关情况。

成果:
移动互联网应用中第三方软件开发工具包安全现状、用户隐私泄露窥探。

听众收益

移动互联网企业、第三方软件开发平台、移动互联网从业者了解用户隐私的概念,合理规避用户隐私泄露风险。

使用全同态加密构造数据安全方案的安全风险
彭峙酿 360 核心安全事业部 漏洞挖掘与利用高级专家
所属专题:安全

课程概要

案例背景介绍:
用户隐私及数据安全受到的关注越来越大,但是很好的解决用户隐私和数据安全问题缺一直是一个困难问题。全同态密码的出现给其带来了新的希望,不少公司目前正在基于全同态加密构造数据安全解决方案。然而我们的研究发现,全同态加密的使用会带来非常多新的安全问题。本议题讲介绍这些问题,并给出相应解决方案。

解决思路/成功要点:
对当前热门的全同态加密方案进行系统性研究;在具体应用场景中验证安全问题;选择典型的全同态密码库实现进行安全分析。

成果:
项目最终定位出全同态加密多个安全问题;并与微软研究院合作一起提出相应的解决方案。 个人体会: 新的技术总是伴随着新的风险,数据安全没有银色子弹。

听众收益

了解数据安全前沿动态;
了解全同态密码应用及性能改进现状;
了解全同态密码安全风险;
全同态密码构建数据安全方案挑战和正确途径

安全攸关应用中AI面临的挑战与应对
韦韬 百度 首席安全科学家
所属专题:安全

课程概要

深度学习方法在过去几年取得了飞速的发展,并应用到越来越多的业务场景。但是深度学习在安全攸关(Safety-critical)的业务场景下应用时,目前还缺乏系统化的方法来确保安全,比如基于视觉识别的某知名自动驾驶系统屡次出现车毁人亡的事故。

我们从安全威胁着手,展示了各个具有代表性的安全攸关业务场景在不同对抗样本攻击(例如数字空间白盒、物理世界白盒、云端黑盒等)以及正常的环境扰动时所面临的严重风险。比如从Safety角度出发,正常环境的概率扰动可能造成目前视觉识别系统的严重错误; 从Security角度出发,作为白盒模型的目标检测模 型YOLOv3,物理对抗样本可以使它无法有效探测面前的车辆;以及广泛应用的云端黑盒模型,也面临着严峻的迁移攻击威胁,可以被迅速绕过。

针对这些威胁,我们将介绍目前已有的模型鲁棒性的度量方法,以及提 升模型鲁棒性的手段。同时我们也介绍了百度安全实验室在AI安全研究前沿的研究成果,包括物理世界与云端黑盒的AI模型攻击与检测,模型鲁棒性度量与提升以及我们的AI安全开源工具箱等等。我们希望本报告为广大AI研究人员和工程应用人 员提供一个模型鲁棒性的阶段总结,并呼吁业界将模型鲁棒性作为AI模型预测准确性之外的一个 重要测评标准,同时制定有效的模型安全标准和规范,为深度学习在安全攸关场景中的应用打下坚实的基础。

听众收益

1、学习到安全攸关业务场景在不同对抗样本攻击(例如数字空间白盒、物理世界白盒、云端黑盒等)以及正常的环境扰动时所面临的严重风险;
2、从Safety角度出发,正常环境的概率扰动可能造成目前视觉识别系统的严重错误; 作为白盒模型的目标检测模型YOLOv3,物理对抗样本可以使它无法有效探测面前的车辆;以及广泛应用的云端黑盒模型,也面临着严峻的迁移攻击威胁,可以被迅速绕过;
3、针对上面的这些威胁,我们将学习目前已有的模型鲁棒性的度量方法,以及提升模型鲁棒性的手段;
4、学习百度安全实验室在AI安全研究前沿的研究成果,包括物理世界与云端黑盒的AI模型攻击与检测,模型鲁棒性度量与提升以及我们的AI安全开源工具箱等等。

百度首席安全科学家(T11)、百度安全实验室负责人、北大客座教授。曾任UC Berkeley 大学著名安全团队 BitBlaze 协办人,MITBBS联合创立者,在系统安全学术界和工业界均有不凡建树。目前在百度担任安全技术通道主席、基础技术体系TC联席主席,推动百度在安全、边缘计算、开源生态等多个领域工作获得了长足的进展。

专题:安全

互联网安全日益成为企业可持续发展的关注点,追求高效信息安全技术和整体方案成为企业刻不容缓的重点关注点。我们邀请业界顶级安全专家讲解最新落地案例,让听众体验、学习安全研究成果的力量与价值。

其他相关专题

CopyRight © 2008-2019 Msup & 高可用架构