专题出品人: 周小四

青云科技 多云及边缘平台高级总监

专题:云原生

本专题下的议题

基于 Kubernetes 的云原生 AI 平台建设
黄河&霍秉杰 青云科技 & 极视角科技
所属专题:云原生

课程概要

案例背景:
极栈 AI 平台 v1.0 是使用容器方式挂载指定GPU来分配算力,容器内置 Jupyter 在线IDE实现和开发者交互,开发者完成算法训练。随着算法开发需求越来越多,同时数据集是由用户真实场景提供,算法开发人员来自外部; 如何将算力资源利用率最大化,如何让外部算法开发人员完成训练又保障算法需求方客户数据集不外泄,如何低人力成本评估成千上万个算法的质量,一系列问题急需一套完整解决方案。

解决思路:
通过引入 KubeSphere 作为 AI 平台的底座,基于 KubeSphere 的监控、告警、日志、事件与审计系统打造数据沙盒的核心组件包括训练、测试监控系统等;
制定算法输入输出标准,基于算法输出路由机制解析输出等来实现自动评估算法精度、 性能等核心指标;
基于 QingStor NeonSAN 分布式存储系统实现 AI 平台各类数据集、模型、容器镜像、代码等数据的可靠存储和生命周期管理。

成果:
1. 算力资源排队机制,用完即释放,GPU 资源利用率提升 30%;
2. 数据沙盒实现了十万级的训练和万级测试数据和开发者完全隔离,只开放百级的样例集;
3. 自动测试系统提升了测试效率 80%,并提高了算法迭代效率 30%;
4. 基于 QingStor NeonSAN,4 场国内大型AI竞赛存储相关模块 0 故障。

听众收益

1. 了解 AI 开发全生命周期;
2. 了解 AI 平台核心技术,AI 平台本质是一个 PaaS 平台,不懂深度学习等算法开发的同学完全可以参与到未来 AI 时代基础设施的核心开发建设中。
3. 了解 Kubernetes, KubeSphere 等云原生技术给 AI 平台带来的创新和价值;
4. 了解通用容器管理平台 KubeSphere 社区最新进展

利用Dapr轻易开发跨云云原生应用
朱永光 微软 咨询服务部高级技术顾问
所属专题:云原生

课程概要

案例背景:
云原生应用已经成为一种主流的应用形态,其天生利用云平台的大量基础性服务,让应用本身可轻易获得高可用、高扩展、高性能、高伸缩、高可信等能力。
但是云原生应用的开发也面临诸多挑战。其中一个巨大的挑战就是,云原生应用要利用云平台的基础性服务,不得不引入大量的服务特定SDK到应用当中。当云原生应用需要混合多种语言来开发,并且需要进行跨云部署(或者要做到云平台中立)的时候,整个云原生应用的开发难度将会成倍提高。

解决思路:
针对上述挑战,微软发起了一个名为Dapr(分布式应用程序运行时)的开源项目。其依靠Sidecar架构把常见的一些云平台基础服务进行高度抽象后,为应用程序提供了统一的访问规范和开放的访问协议,从而达到了对外部服务依赖的隔离。通过这些抽象和隔离,Dapr给开发人员提供了多个构建块和组件,帮助其在开发云原生等分布式应用程序的时候如虎添翼。

成果:
本课程将对Dapr进行一个概览性介绍,并结合DEMO和案例讲解Dapr的组成部分和开发过程。

听众收益

通过参与本课程,可以对Dapr进行一个全面的了解,并能在自己的实际项目开发中引入Dapr。

腾讯云原生同城双活解决方案
邱浩 腾讯云 泛互联网行业-资深解决方案架构师
所属专题:云原生

课程概要

案例背景:
国内多数电商平台,在业务发展初期,其平台均部署在单个数据中心,平台发展到一定规模后,一旦单个数据中心故障服务中断,往往影响数百万商家和上亿买家。此时,平台必然需要实现单可用区故障不影响业务连续性。然而,传统的跨数据中心高可用方案,会面临资源浪费或业务改造量大等代价。如何利用云原生技术,低成本的实现业务跨数据中心高可用,是众多电商平台遭遇的难题。

解决思路:
针对上述挑战,腾讯云基于内部高可用架构的多年沉淀,推出云原生同城双活解决方案,在资源高效利用、业务零改造、运维低代价的前提下,将部署在单个数据中心的业务,在线升级为同城双活架构,进而提升业务的连续性。

成果:
1、业务零改造代价实现同城双活架构。
2、单数据中心故障恢复速度快,且不增加运维复杂度。
3、方案已协助数个电商平台在线升级为同城双活架构。

听众收益

1.了解通用的跨数据中心高可用方案及优缺点。
2.了解腾讯云云原生同城双活解决方案及价值。
3.了解常用数据库及中间件跨数据中心架构的实现原理。

周小四(Ray Zhou),多云及边缘平台高级总监,负责KubeSphere容器平台、OpenPitrix多云应用管理平台、IoT 平台、EdgeWize 边缘计算平台、iFCloud 统一多云管理平台等产品的开发工作。在加入青云科技之前曾供职于美国Florida International University(FIU)、IBM及高德。获得FIU计算机硕士、MBA学位,上海交通大学模式识别及智能系统硕士学位。入选朝阳区高层次人才。

专题:云原生

CopyRight © 2008-2021 Msup & 高可用架构

京ICP备09001521号