容器云调度GPU资源?

容器云平台是否可以将GPU资源池化,类似CPU和内存资源一样跨服务器去进行灵活的调度?显示全部

容器云平台是否可以将GPU资源池化,类似CPU和内存资源一样跨服务器去进行灵活的调度?

收起
参与6

返回daliu的回答

daliudaliu系统架构师某金融机构

基本都可以,这个问题需要从容器云平台的提供商来看,实现方式不太一样,我们把提供商分成2类:
第一类就是头部云厂商提供容器云平台,基本都支持GPU资源池化,支持跨服务器进行灵活调度,同时支持单张卡的切分,即,多个pod可以共享一张卡,比如阿里云的cGPU,腾讯云的qGPU等;
第二类是规模较小的云厂商,采用k8s开源插件也能实现简单的GPU资源池化,只要GPU服务器在一个集群,也能实现跨服务器调度,但是他们不支持单卡切分,除非使用Nvidia vGPU技术或者引入第三方GPU池化方案。

银行 · 2023-04-23
浏览642

回答者

daliu
系统架构师某金融机构

daliu 最近回答过的问题

回答状态

  • 发布时间:2023-04-23
  • 关注会员:2 人
  • 回答浏览:642
  • X社区推广