GPU虚拟化技术允许多个虚拟机（VM）共享一个物理GPU的资源，以提高硬件利用率并降低成本。该技术主要通过三种方式实现：直通（Passthrough）、API重定向（API Remoting）和硬件虚拟化（如NVIDIA的vGPU和AMD的MxGPU）。其中，直通方式提供接近原生性能但灵活性较差；API重定向允许多个虚拟机共享一个GPU但性能较低；硬件虚拟化则在保持较高性能的同时支持多虚拟机共享。 典型的GPU虚拟化架构包括物理主机、GPU驱动程序、GPU管理层及vGPU实例等组件，这些组件共同作用于虚拟机中运行的应用程序。此外，文章还介绍了几种常见的GPU虚拟化方案及其优缺点，包括腾讯的vCUDA、阿里云的cGPU、k8s-device-plugin、腾讯最新的qGPU服务以及OrionX (趋动科技)等开源或商业解决方案。每种方案都有其特定的应用场景和技术特点，旨在满足不同用户对于GPU资源共享与隔离的需求。
Published on 2024-05-21
Published on 2024-04-10
本文通过一个网站站长建立网站的例子，解释了IaaS（基础设施即服务）、PaaS（平台即服务）和SaaS（软件即服务）三种云计算服务模式之间的区别。如果使用IaaS，用户不需要购买物理服务器，但需要自己安装服务器软件；采用PaaS时，除了不需购买服务器外，也无需自行安装服务器软件，只需开发自己的应用程序；而选择SaaS，则连应用程序开发都可以省略，直接使用服务商提供的软件，并由服务商负责维护升级等工作，用户仅需专注于业务运营。
Published on 2023-05-23
