GPU虚拟化理解包含直通,k8s安装,GPU-manager

news/2024/7/4 8:10:32 标签: kubernetes, 容器, 云原生

什么是VGPU?

vGPU,即真正意义上的GPU虚拟化方案,就是将一块GPU卡的计算能力进行切片,分成多个逻辑上虚拟的GPU,以vGPU为单位分配GPU的计算能力,
并将单块GPU卡分配给多台虚拟机使用,使得虚拟机能够运行3D软件、播放高清视频等,极大地提升了用户体验。真正实现了GPU资源的按需分配,
实现3D虚拟化的全场景交付。同时大大降低图形图像用户的使用成本以及提高数据的处理效率和数据安全性

用户角度GPU虚拟化分为两部分:

1,虚拟机层面:将 GPU 硬件设备分割成很多虚拟 GPU 并映射到虚机里面,如 NVIDIA vGPU。
虚拟机层面目前只能购买NVIDIA的vgpu license,没有更好的方式,如果想做这个层面的建议乖乖买,因为逆向化的太多的不确定性,针对不同的GPU型号,最新架构的还不支持
想了解这个层面的更详细文章推荐:https://www.zhihu.com/people/lai-zi-hai-jing-42/posts
2,容器层面:容器的本质还是进程,通过对驱动的某些关键接口进行封装劫持从而达到限制进程资源的目的,国内大部分做的都是这个层面的,配置写到yaml里,如qGPU 和 cGPU 等。
容器虚拟化不会有虚拟机那么多的限制
具体操作分为三个步骤将分为三篇文章讲解:

step1物理机显卡直通虚拟机 传送门:

step2安装K8S 传送门:

step3安装GPU-manager、测试全流程 传送门:gpu-manager安装步骤超详细

最后的效果:
步骤一效果:直通之后虚拟机执行命令:nvidia-smi、的效果
在这里插入图片描述
步骤三效果:kubectl describe node
在这里插入图片描述
步骤三效果:测试结果:nvidia-smi pmon -s u -d 1
在这里插入图片描述


http://www.niftyadmin.cn/n/4930819.html

相关文章

Go语言工程实践之测试与Gin项目实践

Go 语言并发编程 及 进阶与依赖管理_软工菜鸡的博客-CSDN博客 03 测试 回归测试一般是QA(质量保证)同学手动通过终端回归一些固定的主流程场景 集成测试是对系统功能维度做测试验证,通过服务暴露的某个接口,进行自动化测试 而单元测试开发阶段,开发者对单独的函数…

[bug修复]状态数据在useEffect初始化时更新无效

&#xff08;bug修复类型的博客还是用汉语写捏&#xff09; 前两天在做一个管理页面前端的时候&#xff0c;出现了这样的问题 function Son(props){const [a,seta]useState(0)useEffect(()>{seta(props.name)},[])return(<div>{a}</div>) } 这是当时情况的一…

mysql的update_time

CREATE TABLE users (id INT AUTO_INCREMENT PRIMARY KEY,name VARCHAR(50) NOT NULL,age INT,update_time TIMESTAMP NULL DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP COMMENT 更新时间 );具体解释如下&#xff1a; DEFAULT CURRENT_TIMESTAMP: 这部分表示当插入…

贪心算法:基础入门篇

贪心算法&#xff1a;基础入门篇 文章目录&#xff1a; 贪心算法&#xff1a;基础入门篇一、认识贪心算法二、常见贪心问题2.1 纸牌问题2.2 背包问题&#xff08;基础版&#xff09;2.3 简单数学证明问题 三、总结 一、认识贪心算法 在求最优解的问题中&#xff0c;以某种贪心…

进程的调度

文章目录 一、进程的调度过程二、进程调度的一些特点 一个正在执行的程序叫做进程。操作系统会把程序调度到CPU上&#xff0c;让CPU执行程序&#xff0c;此时这个程序就变成了进程。相当于程序在CPU上执行时叫进程&#xff0c;程序没有在CPU上执行时就叫程序。 一、进程的调度过…

datax抽取库名带点的表遇到的问题

一、描述任务 使用Datax抽取mysql中的数据到hive的wedw_ods层中&#xff0c;mysql的库名为&#xff1a;b.p.n.p 表名为&#xff1a;bene_group 二、datax.json脚本生成 因为datax的脚本是自动生成的&#xff0c;生成的格式如下&#xff1a; {"core": {},"jo…

2.若依前后端分离版第一个增删查改

1.介绍 若依提供了代码生成功能&#xff0c;单表的CRUD可以直接用若依框架提供的代码生成进行创建。 2.实现 2.1 在数据库创建业务表test_teacher 2.2 生成代码 运行系统&#xff0c;进入菜单[系统工具]-》[代码生成],点击导入按钮&#xff0c;选择需要生成代码的表进行导…

BOLT- A Practical Binary Optimizer for Data Centers and Beyond

论文总结 背景: 随着现代服务器上应用程序的增长&#xff0c;对于指令缓存(ICache)的压力也随之增加。ICache不命中会导致高延迟和高能耗&#xff0c;特别是在使用非均匀内存访问(NUMA)架构的数据中心中。 主要贡献: BOLT工具介绍: BOLT是一个后链接二进制优化工具&#xff0…