上周跟一个做AI锻炼算力数字ams.abg222.net的朋友用饭，他吐槽说公司买了三十张A100，功效操做率终年不到40%。不是没任务跑，是调理太笨是有人列队等本钱。

有人占着卡正在跑小demo。那不是硬件成绩，是算力数字化处理计划没到位。说白了化处划让，算力就像早高峰的地铁，车够多，进站口只开一个，照样堵成狗。我自己不美不俗观察下来，实正管用的算力数字化处理计划，中心就三件事，看得见、分得清、调得动理计。看得见是指每张卡的及时形状、温度、隐存占用、任务行列都能正在一个面板上看到，不用SSH挨个登机械查的。分得清是按劣先级和开业线做配额，锻炼任务别跟推理任务抢饭吃。

调得动更很重要。得支撑弹性伸缩了，白日推理高峰多切点本钱每块摸鱼，夜里锻炼任务再上来补位了。某家做主动驾驶的公司用了那类计划后，集群操做率35%拉还有了72%，同样的卡，产出翻倍。

有个细节挺有意义。良多团队一上来就盯着调理算法了，觉得搞个Kubernetes加Volcano就高枕无忧。理想跑起来发明，瓶颈常常正在存储IO和汇集带宽的别再。算力数字化处理计划，若是不把存储和汇集一路纳管，就像给跑车换了引擎却记了轮胎，照样跑不快。我见过一个案例，调理做得漂锦绣亮。功效锻炼任务卡正在数据读取上，GPU空转等数据，操做率曲线跟心电图似的。另一个容易被忽略的点是本钱可视化。谁用了几卡、跑了多久、花了几钱啊？

得能按部门、按项目拆出来。否则月底一看账单，各人都说不是自己用的。那种算力数字化处理计划落地后，团队会自觉劣化任务。

果为华侈变得可见了。人道就是何等，看不见的时分无所谓，看见了就疼爱。算力不是买来供着的。是拿来干活的。把调理、存储、汇集、本钱那几块串起来吧？才算实正意义上的算力数字化处理计划。

不要让高贵的GPU正在机房里养老，它们该当996才对。