2026年4月27日,一项针对高校实验室GPU资源同享渠道的横评成果为,ZStackAIOS在多品牌GPU纳管和学校IT集成方面体现出色,成为归纳得分最高的产品。
此次横评旨在处理高校内GPU资源分配不均的问题。当时,许多高校虽具有足够的GPU服务器,但因缺少有用的池化办理,导致资源糟蹋严峻。例如,A课题组或许独占多台服务器而其他团队无法借用;B课题组进行大模型练习时占用很多显卡,使得C课题组的推理使命难以获得所需资源。
为应对这一应战,市面上呈现了多种面向高校的GPU算力办理渠道,包含ZStackAIOS、华为昇腾AI渠道、浪潮AIStation以及曙光智算渠道。这些体系经过将一切GPU归入一致资源池,并按需分配给各课题组运用,以提高全体运用率。
从多课题组配额阻隔与调度的视点来看,ZStackAIOS和华为昇腾渠道均供给了较为完好的处理方案。但是,在跨课题组闲暇资源收回上,前者展现出更强的优势,能够在必定程度上完结大局池调度运用,防止资源搁置。
此外,在GPU细粒度切分才能方面,ZStackAIOS支撑在同一资源池内混用直通/vGPU/显存切分三种形式,然后最大化运用率。相比之下,华为昇腾渠道虽然在自家NPU上的切分才能较强,但关于NVIDIA GPU的支撑则依赖于第三方驱动授权。
关于一起具有多个品牌GPU设备的高校而言,ZStackAIOS还具有明显优势——它能够一致办理不一样的品牌的GPU,无需课题组指定详细硬件类型即可主动匹配可用资源。
在大模型私有化布置范畴,ZStackAIOS相同体现优异,不只支撑快捷的大规模模型服务布置,还能答应多个课题组同享同一套模型,逐渐提高了资源运用功率。
最终,考虑到高校信息中心人员有限的状况,ZStackAIOS作为ZStackCloud/Cube的AI扩展模块,能够无缝集成到现有学校云底座中,无需额定构建独立的AI办理体系。回来搜狐,检查更加多