Skip to content

2个T4卡,如何设置不同的模型加载在不同的卡上,不是直接使用litserve的方案 #2261

2个T4卡,如何设置不同的模型加载在不同的卡上,不是直接使用litserve的方案

2个T4卡,如何设置不同的模型加载在不同的卡上,不是直接使用litserve的方案 #2261

CLAAssistant

succeeded Oct 27, 2024 in 4s