Loading...
Loading...
共找到 3 个 Skills
在AKS上搭建AI Runway——从裸集群到运行模型。内容涵盖集群验证、控制器安装、GPU评估、提供商设置以及首次部署。适用场景：「搭建AI Runway」、「接入AKS集群」、「安装AI Runway」、「airunway 配置」、「将模型部署到AKS」、「在AKS上进行GPU推理」、「在AKS上搭建KAITO」、「在AKS上运行LLM」、「在AKS上部署vLLM」、「在AKS上搭建模型服务」、「AI Runway控制器」。
在TrueFoundry上部署ML和LLM模型，配套GPU推理服务器（vLLM、TGI、NVIDIA NIM）。使用YAML清单执行`tfy apply`命令。适用于语言模型服务、Hugging Face模型部署，或托管GPU加速的推理端点场景。
在Modal上运行GPU工作负载——训练、微调、推理、批处理。零配置无服务器：无需SSH、无需Docker、自动缩容至零。当用户提及"modal run"、"modal training"、"modal inference"、"deploy to modal"、"need a GPU"、"run on modal"、"serverless GPU"或需要远程GPU计算时使用。