Loading...
Loading...
共找到 17 个 Skills
接口AI 模型服务参考文档，涵盖 LLM API（兼容 OpenAI）、图像/视频/音频 API、集成方案、鉴权/计费/定价/限流及故障排查。适用于"如何在 OpenAI SDK / LangChain 等工具中接入 接口AI？"以及 接口AI 请求失败等问题。
在AKS上搭建AI Runway——从裸集群到运行模型。内容涵盖集群验证、控制器安装、GPU评估、提供商设置以及首次部署。适用场景：「搭建AI Runway」、「接入AKS集群」、「安装AI Runway」、「airunway 配置」、「将模型部署到AKS」、「在AKS上进行GPU推理」、「在AKS上搭建KAITO」、「在AKS上运行LLM」、「在AKS上部署vLLM」、「在AKS上搭建模型服务」、「AI Runway控制器」。
通过将容器执行委托给对应的平台skill，启动、查询和停止特定网络架构的TAO推理微服务（{network_arch}-inference-microservice）。负责处理容器镜像解析、作业负载JSON构建以及服务注册表管理。适用于用户希望通过微服务容器在TAO模型检查点上运行推理、部署TAO推理端点或停止正在运行的推理容器的场景。
通过CLI管理Databricks Model Serving端点。适用于需要为LLM推理、自定义模型或外部模型创建、配置、查询或管理模型服务端点的场景。
用于部署科学模型的双重工具组合。FastAPI 是一款高性能异步 Web 框架，可用于构建带有自动文档的 API；Streamlit 支持直接通过 Python 脚本快速创建交互式数据应用与仪表板。适用于 Web API 开发、模型服务、REST 端点构建、交互式仪表板开发、数据可视化 UI、科学应用部署、异步 Web 框架使用、Pydantic 验证、uvicorn 部署或构建生产级科学工具等场景。
Sagemaker Endpoint Deployer - 用于ML部署的自动激活技能。 触发条件：提及sagemaker endpoint deployer、sagemaker endpoint deployer 属于ML部署技能类别。
Flask ML API Creator - 用于ML部署的自动激活Skill 触发条件：flask ml api creator、flask ml api creator 属于ML部署Skill类别。
Vertex Ai Deployer - 用于ML部署的自动激活技能。 触发条件：vertex ai deployer、vertex ai deployer 属于ML部署技能类别。
Triton Inference Config - 面向ML部署的自动激活技能。 触发条件：提及triton inference config、triton inference config 属于ML部署技能类别。
Model Registry Manager - 面向ML Deployment的自动激活技能。 触发条件：提及model registry manager、model registry manager 属于ML Deployment技能类别。
Feature Store Connector - 面向ML Deployment的自动激活技能。 触发条件：feature store connector、feature store connector 属于ML Deployment技能类别。
适用于为SGLang、vLLM或其他引用GitHub PR的服务框架创建或修订模型PR优化历史文档。要求针对每个PR手动进行源码差异审查，并记录动机、核心实现方案、关键代码片段、已审查文件以及验证影响，而非使用生成式内容或单行摘要。