SkyPilot

SkyPilot 是一个开源平台，用于在本地或云端运行和扩展 AI 工作负载。由加州大学伯克利分校的 Sky Computing Lab 开发，SkyPilot 充当智能中介，能够自动寻找并分配主要云服务和 Kubernetes 集群中最便宜、最可用的 GPU，从而常常降低计算成本。对于基础设施团队而言，它通过提供类似 Slurm 的易用性、云原生的稳健性、对 Pod 的直接 SSH 访问，以及 帮派调度 和多集群支持等功能，简化了在 Kubernetes 上运行 AI 的流程，实现训练或推理工作负载的无缝扩展。