vLLM 发布 TorchTPU 后端，支持在 Google Cloud TPU 上运行 vLLM

Inferact 与 Google 团队发布 vLLM TorchTPU（vllm-torchtpu），一个在 Google Cloud TPU 上运行 vLLM 的新后端，复用 vLLM 现有模型代码，多数现有模型无需改动即可在 TPU 上服务。