Inferact 与 Google 发布 vLLM TorchTPU 后端
热点事件持续更新
Inferact 与 Google 发布 vLLM TorchTPU 后端
1 篇报道1 个报道来源20 小时前更新
先了解这件事
AI 综述
Inferact 与 Google 团队发布 vLLM TorchTPU（vllm-torchtpu），一个在 Google Cloud TPU 上运行 vLLM 的新后端。它复用 vLLM 现有模型代码，多数现有模型无需改动即可在 TPU 上服务。 使用条件：需在 Cloud TPU VM 上使用 Python 3.12，并安装配套的 vLLM、torch、torch_tpu 和 libtpu。推荐硬件为 TPU v7x（Ironwood），每个 pull request 都在 CI 中测试；v6e、v5e 和 v5p 为实验性支持。基于该后端开发的团队可申请免费 TPU 时长，Inferact 的 vLLM 核心维护者会协助设计和 PR 审查。
AI 根据报道生成 · 2 小时前更新
最新进展10月20日 08:00
vLLM 发布 TorchTPU 后端，支持在 Google Cloud TPU 上运行 vLLM报道时间线
沿着报道，了解事件的不同侧面。
10月20日
- vLLM BlogvLLM 发布 TorchTPU 后端，支持在 Google Cloud TPU 上运行 vLLM
Inferact 与 Google 团队发布 vLLM TorchTPU（vllm-torchtpu），一个在 Google Cloud TPU 上运行 vLLM 的新后端，复用 vLLM 现有模型代码，多数现有模型无需改动即可在 TPU 上服务。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。