Grok Voice 3.0 发布:SpaceXAI 语音智能体模型登顶 Artificial Analysis
SpaceXAI 发布语音到语音模型 Grok Voice 3.0,在 Artificial Analysis Speech-to-Speech Index 上以 86.9 分排名第一,高于 GPT-Live-1(Astra, medium)的 83.2 分和 Gemini 3.8 Live Extended Thinking 的 82.6 分。
日期栏展示收录日期,历史补录归入原文日期。
SpaceXAI 发布语音到语音模型 Grok Voice 3.0,在 Artificial Analysis Speech-to-Speech Index 上以 86.9 分排名第一,高于 GPT-Live-1(Astra, medium)的 83.2 分和 Gemini 3.8 Live Extended Thinking 的 82.6 分。
Fish Audio 发布 Fish Audio Drama 3,一个 35B 混合专家(MoE)文本转语音模型,每 token 约 3B 激活参数,权重已上传 Hugging Face 并上线 Fish Audio API。
SpaceXAI 发布 Grok Voice 3.0 语音转语音模型,官方称其为全球智能水平最高的语音模型,延迟低于 1 秒,运行成本低于其他前沿模型。该模型在 Artificial Analysis 语音转语音综合榜单以 86.9 分排名第一,全双工基准测试得分 97%,τ-Voice 得分 71.6%,性能与 GPT-Live-1(Astra)相当但延迟降低 40%。
推荐理由:Grok Voice 3.0 的延迟、成本与多项语音基准得分,可用于比较当前语音智能体的能力与定价。
Square 推出 Square Kiosk 自助点餐终端,配备 21.5 英寸触摸屏和“智能体对话语音层”,可理解商家菜单并实时应答,顾客能通过对话提问、修改订单和替换菜品。该设备支持存在检测迎宾和感应支付或插卡付款,即日起面向 Square Plus 或 Premium 订阅商家发售,硬件售价 1,999 美元,另收每台每月 99 美元软件费。
原文发布
研究提出一种直接从语音中检测语码转换的轻量方法,利用预训练语音编码器帧级语言信息判断一句话中是否同时出现两种语言。在 CS-FLEURS 的 14 个语言对上,Whisper-small 编码器平均 F1 达 0.798,高于 CNN 的 0.776 和 HuBERT 线性基线的 0.751。结果表明预训练语音编码器已编码识别语码转换所需信息,可用于构建更具代表性的多语种语料。
Apple 团队首次从头预训练三模态掩码扩散模型(MDM),同时处理文本、图文和音频-文本数据,并系统分析多模态缩放规律、模态混合比例与噪声调度。其批次大小分析提出基于 SDE 的重参数化,将物理批次与逻辑批次解耦,免去最优批次调参。团队预训练出 3B 规模(6.4T tokens)初步模型,在文本生成、T2I 和 T2S 任务上均取得强劲结果。
原文发布
Higgsfield 借助 GPT-6 Astra 将 AI 视频生成时长从 1 分钟提升到 10 分钟以上,并用 GPT-Image-2.5 提升画面精度,同时通过 GPT-Live 打通语音电影制作路径。
Gradium 的 TTS 模型专为实时 AI 语音智能体设计,在 Coval TTS 基准(2026 年 5 月 4 日数据)上实现 155 ms 中位 TTFA,四分位距仅 2 ms,达到快于人类语音响应的水平。
Apple 发布首款家用智能显示屏 HomeView,售价 299 美元,即日起开启预售,11 月 13 日发货,首批覆盖美国、英国、加拿大、澳大利亚、新西兰、新加坡、南非和印度八个国家。
原文发布
企业语音 AI 平台 PolyAI 的 CTO Shawn Wen 认为,尽管全双工模型已经问世,语音 AI 仍未迎来自己的“ChatGPT 时刻”,下一步挑战是让推理足够快、对话足够自然。
前Plaud高管Peter Mo创办的Ambi完成2600万美元多轮融资,由Luminous Ventures和华勤领投,并推出iPhone、Mac和Apple Watch应用。该应用可全天候聆听用户以捕捉上下文,其AI智能体能在会议进行中主动给出建议或调取相关知识。Ambi还计划推出带屏幕、扬声器、摄像头和麦克风的硬件设备,环境数据采集默认关闭且用户可随时关闭。
MarkTechPost 按官方产品、定价与文档页核验了 12 款 AI 实时翻译工具,覆盖消费级应用、会议插件、活动平台与开发者 API。Palabra.ai 宣称延迟低于 1 秒,API 语音到语音 $0.04/分钟;Gemini 3.5 Live Translate 支持 70+ 语言;Apple Live Translation 完全端侧运行,支持 10 种语言变体。
阿布扎比技术创新研究院(TII)发布 1.6B 参数的阿拉伯语语音识别模型 Falcon-ASR,在 6 个阿拉伯语测试集上平均 WER 为 20.92%,比 Audar-ASR-V1-Turbo 的 23.17% 低 2.25 个百分点。
Raise Financial Services 正与 Cartesia 合作开发多语言语音体验,将其自研的 70 亿参数印度金融市场小语言模型 artham 的金融智能延伸至自然的多语言对话。
作者因忘带笔记本电脑,尝试仅用手机上的 ChatGPT 语音完成一周工作。这得益于 OpenAI 7 月发布的 GPT-Live,它支持用语音指挥智能体,体验类似钢铁侠的 AI 助手 Jarvis。作者借此实验验证日常办公能在多大程度上脱离屏幕与键盘。
Sierra 更新其模型系列,推出 fleming-1,可在通话中实时分析来电者语音,判断对方是否为 AI 智能体。该模型默认偏保守,避免误标真人,识别结果交由企业自行决定如何处理,并可与任何基于 Sierra 构建的语音智能体配合,只需开启即可。此前 Sierra 已宣布与行业伙伴共同推进 Personal Agent Protocol 开放标准,让个人智能体以授权方式与企业交互。
Serve AI 将其在 Retell 上拥有 224 个节点、600 多条边的对话流程图智能体重写为 LiveKit 上的单提示词智能体,借助 Agent Simulations 用约 100 通真实生产通话测试,达到 98% 通过率、1.3 秒中位轮次延迟后才切换流量。迁移首周完成且无需回滚,上线后通话拦截率提升 15%,预计每年为客户额外节省 32 万美元。
LiveKit 宣布 Agent Simulations 面向所有 LiveKit Cloud 项目正式可用,用 LLM 驱动的模拟用户按任务级场景跑完整对话,再由 LLM 裁判给出通过与否及原因。
推荐理由:LiveKit 把语音智能体测试做成可版本化的场景套件,读者可据此了解如何把回归测试接进 CI。
Preferred Networks 发布 PLaMo 翻译大型更新版,基于第三代国产 LLM PLaMo,称其日语翻译精度与 Claude Fable 5.1、GPT-6.1 Sol、GPT-6 Astra 等前沿模型相当,成本约为原文10万字符14日元,不到海外前沿模型和机器翻译服务的十分之一。
推荐理由:原文给出翻译精度对标、成本对比与53语言扩展,可据此判断国产LLM在垂直场景的落地方式。
OpenRouter 上线 ElevenLabs 的九个文本转语音模型和两个语音转文本模型,已有 OpenRouter 应用可直接调用语音与转写接口,无需单独的 ElevenLabs 套餐。
推荐理由:OpenRouter 接入 ElevenLabs 语音模型,读者可了解语音能力如何并入现有 LLM 调用链路。
Sierra 在旧金山 Sierra Summit 2026 上发布 Agent OS 的两款新模型 Curie 和 Fleming,Curie 负责对话核心编排,Fleming 用于识别来电方是否为 AI 智能体。
LiveKit 发布面向开发者的语音 AI 智能体平台对比,从四个问题评估 Retell、Vapi 和 LiveKit:上线后是否持续迭代、需求超出默认配置怎么办、是否需覆盖电话之外的渠道、规模化成本是否重要。
多语言自监督语音模型在相同预训练数据预算下仍逊于单语模型,研究发现强化预训练中的语言判别能力可缩小这一差距。
Google Cloud 团队发布教程,讲解如何用 Gemini Live API 构建可实时打断的语音 AI 智能体。方案由浏览器客户端、Gemini Live API 和 Python 后端三部分组成,通过 WebSocket 保持双向音频流,并利用内置 VAD 实现 barge-in 打断,在本地先静音并清空播放缓冲以降低延迟。
推荐理由:原文给出 Gemini Live API 构建实时语音智能体的完整架构与打断处理思路,可迁移到自建语音应用。
Google DeepMind 发布 Gemini 3.8 Live with Live Avatar,将实时视频生成与语音对话结合,为 Gemini 的对话式 AI 带来近实时的视觉形象。
推荐理由:官方给出 Live Avatar 的实时音视频对话能力、异步工具调用与 97 种语言支持,可据此判断企业级数字人交互的落地形态。
Google DeepMind 发布 Gemini 3.8 Flash TTS 和 Gemini 3.8 Flash-Lite TTS 两款文本转语音模型,前者面向角色设计与深度创作控制,后者面向高并发、低成本的配音与语音智能体场景。
推荐理由:原文给出两款 TTS 模型的语音设计、复刻与逐行导演能力及基准排名,可据此判断语音生成工作流的变化。
NVIDIA Nemotron 3 Diarization 发布,这是一个约 100M 参数的 Transformer 说话人分离模型,基于 NVIDIA Streaming Sortformer 构建,把 16 kHz 音频切成 10ms 帧并输出 T×8 的说话人活动概率矩阵。
推荐理由:原文给出单检查点四档延迟、DER 对比与单卡并发上限,可据此评估实时说话人分离的部署成本。
Cartesia 发布 Multilingual Voices,50+ 语音库音色可原生支持最多 25 种语言,并支持把自建语音克隆做成多语言。每个语言和口音由母语者按评分标准审核,检查口音是否保持以及日期、数字、货币是否按当地方式朗读。
LiveKit Agents 与 Pipecat 是构建生产级实时语音和视频 AI 智能体的两大主流开源框架,前者基于 LiveKit 自研 WebRTC 和 SIP 基础设施、提供更高层抽象,后者不预设传输层、以更低层抽象让开发者逐级搭建流水线。TEN Framework、Dograh、Vision Agents 和 Vocode 等名字虽会出现,但均未进入生产选型名单。
LiveKit 推出创业计划,为符合条件的初创公司提供约 23,000 美元总价值资源:7,000 美元推理额度(覆盖 LiveKit Gemma 4 31B。
蚂蚁 Venus Team 与清华大学开源 Realtime-Venus 全双工交互系统,包含 9B 的 Realtime-Venus-Omni 与 Realtime-Venus-Audio 两个模型,以及负责后台任务执行的 Realtime-Venus-Harness 运行时。
推荐理由:可了解全双工对话模型与异步任务框架如何组合,以及开源仓库提供的模型与运行入口。
Google DeepMind 发布 Gemini 3.8 Live 和 Gemini 3.8 Live Extended Thinking 两款实时语音对话模型,前者面向规模化与成本效率,后者面向高复杂度任务与多步推理。
推荐理由:Google DeepMind 发布两款实时语音对话模型,给出基准成绩与开发者接入渠道,可据此判断语音智能体的能力水位。
TTS 模型与音色并非同一概念:音色更像输入,模型提供通用能力,音色决定生成语音的特征。固定说话人模型只接收文本,多说话人模型可额外选择预设音色,零样本克隆模型则接受参考音频作为提示。Cartesia 的 Instant Voice Cloning 只需 10 到 60 秒音频即可克隆音色,其 Sonic 端到端 TTS 模型同时支持克隆。
LiveKit 语音智能体日志中的“inference is slower than realtime”警告指的是智能体进程内的 VAD 模型处理音频窗口超时,与 LiveKit Inference 所用的 STT、TTS、LLM 模型无关。
文章用 RAG 检索的 top_k 取值说明 Precision 与 Recall 的权衡:取 3 个 chunk 精度高但漏掉相关内容,取 50 个则召回高但混入大量无关内容。
LiveKit 推出非生产部署(non-production deployments),让智能体以另一个名称与生产环境并行运行,共用同一镜像、项目和密钥,一条命令即可创建。
LiveKit 发布 Connectors,在 LiveKit 房间与 Twilio Programmable Voice、WhatsApp Business Calling 之间建立直连,通话作为 kind 为 CONNECTOR 的参与者进入房间,无需配置 SIP trunk 或运行网关。
推荐理由:LiveKit 把 Twilio 与 WhatsApp 通话直接接入房间,读者可据此判断现有电话工作流如何少改架构。
Cartesia 发布语音模型 Sonic-3.6,在十五个地区的盲测对比中听众偏好率最高达 93%,并在 Artificial Analysis 的受控与供应商语音榜上均列第一。
推荐理由:Cartesia 公布 Sonic-3.6 的盲测偏好数据与延迟指标,可据此判断语音合成在自然度与多语言上的进展。
LiveKit 发文分析语音智能体对"yes""no""ok"等短回答响应失败的常见原因,核心在于轮次检测依赖 final_transcript 与 end_of_speech 两个事件,任一缺失轮次就无法关闭。
LiveKit 将智能体会话分钟数、录制、WebRTC 连接和 SIP 连接改为按秒计费,最低计费单位为 10 秒,适用于所有套餐与账户(含企业合同),当前客户已生效,8 月用量将体现在 9 月账单中。该调整无面向客户的技术变更,主要解决按分钟计费在出站呼叫等短时场景下的计费偏差,避免为未使用的分钟付费。