跳到正文

技术方向

Agent 智能体 最新动态

让模型自主规划、调用工具、完成多步任务的技术方向——从 Claude Code、Manus 到各家 Agent 框架与评测基准的全部动态。

123 条精选近 30 天 90 条共收录 650 条

更新

精选归档 · 第 7 页

日期栏展示收录日期,历史补录归入原文日期。

7月20日周一第 121–123 条
7月16日周四
  1. LiveKit Blog62

    构建一个不会跑偏的语音智能体

    LiveKit 发布教程,介绍如何构建不会脱离既定脚本的语音智能体,并以酒店前台参考智能体为例贯穿全文。文章主张单一控制手段都不可靠,需在模型内外分层设防:结构化提示词划分身份与护栏、用确定性代码校验规则并限制工具调用步数、把工作拆成聚焦任务、在敏感操作前加验证与转人工,再叠加独立审核层和基于 LLM 评判的评测框架。作者强调提示词级防御对坚定攻击者较弱,真正的规则应在代码中强制执行。

    推荐理由:原文给出语音智能体防跑偏的分层做法,从提示词结构到代码校验与独立审核,可迁移到自己的 Agent 项目。

5月1日周五
  1. OpenAI Alignment Research71

    无需同步人工监督的智能体操作自动审查

    OpenAI 发布 Auto-review 研究,用独立的 Codex 智能体在沙箱边界审批越界操作,替代用户逐次授权。内部部署中 Codex 会话需人工审批的频率比手动模式降低约 200 倍,Auto-review 对需审查操作批准约 99%,在提示注入合成评测中拒绝率 99.3%、过度主动场景 90.3%、MonitoringBench 困难集 96.1%。

    推荐理由:OpenAI 公开 Auto-review 的内部部署数据与安全评测,可了解用独立智能体替代人工审批的取舍。