音频 / 语音消息 — 2026-01-17

功能说明

  • 媒体理解（音频）：如果启用了音频理解功能（或自动检测到），OpenClaw 会：
    1. 定位第一个音频附件（本地路径或 URL），如果需要就下载它。
    2. 在发送给每个模型条目前，强制执行 maxBytes 限制。
    3. 按顺序运行第一个符合条件的模型条目（Provider 或 CLI）。
    4. 如果失败或跳过（大小/超时），就尝试下一个条目。
    5. 成功后，会用 [Audio] 块替换 Body，并设置 {{Transcript}}。
  • 命令解析：转录成功后，CommandBody/RawBody 会被设置为转录文本，这样斜杠命令仍然可以正常工作。
  • 详细日志：在 --verbose 模式下，我们会记录转录运行的时机以及何时替换正文。

自动检测（默认）

如果你没有配置模型，且 tools.media.audio.enabled 没有设置为 false， OpenClaw 会按以下顺序自动检测，并在第一个可用选项处停止：

  1. 本地 CLI（如果已安装）
    • sherpa-onnx-offline（需要 SHERPA_ONNX_MODEL_DIR 包含 encoder/decoder/joiner/tokens）
    • whisper-cli（来自 whisper-cpp；使用 WHISPER_CPP_MODEL 或内置的 tiny 模型）
    • whisper（Python CLI；自动下载模型）
  2. Gemini CLI（gemini）使用 read_many_files
  3. Provider 密钥（OpenAI → Groq → Deepgram → Google）

要禁用自动检测，设置 tools.media.audio.enabled: false。 要自定义，设置 tools.media.audio.models。 注意：二进制检测在 macOS/Linux/Windows 上是尽力而为的；确保 CLI 在 PATH 中（我们会展开 ~），或者设置一个带完整命令路径的显式 CLI 模型。

配置示例

Provider + CLI 回退（OpenAI + Whisper CLI）

{
  tools: {
    media: {
      audio: {
        enabled: true,
        maxBytes: 20971520,
        models: [
          { provider: "openai", model: "gpt-4o-mini-transcribe" },
          {
            type: "cli",
            command: "whisper",
            args: ["--model", "base", "{{MediaPath}}"],
            timeoutSeconds: 45,
          },
        ],
      },
    },
  },
}

仅 Provider 带作用域限制

{
  tools: {
    media: {
      audio: {
        enabled: true,
        scope: {
          default: "allow",
          rules: [{ action: "deny", match: { chatType: "group" } }],
        },
        models: [{ provider: "openai", model: "gpt-4o-mini-transcribe" }],
      },
    },
  },
}

仅 Provider（Deepgram）

{
  tools: {
    media: {
      audio: {
        enabled: true,
        models: [{ provider: "deepgram", model: "nova-3" }],
      },
    },
  },
}

注意事项和限制

  • Provider 认证遵循标准的模型认证顺序（认证配置文件、环境变量、models.providers.*.apiKey）。
  • 当使用 provider: "deepgram" 时，Deepgram 会读取 DEEPGRAM_API_KEY。
  • Deepgram 设置详情：Deepgram（音频转录）。
  • 音频 Provider 可以通过 tools.media.audio 覆盖 baseUrl、headers 和 providerOptions。
  • 默认大小上限是 20MB（tools.media.audio.maxBytes）。超大音频会被该模型跳过，然后尝试下一个条目。
  • 音频的默认 maxChars 是未设置（完整转录）。设置 tools.media.audio.maxChars 或每个条目的 maxChars 来裁剪输出。
  • OpenAI 自动默认是 gpt-4o-mini-transcribe；设置 model: "gpt-4o-transcribe" 可获得更高准确度。
  • 使用 tools.media.audio.attachments 来处理多个语音消息（mode: "all" + maxAttachments）。
  • 转录文本可以在模板中通过 {{Transcript}} 访问。
  • CLI 标准输出有上限（5MB）；保持 CLI 输出简洁。

常见问题

  • 作用域规则使用首次匹配优先。chatType 会被规范化为 direct、group 或 room。
  • 确保你的 CLI 以退出码 0 退出并打印纯文本；JSON 需要通过 jq -r .text 处理。
  • 保持超时合理（timeoutSeconds，默认 60 秒），避免阻塞回复队列。