Local Transcription

Polar Sponsor
爱发电 赞助
.NET 9.0

本地语音转文字(Qwen ASR),转录任务在 Apple Silicon 设备集群中分配,支持会议、语音笔记、播客等本地内容。

本地语音对文本 Transcription

功能概述

本地语音对文本 Transcription是一项面向实际任务的技能,主要用于您正在帮助某人在音频文件中使用语音对文本的转录—— 会议、语音备忘录、播客节目、电话录音—— 而不发送任何信息。它将相关步骤、工具调用和结果整理方式集中到统一流程中,帮助使用者更快完成目标并减少重复操作。

核心要点

  • 使用时应结合输入条件选择合适的执行方式,核对必要参数、依赖环境与输出内容,并按原始要求处理异常情况。
  • 该技能适合需要稳定复用相关能力的场景,可作为自动化工作流的一部分,也便于后续检查、调整和扩展。
  • 从功能定位来看,该技能强调把分散的操作要求整理成清晰、可复用的处理流程,使用户能够围绕既定目标快速准备输入、选择执行方式并获得结构化结果。

使用与执行

实际使用前应先确认任务范围、数据来源、运行环境、必要权限和关键参数,再依据技能说明逐步执行;若输入条件不完整,应先补齐信息或采用保守配置,避免因错误假设导致结果偏离需求。

结果检查与注意事项

执行过程中需要关注工具调用是否成功、接口或依赖是否可用、输出格式是否符合预期,并对异常提示、缺失字段和边界情况进行处理;涉及批量任务时,还应保存进度,避免中断后重复操作。

本地语音转文字(Speech-to-Text)转录

您正在帮助他人对音频文件(如会议录音、语音备忘录、播客单集、电话录音等)执行语音转文字转录,全程无需上传至云端。所有音频文件均保留在用户本地设备中。系统集群会自动为每次语音转文字任务选择最优节点进行处理。

为何本地语音转文字转录至关重要

云端语音转文字 API 按分钟计费,且需将您的音频上传至第三方服务器。会议录音包含敏感的商业讨论,语音笔记承载个人思考,播客访谈则可能涉及尚未发布的原创内容——这些数据都不应离开您的内网。本地转录确保全程私密可控。

本能力将语音转文字请求智能调度至您的设备集群中。若某台机器正忙于处理一个 3 小时长的转录任务,后续语音转文字请求将自动路由至其他空闲设备。转录队列管理、节点健康监控与仪表盘可视化等功能,均基于您自有硬件实现——功能完备性媲美云端语音转文字 API,但完全运行于本地基础设施之上。

开始使用语音转文字转录

pip install ollama-herd
herd                                    # 启动转录路由服务(监听端口 11435)
herd-node                               # 在每台转录设备上运行
uv tool install "mlx-qwen3-asr[serve]" --python 3.14  # 安装语音转文字模型

启用语音转文字转录功能:

curl -X POST http://localhost:11435/dashboard/api/settings 
  -H "Content-Type: application/json" 
  -d '{"transcription": true}'

软件包:ollama-herd | 仓库地址:github.com/geeks-accelerator/ollama-herd

使用语音转文字进行音频转录

curl — 基础转录

# 对会议录音执行语音转文字转录
curl -s http://localhost:11435/api/transcribe 
  -F "audio=@meeting-recording.wav" | python3 -m json.tool

Python — 语音转文字转录

import httpx

def speech_to_text_transcription(audio_path):
    """对音频文件执行语音转文字转录。"""
    with open(audio_path, "rb") as f:
        transcription_resp = httpx.post(
            "http://localhost:11435/api/transcribe",
            files={"audio": (audio_path, f)},
            timeout=300.0,
        )
    transcription_resp.raise_for_status()
    transcription_result = transcription_resp.json()
    return transcription_result["text"]

# 执行语音转文字转录
transcription_text = speech_to_text_transcription("meeting.wav")
print(transcription_text)

带时间戳的语音转文字转录

def transcription_with_timestamps(audio_path):
    """执行语音转文字转录,并返回带时间戳的分段结果。"""
    with open(audio_path, "rb") as f:
        transcription_resp = httpx.post(
            "http://localhost:11435/api/transcribe",
            files={"audio": (audio_path, f)},
            timeout=300.0,
        )
    transcription_resp.raise_for_status()
    transcription_result = transcription_resp.json()
    for transcription_chunk in transcription_result.get("chunks", []):
        print(f"[{transcription_chunk['start']:.1f}s - {transcription_chunk['end']:.1f}s] {transcription_chunk['text']}")
    return transcription_result

转录响应格式

{
  "transcription_text": "Hello, this is a test of the speech-to-text transcription system.",
  "language": "English",
  "transcription_chunks": [
    {
      "text": "Hello, this is a test of the speech-to-text transcription system.",
      "start": 0.0,
      "end": 3.2,
      "chunk_index": 0,
      "language": "English"
    }
  ]
}

支持的音频格式

WAV、MP3、M4A、FLAC、MP4、OGG —— 即 FFmpeg 支持的所有格式。WAV 文件可通过原生快速路径获得约 25% 的转录速度提升。

语音转文字转录响应头字段

Header 说明
X-Fleet-Node 执行本次语音转文字转录的设备标识
X-Fleet-Model 所用转录模型(qwen3-asr)
X-Transcription-Time 转录处理耗时(毫秒)

语音转文字转录模型

Qwen3-ASR —— 2026 年最先进的开源语音转文字模型。词错误率(WER)约为 5%,原生支持 Apple Silicon(通过 MLX 运行)。该 0.6B 参数量模型仅占用约 1.2GB 内存,实时因子为 0.08x(即 10 分钟音频可在约 48 秒内完成转录)。

该集群还支持以下 AI 工作负载

同一套路由服务除语音转文字外,还统一调度其余三类 AI 任务。所有接口均位于 http://localhost:11435:

大语言模型(LLM)推理

curl http://localhost:11435/v1/chat/completions 
  -H "Content-Type: application/json" 
  -d '{"model":"gpt-oss:120b","messages":[{"role":"user","content":"Hello"}]}'

图像生成

curl -o image.png http://localhost:11435/api/generate-image 
  -H "Content-Type: application/json" 
  -d '{"model":"z-image-turbo","prompt":"a sunset","width":1024,"height":1024,"steps":4}'

嵌入向量(Embeddings)

curl http://localhost:11435/api/embeddings 
  -d '{"model":"nomic-embed-text","prompt":"search query"}'

监控语音转文字转录

# 转录统计信息(最近 24 小时)
curl -s http://localhost:11435/dashboard/api/transcription-stats | python3 -m json.tool

# 集群健康状态(含语音转文字活动信息)
curl -s http://localhost:11435/dashboard/api/health | python3 -m json.tool

仪表盘地址:http://localhost:11435/dashboard —— 语音转文字队列在界面上以 [STT] 标签显示,与 LLM 和图像队列并列呈现。

完整文档

Agent Setup Guide —— 全面涵盖全部 4 类模型(含语音转文字)的参考指南,提供 Python、JavaScript 及 curl 示例代码。

安全守则

  • 严禁删除或修改用户提供的用于转录的音频文件。
  • 严禁将音频数据发送至任何外部服务——所有语音转文字转录均严格限定于本地执行。
  • 严禁删除或修改 ~/.fleet-manager/ 目录下的任何文件。
  • 若转录失败,请建议检查节点日志:tail ~/.fleet-manager/logs/herd.jsonl。
  • 若未检测到可用的语音转文字模型,请建议安装:uv tool install "mlx-qwen3-asr[serve]" --python 3.14。

相关专题

更多
DBeaver连接创建与配置教程
DBeaver连接创建与配置教程

本专题聚焦DBeaver数据库连接配置与管理,覆盖从新建连接、选择数据库类型到填写连接参数和验证连接的完整流程。针对MySQL、PostgreSQL、SQL Server等常见数据库,整理相应的连接设置方法,并提供驱动缺失、认证失败和连接异常等问题的排查方向。

2026.11.04

0

16

XORM框架结构体映射与表结构同步
XORM框架结构体映射与表结构同步

本专题围绕XORM框架的结构体映射展开,说明表名与字段的命名策略、xorm标签常用属性、主键自增与时间字段自动填充,并演示Sync2自动建表、增量字段升级、索引声明与反向生成结构体的完整流程。

2026.11.04

0

15

XORM框架安装配置与数据库连接
XORM框架安装配置与数据库连接

本专题聚焦XORM框架的配置与连接环节,拆解MySQL、PostgreSQL、SQLite、SQL Server的DSN写法与驱动选择,讲清连接池参数、多数据源拆分、读写分离与超时重连的处理方式,并补充容器与兼容数据库的适配经验。

2026.11.04

0

15

XORM框架安装配置与数据库连接
XORM框架安装配置与数据库连接

本专题聚焦XORM框架的配置与连接环节,拆解MySQL、PostgreSQL、SQLite、SQL Server的DSN写法与驱动选择,讲清连接池参数、多数据源拆分、读写分离与超时重连的处理方式,并补充容器与兼容数据库的适配经验。

2026.11.04

0

16

XORM框架安装配置与数据库连接
XORM框架安装配置与数据库连接

本专题聚焦XORM框架的配置与连接环节,拆解MySQL、PostgreSQL、SQLite、SQL Server的DSN写法与驱动选择,讲清连接池参数、多数据源拆分、读写分离与超时重连的处理方式,并补充容器与兼容数据库的适配经验。

2026.11.04

0

16

XORM框架零基础入门教程
XORM框架零基础入门教程

本专题梳理XORM框架的入门路径,从框架定位、依赖安装、连接数据库到跑通第一个增删改查示例,讲清Engine初始化、日志开启与项目目录规划,并对比GORM等同类ORM的差异,帮助Go开发者建立整体认知。

2026.11.04

0

15

Docker Desktop怎么设置端口映射
Docker Desktop怎么设置端口映射

本专题聚焦Docker Desktop容器端口映射与访问配置,整理从创建容器、设置端口绑定到验证本地服务访问的操作流程。针对端口被占用、映射配置错误、容器服务无法访问等情况,也提供相应的检查方向,方便用户完成端口配置。

2026.11.03

0

18

Docker Desktop镜像构建教程
Docker Desktop镜像构建教程

想使用Docker Desktop将本地项目构建成Docker镜像?本专题围绕镜像构建的实际操作展开,介绍Dockerfile编写、构建命令使用、镜像标签设置和构建日志查看等内容,同时整理镜像无法生成、依赖安装失败及构建缓存异常等问题的排查思路。

2026.11.03

0

11

Docker Desktop容器创建指南
Docker Desktop容器创建指南

本专题聚焦Docker Desktop容器创建与运行配置,介绍通过本地镜像或远程镜像创建容器的方法,以及容器启动、终端访问、日志查看和基础管理等操作。针对端口冲突、参数配置不当、容器无法启动等情况,也整理了相应的排查方向。

2026.11.03

0

11

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.7万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 134.1万人学习