Skip to content
←返回领域赋能

能力资产

语音与音频影音创作梯顶

Eleven v3:一条把「说、听、唱」做齐的商用音频栈

elevenlabs-v3

ElevenLabs 的旗舰语音合成模型,官方称情感最丰富、最具表现力:戏剧化演绎、70+ 种语言、单次 5,000 字符、自然的多说话人对话,并随 v3 提供独立的 Text to Dialogue API,把多角色对白做成接口而不是 prompt 技巧。它是音频域梯顶,依据是背后唯一一条把说、听、唱都做齐的商用音频栈:TTS 四档、ASR 三档(含 Medical)、音乐两档。TTS 四档三轴互斥:v3 表现力最强但非实时、单次 5,000 字符;Flash v2.5 延迟约 75ms、每字符便宜 50%;Multilingual v2 长文本最稳却只有 29 语言;没有全能档,按场景分型号。ASR 侧 Scribe v2 覆盖 90+ 语言、32 人分离。延迟都是模型侧口径,不含网络与上游 LLM 时间,不能当 SLA 读。边界:长文本要自己分段,接缝处的韵律与音色一致性由你负责;闭源不可自托管,数据主权敏感场景是硬门槛。第三方榜里没有语音榜,与 Gemini 3.8 Flash TTS 并列不排名。置信度 C(厂商宣称):未复算 WER、未做盲听对比。

C
置信度
厂商宣称
只有官方模型卡/发布会,无独立复测
70+
关键指标
语言覆盖
厂商宣称 · 2026-09
成熟度
产品
研究 → 演示 → 产品 → 生产
编辑判断

评为 C 档(厂商宣称)。这一档的判断和音频域整体一样受限于证据形态:能核到的全是规格与定价(语言数、字符上限、延迟档位、特性清单),而「最具表现力」「state-of-the-art 语音识别」「临床音频少 35% 错误」这些都是官方自述。没有跑过 WER、没有做过盲听偏好对比、也没有量过长文本分段后的韵律连续性,所以不把这些升成 A。加上这个域根本没有第三方榜,C 档是唯一诚实的标法。

它值得进梯顶的理由不在单个模型,在栈的完整度:TTS 四档、ASR 三档、音乐两档,是同一家商用供应商里唯一把「说、听、唱」三条工序都做齐的。真实的音频生产从来不是只有合成——一段视频配音要 TTS,要字幕就要 ASR 的词级时间戳与说话人分离,要配乐就要能局部 inpainting 的音乐模型。把这三件事放在一套 API 与一套账号体系里,省下的是集成成本而不是单价。Scribe v2 那几条参数尤其值得读:1000 个术语的 keyterm prompting、65 类实体检测、32 人说话人分离,这套配置明显是冲着企业会议与专业转写去的,不是通用 demo。

但选型时要认清那张表里的取舍:表现力、延迟、语言面三轴互斥,没有全能档。v3 表演性最强却只有 5,000 字符,长文本最稳的 Multilingual v2 只支持 29 种语言,~75ms 的 Flash v2.5 表现力与语言面都更窄。所以正确做法是按场景分型号,而不是找一个「最好的」用到底。另外两类风险必须写明:一是所有延迟数字都是模型侧口径,不含网络与上游 LLM 出字时间,而真实语音 agent 里 LLM 那一段通常更大,不能当端到端 SLA 用;二是闭源不可自托管,数据必须过 ElevenLabs,这对医疗、政务、金融录音这类数据主权敏感场景是硬门槛,即使有 Scribe v2 Medical 这个垂直版本。声音克隆的合规责任始终在使用方,能力不等于授权。

Text-to-SpeechSpeech RecognitionMusic GenerationElevenLabs
ElevenLabs官网2 min read741

它解决的问题:把音频做成一条完整的生产线,而不是一个 TTS 接口

Eleven v3 是 ElevenLabs 的旗舰语音合成模型,官方描述是「情感最丰富、最具表现力的语音合成模型」,四个特性:戏剧化演绎与表演性、70+ 种语言、单次 5,000 字符上限、支持自然的多说话人对话。

但本站把它作为音频域梯顶的一条来收录,判断依据不只是这一个模型,而是它背后唯一一条把「说、听、唱」三件事都做齐的商用音频栈:TTS(v3 / v3 Conversational / Multilingual v2 / Flash v2.5)+ ASR(Scribe v2 / Realtime / Medical)+ 音乐(Eleven Music v2.5 / v2)。语音域的竞争早已不是「谁的音色更像人」,而是「谁能把配音、字幕、配乐三条工序放在同一套 API 与同一套账号体系里」。

型号分档:表现力、延迟、稳定性是三个互相拉扯的轴

型号延迟语言单次字符上限适用
Eleven v3非实时档70+5,000(约 5 分钟音频)有声书、播客、配音:要表演性
Eleven v3 Conversational~280ms70+-实时对话 agent,带 audio tags 细粒度控制
Eleven Multilingual v2-2910,000长文本最稳的一档
Eleven Flash v2.5~75ms3240,000电话/低延迟场景,API 每字符价格便宜 50%

这张表里最值得读的是三者的取舍关系:表现力最强的 v3 单次只有 5,000 字符,长文本最稳的 Multilingual v2 只支持 29 种语言,延迟最低的 Flash v2.5 表现力与语言面都更窄。没有任何一档同时拿到全部三个轴的最优,所以工程上的正确做法是按场景分型号,而不是选一个「最好的」用到底。官方给的场景建议也是这个方向:v3 用于多角色互动的音频体验、长篇旁白与情绪对白;并随 v3 提供了独立的 Text to Dialogue API,把「多角色对白」当成一个专门的接口而不是 prompt 技巧。

~280ms 与 ~75ms 这两个数字要读准口径:它们都是官方标注的模型延迟(文档里带脚注标记),不含网络往返、不含你的上游 LLM 出字时间。真实语音 agent 的端到端延迟里,LLM 那一段通常比 TTS 大得多。

ASR 侧:Scribe v2 的参数密度比 TTS 更值得读

  • 90+ 种语言的准确转写,支持智能语言检测。
  • Keyterm prompting,最多 1000 个术语:把领域词表喂进去,专名与术语的识别率才撑得住。这一条对企业场景(医疗、法律、内部代号)是刚需,也是通用 ASR 最容易失败的地方。
  • 实体检测,65 类实体:输出的不只是文本,是带类型标注的文本。
  • 词级时间戳 + 说话人分离最多 32 人:32 人这个数字明显是奔着会议与多人访谈去的。
  • Scribe v2 Realtime:~150ms 实时转写,同样 90+ 语言、词级时间戳、实体检测。
  • Scribe v2 Medical:针对临床音频微调,在临床音频上比 Scribe v2 少 35% 的转写错误,日常语音准确率持平,特性/语言/定价/API 完全一致。这是本站见到少数把「垂直微调带来多少错误率下降」量化写出来的商用音频产品。

音乐侧:Eleven Music v2.5

v2.5 是当前最强档,官方描述是更好的质量与 prompt 遵循度、更丰富的旋律、更深的编曲与更分层的乐器;工作流与 v2 一致,保留三件对生产真正有用的能力:composition plans(结构化编排计划)、audio reference(参考音频)、inpainting(局部重绘音频)。v2 的定位是「录音棚级音乐、自然语言 prompt、任意风格」,可控制流派、风格与结构。

其中 inpainting 是最容易被忽略、但实际最省事的一件:一段配乐里只有四小节不对,重生成整段意味着前面满意的部分也一起赌掉,能局部改才是真正的生产工具。

边界

  • v3 单次 5,000 字符:约 5 分钟音频。长文本要自己分段,分段处的韵律连续性与音色一致性由你负责,模型不保证跨请求一致。
  • 表现力、延迟、语言面三轴互斥:见上表,不存在全能档。
  • 闭源、不可自托管:没有权重可下载,无法在自有环境部署,数据必须经 ElevenLabs。对数据主权敏感的场景(医疗、政务、金融录音)这是硬门槛,即使 Scribe v2 Medical 提供了垂直版本。
  • 延迟数字是模型侧口径:~280ms / ~150ms / ~75ms 都带官方脚注,不含网络与上游 LLM,不能直接当作端到端 SLA。
  • 「SOTA」「35% 更少错误」都是官方自述:本站没有在自有测试集上复算 WER,也没有做过与 Gemini TTS、OpenAI TTS、Whisper 系的盲测对比。
  • 声音克隆的合规责任在使用方:能力不等于授权,各地对声音权与合成音频标注的要求不同。
  • 没有第三方语音榜:本站同步的 12 个第三方榜单里没有语音/音频榜,所以这条资产无法给排名。

我们的核验状态

事实来自 ElevenLabs 官方 Models 文档实读全文:TTS 四档(v3 的 70+ 语言 / 5,000 字符 / 多说话人对话,v3 Conversational 的 ~280ms 与 audio tags,Multilingual v2 的 29 语言 / 10,000 字符,Flash v2.5 的 ~75ms / 32 语言 / 40,000 字符 / 每字符便宜 50%)、v3 的适用场景与 Text to Dialogue API、ASR 三档(Scribe v2 的 90+ 语言 / 1000 术语 / 65 类实体 / 词级时间戳 / 32 人分离,Realtime ~150ms,Medical 临床音频少 35% 错误)、音乐两档(v2.5 的 composition plans / audio reference / inpainting,v2 的风格与结构控制)。

置信度记 C(厂商宣称)。理由与 Gemini 3.8 Flash TTS 那条一致:这里所有可核的东西都是规格与定价,不是质量读数。「最具表现力」「state-of-the-art 语音识别」「临床音频少 35% 错误」都是官方自述,本站没有跑过 WER、没有做过盲听偏好、没有量过 5,000 字符分段拼接后的韵律连续性。要升到 A 档,需要:在固定的多语种测试集上测 WER 与说话人相似度、组织盲听对比、以及量出长文本分段后的一致性衰减。

本站把它与 Gemini 3.8 Flash TTS 并列放在音频域梯顶,而不是排先后。两者的强项确实不同:ElevenLabs 赢在栈的完整度(说、听、唱三条线都有商用产品,ASR 侧的参数密度尤其高)与延迟分档;Gemini 3.8 Flash TTS 赢在语音设计 + 克隆 + 内联情感控制在一个模型里,且语言面更宽(130 对 70+)、音频输出定价公开且更低。这个域没有第三方榜,所以我们只并列事实,不编名次。

同域资产:语音与音频

4
语音与音频影音创作梯顶C

Gemini 3.8 Flash TTS:把导演级语音指导做成 API 参数

Google 的语音生成模型(gemini-3.8-flash-tts),官方定位 studio-grade voice fidelity、expressive acting 与 long-form stability,有声书翻车不是单句难听,是念到第三小时音色漂了。设计把作用域切开:文本字段严格当逐字稿,表演指令走另一条通道不会被念出来,修掉「(叹气)」被念出来的老问题;整轮风格走 speech_metadata.style,词级情感用竖线标签只影响那一个词。音色四类:预置、扩展库、语音设计 ID(自然语言造音色后复用)、克隆 ID,设计与克隆是 3.8 才补齐。规格:130 语言、自动检测输入语言,默认 WAV 24 kHz,单请求最多 2 个说话人且只能用预置音色。计费按音频 token、25 tokens 一秒,付费层每百万 tokens $0.50 输入 / $9.00 输出(至 2026-12-31,之后 $1.00/$18.00)。边界:24 kHz 非母带级;克隆合规责任在使用方。12 个榜无语音榜,与 ElevenLabs v3 并列不排名。置信度 C(厂商宣称):未做可懂度测量与盲听对比。

全支持语音设计+克隆+多说话人厂商宣称 · 2026-09
产品Google官网
Gemini 3.8 Flash TTS:把导演级语音指导做成 API 参数
语音与音频影音创作梯顶A

VoiceStudio:把商用语音栈的整套工序搬到本地,并默认开给 agent

开源、完全本地的语音工作台(debpalash/VoiceStudio,AGPL-3.0,Python + Electron),自我定位为 ElevenLabs 的本地替代品:声音克隆、声音设计、视频配音、听写、转写与有声书制作,官方称覆盖 646 种语言。仓库 2026-04-09 建仓,到 2026-09-29 有 42,831 star / 5,005 fork。它是音频域本地自托管方向的梯顶,依据不是某个模型更强,而是抽象层有用:开源语音能力散落在十几个仓库里,各有自己的权重格式、设备要求、克隆接口与许可,拼一条「克隆音色→转写→对齐→配音→有声书」的产线,工程量主要花在粘合上;VoiceStudio 把 17 个 TTS 与 11 个 ASR 引擎收进统一注册表,逐引擎上报设备(CUDA/MPS/CPU)、是否可克隆、max_ref_seconds 与 ref_strategy,并给出可跑的工作流。对 agent 尤其关键:本地 API 与 MCP server 是产品自带的一等能力,README 直接给了可粘进 Claude Code / Codex / Cursor 的安装指令,还支持 npx skills add 装 skill,意味着编码 agent 可以把配音与转写当工具调用而不需要人点界面。参考音频口径也严谨:上限 75 秒,但真正进模型多少由引擎决定并逐引擎上报,超限时自动与已保存的转写会被忽略,给默认 OmniVoice 传超过 20 秒并附文本会以 [clone_ref_too_long] 直接报错。指标口径要说清:官方 docs/benchmarks.md 有一套真实 harness(逐阶段 profiling、内存不足拒绝启动、只收具名硬件与版本上的 RTF 热态与峰值显存、明确没有数字是估的),但结果一栏写着 No verified rows yet,所以没有给出任何性能数字,卡片上只用自核的 GitHub star 数并据此记 A 档(可核验);这个 A 只针对数字为真,不针对它比 ElevenLabs 好。四条边界:AGPL-3.0 是强 copyleft 且带网络条款,嵌进对外 SaaS 需开放自己的服务端源码,闭源商用要么进程隔离只调本地 API(自行法律评估)要么改用 Apache-2.0 的 CosyVoice 3 / Kokoro 自行组装;模型各自有许可(Breeze-TTS-2 权重研究非商用、Supertonic-3 与 PocketTTS 需额外许可、GPT-SoVITS 要跑自己的 server),商用前逐模型核对;646 种语言是仓库自述,真实覆盖取决于所选引擎(Parakeet 25 种欧洲语言、FunASR 50+、Whisper 系更广),未逐语言核验;桌面端只剩 Electron,0.5.3 是最后一个 Tauri 版本,老用户必须迁移。它与 Eleven v4 在梯度上并存而不互相替代:一个代表闭源商用栈的质量上限与省心,一个代表本地自托管的数据主权与引擎可替换性。

42,831GitHub Stars(2026-09-29,本站经 GitHub API 核)已确认 · 2026-09
产品debpalash (open source)官网Repo
VoiceStudio:把商用语音栈的整套工序搬到本地,并默认开给 agent
视频生成影音创作梯顶C

可灵 3.0 系列:音频原生进模型、画面到 4K,参数化镜头语言仍是它的护城河

快手可灵是国内最早把视频生成推到「能接商业单」水位的一条主线,长期强项不在纯文生视频,而在图生视频与运镜控制:先由图像环节锁定构图与角色,再让视频模型在确定的关键帧上补间,配合首尾帧约束与推/拉/摇/移/环绕/跟随的镜头参数,做出可预测的短片段。3.0 系列(官方 release-note 横幅:全面开放 API)带来三处实质跃迁——音频原生进模型(5/10/12 秒音频档)、图像与视频原生 2K/4K、智能分镜与元素参考把多镜头连贯从剪辑问题变成模型可控问题;型号分工为 3.0 / 3.0 Omni / 3.0 Turbo、Kling Image 3.0 与 -omni、Native 4K Video、Motion Control。竞技场水位说实话:图生视频 kling-v3-pro 第 19(Elo 1354),前面是 MiniMax h3、gemini-omni、wan3.0、seedance-2.5。3.0 系列的官方发布精确日期未拿到权威源,指标日期只按可核验月份记 2026-09。闭源、只走厂商接口;未做基准复现,置信度记 C。

3.0 / Omni / Turbo当前旗舰系列厂商宣称 · 2026-09
产品快手 Kuaishou官网
可灵 3.0 系列:音频原生进模型、画面到 4K,参数化镜头语言仍是它的护城河
语音与音频影音创作梯顶C

Eleven v4:把克隆保真度推到会反噬训练数据的一代

ElevenLabs 新一代语音合成模型,分 Eleven v4(最高质量档)与 Eleven v4 Turbo(实时档,中位推理延迟约 100ms,官方脚注明确不含应用与网络延迟)两个型号,官方口径是在输出质量、音色准确度、一致性、情感、演绎、audio tags 与语言覆盖上全面优于 v3 并建议迁移。它是音频域闭源语音方向的梯顶,依据是这一代把优化目标从「更好听」换成了「更像」:参考音色的音色、节奏、演绎与其他习惯一并复刻,官方自己承认准确度与个人偏好不总是同一件事、你可能仍更喜欢它在 v3 里的声音。配套的工程含义很硬——数据清洗的责任被推回使用方,官方把展示样例明确标注为未做任何后期(无 EQ、压缩、归一化、去齿音、去喷麦),并直说听到削波与喷麦大概率是训练数据里的、模型只是准确捕捉了下来。可交付面是三个数:Turbo 约 100ms、单次 10,000 字符约 10 分钟音频(v3 为 5,000,长文本分段接缝多一倍)、官方称 90+ 语言而 FAQ 逐条列出 87 种,这个差照原样并列,不替它抹平。四条边界必须认清:跨语言口音是默认行为变更而非开关(生成语言与参考语言不一致时出目标语言的地道发音,做成 toggle 官方称仍是研究项目、无时间表),依赖「带母语口音说外语」的人设要先实测;控制面收窄,只剩 Stability 与 Similarity,Style 与 Speed 滑块取消、SSML 不支持,细粒度演绎改用 audio tags 且官方坦承还不完美;模型持续演化是官方明写的,发布后仍会继续训练、行为可能随时间变化,把音色当品牌资产的团队要周期性重测;Voice Design 生成的音色在 v4 上可能不那么有表现力。闭源不可自托管,数据必须过 ElevenLabs,克隆合规责任在使用方;可自托管对照是 CosyVoice 3、VibeVoice、Kokoro(语音)与 YuE2(音乐,非商业许可)。与已收的 Eleven v3 是同一商用栈上的两代,不是替代关系。置信度 C(厂商宣称):无第三方可核验基准,未做盲听。

~100msv4 Turbo 中位推理延迟(模型侧,不含应用与网络)厂商宣称 · 2026-09
生产ElevenLabs官网
Eleven v4:把克隆保真度推到会反噬训练数据的一代

本站含 CakeGrowth 联盟推广链接,我们可能从符合条件的购买中获得佣金。