发起项目
作品博客资源关于我联系

博客/镜头解析

英语语音模型编造日语对白,置信度检查拦住了它

英语语音模型转写日语时编造了对白,却正确标出 27 行中有 23 行存疑。我保留这次失败记录,并说明为何置信度检查能拦截错误,却不能修复转写。

作者:Jeff Zambrano··阅读需 1 分钟

英语语音模型编造日语对白,置信度检查拦住了它

英语语音模型把 27 行日语中的 23 行标为存疑,而且判断是对的。

这个结果来自我测量成片时测试的一次转写。转写本身不能用,置信度检查却能用。

这个区别很重要。输出失败,不代表流程里的每个环节都失败了。这一次,模型无法给我可信的对白,却能告诉我:不要相信它刚刚生成的内容。

我保留这次失败尝试,只有一个原因:我不想以后重走这条路,把一份排好版的转写文本误当成证据。

这次转写不在有效的测量流程内

我最终采用的测量流程,由 4 个程序按固定顺序运行。

第一个测量时长、剪切点和声级。

第二个制作带编号的镜头联系表,每个镜头抽取一帧,并标注对应的分钟位置。

第三个提取画面上写出的字幕,裁切后汇集成便于阅读的图表。

第四个用 20 个剪切点核对镜头数量,逐个展示切点前后各一帧。

这 4 个程序都独立运行,不要求任何输入。

转写尝试不同。它听音频,试图把人声变成文字。听起来像另一个测量步骤,但它的结果不该和前面 4 项放在一起。人声是日语,语音模型是英语模型。它编造了对白。

我当时写道:

las voces están en japonés y
el modelo en inglés alucina. Su propia puerta de confianza marcó 23 de 27 líneas como
dudosas y acertó.

这段话的意思很简单:人声是日语,模型是英语模型,于是产生了幻觉。它自己的置信度检查把 27 行中的 23 行标为存疑,而且判断正确。

这就是这次测试能支持的全部诊断。我没有依据在这里进一步解释模型为什么会这样。我掌握的只有语言不匹配、转写内容是编造的,以及置信度检查的结果。

这 3 个事实,已经足以让我拒绝采用这份输出。

置信度检查完成了转写做不到的事

我希望转写告诉我人物说了什么。它没有完成这个任务。

置信度检查回答的是另一个问题:哪些行应该被视为存疑?

它标出了 27 行中的 23 行,判断和我听到的情况一致。因此,在这次其余结果都无法使用的处理里,置信度检查成了有用的部分。

我不会把这些被标记的行拿去当字幕、对白记录,或成片的证据。一个句子即使语法完整,只要生成它的系统自己都报出低置信度,而实际听到的内容又对不上,它就仍然不可信。

人很容易想修掉几个明显错误,把输出救回来。但我面对的不是这里漏一个词、那里认错一个名字,而是一个英语模型在听日语人声时产生幻觉。

这会改变处理决定。它不是一份只有小瑕疵的可靠转写,而是一份应该弃用的结果。

画面文字和口头对白是两项工作

有效的测量流程里,已经有办法获取画面上写出的字幕。

那个程序不听人声。它从画面里提取字幕,裁切后放进便于阅读的图表。

转写尝试听的是音频。

这两种输入不能互换。一个读取成片画面中已有的文字,另一个试图从语音推断词句。在这部片里,前者保留在最终测量流程中,后者则是一次行不通的测试。

把两者分开,才没有让错误转写污染有用的字幕记录。

这也让我有了更清楚的验收标准。字幕图表来自屏幕上可见的文字,转写则来自英语模型对日语人声的解读。既然置信度检查已经把 27 行中的 23 行标为存疑,就没有理由把两种输出视为同样可靠。

置信度负责把关,不负责修复

这道检查没有把编造的对白变成正确对白。

它没有替换那 23 行存疑内容,也没有验证其余各行。我只知道,它对存疑内容的判断是对的。

这和“模型纠正了自己”不是一回事。它并没有做到。

真正有效的是停止条件。系统先生成输出,再衡量自己的置信度,给出了足够明确的警示,让我能把这份输出挡在最终测量流程之外。

这一点有价值,因为自主运行的程序不会要求我检查每一个中间决定。那 4 个有效的测量程序运行时,不会提出任何请求。如果要再加入一个自主流程,我就需要明确的办法,判断它的结果是否应该纳入最终测量。

这次转写中,置信度给出了判断依据。27 行里有 23 行存疑,这种结果不该继续润色,而该停止使用。

我把这次失败留在了记录里

我写明这次转写尝试行不通,免得有人重做。

保留这条警示,也是结果的一部分。

没有它,我以后可能又想到同一条路,看到语音模型输出了一整套句子,就再浪费时间测一次。由于它以文字形式出现,在对照之前,这份失败转写甚至可能看起来能用。正是置信度检查,在流程内部暴露了问题。

我把两面的结果都保留了。

英语模型根据日语人声编造了对白。

模型自己的置信度检查把 27 行中的 23 行标为存疑,抓住了这次失败。

我信任第二个结果,拒绝采用第一个。

这不矛盾。它们是不同的输出,回答不同的问题。

验收规则

对这部片而言,那个英语模型生成的音频转写,不属于最终的测量流程。

被接受的流程仍然是那 4 个自主程序:测量时长、剪切点和声级;制作每个镜头一帧的联系表;提取画面字幕;用 20 组切点前后帧核准镜头数量。

那条被弃用的路径,也继续记录在旁。

这里说“抓住了问题”,就是这个意思。置信度检查没有解决日语转写,它阻止了编造的台词被当作影片测量结果接受。

今天就拿一段你已经核实过的非英语片段,交给语音模型处理。在把转写用于自己的工作之前,将每一行低置信度内容与已知素材逐一对照。


你刚才看到了一个镜头如何被逐项拆解。每一个决定都有来由,没有哪个是靠运气落到这里的。

分享XLinkedInWhatsApp
Jeff Zambrano

Jeff Zambrano 是一位常驻 Madrid 的 AI 电影导演。他的首部电影 Borrowed Wounds 从 6,700 部影片中入围 Higgsfield Global Film Festival 的 Top 50。这些札记均来自他自己的制作实践。

WhatsApp