用Voxtral转录、Amazon Nova做摘要,所有工作量都跑在一把Bedrock API密钥上,但这个听起来应该复制粘贴URL就搞定的事情,实际走下来却需要两个小小的旁路代理,以及一堆我亲手推开过的错门。下面是这段周末API考古的诚实记录。
故事的起点是短视频平台不断给我推一款AI笔记设备。它能做的事让我惊讶,但有一个大卡点:录音和转录时长被锁在付费订阅后面,要价高得让人眉毛飞出脸去。我几乎已经放弃这个想法了,直到发现Riffado。这是一个免费的自托管伴侣应用,愿意和你指定的任何OpenAI兼容转录服务对话。转念一想,我的额度、我的工作负载、甚至我的情感都绑在AWS上,那为什么不干脆让Amazon Bedrock来当这个服务提供方?两个模型之后,答案很明确:可以。Amazon Nova 2 Lite负责摘要、要点和标题,Mistral的Voxtral Mini 3B负责转录,全都在一把Bedrock API密钥上运转。
![]()
Bedrock甚至宣传自己有OpenAI兼容端点,按理说应该就是填个URL就完事。事实并非如此。接下来的内容就是实打实的踩坑经过:一个周末的API考古、两个轻量垫片,以及好几次自信满满推开却静默失败的错误之门。写下这些是因为,这类失败模式每一种都悄无声息地失效,没人告诉你错在哪。
先看模型池。在Bedrock模型目录里按语音输入过滤,出来六个匹配项,其中只有两个Voxtral模型接受音频文件。Nova 2 Lite的模型页面上写着模型ID Amazon.nova-2-lite-v1:0,最多一百万token上下文,输入支持文本、图像和视频——没有音频。这个细节在后面很重要。Voxtral Mini 3B 2507的模型ID是mistral.voxtral-mini-3b-2507,音频和文本进、文本出,带一个32K token的上下文窗口,正是垫片需要用到的确切字符串。
角色分工是这样的:Nova 2 Lite是Amazon的快速多模态推理模型,天然吃进经典聊天参数,定价也适合日常任务,来产出摘要、要点和标题。Voxtral Mini 3B 2507是Mistral的轻量语音理解模型,在干净音频上的精度接近Whisper的水平,专做转录。两者都在Bedrock目录里静静躺着。
在Riffado登场之前还要搞定认证。从Amazon Bedrock控制台生成长期API密钥,也就是ABSK那类。过期时间按自己的安全焦虑程度选,从一天到永不失效都行。这把密钥就是后面所有环节唯一用到的凭据。
把这一切接进Riffado时,Riffado根本不需要知道接下来要发生的任何弯弯绕绕。每个垫片在设置中注册为一个普通的自定义供应商:voxtral-shim作为转录供应商,bedrock-shim(挂载nova-2-lite)作为摘要和标题的增强供应商。在Riffado眼里,它们就是两个普通的后端。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.