AI Gateway 现已支持流式转录
AI Gateway 现在支持流式转录了。以前，转录功能需要提供完整的音频文件，然后一次性返回整个转录文本。现在，你可以在录制音频的同时实时传输，模型也会持续生成并返回更新的转录结果，从而降低延迟，非常适合实时字幕和语音输入等场景。
流式转录目前处于公测阶段，可通过 AI SDK 的 streamTranscribe 函数使用，支持任何具备流式能力的转录模型。下面这个示例展示了如何将原始 PCM 音频流式传输到 openai/gpt-realtime-whisper，并实时打印每次返回的转录增量。结果流中同时包含部分转录和最终转录：
同样的代码可以跨提供商使用：只需更换模型字符串，就能改用 xai/grok-stt 或其他支持流式的转录模型。
流式转录还能让你轻松为智能体（Agent）添加语音交互模式。将用户的语音流实时发送给转录模型，然后把生成的文本实时传递给智能体即可。智能体本身无需改动——它仍然接收文本输入，因此适用于任何基于文本的智能体。如果智能体需要语音回复，可以结合语音生成功能，或者使用实时语音实现完整的双向对话。