Launch HN: Respan (YC W24) —— 围绕插件构建的开源 Rust AI 网关

Respan 不走“把大量模型提供商和功能打包进一个网关”的路子,而是提供一个精简的核心和公开接口,让团队按自己应用的需要拼装 AI 基础设施。这样一来,用户可以把自建功能做成额外插件,而不用改动网关核心。 演示视频:https://www.youtube.com/watch?v=pVv2ibXiTXM 市面上的 LLM 网关多到数不清,它们大多解决同一个问题:用一个端点调用不同的模型提供商。可一旦要加新功能,难度就高得离谱。结果开发者往往只能再造一个网关,去解决某个具体问题。 从 2024 年起,我们一直基于 LiteLLM 构建网关,目前已经为数千家组织提供服务。每家组织需要的 API k