生产级 LLM 与智能体：实战指南

[自从 The Heap 开放投稿以来，我们收到了很多非常出色的技术文章。其中一些我们把它提到了主信息流，让更多人能读到这些优秀作品。本文就是其中之一，欢迎在评论区告诉我们你的看法。] 一个演示效果很好的智能体，和一个真正能面向客户或处理真实资金的智能体之间，隔着一道鸿沟。跨越这道鸿沟靠的不是更大的模型，而是模型周围那些不起眼的基础设施：确定性、评估、置信度校准、分层护栏、审计轨迹和可观测性。这篇文章就是那张地图和成熟度模型。每一层都链接到一篇深入的专题文章。 ## 一段话概括核心论点 LLM 是概率性的；生产环境要求确定性保障。你获得保障的方式不是让模型变得确定（你做不到），而是把模型的工作