在家进行AI编程而不会破产
在家进行AI编程而不会破产
在不花费公司级别成本的情况下，在家进行AI编程有三种方式，选择哪种主要取决于你对接下来一年硬件和模型发布的信任程度。第一种是自托管（self host）。你购买机器，本地运行开源模型，之后无需为每个token付费。前期成本很高，而且你在家实际能运行的模型要比前沿实验室（frontier labs）发布的模型弱，所以只有当你能让机器持续运行长时间任务，让较慢且便宜的模型整夜处理时，这种方式才划算。大多数人无法让家用机器保持那么高的负载，而且你今天购买的硬件，一年后可能看起来是个糟糕的投资。
第二种是跳过硬件，从提供商那里以API费用（API rates）租用相同的开源模型。对大多数人来说，这是正确的选择。你避免了在GPU配置尚不稳定时投入数千美元，省去了从开源模型中榨取长时间运行性能的麻烦，并且下个月你可以切换到更便宜或更好的模型，而无需转卖设备。类似 OpenRouter 这样的服务让你几乎只需更改一行代码就能切换。
第三种是精打细算地使用OpenAI和Anthropic的前沿订阅（frontier subscriptions）。每月约400美元的套餐，按标价大约可以购买2800美元的API使用量，这在达到上限之前确实很划算。但这些套餐是计量（metered）的，任何大规模的AI原生工作流很快就会消耗掉包含的token。它们适合你手动操作的工作，但作为全天运行的智能体的引擎则不够用。
我见过的最佳方案是结合后两种。保留几个前沿订阅用于复杂推理和规范编写，同时以API费用使用开源模型来处理小型机械式任务。依靠规范驱动开发（spec driven development），让昂贵的模型生成计划，便宜的模型填充细节。如果做得好，你就能以大约1000美元的成本，构建出一个20人工程师团队一个月才能产出的成果。