智能体测试流程、LLM基准测试,以及来自加拉帕戈斯岛的智能体编程笔记

从去年十一月开始,我一直在比较重度地使用AI,整个过程挺有意思。智能体会干出一些事,换成人类早就被当场开除了。而我的反应呢,当然是假装这一切都很棒,然后赶紧拉起一千个智能体,让它们变本加厉地继续干。 去年年中,我让GPT(大概是5.0或5.1)去查一个bug的源头。这段代码自然没有测试, git bisect 也用不了,而且这是个UI交互的bug,我甚至都没什么资格给它写测试。所以我让Codex在日期X和Y之间做二分查找,找出引入这个bug的那次提交。Codex立刻告诉我,问题提交在这个日期范围之后(这根本不可能对)。我告诉Codex这不对,它又报了一两次明显也不是罪魁祸首的提交。等我说这些都