长周期自主智能体的关键？静默失败

越来越多来自研究和行业的数据指向一个不可避免的结论：可靠的长期自主编程代理运行极不可能实现。然而，几乎每天我都能在网上看到有人声称已经实现了这一点。他们让代理运行数小时甚至数天，生成复杂的软件——如果那些说法可信的话——完全无需人工干预。毫无疑问，其中一些人只是在撒谎，以给朋友（或老板，或寻找能破解“秘密代码”之人的潜在雇主或客户）留下深刻印象。但我怀疑至少有一些人是真心相信的。鉴于这种可能性极低，值得更深入地审视这些说法。在我能够合理确信他们确实让代理在没有任何干预的情况下运行的情况下——而且“聪明汉斯效应”（Clever Hans effect，即观察者无意中给出暗示影响了结果）很难被排除