为 AI 智能体加上神经符号护栏：让答案可以被验证

2023 年 10 月，纽约市推出了 MyCity，一个聊天机器人，用来根据数千页官方指南回答企业主的问题。五个月后， The Markup 的记者问它，餐馆是否可以停止接受现金。它回答说：“是的，你可以让你的餐馆不收现金。纽约市没有任何法规要求企业必须接受现金作为支付方式。”而自 2020 年起，当地法律恰恰要求餐馆必须接受现金。 这样的回答可能具有法律效力。2024 年， 加拿大一家法庭裁定 ，加拿大航空须为其网站聊天机器人承诺的退款负责，尽管这一承诺与该航空公司自身的政策相悖。 在 Nearform，我们基于当下的大语言模型（LLM）、检索和评估技术栈来构建智能体。对大多数问题来说，一个