iFixAi

iFixAi 是一款面向 AI Agent 的独立审计与诊断工具,核心目标是回答 AI Agent 经济中的关键问题:Agent 是否在做它应做的事。它可由人类或 Agent 自身运行,并声称在 120 秒内给出审计结论。项目聚焦 Agent 评估、AI 对齐、安全、治理与负责任 AI,覆盖幻觉检测、提示注入、LLM 安全与评估、风险识别与管理等能力。通过 CLI,开发者可将审计流程嵌入开发、测试与合规检查,快速发现行为偏差、潜在攻击面和治理缺口。iFixAi 参考 EU AI Act、ISO 42001、NIST AI RMF、OWASP LLM 等框架,帮助团队对 AI Agent 进行可重复的独立检查,并输出可操作的风险评估结果。项目采用 Python 实现,适合需要快速验证 Agent 行为、安全性与合规性的开发者、审计与治理团队。

在 GitHub 查看