MaskLLM

AI 幻觉与推理失败公开存档库

136 访问官网

MaskLLM 是什么？

MaskLLM 是一个由社区维护的公共存档库，专门收录各类 AI 失效案例，包括幻觉、推理崩溃、谄媚反转、越狱攻击等问题。这个存档的提交内容经过结构化整理，可用于数据集导出、可解释性研究与红队审查，帮助开发者更好地研究 AI 故障模式。

AI 幻觉与推理失败公开存档库

需要付费

官网查看

定制方案

nitro创始人

如今使用 AI 开发有点像在没有仪表的情况下飞行。

模型会产生幻觉。

智能体静默失效。

基准测试几乎无法反映真实世界的表现。

这就是我们打造 MaskLLM 的原因 —— 这是一个由社区驱动的平台，用于记录、分析并理解 AI 系统在实际环境中究竟是如何失效的。

内容包括：

• AI 幻觉报告

• 失效案例时间线

• Prompt + 输出拆解

• 聚焦可解释性的讨论

• 不断积累的 AI 可靠性公共知识库

我们的目标很简单：

让 AI 系统更易理解、更值得信任、更负责任 —— 一次一份失效报告。

欢迎提出反馈、批评、分享奇特边缘案例和贡献代码 ❤️

今日在 Product Hunt 上线 🚀

报告

19 小时前

nitro创始团队

公司使命

成为第一个记录AI故障的人。每个条目都会贡献给公开数据集，并帮助可解释性研究。