ImageTruth AI

我一生都在创作艺术（绘画、油画、制作火山蛋糕等等），并始终相信，对美、善与真的终身信念至关重要。我在视觉传播领域做了 20 多年的平面设计师，经常思考图像如何传达信息、说服他人，以及有时如何欺骗人。因此，当一些 AI 生成图像开始变得真的很难与真实照片或人类创作的数字艺术区分开来时，我很清楚，这在某些情况下会导致严重问题。视觉真实性是决策所依赖的基础。

我想到可以用 AI 本身来帮助识别它所创建的图像。

在开始开发我的应用时，我了解到 AI 图像检测比预想的困难得多，而且不同的 AI 模型会寻找不同的指标。更令人有些担忧的是，我遇到的所有模型都会给出非常自信的是或否判断。它们可能经常是正确的，但有时并非如此——那只是某个模型的猜测。如果你是一名即将发布报道的记者，或是一名调查员，或是法律系统中需要对一个真实的人作出决定的人——基于一个几乎没有支撑的单一猜测采取行动，在我看来确实有风险。当你需要解释自己的推理时会发生什么？你能指向什么依据？如果能用一些确凿证据来支持你对一张图像的专业直觉，岂不是很好吗？

这改变了我最初想给出单一是/否结论的意图，也让我明确了我的应用真正能够提供的价值。如果改为只向人们展示每个模型实际发现的细节，会怎样？五个独立模型、完整拆解，不替你下结论。由你来决定什么样的判断是有依据的。

构建它的过程也让我学到了其他意想不到的东西。有一段时间我做了一个热力图功能——用彩色叠加层显示可能发生过篡改的位置。它看起来很厉害。但我在发布前把它移除了，因为它并不是基于真正的像素级分析。它会暗示数据实际上无法支持的东西。移除它让我觉得是正确的决定，尽管有点心疼。

它已经上线，可以免费试用，我真的很想知道大家的看法。欢迎在评论中提问，我很乐意回答。

……也特别感谢 Zach James，他在开发过程中花时间、付出精力对我的应用进行了审阅、批评和测试。