AI 驱动的图像生成正在蓬勃发展，这是有充分理由的：它有趣且易于使用。虽然这些模型带来了新的创意可能性，但它们可能会引起人们对不良行为者潜在滥用的担忧，这些不良行为者可能会故意生成图像来欺骗人们。即使是为了好玩而创作的图像也可能会像病毒一样传播并可能误导人们。例如，今年早些时候，教皇方济各穿着一件华丽的白色蓬松夹克的图片在网上疯传，特朗普被逮捕的照片引发热议。这些图像不是真实的照片，但很多人都被愚弄了，因为没有任何明确的指标来区分这些内容是由生成式 AI 创建的。
Meta 研究人员近日发布了一篇新的研究论文和技术代码，详细介绍了一种为 AI 图片添加隐形水印的技术，用于区分开源生成式 AI 模型何时创建的图像。隐形水印将信息合并到数字内容中。这些水印肉眼看不见，但可以通过算法检测到——即使人们重新编辑了图像。虽然围绕水印还有其他研究方向，但许多现有方法在生成 AI 图像后创建水印。
据 Everypixel Journal 报道，用户已经使用三个开源存储库的模型创建了超过 110 亿张图像。在这种情况下，只需删除生成水印的行即可删除不可见水印。Stable Signature 提出了一种方法来避免水印被删除。
