不知道大伙儿还记不记得,几个月前有个老板 10 分钟被骗走 430 万的 AI 诈骗事件?
因为被诈骗的金额过于大,当时还引起了不小的轰动。
而在那之后,什么 9 秒被骗 245 万, 7 秒视频通话被骗 30 万,类似的 AI 诈骗事件是接二连三。
更可怕的是,利用 AI 换脸、 AI 换声,还衍生出了一条灰色产业链。
今年 3 月,一名女生在地铁被偷拍后又被人换成全裸的照片,一度冲上了热搜。
而像这种一键换脸,或者一键脱衣的违法行为在外网上可谓猖獗,有些人就是靠着贩卖 AI 换脸软件,或是帮助别人把脸换到色情视频里,以此来赚钱。
虽说,咱们现在都知道有 AI 换脸这回事儿,但这东西它防不胜防,即使脸和声音都对得上,也不一定是本人。
这才是 AI 的可怕之处。
现在是有一些用于检测内容是否由 AI 生成的工具,但检测的准确性, emm 多少还是有点一言难尽。
前不久, OpenAI 还下线了自家的 AI 检测工具,理由就是错误率太高了。。。