当前位置: 江南文明网 > 科技 > 智能 >

OpenAI、Meta等七巨头联手

条评论

OpenAI、Meta等七巨头联手

由 AI 生成的内容也要有「身份证」了。

近日,包括 OpenAI、Meta 在内的七家科技巨头承诺将采用一些安全措施来增强 AI 技术的安全性。

值得注意的是,在承诺中,这七家科技巨头都不约而同谈到了 AI 的监管问题并承诺将共同开发和应用一种水印系统,可用于人工智能生成的所有形式的内容,包括文本、图像、音频和视频。

通过留意嵌入内容中的水印标识,用户能够自行甄别由 AI 生成的深度伪造的图像或音频,从而在用户端上降低暴力、诈骗等负面信息内容的传播风险。

事实上,自去年 ChatGPT 爆火以来,入局的科技巨头势必要在这场竞争中拔得头筹,AI 技术的发展一日千里。

而随之,不成熟的 AI 技术也衍生出一些值得关注的问题,其中首当其冲的正是如何甄别信息内容的真实性。

2019 年,一名诈骗犯利用 AI 语音模仿软件冒充成公司的大老板,成功让一家英国能源公司的 CEO 以为自己正在跟德国母公司的老板通话。

在电话中,诈骗犯凭借 AI 技术模拟后的语音,让该 CEO 立即转账 22 万欧元(注:约合 176 万人民币)到匈牙利的一家供应商的银行账户,以避免缴纳「滞纳金」,并要求将转账信息以邮件形式发送。该 CEO 在模拟语音的迷惑下,毫不犹疑地照做了,然后,这 22 万欧元就这样「打水漂」了。

为这家能源公司承保的保险公司表示:「骗子使用的某种 AI 软件,不仅能够模仿他人的声音、语调,甚至还能模仿带德国口音的英语。」被骗的 CEO 在一份电子邮件中愤怒地写道:「(假的)「约翰内斯」甚至在我与真正的约翰内斯通话时,要求跟我通话」

这过于离谱的事件,也普遍引发了用户对 AI 无序发展的担忧。突破常规的人工智能技术被用于诈骗时,更像是「猜猜我是谁?」的进化版。

但在降维打击面前,普通人的警惕心显得毫无用武之地。

而这还只是发生在 2019 年的事件,须臾三年,AI 技术的迅猛发展足以让人瞠目结舌,而信息内容真实性问题也再次回到公众视野。

倘若以「AI 诈骗」为关键词,在搜索引擎上筛选最新资讯,我们会发现当前关于 AI 诈骗的事件可谓是比比皆是。这种普遍性的现象恰恰反映了实施有效措施的迫在眉睫。