当前位置: 江南文明网 > 科技 > 智能 >

引用《道德经》 谈大国分歧 Sam Altman最新演讲

条评论

引用《道德经》 谈大国分歧 Sam Altman最新演讲

OpenAI 创始人 Sam Altman 的环球之旅已经进行到第四周,在此期间,他已经去到五个大洲的近 20 个国家,与学生、开发人员和国家元首会面。今天,北京时间上午 9 点 20 分,Sam 以视频连线的方式现身于中国北京举办的 2023 智源人工智能大会,发布了演讲,并接受了院士张宏江的访谈对话。

演讲依然围绕近期他所呼吁的 AI 安全问题的关注。Sam 指出,当下,AI 正以极快的速度发展并扩展人类想象的画布。在此过程中,潜在红利与危机是并存的。随着日益强大的 AI 系统的出现,全球合作的赌注从未如此之大。考虑到 AI 未来所带来的问题(如医疗、农业领域的应用)之严峻性,从当下开始重视、推进 AI 安全是刻不容缓的。

Sam 特别提到,大国之间分歧常有,但在重要的大事上,还是需要协调与合作,寻找共同利益点。他特别引用了老子《道德经》中的话:千里之行,始于足下。他认为,当下可以迈出的最有建设性的一步,是国际科技界间的通力合作,特别是推动建立高 AI 安全技术进步方面的透明度和知识共享的机制。

值得注意的是,此前在周游列国时,在 AI 安全和治理方面,Sam 的主要观点是:目前 AI 系统还没有强大到威胁社会安全的地步,因此不必对正在研究的 AI 系统进行严格监管,这无疑在减缓创新。此次在中国的演讲,Sam 的演讲未曾涉及监管的讨论。但他提出,人们的确需要为迎接超出想象强大的 AI 系统进行监管和安全上的讨论。

极客公园全程观看了这场演讲,以下内容经整理编辑后发布。

精彩摘要:

当下人工智能革命影响如此之大的原因,不仅在于其影响的规模,也是其进展的速度。这同时带来红利和风险。

AI 带来的潜在红利是巨大的。但我们必须共同管理风险,才能达到用其提升生产力和生活水平的目的。

随着日益强大的 AI 系统的出现,全球合作的赌注从未如此之大。大国意见分歧在历史上常有,但在一些重要的大事上,必须进行合作和协调。推进 AGI 安全是我们需要找到共同利益点的最重要的领域之一。

对齐仍然是一个未解决的问题。想象一下,未来的 AGI 系统或许具有 10 万行二进制代码,人类监管人员不太可能发现这样的模型是否在做一些邪恶的事情。

GPT-4 花了八个月的时间完成对齐方面的工作。相关的研究还在升级,主要分为扩展性和可解释性两方面。

演讲全文:

每次我访问中国,我遇到的技术人才都能使我惊奇和振奋。正如你前面提到的,我现在正处于环世界之旅的第四个星期。我已经去了在五个大洲的近 20 个国家,与学生、开发人员和国家元首会面。这次旅行对我是一种激励。我们看到了世界各地的人们都已经在使用 AI 技术,以令人难以置信的方式改变生活。我们也收到了来自用户的宝贵反馈,告诉我们如何能使这些工具变得更好。