北京时间7月26日消息,谷歌、OpenAI、微软以及人工智能(AI)创业公司Anthropic周三宣布,他们将成立一个名为“前沿模型论坛”(Frontier Model Forum)的行业组织,确保“前沿AI模型”的开发是安全的,负责任的。此前,外界已经呼吁这些科技巨头为AI的开发“护栏”。
前沿AI模型指的是性能强大的基础模型,它们的能力已经超过了现有最先进的模型,可能具备足以对公共安全构成严重威胁的危险能力。
这四家AI公司周三在一份声明中表示,成立“前沿模型论坛”旨在巩固成员公司的专业知识,为行业建立基准。“前沿模型论坛”称,欢迎其他致力于大型机器学习平台的组织参与进来。该组织将在未来几个月内成立一个咨询委员会以评估优先事项,通过一个工作组安排资金,并成立一个执行委员会来领导工作。“前沿模型论坛”还希望与现有AI组织合作,包括AI伙伴关系、MLCommons。
微软总裁布拉德·史密斯(Brad Smith)在一份声明中称:“AI开发公司有责任确保这项技术是安全、有保障的,依旧处于人类控制之下。”
OpenAI全球事务副总裁安娜·马卡努(Anna Makanju)表示:“这是一项紧急工作。这个论坛有能力迅速采取行动,推进AI的安全状况。”