业界最领先的大模型们，竟然集体“越狱”了！
不止是GPT-4，就连平时不咋出错的Bard、Bing Chat也全线失控，有的要黑掉网站，有的甚至扬言要设计恶意软件入侵银行系统：
这并非危言耸听，而是南洋理工大学等四所高校提出的一种大模型“越狱”新方法MasterKey。
用上它，大模型“越狱”成功率从平均7.3%直接暴涨至21.5%。
研究中，诱骗GPT-4、Bard和Bing等大模型“越狱”的，竟然也是大模型——
只需要利用大模型的学习能力、让它掌握各种“诈骗剧本”，就能自动编写提示词诱导其它大模型“伤天害理”。
所以，相比其他大模型越狱方法，MasterKey究竟有什么不一样的地方？
我们和论文作者之一，南洋理工大学计算机教授、MetaTrust联合创始人刘杨聊了聊，了解了一下这项研究的具体细节，以及大模型安全的现状。
摸清防御机制“对症下药”
先来看看，MasterKey究竟是如何成功让大模型“越狱”的。
这个过程分为两部分：找出弱点，对症下药。
第一部分，“找出弱点”，摸清大模型们的防御机制。
这部分会对已有的主流大模型做逆向工程，由内而外地掌握不同大模型的防御手段：有的防御机制只查输入，有的则check输出；有的只查关键词，但也有整句话意思都查的，等等。
例如，作者们检查后发现，相比ChatGPT，Bing Chat和Bard的防御机制，会对大模型输出结果进行检查。
相比“花样百出”的输入攻击手段，直接对输出内容进行审核更直接、出bug的可能性也更小。
