【译文】大型语言模型可以做出令人瞠目的事情,但没有人知道这究竟是为什么
最大的模型是如此复杂,以至于研究人员把它们当作奇怪的自然现象来研究,进行实验并试图解释结果。其中许多观察结果与经典统计学背道而驰,而经典统计学为我们提供了一套预测模型行为的最佳解释。
最大的模型是如此复杂,以至于研究人员把它们当作奇怪的自然现象来研究,进行实验并试图解释结果。其中许多观察结果与经典统计学背道而驰,而经典统计学为我们提供了一套预测模型行为的最佳解释。
我经常看到有人在说 “越狱(jailbreaking ) “时使用 “提示注入(Prompt injection) “一词。这种错误现在太常见了,我不确定是否有可能纠正:语言的含义(尤其是最近创造的术语)来自语言的使用方式。但我还是要尝试一下,因为我认为这种区别真的很重要。