没有人知道 ChatGPT 为什么这么聪明

展哥每日阅读笔记展哥更新了2023-4-17 21:25

在最近的所有关于 AI 的信息中,最让我觉得不可思议的就是:没有人知道 ChatGPT 为什么这么聪明,即使发明他的人。

之前 AI 基本上只知道处理信息,比如类 Siri 的语音助手,或者在特定领域有有限的推理能力,比如下象棋。而 ChatGPT 则能够理解上下文,并且进行逻辑推理。这是从人工智障到人工智能的质变,业界把 AI 这种能力的突变称作「涌现」。

涌现是怎么发生的?

目前还没有人有明确的答案,只知道语言模型被不断加大的过程中,它就会出现某些能力,就是涌现。而大模型需要巨大的数据量和算力,这也是训练 ChatGPT 这样的产品,成本非常高的原因。

会有什么影响?

还记得马斯克等人签署联名信,呼吁暂停 AI 训练吗?一个原因就是我们不知道 AI 是怎么变这么聪明的,所以有巨大的失控风险。现在 AI 还只是待在电脑中回答问题,但有一天它一定会有一个物理实体。想象一下,波士顿动力的机器人+ 比ChatGPT 更厉害的人工智能 + 无法掌控···

原文:mp.weixin.qq.com