今年早些时候,OpenAI的首席执行官Sam Altman在Reddit论坛上发表了一篇帖子,让科技界陷入疯狂:“AGI已在内部实现。”
AGI是通用人工智能(Artificial General Intelligence)的缩写——是人工智能研究的圣杯。从本质上讲,真正的AGI是一种类似人类大脑的智能,能够进行推理、创造性思维,甚至可能产生自我意识。
Altman发布实现AGI的消息惊天动地——其重要性就好比知名科学家发布 “核聚变成功了”,或者特朗普发布“我放弃参加选举”。
Altman后来表示,这个帖子只是开个玩笑。但围绕他最近下台的戏剧性故事,这一说法受到质疑。
有报道称,在Altman被解雇之前,OpenAI董事会得知一个重大突破。泄露的文件显示,这一突破与一个代号为Q*的新模型有关。
OpenAI究竟是否真的实现了AGI?Q*是什么,对人工智能的未来意味着什么?让我们一探究竟。
01.基础数学的重要性
关于Q*(读作Q-star)的大部分信息都基于路透社的报道。这家新闻媒体采访了OpenAI的几位匿名消息人士,并获得了有关这项所谓新突破的内部文件,其中包括公司首席科学家致董事会的一封秘密信函。
他们的报道显示,Q*在OpenAI内部引起了轩然大波,因为它能完成以前任何大型语言模型都做不到的事情:基础数学。
起初,这似乎并不是什么大不了的事。自20世纪50年代以来,简单的计算器就能够进行基本数学运算。但使用大型语言模型(或Q*可能使用的任何架构)实现这一里程碑,实际上是一个巨大的突破。
02.Q*与人类大脑
如果路透社的报道是正确的,这表明OpenAI可能已经创造了这样一种混合系统,使用的是硅和计算机芯片,而不是神经元和生物电缆。
据报道,Q*能够进行符号推理,即使目前还处于非常低的水平,但这表明它可能已经成功开发出Smolensky提出的那种连接主义“虚拟计算机”系统。
与人类大脑一样,这将赋予新模型以直观和创造性思维的能力,同时也能切换到符号推理模式,并解决像数学问题这样有单一正确答案的问题。
因此,能够进行基本数学运算并不是OpenAI突破的重点。相反,据报道,神经网络模型已经开发出这种能力,表明该模型在模仿人类大脑的基本能力方面迈出了重要一步。
这一飞跃很可能是OpenAI董事感到恐慌的原因。如果Q*朝着更类似大脑的架构迈出了一大步,随着其扩展,它可能会发展出与人脑相似的其他能力。
对于人工智能末日论者来说,这足以让他们彻夜难眠,或者导致一位受欢迎的首席执行官惊慌失措地下台。
03.不至于毁灭世界
与那些末日论者的担忧相反,Q*可能不会毁灭世界。即使该模型已经实现了先前仅限于人类大脑的突破,也并不意味着它具有超级智能、意识,甚至达到了通用人工智能的水平。
如果报道属实,这意味着OpenAI在创造有用的人工智能方面又突出竞争对手一大步
在自然语言处理、药物发现和数学等领域,一个既能凭直觉又能用符号进行推理的模型将极为重要。这些领域需要创造性和逻辑性的融合,而目前的大语言模型很难做到这一点。例如,理解语言需要理解含义,同时还需要掌握语法等确定性基础知识。
目前的大语言模型可以在统计学的基础上理解语言,预测在给定文本中可能存在的单词。但是,他们并不能真正理解所有人类语言所具有的基本符号逻辑,也不能真正理解产生含义的词汇之间的联系。
像Q*这样的模型,如果真的能将符号推理和直觉推理融为一体,就有可能将文本分解为语法构成部分,充分理解上下文,然后创造出与训练数据毫无统计关系的全新文本或观点。这将赋予它巨大的创造力。
同样,如果一个系统既能够理解像蛋白质折叠过程这样的确定性数学,又能更直观地了解人体机能,那么它可能会以极快的速度发明有用的新药物。
即使Q*已经存在,它可能也不会立即面向公众。正如这样的系统可以彻底改变药物制作或创意写作,它也可能擅长发明生化武器或编造令人信服、难以察觉的宣传。在Q*这样的系统公开之前,OpenAI需要应对这些风险。
不过,如果有关Q*的报道是准确的,那就说明Altman在Reddit上关于AGI的暗示并不是在故弄玄虚。
尽管它可能还没有出现,但像Q*这样的系统将是人工智能的一个巨大飞跃——其功能更像人脑,和我们人类一样具有推理和创造力。
原文由Thomas Smith撰写,中文内容由元宇宙之心(MetaverseHub)团队编译,如需转载请联系我们。