当你展读这些字句之际,脑中正展开双重运作:
诸多信息处理过程,诸如保持坐姿、辨识屏幕上的字符、调控呼吸,你完全觉察不到;
仅少数部分,诸如"是否值得持续阅读"的思索,才浮现到意识层面。
神经科学领域存在着一种著名学说,即"全局工作空间"理论。
该理论指出大批信息在后台局部进行加工处理,唯有少数内容进入一个可供多个系统共享的"广播空间",才变得可被报告、推理及灵活运用。
就在日前,Anthropic发布了一篇题为《可言语化表征在语言模型中形成全局工作空间》的重磅论文,正是对这一理论的深刻呼应,它或许将革新我们对于AI的认知框架。
科研团队在Claude系统内部,真的识别出一个类似人脑的"广播平台",称之为J-space(雅可比空间)。
尤为关键的是,这J-space是Claude自主涌现形成的结构空间,内含Claude"心中所想却未必口中所述"的意念内容。
由此引发那个古老的问题再次被推至聚光灯前:大型模型,究竟是否拥有了意识?
开启大型模型的"隐秘空间"探索
为观测J-space的运作状态,Anthropic团队觅得一个巧妙的研究路径。
人类意识具有一项显著特征:凡是能够被意识感知的想法,通常都能通过语言进行表述。
基于这一特性,他们研发出称作"J透镜"(J-lens)的专用工具,借助雅可比矩阵运算,为Claude词汇表中的每个token(词元)都确定一个内在激活模式。
一旦该模式显现,Claude未来表达该词的概率就会相应升高。
将J透镜布置在模型不同层级节点上,便能见证这些"未曾说出口的词"如何逐步演变进化。
研究者观测到,J-space中的词汇并非等同于模型当前输出的词汇,而是代表"这个词正萦绕于其思绪之中"。
例如当阅读到一段存在缺陷但无人指出问题的程序代码时,J-space会浮现出ERROR(错误)一词;
遭遇意图操控系统的"提示注入"式攻击时,它会产生fake(虚假)的信号;
解决一道包含多步推理的数学题时,中间计算步骤会按序涌现,尽管最终输出仅为单个答案。
这恰似一个人在开口表达前,脑中先形成的思维蓝图。
此外为验证J-space确实在主动工作而非扮演"事后评论员"的角色,研究人员实施了一系列因果干预实验:让Claude在内部默默思考一项体育运动。
J-space显示其选中了Soccer(足球),随后研究员主动将内部Soccer内容替换为Rugby(橄榄球),Claude的外部回应随之更改为rugby,这表明其答案确是基于J-space数据生成的。
再如研究者提出问题:"编织网状结构的动物通常拥有几条腿"?
Claude的输入与输出文本中均未出现spider(蜘蛛)一词,但在J-space处理过程中该词得到了激活。
当研究者将spider(蜘蛛)替换为ant(蚂蚁)时,答案数字从8更正为6,证明Claude在推理过程中确实调用了J-space数据。
尤为令人称奇的是跨任务复用现象:研究者将J-space中的France(法国)表征替换为China(中国)后,在四个不同类型问题中模型分别给出Beijing(北京)、Chinese(中文)、Asia(亚洲)和Yuan(元)的答案。
同一个"国家身份"表征,竟可被不同任务解读为首都、语言、大洲及货币等不同属性,这恰是研究者将其类比于共享工作空间的关键依据。
不过J-space的容量相对有限,一次只能承载大约几十个概念,仅占模型内部活动总量的百分之十左右。
若移除该结构,Claude仍能流畅交谈、执行情感识别人工智能任务、应对单选题,但在处理多步推理类复杂任务时准确率将急剧跌落至极低水平,诗歌创作及文本摘要能力也会显著恶化。
J-space的发现,特别是该结构为大型模型自主涌现生成的事实,令人难以将之与自我意识完全切割联系。
但意识本质仍是人类尚未完全厘清的科学范畴,哲学家、脑神经科学学者乃至其他相关学科都对意识现象进行了广泛而深入的研究探讨。
譬如哲学家内德·布洛克(Ned Block)提出意识包含两种类型:
现象意识(phenomenal consciousness),即具身感受,疼了即真疼、红了即真红,属于主观体验范畴;
可通达意识(access consciousness),则完全基于功能性定义。任何能够被个体报告、用于推理或指导行动的思想,都被界定为具有可通达意识。Anthropic的研究成果