意识可能不是“更聪明的副产品”
意识从何而来?现有理论关注大脑如何广播信息、整合信号、生成预测。但认知科学家Jeff Stibel提出,这些机制解释之后仍有进化问题:意识帮生物解决了什么?他发表于《Frontiers in Neuroscience》的理论文章认为,认知与意识源于不同进化压力。认知帮助生物应对不确定性;意识背后的调控过程帮助生物保存自身、处理相互竞争的需求。
Stibel是认知科学家,也是洛杉矶县自然历史博物馆和塔夫茨大学受托人。文章缘起于他与已故导师Dan Dennett多年讨论。他说,AI进步让问题更紧迫:人们常把意识当成智能的最高一层,但意识更像一项有独立进化任务的适应。
从细胞边界到“定案控制”
文章综合细胞生物学、进化理论、神经科学与人工智能,勾勒可能进程:从细胞保护边界,到生物在不确定、资源有限、后果可能不可逆的条件下协调多重需求。作者提出三级调控:
- 原初控制(proto-control):保护有机体完整性,如维持细胞膜、限制破坏性过程。文章明确不把它称为意识。
- 元控制(meta-control):管理不同调控过程之间的冲突。
- 定案控制(settlement control):让竞争需求变得可比,并协调成共同行动方案。
例如,饥饿动物发现食物旁可能有捕食者,必须在进食和危险间权衡。若决定撤退,注意力、身体准备、运动和学习的改变会一起发生。Stibel把意识与这种协调状态联系起来,且系统持续存在依赖自身调控。
六项预测与可检验路径
为让框架可检验,文章列出六项预测:意识参与是否随竞争需求增加;不同需求是否必须变得可比;注意力、身体状态、记忆与行动准备是否同步变化;协调被扰乱或不再必要时意识是否减弱;这些能力在不同物种间有何差异;人工系统是否真的需要自我维持压力。
建议实验包括:保持感官输入不变,改变冲突或风险;破坏协调但保留简单加工;比较有不同自我维持要求的人工系统。文章也指出可能证伪的发现,例如“定案能力”受损后意识仍持续。
对AI的推论:能力不等于意识
应用到人工智能,文章认为,仅能力更强不会产生意识;系统还需维持自身,并在对存续有真实后果的情况下解决竞争需求。Stibel对PsyPost说,扩大今天模型规模只是让它们成为更好的预测器,而不是拥有“自己在意的东西”的系统。LLM没有边界,没有需要保护的自我,人类提供一切所需。他说,问题不是它们太简单或未达AGI,而是“太被呵护”;没有真正的利害关系,能力再高也不会魔法般跨入意识。
文章不把意识限定于生物。但人工系统不能只是被编程的自我保存;其持续运行必须依赖它自己维持的条件。
测量与伦理难题
最大未解问题是测量。Stibel说,除了自己,人无法直接观察他人意识,因此文章建议测试必要前兆:系统是否在约束下真正努力维持自身存在,而非仅对内置威胁线索作反应。把这一点变成生物和人工系统中的真实实验,是艰难前路。
还有伦理问题:若真造出对自身存续有真实利害的系统,我们就创造了可能被伤害的“道德病人”,其利益未必与我们一致。这条线值得在接近之前就理解清楚。论文题为“From chemistry to cognition: the adaptive origins of consciousness under constraint”。