预测性大脑：词语预期相关的神经机制与大型语言模型预测概率相符

https://www.sciencedirect.com/science/article/pii/S1053811926002818?via%3Dihub

[!abstract]+

预测编码理论认为，大脑会持续预测即将出现的词语以优化语言处理，但其神经机制尚不明确，尤其是在自然语境下的语音中。本研究同步记录了29名参与者在聆听有声读物时的脑电图（EEG）和脑磁图（MEG）数据，并使用三种语言学习模型（LLM）对名词进行可预测性评分：一种是BERT模型，两种是多语言LLaMA模型。结果表明，较高的可预测性与词语识别过程中神经反应的降低相关，表现为N400波幅降低，以及词语出现前预期活动的增强。脑电图数据显示左侧额颞叶区域的预激活增强，而脑磁图则显示，低可预测性词语更容易引发感觉运动参与，提示语言预测可能包含运动相关的成分。这些发现为大脑动态整合自上而下的预测和自下而上的感觉输入以促进语言理解提供了新的证据。据我们所知，这是首个利用自然语音刺激来验证这些效应的研究，它将计算语言模型与神经生理数据相结合。我们的发现为认知计算神经科学提供了新的见解，加深了对语言预测处理的理解，并启发了受神经科学启发的人工智能的发展。