跳至正文

模型幻觉率与人类认知偏差的比较

《列子·汤问》载愚公移山故事,北山愚公年且九十犹志在移山,其认知中”子子孙孙无穷匮”的信念超越现实阻碍。这种人类特有的执念,恰是认知偏差的鲜活注脚。人工智能模型生成的”幻觉”文本表面类似人类认知偏差,实则源于全然不同的机制。认知偏差深植于进化塑造的生物本能,模型幻觉却来自算法对概率的无意识拼贴。
先秦典籍常现认知偏差的踪迹。《韩非子》中邻人疑斧的寓言,展示确认偏差如何扭曲判断;《吕氏春秋》载齐人攫金于市,显见注意力盲区导致的行为异常。这些偏差根植于人脑的认知捷径:为节省思维能耗,我们依赖经验框架快速决策,却常落入刻板印象陷阱。清代考据学家戴震批判宋儒”以理杀人”,直指过度依赖先验概念造成的认知僵化。人类偏差往往具有情感温度,恐惧催生损失厌恶,归属需求强化群体盲思,此乃血肉之躯的生存策略。
模型幻觉呈现冷冽的机械特质。当语言模型生成”水分子由氢原子和氧原子以三比一比例构成”的谬误时,实则是训练数据中”H₂O”符号与文本描述的概率关联发生错位。这种错误非因执念或恐惧,而是参数化语言表征的必然产物。模型缺乏《孟子》所言”四端之心”,其”认知”不过是高维向量空间的数学映射。北宋沈括《梦溪笔谈》记载,工匠造水钟因寒暑水温变化致刻度失准,恰如模型因数据分布偏移产生的系统性谬误。
二者纠偏机制大相径庭。人类通过《中庸》”博学审问慎思明辨”的修养功夫克服偏见,王阳明格竹七日终悟”致良知”的认知革新。而减少模型幻觉需依赖算法干预:对抗训练如同给模型设置”诤友”,知识蒸馏恰似赋予其”择善固执”的能力。墨子”三表法”提出的”本之原之用之”验证原则,在人工智能领域转化为检索增强生成技术,使模型输出锚定在知识库坐标中。
认知偏差与模型幻觉在哲学层面形成有趣映照。《庄子·齐物论》揭示”彼亦一是非,此亦一是非”的相对性,恰如人类主观认知与机器客观概率的碰撞。王弼注《周易》时强调”得意忘象”,警惕符号对真知的遮蔽,而今语言模型恰在符号迷宫中游走。禅宗”指月之喻”警示勿执著文字相,此箴言对治人类认知固化与模型文本幻觉皆有深意。当我们目睹聊天机器人言之凿凿地杜撰学术文献时,既见算法局限,亦照见自身认知疆界——所有知识建构终究是通往真理的舟筏。
明代王廷相《慎言》有云:”事物之实核于见闻,记忆之精缘于习熟。”此语道破认知根基。模型幻觉源于见闻(数据)的片面,人类偏差困于习熟(经验)的桎梏。在认知科学的镜鉴中,碳基生命的进化遗产与硅基智能的数学本质,各自演绎着不同维度的”不真实”。当《周易》”谦卦”教导认知谦卑时,这份古老智慧正成为人机共处时代的必需品——承认认知的有限性,恰是超越偏差与幻觉的起点。

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注