“说的全都不一样,我到底该信哪一个?”演员刘美含的一句无奈吐槽,直接把AI回答的准确性问题推上了热搜,引发全网大范围讨论。不少人日常都在用AI查资料、解疑问,可本该给出标准答案的工具,却频频出现答案矛盾、甚至出错的情况,这也让大家重新审视起AI的真实能力和使用边界。

事情的起因很简单,刘美含在为新剧配音时,碰到了“铸币坊”里“坊”字的读音问题,拿不准该读一声还是二声,于是接连用了5款市面上主流的AI工具查询,结果却越查越糊涂:不同AI给出的读音完全不一样,就连同一款AI,在不同设备上给出的答案都有差别,彻底把她难住了。
这段经历刚发出来,就戳中了无数网友的痛点,大家纷纷留言分享自己的类似遭遇,有人说AI经常答非所问,有人说同个问题多次查询结果不一样,还有网友调侃“原来AI之间也会意见不合”,更多人则提醒,AI只能当个辅助工具,涉及重要内容,还是得查权威资料才靠谱。
针对这一现象,多位行业专家给出了解释:生成式AI本质上是靠概率生成语言的系统,本身没有判断事实真假的能力,回答自然没法保证百分百准确。更值得关注的是,今年的政府工作报告里,还首次明确提出要“完善人工智能治理”,随着AI越来越深入我们的工作和生活,怎么在用好技术的同时,规避潜在风险,成了全社会都在关注的重要话题。
一个字读音引分歧,5款AI各执一词,权威词典才给出正解
在刘美含发布的配音日常视频里,她详细说了整件事的经过:当天配音有一句台词是“铸币坊”,她自己读的是“铸币fǎng”,可越说越不确定,索性拿出多款AI工具逐一核对,没想到结果彻底混乱。
她先后测试了百度AI、DeepSeek、元宝、豆包、通义千问这5款工具,百度AI明确标注读二声fáng,DeepSeek和元宝则显示一声fāng,最让人意外的是,她和录音老师分别用豆包查询,居然得到了不一样的读音,最后问通义千问,依旧是一声fāng。折腾了一圈,还是经纪人用《新华词典》APP查询,才确定“铸币坊”里的“坊”正确读音是二声fáng。
其实从语言规范来说,“坊”字的读音根本没有争议。南京师范大学文学院化振红教授解释,这个字从古至今只有一声和二声两个读音,三声完全是方言影响导致的误读。现代汉语里,一声用来表示街巷、牌坊、店铺这类含义,二声则专指小手工业生产的场所,比如磨坊、染坊,铸币坊属于造币的作坊,自然读二声。
后续南都大数据研究院的记者,特意用同款AI工具再次验证“铸币坊读音”,结果依旧有分歧:DeepSeek和元宝还是坚持读一声,豆包和通义千问已经修正为二声,百度AI则一直保持二声的正确答案没变,足以看出不同AI模型的稳定性差异明显。
AI为何会“各说各话”?核心是底层逻辑带来的“幻觉问题”
明明是一个简单的汉字读音,多款AI却给出不一样的答案,很多人疑惑,AI难道连基础常识都搞不懂吗?其实这和生成式AI的底层运行逻辑息息相关。
目前主流的AI大模型,并不是像字典一样储存标准答案,再逐条检索输出,而是通过学习海量网络文本,靠概率预测出“最有可能正确”的内容。它本身没有辨别事实真假的能力,也不能像人一样去核对信息来源,这是AI出现答案分歧的核心原因。
一旦训练的文本里,包含错误读法、不同观点、网络争议内容,AI就会根据语境生成不同结果;再加上各家AI的训练数据、模型架构、运算逻辑不一样,有的侧重通用文本,有的对接专业知识库,技术路径不同,输出内容自然有差别,加上模型持续更新,同一款AI不同时间查,答案也可能变。
其实这种情况,就是大家常说的“AI幻觉”,简单来说就是AI表面上说话流畅、逻辑通顺,实则捏造细节、给出错误答案,也就是“一本正经地胡说八道”。偏偏AI的表达很流畅,看起来特别自信,这种错误反而比普通搜索的错误更有迷惑性,很容易让人轻信。
近几年关于AI幻觉的讨论一直没停过,此前杭州互联网法院还审理了国内首例AI幻觉引发的侵权纠纷案,涉案AI生成错误信息,被指出后还拒不改正,甚至编造出“错误可赔偿”的内容。法院在判决中明确提到,大语言模型靠概率生成内容,无真伪判断能力,没办法做到零错误,这也说明AI出错并不是个别现象。
可日常使用中,很多人习惯了“遇事先问AI”,容易被它流畅的表达误导,把它当成靠谱的知识来源,刘美含的这次经历,也给所有人提了个醒,必须认清AI的能力边界,不能过度依赖。
破解AI幻觉难题,技术、法治、个人理性三方都不能少
如今AI已经渗透到学习、工作、生活的方方面面,用AI查资料、写文案、解难题成了很多人的习惯,但在现有技术条件下,AI幻觉没法完全杜绝,怎么平衡使用便利和信息准确,成了AI发展路上的关键问题。
清华大学公共管理学院朱旭峰院长认为,对待AI幻觉要辩证看待,这类问题并不是全新的社会现象,只是在信息技术时代换了一种形式出现,随着AI技术不断升级优化,加上持续的规范治理,可靠性会慢慢提升。
法治保障也是治理AI幻觉的重要一环,北京大学法学院王锡锌教授建议,可以通过AI生成内容标注、信息溯源等机制,减少错误信息被误用、传播的风险,从制度层面约束AI行为。
目前,人工智能治理已经上升到国家层面,今年政府工作报告在推进“人工智能+”行动的同时,首次提出完善人工智能治理。相关负责人也明确表示,要加快完善治理体系,加强国际合作,让AI朝着安全、有用、公平的方向发展,工信部部长也强调,AI发展要兼顾发展与安全,做到为人所用、为人可控。
对于我们普通用户来说,专家也给出了实用建议:日常用AI可以图方便,但涉及学习、工作、重要决策等关键信息,一定要多查权威资料,不要轻信单一AI答案,养成核实求证的习惯,别过度依赖AI,才能避开“AI幻觉”的坑。
大风热搜网



