AI将个人电话号码

错误标注为某养殖场

类似的事件还有不少，近日，一位网友吐槽，自己的手机不断接到陌生电话，对方开口就问是否卖猪。起初他以为是恶作剧，后来才发现，这些电话竟然来自豆包AI的搜索结果，他的号码被AI错误标注为某养殖场的联系方式。AI为何会产生这样的“幻觉”？这种“幻觉”能否避免呢？

某人工智能公司首席AI专家 王占一：AI的幻觉现在主要指的是大模型的幻觉，那就是大模型在它的生成、回答的过程中，看似生成了很多合理的、很流畅、很自然、语义语法、也没问题的回答，但是它在事实性、真实性上面是有问题的，可能比较自信，一本正经在说什么，但是其实是不对的。

当AI一本正经地“胡说八道”时，便是“AI幻觉”的典型表现。由于AI给出的回答读着通顺、语气笃定，用户往往很难判断其真伪。那么，AI为什么会产生这种幻觉呢？

某人工智能公司首席AI专家王占一解答：

第一个方面是在数据层面，训练的数据有可能质量差或者数据缺失，数据的时效性不够，以及问题可能是它没有学过。第二个也是最关键的，就是模型本身的实现机制。因为它本身是一种概率模型，它依赖于前面的上文去推理下一个词，这个过程中可能就会有一些“幻觉”，是因为它去回答的时候是更加关注于怎么样更加流畅，但是它没有关注到事实性。第三个，在推理和上下文的时候，上下文过长，会对模型的能力提出挑战，用户他的输入和指令可能也有前后矛盾的，模型可能也不知道应该选哪个，这也有可能识别错。

• 上一页
• 1
• 2
• 3
• 4
• 下一页
• 全文阅读