胡编乱造会是 AI 的一个死结吗？

截止目前，是的。所有的大模型都有这毛病。

展示思考链是一种友好的做法，好在有助于帮助用户发现幻觉的起点。但远远不够。

对 AI 而言，存在全是真理的世界吗？

可以接入知识库，或联网验证知识，但是太难了。

毕竟，你让它背诗都背不完整。

幻觉的概率说是有 2-3%，有些优秀的模型是可以降低到很小的比例。可存在幻觉本身就是不可避免，是符合发展规律的，人不可能指望突然出现一个万能的真理机，那我们都不用努力了，AI 就是生产力，万一真有了这种东西，有没有可能就像黑客帝国的以人类为养分的人工智能，或者龙珠里研制出17号，18号的盖洛博士的人工智能一样，等着人造人自己出现了，大家玩完吧。

听雪落 发表于 2025-2-6 10:14
幻觉的概率说是有 2-3%，有些优秀的模型是可以降低到很小的比例。可存在幻觉本身就是不可避免，是符合发展 ...

赞同

现实世界也是一样的，更何况基于现实世界的AI

听雪落 发表于 2025-2-6 10:14
幻觉的概率说是有 2-3%，有些优秀的模型是可以降低到很小的比例。可存在幻觉本身就是不可避免，是符合发展 ...

如果 AI 成为真理机，就不仅仅是人不用努力的问题了，人类社会最底层的既有制度也都站不住了，一切交给真主 AI 去做决策吧。