科学思维的能力是否是智慧的核心本质？

原文：Cargo Cult AI

摘要：
文章探讨了人工智能（AI）与真正的科学思维之间的差异。讨论了科学思维作为智能的核心要素，以及人类倾向于轻易相信与科学不符的神奇和幻想。作者指出类似GPT-4这样的大型语言模型被认为是早期版本的AGI（人工通用智能），但这种观点令人不安。现代AI模型虽然可以提问并回答问题，但无法复制人类科学思维，尤其是在扩展可验证知识边界方面的能力。对于物理学等领域，神经网络模型相对于牛顿的万有引力理论在普适性上存在局限性。

文章还指出，人们在使用AI进行因果推断时需要谨慎，因为神经网络在识别数据相关性方面非常擅长，但却不擅长建立因果关系。在医学诊断等领域，AI在建立因果关系方面应用已经越来越多，但这也会导致类似于人类货物崇拜（Cargo Cult）的情况出现。

作者认为，AI和AGI研究提供了了解人类思维这一未解决科学问题的机会，但目前的AI模型在理解人类思维方面还有很多工作要做。文章最后表示对AI和AGI的未来持乐观态度，并指出需要采用新的算法方法来超越纯经验推理的界限，以实现更强大的AGI。

总之，该文探讨了AI在科学思维和因果推断方面的局限性，以及对未来AI和AGI发展的展望。

启发：

1. 科学思维与AI：尽管AI在许多任务上表现出色，但它是否真正拥有科学的思维方式仍然是一个问题。真正的科学思维需要对假设进行严格的调查和验证，而不是仅仅基于数据进行预测。
2. AI的局限性：大型语言模型如GPT-4虽然在许多任务上表现出色，但它们缺乏真正的科学探究的能力。这意味着，尽管它们可以生成看似合理的答案，但这些答案可能缺乏真正的科学依据。
3. 人与AI的互动：当我们依赖AI为我们提供答案时，我们需要意识到它的局限性。AI的输出应该被视为一个可能有用的相关指标，而不是作为因果关系的决定性证据。