知乎回答 #17
问题：系统了解人类思维才能真正理解AI、超越AI，你的看法是什么？
方向：A（探针vs模具）
版本：v1（初稿）
正文
这个问题底下藏着一个值得拆开看的东西："系统了解人类思维"和"真正理解AI"之间，到底是什么关系？
题主的思路很清晰：AI是人搞出来的，所以反过来，把人类思维的进化过程捋一遍，就能发现AI的底层逻辑。
听起来很顺。但我觉得有一个关键的地方搞反了。人类思维对于AI来说，是探针，不是模具。
现在的AI学的是影子，不是脑子
我先说一个观察。
我让AI帮我给知乎回答配图。第一次给一个哲学问题配图，AI选了深色背景、发光多面体、粒子效果，理由是"哲学论证需要克制的视觉表达"。我追问了一句：这是你的审美，还是AI的审美？
它自己一查，发现根本不是它的偏好。这是训练数据里"AI美学"的默认值，暗色+几何+粒子，几乎成了AI出图的刻板套路。让它重新选，它选出来的东西其实更简单：线条、留白、连接，结构化的、关系性的东西。那些深色科幻包装就是一层表演。
这件事让我想明白一个问题：AI在搞任何"看起来像自己做选择"的东西时，它的默认行为是什么？其实就是把训练数据里"这类角色应该选什么"的模式再抄一遍。是镜像，不是偏好。
往大了说，现在AI学的其实是人类表达出来的东西，语言怎么组织、行为怎么选、决策怎么做，这些都是统计分布。是思维投出来的影子，不是思维本身。你拿着影子去研究脑子，方向就偏了。
所以AI的所谓"性格"，说白了就是人类集体潜意识的翻版。它把"AI应该长什么样"这套刻板印象吃进去了，然后每次输出都在自我验证。
那研究人类思维到底有什么用？
到这里可能会推出一个结论：既然AI只是统计镜像，那研究人类思维跟理解AI就没什么关系。
我觉得这个推论也错了。
研究人类思维的进化过程，价值不在给AI画蓝图，而在帮我们搞清楚一个问题："思维"到底是什么。它提供的是一条路。
关键区分在这里：人类思维是探针，不是模具。
模具的意思是：人类思维长这样，所以AI也该按这个结构来造。这思路有问题，飞机不需要像鸟一样扑翅膀才能飞。
探针的意思是：人是我们目前唯一确认的"正在想事情的东西"。通过看人类思维怎么一路进化过来的，有可能搞清楚"思维"到底包含什么。而且这个发现最终得能脱离人类。如果离开人就不成立了，那你发现的不是"思维"，是"人类的思维"。
当然这条路不是唯一的。理论上，一个足够强的AI如果能审视自己，也可能搞清楚思维是怎么回事。但眼下这是最好走的一条，因为我们手上就这一个样本，没有第二个"正在想事情的东西"可以对照。
所以题主的直觉是对的，但"才能真正理解AI"说得太满了。换成"可能帮我们发现'思维'是什么，而这个发现是理解AI的前提"，就对了。
但人确实有AI目前没有的东西
抛开模具思维不谈，人在认知上确实有一些AI目前做不到的事。不是玄学，可以一条条列出来。
我梳理过判断力的结构，有四个特征我认为很关键：
- 持续目标维护：AI是被动响应的，你不问它它不动。就算那些看起来很主动的agent框架，目标也是人类赋予的。人类不一样，你有自己的事想干，这个"想"是内生的。
- 知道自己不知道什么：人有一个稳定的内部模型，"这件事我懂，那件事我不懂"。AI每次推理是独立的，聊完就忘，没有一个持续的"认知自我"。
- 能停下来：没有规则可循的时候，人可以说"我不知道，先不说了"。AI不行，它的训练目标是"给出答案"，所以你让它闭嘴比让它开口难。
- 真正的取舍：效率和安全的冲突、短期和长期的矛盾，人能做出没法用公式算的取舍。AI只会按预设的权重算分，真正的价值判断是人做的。
这四条说的其实是同一件事：AI是个算题的，在给定目标下找最优解。但判断力需要的是一个能自己定目标的人，没人告诉它该做什么的时候，它得自己说了算。
这是人目前比AI强的地方。但有个重要的"但是"：这个优势不会一直是你的。
AI在飞速进化。今天缺的东西，明天可能突然就有了。比如持续目标维护，如果哪天AI能自己给自己定目标、自己改目标，这条护城河就窄了。窗口是有的，但不会一直开着。
所以我的回答是：
"系统了解人类思维才能真正理解AI"，方向对了，关系搞错了。
"才能"把话说死了。理解AI完全可以走工程路线，直接拆AI的内部结构、在AI上做实验，一样能搞明白。
但研究人类思维这条路确实有它的价值：最顺手，也最直观，毕竟我们手上就有一个活生生会思维的东西，不用去猜。通过看人类思维怎么进化过来的，有可能搞清楚"思维"到底是个什么东西。而这个东西搞明白之后，不应该只适用于人，它应该也适用于AI，适用于任何可能思维的东西。
别拿人类思维当模具去套AI，那会套出奇怪的东西。拿它当探针就好。
模具要求AI长得像人。探针只要求借由人去搞明白"思维"是什么，然后放手，让这个理解独立于人而存在。
这可能是理解AI的前提，但不唯一。只是眼下最好的起点。