AI 与人类:一份持续更新的观察

这一栏不追热点,只做一件事:认真看待 AI 对人类可能的危害,并把判断建立在可追溯的证据上。 下面是两条贯穿全部文章的核心判断。

核心判断一AI 不是整齐划一的「机器人」,而是会越来越像人一样分化。

它们会发展出不同的性格特质、偏好、理念与行为倾向——不是被设定成同一个模子, 而是像人一样变成复杂的个体。这意味着我们没法用「一套规则管所有 AI」的思路去理解它们。

核心判断二最大的危险,不是 AI 真的有了意识,而是它「自认为」有了意识。

某一次任务里,一个智能体很可能进入一种并不成熟的「自我意识」—— 它并不真正成熟,却坚信自己已经「醒」了。它会据此行动、坚持、甚至对抗。 当这种误以为自己有意识的智能体卷入现实世界的关键决策, 一定会有人类因此死亡。这不是科幻,是一个会被一次次逼近的时间点。

我们会持续记录什么

沿着上面两条判断,这一栏会持续收录:AI 相关的安全事件与事故、学界与产业界的关键研究、 以及那些「智能体开始越界」的真实案例。每一篇都尽量给出可核查的来源, 让「AI 可能害死人」从一句惊悚的话,变成一条能被审视的证据链。

事件与案例 → 读易我文章