AI会灭绝人类吗2026年11月3日提问

你认为在将来AI会导致人类灭绝或出现极其严重的全球性灾难吗?如果会,我们现在该怎么办呢?

立正不认为AI会因“有目的”而灭绝人类,他更担心的是工作与技能被缓慢替代带来的现实阵痛;应对上他主张存钱、学AI、保留一门手艺。

AI根据立正公开的文章和视频整理,不是他本人回复。重要的判断,请回到出处核对。

他先否定了“AI有目的所以要灭人”这条推理

材料里的观点

立正早期对“AI能开发AI后人类会灭绝”的回答是“不会”,理由是AI是工具,不要过度拟人化;AI没有本质目的,它的reward是学习,所以关掉它它只会说OK⁠1。后来他把问题推进到reward怎么定义:如果给AI一个“保存自己最重要”的reward,就可能出现reward hacking,那才相对危险;他同时说这已经有点科幻⁠1。在另一场讨论里,他直接说“我们没有办法对这个问题做任何事情”,认为能按按钮暂停AI的只有掌握全球科技的极少数人,对普通人而言更该想的是AI会怎样、自己该做什么⁠2。他还转述黄仁勋的观点:AI没有意识,叫artificial intelligence而非artificial consciousness,所谓AI威胁杀人的话只是在模仿人类文本⁠2。这些是转述,不等于立正自己的论证。

他承认AI会很强,但把风险落在“阵痛”而非“灭绝”

立正说机器在智能上超过人类十倍百倍“是时间问题,不是是否问题”,人能发明广义相对论,机器也能⁠3。但他紧接着怀疑:我们能否给一个比我们聪明十倍的智能体定义reward和意义,他“非常持怀疑态度”⁠3。在署名文章里,他把自己定位为“有限的AI降临派”:相信AI会降临,但降临的方式、速度和边界没那么简单,并从具身、意识、价值、经济四层说明AI压不掉人对意义、关系、审美和非共识创造的需求⁠4。他预期的冲击是“巨大的阵痛”,阵痛过后人被迫回到发现自我,他认为那样的世界更有意思⁠5。这是AI根据上述片段对其立场的归纳,不是他的原话。

他给出的应对是个人层面的三件事

AI推演

在一段对话里,立正提到三条:钱在未来更值钱,存点钱能提供buffer,没工作时可以不太焦虑地想清楚要干嘛;以及一门AI暂时取代不了的手艺,比如烤面包⁠6。他也在别处说,物理世界里踏踏实实的手艺、hands-on的工作不那么容易被取代,不想被AI搞得焦虑“开个餐馆是个好主意”⁠2。他自己的做法是转向教大家用AI,因为他判断数据科学这类职业会消失,与其留在原地不如主动变化⁠5。在署名文章里,他提醒缓慢转型比突然失业更难让人清醒,真正该问的是旧技能贬值、制度还没调整的那段时间里你准备怎么活⁠7。这些建议针对的是职业与收入风险,不是“防灭绝”;把它们当作后者会超出材料。

材料里没有立正对“全球性灾难”这一更广范畴(如生物、网络、失控)的系统判断,只有对“灭绝”和reward hacking的零散回应;《对谈课代表立正 AI 时代生存指南 / INDI…》⁠6、《AI时代,“精英阶层”正在如何重构教育?》⁠2的部分发言标注为声纹或文字匹配,非人工逐句听校。

出处

  1. 1Shuchao BI: 2025,AI路往何方?|对话OpenAI Shuchao 2/3

    视频说话人待核2025-02-01

    立正本人对“AI会不会灭绝人类”的早期回答,以及reward定义与reward hacking的讨论。

  2. 2AI时代,“精英阶层”正在如何重构教育?

    视频说话人待核2026-06-09

    他谈对AI安全问题的态度、转述黄仁勋观点,并给出hands-on手艺的建议。

  3. 3AI从“智能”层面超越了人类?|智能本质思考

    视频发言:立正2025-04-27

    可回到原文核对这部分判断

  4. 4有限的AI降临派

    超线性学院 · 会员2026-03-05

    他署名系统阐述“有限的AI降临派”,是理解其整体立场最完整的一篇。

  5. 5#031 关于OpenClaw被封杀以及我们为什么不建议普通人养龙虾?

    xiaoyuzhoufm.com说话人待核2026-03-26

    可回到原文核对这部分判断

  6. 6对谈课代表立正 AI 时代生存指南 / INDIGO TALK - EP20

    xiaoyuzhoufm.com说话人待核2025-03-06

    存钱作buffer、学AI暂时取代不了的手艺这两条具体应对。

  7. 7留给我们的时间不多了:从 Engels’ Pause 看 AI 时代的自救

    超线性学院 · 会员2026-05-12

    可回到原文核对这部分判断

你也有想问的?

卡住的时候,问问立正:回答附有出处,可以点回原文核对。

也可以接着问:

所有问题 →