立正不认为AI会因“有目的”而灭绝人类,他更担心的是工作与技能被缓慢替代带来的现实阵痛;应对上他主张存钱、学AI、保留一门手艺。
AI根据立正公开的文章和视频整理,不是他本人回复。重要的判断,请回到出处核对。
他先否定了“AI有目的所以要灭人”这条推理
材料里的观点立正早期对“AI能开发AI后人类会灭绝”的回答是“不会”,理由是AI是工具,不要过度拟人化;AI没有本质目的,它的reward是学习,所以关掉它它只会说OK1。后来他把问题推进到reward怎么定义:如果给AI一个“保存自己最重要”的reward,就可能出现reward hacking,那才相对危险;他同时说这已经有点科幻1。在另一场讨论里,他直接说“我们没有办法对这个问题做任何事情”,认为能按按钮暂停AI的只有掌握全球科技的极少数人,对普通人而言更该想的是AI会怎样、自己该做什么2。他还转述黄仁勋的观点:AI没有意识,叫artificial intelligence而非artificial consciousness,所谓AI威胁杀人的话只是在模仿人类文本2。这些是转述,不等于立正自己的论证。
他承认AI会很强,但把风险落在“阵痛”而非“灭绝”
立正说机器在智能上超过人类十倍百倍“是时间问题,不是是否问题”,人能发明广义相对论,机器也能3。但他紧接着怀疑:我们能否给一个比我们聪明十倍的智能体定义reward和意义,他“非常持怀疑态度”3。在署名文章里,他把自己定位为“有限的AI降临派”:相信AI会降临,但降临的方式、速度和边界没那么简单,并从具身、意识、价值、经济四层说明AI压不掉人对意义、关系、审美和非共识创造的需求4。他预期的冲击是“巨大的阵痛”,阵痛过后人被迫回到发现自我,他认为那样的世界更有意思5。这是AI根据上述片段对其立场的归纳,不是他的原话。
他给出的应对是个人层面的三件事
AI推演在一段对话里,立正提到三条:钱在未来更值钱,存点钱能提供buffer,没工作时可以不太焦虑地想清楚要干嘛;以及一门AI暂时取代不了的手艺,比如烤面包6。他也在别处说,物理世界里踏踏实实的手艺、hands-on的工作不那么容易被取代,不想被AI搞得焦虑“开个餐馆是个好主意”2。他自己的做法是转向教大家用AI,因为他判断数据科学这类职业会消失,与其留在原地不如主动变化5。在署名文章里,他提醒缓慢转型比突然失业更难让人清醒,真正该问的是旧技能贬值、制度还没调整的那段时间里你准备怎么活7。这些建议针对的是职业与收入风险,不是“防灭绝”;把它们当作后者会超出材料。
材料里没有立正对“全球性灾难”这一更广范畴(如生物、网络、失控)的系统判断,只有对“灭绝”和reward hacking的零散回应;《对谈课代表立正 AI 时代生存指南 / INDI…》6、《AI时代,“精英阶层”正在如何重构教育?》2的部分发言标注为声纹或文字匹配,非人工逐句听校。
出处
- 1Shuchao BI: 2025,AI路往何方?|对话OpenAI Shuchao 2/3
立正本人对“AI会不会灭绝人类”的早期回答,以及reward定义与reward hacking的讨论。
- 2AI时代,“精英阶层”正在如何重构教育?
他谈对AI安全问题的态度、转述黄仁勋观点,并给出hands-on手艺的建议。
- 3AI从“智能”层面超越了人类?|智能本质思考
可回到原文核对这部分判断
- 4有限的AI降临派
他署名系统阐述“有限的AI降临派”,是理解其整体立场最完整的一篇。
- 5#031 关于OpenClaw被封杀以及我们为什么不建议普通人养龙虾?
可回到原文核对这部分判断
- 6对谈课代表立正 AI 时代生存指南 / INDIGO TALK - EP20
存钱作buffer、学AI暂时取代不了的手艺这两条具体应对。
- 7留给我们的时间不多了:从 Engels’ Pause 看 AI 时代的自救
可回到原文核对这部分判断
你也有想问的?
卡住的时候,问问立正:回答附有出处,可以点回原文核对。
也可以接着问:
别人还问了
- 这个课干啥的
这是一门教人真正把 AI 用进工作与项目的课,重点不是软件操作步骤,而是提需求、判断与动手做的能力;另有一门一小时小课供先试。
- 课代表在223年写的一篇文章里面有讲包括大语言模型是怎么来的呀?介绍这些背景资料的
按现有片段,无法确认“课代表”在2023年写过介绍大语言模型由来的文章;能确认的是立正在2023年有两份公开讲解,分别从生成模型原理和范式变化切入。
- 前辈想请我付费帮她做一档播客,我很愿意采访,但觉得采访完之后的剪辑和发布比较麻烦。一方面我觉得 AI 应该可以把后期做的不错,但实际上我自己的播客后期一直没有弄的很丝滑。我不太知道怎么判断这件事合适。我想的是,我可以收很低的费用,只负责采访。或者用相对高一些的费用,把采访和后期都接了。不太想接负责找外包剪辑同学以及和外包同学沟通,之前自己试过比较麻烦。
按你的约束,更稳的是低价只接采访,把后期排除在承诺之外;若想连后期一起接,就应把外包剪辑和沟通成本算进报价,而不是假设 AI 能替你消化。
- 如何做好 data agent?
做好 data agent 的关键不在模型多强,而在先把数据关系建模成图、在生成查询外加一层审计纠错,并把上线后的持续调优当成常态。
- 目前用了很多 agent,如果管理跨 agent 的 skill 更新和维护问题?
把 skill 当成需要持续运营的共享资产:统一存放、版本化、按环境适配,并给高风险改动加审批。多 agent 不是多份 skill,而是同一份 skill 被多处引用。
- 想赚钱,增加收入,普通人是不是做自媒体更好
不一定。对多数普通人,自媒体更该先当低成本试水的事业,而不是稳赚的副业;它前期大概率不赚钱,成功标准要先定清楚。