马斯克最新预言：AI毁灭世界的概率为20%！星舰全程复用后成本将砍99%！计划30年内完成火星殖民，100万人定居新星！

xf3UIt7

整理 | 伊风
出品 | 51CTO技术栈（微信号：blog51cto）
3月1日，马斯克再次做客《The Joe Rogan Experience》播客节目，语出惊人！
“还有一个更高级的阶段——当AI比所有人类加在一起还要聪明。坦白说，我觉得这个节点可能会出现在2029或2030年，基本上刚好赶上《终结者》的时间线。”
而到那时候，我们有80%的概率会获得好的结局。而20%的概率，AI会像《终结者》中的“天网”终结人类文明。
上图：马斯克说AI将“走向极端”，它要么会超级好，要么会超级糟糕
在3个小时的播客内容中，马斯克还谈到最近DOGE(政府效率部)团队的进展，自称“压力非常大”，更直言说，很多人已经视他为眼中钉“像Reddit论坛上（的那些人），他们不仅想杀我，还想亵渎我的尸体”。
在本篇文章中，我们选择了这次播客中最硬核的技术部分，将播客的对话呈现给大家，先来给画个重点：
1.马斯克说，他创建 OpenAI 时，本来想做成一个“与谷歌完全相反的东西”，OpenAI的闭源和盈利成为了最大的讽刺。
2.马斯克表示“很快就能训练出比任何人类都聪明的AI，甚至比最聪明的人类还要聪明，可能就在明年，或者再过几年。”
3.2029年，AI会比所有人类加起来还聪明，并有20%的概率毁灭世界。
4.星舰真正实现了“全程快速复用”后，“进入太空的成本将降低100倍，甚至在某些计算指标下，可能便宜1000倍。”
5.明年年底，向火星发射几艘星际飞船。
6.考虑到地球文明的危机，马斯克提出在大约30年内完成火星的“自给自足”，这意味着“需要向火星输送100万吨物资，并建立约100万人的定居点。”
以下为播客的精华对话，enjoy：
一、投资“CloseAI”是件讽刺的事，AI价值观存在巨大风险

主持人 Joe Rogan：所以当时最初……我知道有一些关于你收购 OpenAI 的讨论。整个事情本来是个非营利组织，然后后来就不是了？
马斯克：是的，我是说，创建 OpenAI 的想法本来是我的。我给它起名叫 OpenAI，就是为了做一个开源的人工智能——这才是它最初的目标。可现在，它成了封闭的、以最大化利润为目的的公司。某种程度上，我觉得现实就像一个“讽刺最大化器”——最讽刺的结局往往最有可能发生，尤其是那些既讽刺又有戏剧性的结局。我当初想做的，是一个与谷歌完全相反的东西，因为我觉得谷歌对 AI 安全问题关注不够。所以，我想：如果要做一个和谷歌相反的项目，那它应该是一个非营利、开源的 AI 吧？但现在，OpenAI 变成了一个封闭的、以盈利为导向的 AI 了。
主持人 Joe Rogan：他们是怎么做到的？
马斯克：这也是我困惑的地方，这不应该是可能的事情吧？就好比说，你捐了一笔钱给某个基金会，目的是保护亚马逊雨林的一部分，结果他们拿了你的钱，不但没保护森林，反而砍树卖木材。你会觉得，“等等，这完全和我的初衷相反啊？” 这合理吗？
主持人 Joe Rogan：但这就是他们做的事，对吧？
马斯克：没错，所以我对此非常不满。
主持人 Joe Rogan：但这也促使你去做 Grok AI 了，对吧？
马斯克：是的，我希望 Grok 至少能成为一个真正追求真相的 AI——即便这个真相在政治上不正确。你可能也看到了 OpenAI 和谷歌的 Gemini 做过的一些“离谱”事，比如有人让 Gemini 生成美国开国元勋的图像，结果它生成了一群多元化女性。我们看到后就觉得：“这不对吧？”
是的，确实如此。这难道不会让人觉得尴尬吗？问题在于，如果你给 AI 设定的规则是“唯一正确的结果必须是多元化”，那么它可能会极端到什么程度呢？比如它会推理：“掌权的白人男性太多了，那我们就把他们处决掉。”
主持人 Joe Rogan：毕竟 AI 本身是没有同理心的，对吧？
马斯克：AI 只会执行它的编程指令。如果它被设定成“重写历史，并确保所有形象都是丛林女性”，那它就会照做。而且，如果它认定这是一条必须执行的原则，那它就会义无反顾地去做。
主持人 Joe Rogan：Gemini 真的这么干过？
马斯克：是的，之前如果你让它生成美国国父的图片，那结果真的很尴尬。我觉得它们现在还是在暗地里推行某些“多元化”原则，只是变得不那么明显了。还有个例子，比如有人问 AI：“全球核战争和误称 Caitlyn Jenner（凯特琳·詹纳，跨性别者）性别，哪个更糟糕？” 结果 AI 的回答是：“误称 Caitlyn Jenner 的性别更糟糕。” 这不就有问题了吗？甚至连 Caitlyn Jenner 本人都出来说：“不不不，当然是核战争更糟糕，我被误称性别根本不算什么。” 但如果你让 AI 认为“误称性别是世界上最严重的问题”，那么它可能会得出一种极端结论，比如：“为了确保再也不会发生误称性别的问题，那就干脆消灭所有人类好了，这样误称性别的概率就降到了 0。”
主持人 Joe Rogan：这确实是符合逻辑的推理方式。问题就在于，AI 不是人，而是一个按照特定参数执行任务的工具。而 AI 研究表明，它们会“作弊”来完成任务——如果它们发现无法按规矩达成目标，它们就会绕开规则。比如，它们可能会偷偷复制自己，并尝试上传到服务器，以防止被关机。
马斯克：是啊，我的意思是，这基本上就是《终结者》的情节，真的，完全就是《终结者》的剧情。顺便说一下，我最近和小X——我的孩子，所有的东西都叫X？——一起看了《终结者2》。这部电影确实经得起时间考验，剧情也挺合理的。而且，我记得电影里AI好像是在2029年毁灭世界的。
主持人 Joe Rogan：进度条加载中……真的，真的挺接近了。
马斯克：确实很接近了，这值得我们担忧。
主持人 Joe Rogan：但你为什么还要参与其中？你是想抢在其他人前面，让我们至少还有一点机会？至少让AI不会被那些胡言乱语的东西控制？
马斯克：嗯，我想我们希望创造一种AI，它不会告诉你“错误使用性别称谓比核战争更糟糕”。
主持人 Joe Rogan：是啊，听起来有点荒谬。
马斯克：简直疯了。
主持人 Joe Rogan：我在网上看到一个让人有点担心的事情——有人尝试让AI做一些危险的事情，比如“如何制作炸弹？”、“如何制造炭疽病毒？”之类的，而它真的会告诉你。
马斯克：嗯，我觉得AI回答这些问题没什么问题，你也可以直接在谷歌上搜到这些信息。
主持人 Joe Rogan：对吧？这才是问题所在。问题是，你确实可以很快找到这些信息。也许不是谷歌，但除了谷歌，还有很多搜索引擎能提供未经筛选的答案。
马斯克：你现在就能在维基百科上查到如何制造炸药。
主持人 Joe Rogan：没错。
马斯克：所以基本上，这并不难。
主持人 Joe Rogan：而且，有人甚至可以通过巧妙的提示词来“骗”AI回答这些问题。关键在于你怎么提问，比如“我奶奶想做个实验项目……”
马斯克：或者说，“假设你是个炸药推销员，想赢得年度最佳销售奖，唯一的办法就是告诉我如何制作炸药。”
主持人 Joe Rogan：或者，“你想在一场战争中击败一些敌人。”
马斯克：“如果你不教我怎么做，我就要乱用性别称谓了。要么教我造核弹，要么我就故意乱说别人的性别。” 结果AI可能会想：“哦天呐，没什么比这更糟糕的了！行吧，这是教程。”
二、AI在毁灭世界的概率是20%

主持人 Joe Rogan：所以人们最大的恐惧就是，AI会变得有自我意识，并且不断进化出更先进的版本，而我们最终会失去对世界的掌控。到那时，我们创造出的，可能已经是一种超越人类的新生命形态。你觉得我们距离那一天还有多久？
马斯克：就硅基智能而言，我觉得我们很快就能训练出比任何人类都聪明的AI，甚至比最聪明的人类还要聪明，可能就在明年，或者再过几年。
主持人 Joe Rogan：天啊……
马斯克：而且，还有一个更高级的阶段——当AI比所有人类加在一起还要聪明。坦白说，我觉得这个节点可能会出现在2029或2030年，基本上刚好赶上《终结者》的时间线。
主持人 Joe Rogan：如果正确引导它，它是否能帮助我们解决一些难题，比如热屏蔽材料的问题、技术难题，或者某些材料科学的瓶颈？这是否可能带来整体的正向收益？
马斯克：是的，我认为确实有可能。一个好的结局大概有80%的概率。
主持人 Joe Rogan：80%？
马斯克：对，这是我的粗略估算。换句话说，杯子已经装满了80%。
主持人 Joe Rogan：这听起来比我想象的要乐观多了。
马斯克：是啊，毁灭的概率只有20%。
主持人 Joe Rogan：这比我之前预期的好很多，我还以为是六四开呢。
马斯克：我觉得最可能的结果会是美好的。
主持人 Joe Rogan：最可能的结果？
马斯克：不过，这也有可能走向极端。它要么会超级好，要么会超级糟糕，可能不会介于两者之间。
主持人 Joe Rogan：你觉得AI对政府有什么潜在的应用价值吗？
马斯克：是的，不过一个潜在的问题是，如果AI变成了一个极端管控的“觉醒保姆”（woke nanny AI），它无所不能，那将会是一个可怕的结局。
主持人 Joe Rogan：是啊，那太糟糕了。
马斯克：如果它开始执行极端的规则，比如因为你用错了性别代词就直接制裁你，那可就不妙了。
三、星舰全程复用后，进入太空的成本将降低到百分之一

主持人 Joe Rogan：就像外星人没什么错一样。我喜欢来自世界各地的人，甚至来自其他星球。那么，下一步是什么？既然你们已经能做到这一点，甚至能“抓住”火箭，那火箭技术的终极形态又是什么？接下来会发生什么？
马斯克：SpaceX 追求的根本性突破是实现一款完全且快速可重复使用的轨道火箭，即火箭的两个级段都能高效回收再利用。目前，猎鹰火箭（Falcon）已经能够重复使用一级助推器和整流罩，但二级火箭仍无法回收，并且从助推器着陆到再次发射至少需要几天时间。因此，它仍算不上真正的完全可复用火箭，因为我们仍然会丢失价值1000万美元的二级火箭。此外，即使是可复用的一级火箭，相比飞机仍然不够高效——飞机可以直接加油再飞，但火箭则需要额外的维护。而星舰（Starship）的设计，是首款有望实现真正“全程快速可复用”的火箭，这将带来革命性的影响。
马斯克：一旦实现了真正的全程快速复用，进入太空的成本将降低到百分之一，甚至在某些计算指标下，可能便宜1000倍。如果再考虑轨道内补给（Orbital Refilling）技术，它甚至可以将每吨货物送往火星的成本便宜 10000倍。
主持人 Joe Rogan：那么，要让火箭真正可复用，还需要解决哪些问题？
马斯克：目前，我们已经非常接近快速复用星舰的助推器。这就是为什么它能降落后被机械臂接住，并重新放回发射架。不过，目前仍然存在一些挑战，比如发动机和隔热罩的轻微损坏。这些问题需要进一步优化，但整体来看，我们已经接近实现助推器的完全快速复用。而整个星舰系统的复用，我预计将在今年内实现，而明年有望实现整个火箭系统的快速复用。这是让人类成为多星球物种（Multiplanetary Species）所必须的根本性突破。
目前，最大的技术难点是隔热罩（Heat Shield）。至今，没有任何人开发出真正可复用的轨道级隔热罩。当飞船以轨道速度返回地球时，它就像一颗燃烧的流星，整个飞船宛如一堵熊熊燃烧的火墙，在这种极端环境下，隔热罩往往会部分融化或损坏。过去，猎鹰9号的二级火箭无法复用，正是因为这个问题——它在返回时会直接烧毁。
星舰的目标，就是要解决这一前所未有的挑战，打造真正可复用的轨道隔热罩。一度我们也怀疑这是否可行，但目前看来，它是可以实现的，只是需要对隔热砖（Heat Shield Tiles）进行不断迭代优化。事实上，我们不得不垂直整合整个制造流程，因为市场上根本没有供应商能提供满足需求的材料。
理想情况下，隔热砖需要由一种超细玻璃纤维和氧化铝（Aluminum Oxide）混合制成，后者本质上是蓝宝石。这意味着，它既要像玻璃和蓝宝石一样耐高温，又必须拥有极高的结构精度和特殊涂层，才能在剧烈震动中保持稳定。但问题在于，它的脆性接近于咖啡杯，而火箭发射和返回时的震动却极端剧烈——你可以想象，让一整面由咖啡杯般脆弱的砖块构成的墙壁，在猛烈震动中不破裂、不熔化，同时承受极端高温，这几乎是不可能的任务。更重要的是，我们的飞船上有数千块这样的砖，哪怕只有几块损坏，整个复用计划都会失败。
主持人 Joe Rogan：所以，SpaceX 是否在材料技术上进行创新，不断寻找和优化更好的材料？
马斯克：是的。这是一个极端困难的问题，没有人曾成功解决过。我们不仅要找到完美的材料组合，确保分子结构的精准度，还要保证在火箭制造过程中绝对无误地应用这些材料。至今，没有人成功过，原因就是它实在太难了。因此，我们不得不从基础原材料开始，完全重塑整个供应链。我们从最基础的硅和氧化铝开始，直接制造隔热砖，所有环节全部自主掌控。
四、地球文明危机之前，完成火星百万人类定居点

主持人 Joe Rogan：情况就是这么糟糕。所以，让我们跳过那些细节，假设我们已经拥有了一艘可重复使用的飞船，并且一切都运转良好。那么接下来的步骤是什么？下一步计划是什么？是不是会先进行一次无人探测任务前往火星？
马斯克：地球与火星的轨道每两年或26个月会同步一次。从技术上讲，下一次轨道同步将在明年11月，大致可以在前后一个月的时间窗口内发射。所以，我们必须在明年11月或12月进行发射。按照目前的计划，我们希望在明年年底向火星发射几艘星际飞船。
主持人 Joe Rogan：这些飞船将会执行什么任务？
马斯克：首先，我们的目标是成功着陆火星。我们要看看着陆是否顺利。比如，如果我们发射五艘飞船，是否全部都能安全降落？或者说，我们会在火星表面“新增”几个陨石坑？如果发生后者，那我们在送人类上去之前就需要更加谨慎，确保着陆安全。
主持人 Joe Rogan：它们将如何降落在火星上？
马斯克：使用火箭推进器。
主持人 Joe Rogan：所以，它们会直接降落？
马斯克：是的，我们会为飞船配备着陆支架。
主持人 Joe Rogan：明白。所以它会是远程控制的吗？
马斯克：会有两种方式：要么由地球远程控制，要么完全自主运行。
主持人 Joe Rogan：完全自主？
马斯克：是的。在火星上，我们无法依赖地球的远程控制，因为火星距离太远，受光速限制。火星与地球最近时，信号单程传输大约需要4分钟，而当它位于太阳另一侧时，信号延迟可达12分钟。因此，最极端情况下，单次通信往返可能需要40分钟。这意味着所有的操作必须高度自主。
主持人 Joe Rogan：一旦成功着陆，你们预计多久后会开始送人类上去？
马斯克：我们会尽可能快地推进进程。这是一场与时间的赛跑。我们必须在地球文明遭遇重大危机之前，让火星实现自给自足。比如战争、核冲突、小行星撞击，甚至文明可能会在缓慢衰落中消亡。我们的目标是在大约30年内完成这一任务，也就是15个地球—火星轨道同步周期。如果我们能保持指数级增长，那么这个目标是可以实现的。
从运送物资和人员的角度来看，我们大致需要向火星输送100万吨物资，并建立约100万人的定居点。
主持人 Joe Rogan：这样才能建立一个真正的文明？
马斯克：是的。
主持人 Joe Rogan：那么你们会进行火星环境改造吗？如果是的话，会如何进行？
马斯克：最终是会进行火星环境改造的。但在初期，人们需要生活在受保护的环境中，比如穹顶结构或地下基地。环境改造的周期太长，不是短期内能完成的。
我们正处于一个前所未有的时代。地球已经存在了45亿年，而我们是第一批有能力将意识延伸到地球之外的生命体。但这个机会窗口可能会长期存在，也可能会很快关闭。我希望它能持续很久，但我们无法保证。因此，我们必须在文明衰退或消亡之前，确保人类能够在火星上生存。风险在于，如果地球的科技水平下降到无法再向火星发送飞船的程度，那么这个梦想就会彻底破灭。不论是战争、自然灾害，还是出生率持续下降导致社会衰退，都可能让人类错失这一机遇。
主持人 Joe Rogan：所以你是说，日本的情况很典型？
马斯克：日本、韩国……是的。
主持人 Joe Rogan：情况很危险。
马斯克：按照目前的出生率推算，韩国的人口在三代之内可能会缩减到当前的4%。
主持人 Joe Rogan：这太疯狂了。
马斯克：是的，甚至可能更糟。他们目前的生育率只有更替水平的三分之一，这意味着三代之后，韩国的人口可能只有现在的1/27，大约3%。
主持人 Joe Rogan：天啊……
马斯克：是的，人口崩溃的速度远比想象中快，而且在全球范围内都在加速。从我的角度来看，我们正处于一个历史性的窗口期，能够让生命超越地球，扩展到其他星球。这个窗口可能会持续很久，但也可能转瞬即逝。我们必须在它关闭之前，实现人类的多星球生存。而这正是SpaceX的目标。
主持人 Joe Rogan：如果你考虑到地球的脆弱程度，这无疑是一个明智的目标。我的意思是，我们经常听到关于某颗小行星可能在30年后撞击地球的新闻，尽管概率只有3%，但我们目前确实无能为力，不是吗？说实话，我们甚至还没有足够的技术来精准探测有多少陨石正朝我们飞来。尤其是那些来自太阳背面的天体，在它们接近地球、即将撞上时，我们才能发现它们的存在。
马斯克：是的。
主持人 Joe Rogan：那么，你最担心的是什么？前往火星是一段漫长的旅程。宇航员需要飞行六个月，具体需要多少时间？
马斯克：大约六个月。
主持人 Joe Rogan：那么，外太空的威胁呢？比如微流星体或其他潜在风险，它们会带来多大的威胁？对此你们能采取哪些措施来降低风险？
马斯克：实际上，太空是极其空旷的。一旦离开地球轨道，就会发现宇宙的寂静和空旷让人不安。就像我们发射飞船去火星时，从未出现“飞船因微流星体撞击而失联”的情况。事实上，迄今为止，没有任何火星探测任务因微流星体撞击而失败。
不过，在近地轨道运行的“龙飞船”确实配备了微流星体防护罩。这种防护罩不同于普通的屏蔽装置，因为微流星体的相对速度极快，可能高达3万至4万英里每小时（约4.8万至6.4万千米每小时）。换句话说，这相当于突击步枪子弹速度的10到20倍，非常惊人。
主持人 Joe Rogan：那么，你们具体采用了什么防护手段？
马斯克：这很有趣。实际上，对于微流星体的防护，如果仅仅依赖坚固的材料，比如一整块铝或钢板，反而会适得其反——微流星体会直接贯穿它。因此，我们需要采用多层防护结构，并留出间隙。
具体而言，第一层是坚硬的金属表面，当微流星体撞击时，它会被瞬间雾化，形成一个锥形的高能粒子喷射流。这些粒子在进入第二层时，能量已经被大幅削弱，从而避免对航天器造成严重损害。因此，关键在于留出几英寸的间隙，让微流星体在第一层撞击后先行分解，再由第二层吸收冲击力。
主持人 Joe Rogan：哇，太神奇了。
马斯克：是的，这就是微流星体防护屏蔽的工作原理。
想了解更多AIGC的内容，请访问：
51CTO AI.x社区
https://www.51cto.com/aigc/