那你基本上就切断了通向现实的反馈回路。 用 AI 术语来说,你你会打破你的强化学习(RL)回路。所以,你不想打破你的回路,你想要一个强大的 RL 回路,这意味着内化责任(internalizing responsibility)并最小化自我(minimizing ego),无论任务是崇高还是卑微,你都去做。所以,我是说,这就是为什么我其实更喜欢「工程」(engineering)这个词,而不是「研究」(research)。我更喜欢这个词,而且我不想叫 xAI 一个实验室(lab)。
我只想它是一家公司。 就像,无论 无论是最简单、 最直接、 理想情况下最低自我(ego)的术语,这些通常都是好的方向。 你你只想紧密地闭合与现实的回路(close the loop on reality hard)。 这这这是件超级大事。
Garry Tan
我想在座各位都非常钦佩您在运用第一性原理(First principles)方面的典范作用。您是怎么确定自己的「现实」的?这似乎是其中很重要的一部分。那些从未创造过任何东西、非工程师的人,比如某些记者,他们有时会批评您。但显然您身边还有另一群人,他们是建造者,有着非常高的...功业曲线下面积(指成就巨大)。人们该如何看待这点?哪些方法对您有效?您会如何传递给...比如说您的孩子们?您会怎么告诉他们在这个世界立足的方法?比如,如何基于第一性原理构建一个可预测的现实观。
马斯克
物理学的工具在 理解任何领域并取得进展方面都极其有用。 第一性原理显然是指,你知道的,将事物分解到最可能正确的基本公理要素(fundamental axiomatic elements),然后尽可能逻辑清晰地向上推理,而不是通过分析或类比来推理。 然后就是一些简单的事,比如极限思维(thinking in the limit),就像如果你外推 最小化这个东西或最大化那个东西,极限思维非常有帮助。 我使用物理学的所有工具。
它们适用于任何领域。 这就像一种超能力。 所以你可以拿,比如说火箭。你可以说, 一枚火箭应该花多少钱? 人们通常采用的方法会看历史上火箭的成本是多少,然后假设任何新火箭的成本必须和以前的火箭成本差不多。而第一性原理的方法是,你你看火箭由哪些材料构成。如果是铝, 铜,碳纤维, 钢,无论是什么, 然后说这枚火箭有多重, 它的组成元素是什么?它们有多重?这些组成元素每公斤的材料价格是多少?这就设定了火箭成本的真正底线。它可以渐进地接近原材料的成本。
然后你意识到,哦,实际上一枚火箭的原材料只占历史火箭成本的 1% 或 2%。所以制造过程必然是非常低效的, 如果 如果原材料成本只有 1% 或 2% 的话。这就是对火箭成本优化潜力的第一性原理分析。而这还是在考虑可重用性之前。 举一个 AI 方面的例子,我猜 去年,当 xAI 试图建造一个训练超级集群(training supercluster)时, 我们我们去找各家供应商,说(这是去年初的事)我们需要 10 万块 H100(GPU)来进行连贯训练(train coherently)。
