Content #
第五章 战时CEO #
◆ 管理层小心翼翼地将这次发布定位为“低调研究预览”(Low key research preview)，而非产品发布。
第六章 硅谷的“宗教战争” #
◆ 时间来到2023年秋天，随着ChatGPT的出现和AI在产业界的爆发，硅谷开始加速分裂，在这样的分裂中，出现了“有效加速主义”(effective accelerationism)和“有效利他主义”(effective altruism)两大派系。加速主义者相信自由市场的力量；而利他主义者则认为，道德、理性、数学和经过精密调试的机器应该引领未来。
◆ 加速主义萌芽于20世纪初的未来主义运动。这一派别的追随者认为，技术是一股强大、高速的力量，他们主张加快技术革命的速度，甚至对技术的毁灭性维度（如战争），都当作“美”来赞颂。2010年左右，加速主义更进一步，以哲学家尼克·兰德(Nick Land)为代表，强调资本的作用，认为技术和社会的领导权应由专制机构和少数技术人员掌握，这被视为当下人工智能“有效加速主义”的哲学源头。
◆ 有效利他主义拥有一套复杂的全新世界观体系，其核心可以用哲学家彼得·辛格(Peter Singer)的思想来概括，即“在维持基本生存以外，你花的任何一笔钱，都是以另一个人的死亡为代价”。该运动的领袖、牛津大学哲学系助理教授威廉·麦卡斯基尔(William MacAskill)将其进一步归纳为：如果有人因极度贫困而死去，就相当于你亲手杀死了他们。马斯克曾直言不讳地表示，麦卡斯基尔的理念非常符合他的哲学观。
◆ 最初，这一运动主要关注全球贫困和动物福利，但最近几年，其焦点放在了人工智能对人类的威胁上。有效利他主义者认为，保护未来的人类与保护现在的人类同等重要，而人工智能给人类带来了存在主义危机。
◆ 显然，利他主义者对人工智能的态度更倾向于负面和警惕。他们认为人工智能可能会欺骗人类，同时努力摧毁人类，以实现其效用函数的最大化。
第十一章 创业阶段：总能促成交易的硅谷金童 #
◆ 很多年后，奥尔特曼曾经回忆起他创业时候的心理状态：有一件事我当时不明白，但很快就学会了，如果早点明白，我就能避免很多痛苦，那就是如何衡量风险。大多数人对风险过于担心。当你年轻且没有什么可失去的时候，绝对是冒险的最佳时机，而可惜的是，这恰恰是大多数人在生活中最想规避风险的时候。他们想先工作几年，积攒一些储蓄，然后再开始起步。他们会按照父母的意愿行事。我最终走上了正确的道路，但结果也可能完全相反，而我那时对风险非常愚蠢地感到紧张。因此，我的观点是，大多数事情并没有看起来那么危险，这是一个非常强大的观点，我总是将这一观点告诉处于这种境地的人。你是一个没有钱、没有声誉的贫穷大学生，如果你创业失败了，你依然没有钱、没有声誉，只是比两年前老了一点而已。
第十二章 掌舵YC：走向硅谷中心，交最有权势的朋友 #
◆ 从那时起，奥尔特曼可能走上了一条不同的道路，他背离了导师和朋友的黑客精神，而更像是一个政客：变得如履薄冰，面对强权低头，向仇人施援，与旧友为敌，和对手结盟。奥尔特曼背离了黑客践行的革命之路，而选择了一条权力之路。
后记 为什么是奥本海默？ #
◆ 但我们不要忘了，在几千年的人类文明史中，驱动技术发展的从来都不是美好的愿望，更多是背后的恐惧和贪婪。即使这项技术创造者的初衷是善良的，但往往会陷入“奥本海默时刻”——它常常用来描述那些在实现重大突破或创新后，面临深刻伦理、道德和社会影响的时刻。电影《奥本海默》的导演诺兰曾表示，很多顶级的人工智能研究者，将当下视为他们的“奥本海默时刻”。这是一种往日经验永久失效、未知浩劫须臾降临的不祥预感。这一刻，人类及地球的命运，仿佛缩进一只盲盒中。
From #
《奥尔特曼传》 周恒星