The Gentle Singularity – Sam Altman
我们已然跨过最初的地平线，启航之旅业已开启。人类正在接近建造数字超级智能，而至少到目前为止，这个过程比想象中更加平和。
街头还没有遍布行走的机器人，大多数人也尚未整日与人工智能对话。疾病仍在夺走生命，太空旅行依旧不易，我们对宇宙的许多秘密依然一无所知。
然而，我们最近创造的系统在许多方面已超过人类智慧，能极大提升人们的工作效率。最困难的阶段已然过去；让我们走到GPT-4和o3等系统背后的科学突破来之不易，但这些成果将带领我们走得更远。
AI对世界的贡献将体现在多个层面，其中通过加速科学进步和提升生产力而极大改善生活质量尤为突出；未来将远胜于当下。科学进步是整体进步的核心驱动力；思考未来潜藏的无限可能，令人激动不已。
从某种重要意义上来说，ChatGPT的能力已超越历史上的任何人类。每天，数以亿计的人依靠它完成越来越关键的任务；一点新能力可能带来巨大正面效应；同样，一点偏差乘以数亿用户，可能造成重大负面影响。
2025年，能够完成实际认知工作的智能体诞生了；编程工作从此不再如昔。2026年，我们或许将迎来能主动产生新颖洞察的系统；2027年，也许将出现真正能在现实世界中执行任务的机器人。
越来越多的人将能创造软件与艺术。然而，这个世界的需求远比供给更多，只要专业人士愿意拥抱新工具，他们的优势仍将明显。总体而言，到2030年，一个人的生产力较2020年将显著提升，这是一个引人瞩目的变化，也是一种越来越多人能从中受益的变革。
在最重要的层面上，2030年代或许不会大变样。人们依旧会热爱家庭，表达创造力，享受游戏，畅游湖水。
但在另一些重要的方面，2030年代将以前所未有的方式彻底改变世界。我们并不清楚人类级别智能究竟能延伸到何种境界，但我们即将一窥究竟。
到了2030年代，智慧和能源——创意与实现创意的能力——将前所未有地充沛。这两点长久以来限制着人类进步；当智慧与能源充分涌现（再辅以良善的治理），理论上，我们能够拥有其他一切。
如今，我们已经与非凡的数字智能共存，最初的惊奇褪去后，大多数人对此已习以为常。我们很快便从赞叹AI能写出优美段落转而期盼它创作杰出小说；从惊叹AI能给出救命的医学诊断转而渴望它研发出治愈方案；从赞叹AI能编写简单程序转而期待它创立全新公司。这便是奇点的特征：惊艳迅速变为日常，进而成为基本标配。
科学家们表示，他们如今的工作效率是AI问世前的两到三倍。先进AI之所以意义重大，或许最重要的原因就在于，它能够进一步加速AI研究本身。我们或许能发现全新的计算平台、更好的算法，乃至意料之外的创新。若能一年甚至一个月内完成过去十年才能做到的研究，那么进步速度无疑将大不相同。
从现在起，我们已创造出的工具将帮助我们发掘更多科学洞察，协助打造更先进的AI系统。当然，这还不是AI完全自主更新代码的境界，但无疑是递归自我改进的雏形。
与此同时，其他的自我强化循环也在涌动。经济价值的创造启动了基础设施建设的飞轮，以运行日益强大的AI系统。能够制造其他机器人的机器人，以及能自动构建新数据中心的数据中心，似乎也不再遥远。
如果最初的一百万台类人机器人还需以传统方式制造，但随后它们便能独立运作整个供应链——开采矿物、驾驶货车、运行工厂——以制造更多机器人，从而进一步建设芯片工厂、数据中心等，那么进步速度显然会呈现截然不同的轨迹。
随着数据中心自动化程度的提高，智能的成本最终可能接近电力的成本。（人们常好奇一次ChatGPT查询会消耗多少能源；平均而言，一次查询消耗约0.34瓦时，大致相当于烤箱运行一秒多，或一盏高效灯泡亮数分钟；此外还消耗约0.000085加仑的水，约为一茶匙的十五分之一。）
技术进步的速度将持续加快，而人类适应能力历来极强。确实有一些困难，如大量工作种类的消失；但另一方面，世界会以空前速度变得更加富裕，让我们得以认真探讨此前难以想象的新政策。我们可能不会一夜之间采用新的社会契约，但数十年后回望，渐进的变化将汇聚为重大转型。
从历史经验看，我们总能发现新的追求与需求，迅速吸纳新工具（工业革命后的职业转变即为佳例）。人们的期望会提高，但能力也会同样快速提升，每个人都将获得更优质的生活。我们将为彼此建造越来越美好的事物。人类相比AI有个长期且有趣的优势：我们天生关心其他人，关注他们的想法与行动，却很少对机器产生同样的兴趣。
一千年前的自给农民或许会觉得现代人所从事的是“虚假的工作”，仅为自娱自乐；我希望我们也会觉得未来一千年后的职业虚假，却丝毫不怀疑那时的人们定然感到异常重要且满足。
未来新奇迹诞生的速度将令人惊叹。今天我们难以想象2035年可能取得的成就；或许从破解高能物理到启动太空殖民只需一年；从重要材料科学突破到真正实现脑机接口也只需短短一年。许多人仍会维持熟悉的生活方式，但也会有不少人选择全然“融入”这种新世界。
向前展望，这一切看似难以想象。但真正经历时，我们可能会发现，这种体验虽令人叹为观止，但却能够逐渐适应。从相对的角度看，奇点渐次到来，人机融合将缓慢实现。我们正攀登技术进步的漫长指数曲线；前瞻时感觉垂直陡峭，回顾却觉平坦，但它实为一条平滑曲线。
确实有严峻挑战亟待解决，但同时巨大机遇也摆在眼前。解决安全问题并广泛分配超级智能至关重要。前方道路已然清晰，愿我们在超越人类智慧的旅途中，顺利平稳地加速前进。
