原文:Our tech overlords are planning for conscious AI to conquer the cosmos. What could go wrong? | Technology
OpenAI 首席执行官萨姆·奥尔特曼(Sam Altman)几年前在互联网上提出,智人将是第一个“设计自己的后代”的物种。在他最好的情况下,人类和人工智能之间的“融合”将在未来 50 年的某个时刻发生。另一种情况是,我们仍然只是人类,机器走自己的路,这是更不祥的。他写道:“如果两个不同的物种都想要同样的东西,而只有一个物种能够拥有它——在这种情况下,成为地球上及其他地方的主导物种——它们就会发生冲突。”
最近,世界首富埃隆·马斯克(Elon Musk)去年一度被授予重新配置美国联邦政府的权力,他在他的社交媒体平台X上辩称,“越来越明显的是,人类是数字超级智能的生物引导程序”——我们在宇宙历史中的角色被简化为低级代码,在你可以在计算机上运行复杂的程序之前启动计算机。
而马斯克则站在进化论的温和一边。根据硅谷的传说,他曾经反驳谷歌联合创始人拉里·佩奇的说法,即我们的下一个表现形式,为了追随你今天所看到的有肉有骨头的人类的脚步,必然具有数字形式,以便传播到整个银河系。 (事实上,他最近在法庭上作证说,正是这些担忧促使他与 Altman 一起创立了 OpenAI。)肉和骨头并不适合高效的星际旅行者。
当人工智能为我们提供了超越身体、征服银河系的机会时,谁会在乎人工智能是否会消灭单调的人类劳动呢?
如果将这些怪异的世界观理解为从小吃反乌托邦科幻小说长大的技术人员的最终无害的看法,那就错了。自达尔文时代以来,我们正在接近智人末日的观念正在融合成一种杜