本书作者穆斯塔法·苏莱曼，现任微软人工智能CEO，曾与戴密斯·哈萨比斯等联合创办人工智能公司DeepMind。在2023年和2024年，作者两次入选《时代》周刊发布的全球“百大AI影响力人物”榜单。
2020年，一款人工智能系统在筛选了1亿个分子后，研发出第一种通过机器学习技术获得的抗生素——“Halicin”。这种新型抗生素有望帮助抗击结核病。然而，研究人员在寻找这些有益化合物的过程中也意识到一个棘手的问题：如果有人将研发过程导向恶意目的，不是寻求治疗方法，而是探寻致命物质，那该怎么办？在一项实验中，一款具备分子生成功能的人工智能系统被要求寻找毒药。仅在6个小时后，该人工智能系统就成功识别出4万多种毒性极强的分子，其毒性与诺维乔克等极度危险的化学武器相当。显然，在药物研发领域，人工智能的研发成果很可能具有“双重用途”。这就是《浪潮将至：技术、权力与未来的冲击》一书关注的两大主题：人工智能的喜与忧，以及应对新一轮技术浪潮弊端的策略。
本书作者穆斯塔法·苏莱曼，现任微软人工智能CEO，曾与戴密斯·哈萨比斯等联合创办人工智能公司DeepMind。在2023年和2024年，作者两次入选《时代》周刊发布的全球“百大AI影响力人物”榜单。
浪潮是什么？作者表示，浪潮是某一时期同时涌现的多种技术的集合，它们受到一种或多种具有深远社会影响的新型通用技术的推动。而即将到来的技术浪潮主要建立在两大通用技术之上：人工智能和合成生物学。它们既能在最宏大的层面上运作，也能深入最微观的层面。这是人类技术生态系统的核心组件首次直接触及人类世界的两个基本属性：智能和生命。换句话说，技术正在经历一次重大转变。它不再仅仅是一种工具，它将重塑生命，并与人类自身的智能竞争，甚至超越它。
曾经被封闭的技术领域正在打开，人工智能让我们能够复制语音和语言、视觉和推理。合成生物学的基础性突破使我们能够对DNA进行测序、修改，甚至打印。随着人类对比特和基因的掌控力不断增强，这种力量也反馈到物质世界中，甚至深入原子层面。人类精确操控原子的能力促成了硅晶片的发明，硅晶片则带来了每秒万亿次计算，而这一成就又使我们得以破译生命的密码。
为此，理解这一浪潮及其轮廓对评估人类将在21世纪面临何种挑战至关重要。作者认为，米乐体育官方网站人工智能和合成生物学是即将到来的浪潮中的核心通用技术，同时围绕它们的还有一系列影响力异常强大的技术，包括量子计算、机器人技术、纳米技术以及潜在的丰富能源等。这一浪潮将比历史上任何一次都更难以遏制，它触及了人类世界的根本，影响更加深远。
什么是通用技术呢？作者表示，“通用技术”是指那些能够对人类的能力产生变革性影响的技术。比如，人类已经多次见证诸如内燃机这样的新技术如何迅速发展，并彻底改变周围的一切。研究显示，人类历史上一共出现了24项通用技术，这些技术发明包括农耕、工厂系统、铁和青铜等材料的开发，还有印刷机、电力和互联网等。尽管通用技术的总量并不多，但社会进步与这些技术的发展紧密关联，这也是为什么人们至今仍使用诸如“青铜时代”和“帆船时代”等词汇描述重要的历史时期。
即将到来的技术浪潮因其四个重要特征，让遏制变得更加棘手。一是技术的高度非对称性影响。你不必力量相当、规模相当地进行对抗，新技术会使看似强大的势力暴露出以前难以发现的弱点和破绽。二是这些技术发展迅猛，呈现出一种超级进化性，能以惊人的速度迭代，并不断拓展领域。三是它们往往具有通用性，能够服务多种不同的目的。四是与任何以往的技术相比，它们越来越展现出一定程度的自主性。
作者认为，这四个特征决定了这场技术浪潮与以往相比，有着质的不同，它不仅是对历史模式的深化和加速，而且将产生急剧性突破，并且难以集中和监管。
如何理解技术的高度非对称性影响？作者表示，新技术的出现总会产生新的威胁，带来权力的重新分配，导致进入的障碍被消除。比如，大炮的出现意味着一小支队伍便能摧毁城堡，消灭整支军队；印刷机的出现意味着一个车间便能出版数千本小册子，以中世纪手工抄书的修士们难以想象的方式传播思想；蒸汽动力使单个工厂的生产力匹敌整个城镇。而互联网则将技术的能力推向了新的高峰：一条推文或一张图片可能在几秒钟内传遍全球；仅凭一个算法，一家小型初创公司或能迅速崛起，成为全球性的巨型企业。如今，这种效应再次得到加强，新的技术浪潮不仅赋予人们强大的能力，而且这些技术还廉价、易于获取使用和扩展。
这显然也带来了风险。用安全研究专家奥德丽·库尔思·克罗宁的话来说：“从未有如此多的人能够获取如此先进的、能造成大规模死亡和混乱的技术。”比如，对抗无人机这类武器设备不但难度极大，还需付出巨大成本。美国和以色列都曾使用价值300万美元的爱国者导弹来击落价值仅几百美元的无人机。某个操作者只要拥有足够的资金和技术，便可控制由数千架无人机组成的庞大机群。这意味着，权力可能从传统国家和军队转向任何有能力且有意愿部署这些技术设备的个体或组织。
放弃新技术的研发并全面暂停其应用，这可能吗？作者给出的答案似乎是否定的。
新技术产生的背后有强大的驱动力：地缘政治竞争、巨额经济回报，以及开放、分布式的研究文化。我们很难想象有谁能轻易说服国家或企业单方面放弃这些技术所带来的变革力量。如今，人类正身处一个被奥德丽·库尔思·克罗宁称为“开放式技术创新”的时代。全球知识和技术开发体系已经演变得如此庞大和开放，以致人类几乎无法对其进行引导、管理，更遑论在必要时将其关闭。
在这种情况下，人们理解、创造、发展和改造技术的能力高度分散。这无疑加大了预测和控制技术发展的难度。虽然科技公司希望保守其技术秘密，但它们也倾向于遵循软件开发和学术界倡导的开放理念。正因如此，技术创新得以更快地传播，带来的变革甚至颠覆效应也更为显著。
作者表示，预测科学前沿的任何东西都极具挑战性。如果你想控制某项技术的研究进程，无论是引领它朝特定方向发展、偏离某些结果，还是试图提前遏制它，你都将面临诸多挑战。你不仅需要协调各个竞争团队之间的复杂关系，还必须面对一个现实：在技术的前沿，你无法预测突破可能来自哪个方面。比如，在20世纪90年代，谁能想到神经网络技术会成为人工智能领域的主导力量？
在华盛顿和布鲁塞尔，米乐体育官方网站无论是政府、智库还是学术界，都爱说这样一句令人恼火的话：“即便我们并未真正陷入军备竞赛，我们也得假设‘他们’认为我们正在全力竞赛。因此，我们必须加速前进，力求获取压倒性的战略优势，因为新一轮技术浪潮极有可能彻底改变全球力量的平衡。”这种心态最终将演变成一个“自我实现预言”，即人们不自觉地按照预言行动，从而使预言最终成真。
目前，无论我们能否有效监管和控制即将到来的风险，几乎每个国家都已制定出详细的人工智能战略，它们的行为将影响所有人，无论我们是否喜欢这一点。
作者最后总结道：技术遏制看起来不可能实现。但为了所有人的利益，我们必须让遏制成为可能。面对惊人的技术变革，呼吁“加强监管”是远远不够的。呼吁“加强监管”是经典的乐观主义想法，并没有正视问题。从表面上看，监管似乎是显而易见、直截了当的解决方案，提出这样的建议让人显得聪明、负责，甚至让人感到如释重负。一旦深入探究，我们就会发现其中的问题。当前，各个技术领域存在数百个截然不同的项目，它们缺乏统一的规划和方向。我们迫切需要一个清晰明确的目标，一个能将技术领域的各种努力凝聚在一起的旗帜。这个目标不仅要在某个公司、研究机构或国家中落实，更要在全球范围内，在各个前沿领域、风险领域和地理空间内同步推进。无论是面对新兴的通用人工智能技术，还是新奇的生物形态，我们的目标必须一致：技术遏制。
作者强调，我们必须保持引领技术浪潮的能力，以确保技术发展与人类价值观相契合。我们不应重蹈工业革命时期的覆辙，强迫人们去适应技术，而应确保技术从一开始就服务于人类的生活需求。只有真正适应人类的技术，才是可控的。当前最紧迫的任务并非盲目跟风技术浪潮，或徒劳地试图阻止其发展，而是学会引导和塑造它。遏制技术风险的关键在于构建一个融合技术、社会和法律机制的综合体系，从而在各个层面对其加以约束和控制。从理论上讲，这正是避免陷入困境的有效途径。
显而易见，这并非作者在无端担忧，也不是危言耸听，而是基于对行业的深刻洞察以及对科技变革历史的深入研究后提出的理性见解。值得注意的是，米乐体育官方网站人工智能的利弊并非仅靠监管部门就能掌控，其分散性和自主性决定了对其监管的复杂性和难度。因此，对新一轮技术浪潮的引领与约束，需要各国以及全社会的共同努力。这或许也正是这本书的意义所在——唤起全社会的共同关注与行动。返回搜狐，查看更多
