译者 | 晶颜
审校 | 重楼
在由英国知名企业家史蒂文·巴特利特（Steven Bartlett）主持的播客节目《CEO日记》中，杰弗里·辛顿（Geoffrey Hinton）阐述了自身当前的使命——“警示人们关于人工智能的风险”。当下，人类正处于制造超越人类智能机器的关键节点，站在发展的十字路口，辛顿认为领导者与技术专家在构建合理约束机制以管控此类机器方面，工作成效尚显不足。
除此之外，此本次谈话中以下几点内容尤其引人关注：
人工智能的进化
二十余年来，杰弗里·辛顿始终致力于推进基于神经网络的人工智能模型研发，力求模拟人类大脑学习与模式识别的能力。在最初的几年里，他的想法遭到了怀疑和驳斥。然而，如今他的研究成果正重新定义人机关系的本质内涵。辛顿及其卓越的学生群体，在构建深度学习（现代人工智能的核心基石）体系过程中发挥了关键作用。当被问及对人工智能超越人类智能的预见时，辛顿坦言其认知存在滞后性，他承认“我后来才意识到这一点”。随着ChatGPT的问世，人工智能迎来重大突破，其展现出的能力远超预期，诸如理解并模仿人类情感的微妙差异等。
用辛顿的话来说，人工智能已发展出与生物智能截然不同的能力特质。由于人工智能具备更快的学习速度、更强的数据处理能力，且能在人类难以企及的规模上运作，其有望在短时间内全方位超越人类智慧。一旦这一时刻来临，人工智能或将在无需人类干预、无需对决策作出解释的情况下，自行做出各类决策。
人工智能对就业的影响
在被问及人工智能领域的职业前景时，杰弗里·辛顿曾以“成为水管工”作为调侃回应，看似玩笑，实则蕴含警示意味，折射出人们对人工智能可能取代大量脑力工作的深切忧虑。
这一表述反映出深层次的现实：伴随人工智能技术的持续精进，以往依赖人工完成的常规智力工作或将不再需要人力参与；而涉及批判性思维、创造力及精细决策的工作岗位，大型语言模型（LLM）也将参与竞争。这从根本上意味着人类将不得不为关键岗位展开激烈竞争。
两大主要人工智能风险
辛顿解释称，人工智能带来了两种主要的风险。其一为人工智能被恶意利用所引发的直接危害，借助人工智能，网络攻击、诈骗及舆论操纵等行为将变得更高效、更具威胁性。其二为更为潜在的风险，即当人工智能的智能程度远超人类时可能出现的状况。辛顿认为，届时人类将难以理解人工智能的运行逻辑，更无法对其实施有效控制。例如，人工智能可能成为操纵选举的工具，不同聊天机器人生成的数据可被用于制作精准投放的广告，进而影响选民决策；YouTube、Facebook等社交媒体平台也可能被利用，从根本上左右公众对人工智能相关议程的支持或反对态度。
人工智能引发的就业市场变革
辛顿最为关切的问题之一，便是人工智能对就业市场的冲击。尽管部分观点认为人工智能将成为人类工作的辅助工具，但辛顿发出警示，人工智能将替代相当数量的工作岗位，尤其是那些重复性智力劳动岗位。他以自己身为卫生服务工作者的侄女为例，其侄女目前已借助人工智能更高效地处理投诉，这正是人工智能取代大量人力工作的典型案例。
在辛顿看来，脑力劳动密集型工作也将逐渐被淘汰。虽然医疗保健及体力劳动类工作目前相对安全，但一旦物理智能机器人广泛进入日常生活，这一局面也可能发生改变。
战争中的人工智能
当谈及人工智能在战争领域的应用时，辛顿尤为担忧“致命性自主武器”带来的威胁。这类能够自主决定攻击目标的机器，或将彻底改变战争形态。由于此类武器减少了人类的直接参与，战争爆发频率可能会变得更频繁，同时引发的社会抗议活动也会更少，因为各国将能够避免派遣士兵参战所带来的人力损失。尽管这些自主武器的智能水平或许不及人类，但因其可在脱离人类干预的情况下运行，本身便极具危险性，其攻击行为可能难以预测与控制。虽然研发此类武器成本高昂，但具备相应预算的国家一旦进行投资，将在军事领域获得相较于纯人力军队的显著优势。
超级智能的威胁
辛顿进一步阐释道，一旦人工智能进阶至超级智能的水平，在所有可预见的维度上超越人类能力时，其将不再受人类需求与意愿的约束。关键问题并不在于人工智能能否超越人类智慧，而是人类能否保障自身不被其视作威胁并加以清除。具备超级智能的人工智能可能会将人类视为实现其目标的阻碍，进而采取足以终结人类文明的行动。尽管这一情景听起来很想《终结者3》中的科幻情节，但却是辛顿深切关注的现实问题，也促使他积极投身于人工智能安全领域的研究探索。他认为，当下亟待解决的难题，在于探寻有效的途径与方法，确保人工智能运行安全可靠，始终处于人类可控范围之内。
监管：力度不足，时机滞后？
辛顿指出，尽管当前已经出台了相关监管举措，尤其是在欧洲地区，但现有法规不足以充分应对人工智能带来的多元威胁。例如，部分法规未将人工智能的军事应用纳入监管范畴，而这恰恰是极具危险性的领域。此外，辛顿着重强调了人工智能被政府与企业掌控后存在的风险，这些主体可能借助人工智能实施选举操纵、人口控制等行为，进而加剧社会不平等现象。
尽管各界对人工智能的担忧日益加剧，但辛顿对减缓人工智能发展进程持悲观态度。他认为，人工智能技术在全球体系中价值巨大且已根深蒂固，其发展态势势不可挡，这场技术革命已然发展到难以逆转的阶段。
结语
这次对话传递出了一种强烈的紧迫感。辛顿所阐述的风险真实存在，且不容忽视。虽然人工智能在改善我们的生活质量、提升医疗教育水平与社会运行效率等方面潜力巨大，但也蕴藏着重大的风险，而整个社会尚未做好充分的应对准备。从就业结构变革到自主武器的威胁，人工智能的影响或将以超乎想象的方式重塑世界格局。
辛顿明确呼吁：全社会需迅速加大对人工智能安全领域的资源投入。人类能否掌控人工智能的未来发展，目前尚无定论。然而，若不付诸努力，任由其自由发展，未来或将陷入人工智能主导一切、引发灾难性后果的困境。
回顾此次对话，诸多问题仍悬而未决，但有一点毋庸置疑：人类正站在前所未有的发展关口，所面临的变革远超当下认知。人工智能既可能成为人类最伟大的创新成果，也可能演变为最严重的错误抉择。何去何从，选择权与责任均掌握在我们自己手中。
原文标题：7 Key Highlights from Geoffrey Hinton on Superintelligent AI，作者：Anu Madan