其中一位获奖者因 AI 潜在风险对自己毕生工作感到遗憾
多伦多大学荣休教授杰弗里·辛顿（Geoffrey Hinton）和普林斯顿大学教授约翰·霍普菲尔德（John Hopfield），因被认为奠定了当今强大机器学习的基础，荣获了 2023 年度诺贝尔物理学奖。他们的研究为近年来人工智能领域的诸多突破奠定了基础，获得了瑞典皇家科学院诺贝尔委员会的高度认可。
人工神经网络的创建与突破
自 20 世纪 80 年代以来，辛顿和霍普菲尔德的工作促成了人工神经网络的创建，这种计算机架构大致模拟了人类大脑的结构，通过模仿大脑建立连接的方式，神经网络使得 AI 工具能够“以例子学习”。开发者通过向神经网络提供大量数据，可以训练它识别复杂的模式，从而实现诸如语言生成、图像识别等现代 AI 应用中的关键功能。正是他们的开创性研究使得这些复杂的应用得以实现，也让现代 AI 在各个领域取得了令人瞩目的进展。
辛顿教授在获知这一消息后，在多伦多大学发布的一份新闻稿中表示：“我对这一切毫无预期，感到极为惊讶，并且很荣幸能够被列入其中。”他形容自己当时的心情是“非常震惊”。这项荣誉不仅是对他个人多年工作的认可，也象征着对整个 AI 领域不断努力与突破的肯定。
对人工智能潜在风险的反思
然而，这位被誉为“人工智能教父”的科学家，对自己毕生的研究也充满矛盾和反思。据《纽约时报》报道，辛顿在 2022 年接受采访时坦言，“自己内心的一部分，现在对自己的工作感到遗憾。”他在 2023 年辞去谷歌的职务，以便能够公开表达对人工智能技术潜在风险的担忧。辛顿尤其担心的是人工智能的发展可能带来的负面影响，他认为随着技术的广泛应用和普及，其潜在的危害也在逐步显现。
“很难想象如何阻止那些心怀不良意图的人利用这一技术做坏事。”辛顿在接受《纽约时报》采访时如是说。这种忧虑并非空穴来风，尤其是在 AI 的能力迅猛发展、甚至可能超越人类智能的当下。他指出，AI 的强大不仅体现在其技术优势上，还体现在其对社会、经济以及安全等方面的深远影响。这种强大既可能造福人类，也可能被滥用于破坏性的目的。
2013 年，谷歌收购了辛顿与其两位学生创立的神经网络公司，其中一位学生伊利亚·苏茨凯弗（Ilya Sutskever）后来成为 OpenAI 的首席科学家，并于今年离职。辛顿的工作帮助启动了当前的机器学习领域的迅猛发展，而他本人因在 20 世纪 80 年代与同事们共同开发的波尔兹曼机（Boltzmann Machine）这一生成模型而受到诺贝尔委员会的表彰。
波尔兹曼机是一种生成模型，其训练方式是向其输入在机器运行时极有可能出现的样本。它利用统计物理学中的工具来分析由大量相似组件构成的系统，通过这样的训练，波尔兹曼机可以用于图像分类或生成与训练样本类型相似的新实例。辛顿在此基础上不断推进研究，推动了当前机器学习的迅速发展。这一模型的重要性在于它为之后的深度学习和生成对抗网络（GAN）奠定了基础，启发了许多后来者的研究和开发。
辛顿的研究建立在约翰·霍普菲尔德的霍普菲尔德网络（Hopfield Network）的基础之上。霍普菲尔德网络是一种能够重现图像和模式的人工神经网络，借鉴了物理学中的原子自旋理论。原子自旋使每个原子成为一个微小的磁铁，而整个网络的能量描述方式与物理学中的自旋系统等价。通过找到节点之间的最佳连接值，网络可以将存储的图像能量降到最低。这种能量最小化的方式是霍普菲尔德网络的一大创新，它不仅为人工智能的早期发展提供了重要工具，还在优化和数据处理方面具有广泛应用。
霍普菲尔德网络的工作原理与影响
当霍普菲尔德网络输入一个扭曲或不完整的图像时，网络会逐步处理节点，更新其值，使得网络整体能量逐渐降低，从而寻找出最接近输入的缺陷图像的已存储图像。这一逐步修复和优化的过程，使得霍普菲尔德网络在人工智能早期研究中扮演了重要角色，并启发了之后更加复杂的神经网络架构的发展。这一网络模型展示了如何将物理学的基本概念应用于计算和智能系统，成为许多后续研究的灵感来源。
在今天与记者的电话采访中，辛顿再次表达了对人工智能未来发展的担忧。“我们没有与比我们更聪明的东西打交道的经验，这在很多方面都会是奇妙的体验，”他说，“但我们也必须担心一些潜在的负面后果，特别是这些技术有可能失控的威胁。”他进一步指出，人工智能在某些情况下的决策方式是不可预测的，这增加了技术失控的风险。而这种风险不仅存在于理论层面，还在实践中可能导致社会的深刻变革。
辛顿和霍普菲尔德的研究成果，不仅对人工智能的发展具有深远影响，还在多个学科中激发了跨领域的创新。在未来，随着这些基础理论的不断发展，人工智能技术可能会在各个领域带来更多意想不到的变化与挑战。而这正是这些科学家们获得诺贝尔奖的重要原因之一：他们的工作不仅造就了今日 AI 发展的奇迹，也让人类对未来的科技图景充满了期待与警惕。他们的研究成果跨越了物理学、计算科学、神经科学等多个学科，真正实现了知识的融合，为现代科技的迅速发展提供了源源不断的动力。
对于 AI 的未来，辛顿的态度既充满希望也充满忧虑。他相信，AI 将在许多方面带来巨大的好处，譬如医学诊断、气候建模、自动驾驶和日常生活中的个人助理服务等，但同时，他也提醒人们，要对可能的负面后果保持高度警觉，尤其是在技术快速发展的背景下，确保技术的发展是可控且为人类服务的。他认为，AI 的发展需要更为严格的监管和伦理审查，以防止技术被滥用或者偏离其最初的良好意图。只有通过积极的合作和深思熟虑的政策，人类才能确保 AI 在未来的发展中真正造福全社会，而不是成为不可控的力量。辛顿强调，科技界、政府和社会各界必须携手合作，确保 AI 的进步能够始终服务于人类的利益。
相关文章
