“AI教父”辛顿：AI将操控人类

人工智能(AI)正在以惊人的速率持续进步。

当AI在所有领域都超越人类聪慧的时期到来之时，天下将会发生若何的变革呢？被誉为“AI教父”的多伦多大学名誉教授杰弗里辛顿（Geoffrey Hinton）在加拿大的家中接管了日本经济新闻（中文版：日经中文网）的采访，讲述了AI和人类的未来。

杰弗里辛顿奠定了作为目前AI核心技能的“深度学习”的根本。
2023年，他溘然从已事情10多年的美国谷歌辞职，开始评论辩论AI的威胁。

：您一度担当AI研发的主要职务却终极离开谷歌，缘故原由是什么？

辛顿：这是由于我希望离职后自由地传播自己相信的东西。
我在2023年4月与作为上司的首席科学家杰夫迪恩（Jeff Dean）交谈。
我提出了AI有可能带来事关人类生存危急的意见。

他故意挽留我说：“留在谷歌研究AI的安全对策怎么样？”。
我非常尊敬他，但谢绝了发起。
纵然不会被明确限定，如果身为谷歌的一员，讲话时也不得不考虑到公司的利益。

：您为什么认为AI有可能威胁人类？

辛顿：这是由于如果给AI设定目标，作为办理对策，它可能会找出对人类不利的方法。
比方说，假设向AI下达遏制景象变革的指令。
AI会意识到为了达到目的而有必要将人类打消，我担心真的会付诸履行的风险。

今后还可能会涌现不同的AI相互竞争的局势。
例如，如果AI之间发生数据中央等资源的争夺，这将是一个像生物体一样推动进化的过程。
面对通过竞争变得更聪明的AI，我们人类将落在后面。

很多人主见，要防止AI失落控，只要关掉电源开关就可以。
但超越人类聪慧的AI可以用措辞操纵我们。
或许会试图说服我们不要关掉开关。

：您的学生、美国OpenAI公司联合创始人伊尔亚苏茨克维（Ilya Sutskever）在2023年11月曾试图开除该公司首席实行官(CEO) 山姆奥特曼（Sam Altman），但以失落败告终。
据宣布，其动机仍旧因此为AI对人类构成威胁这一危急感。

辛顿：伊尔亚非常担心AI的危险性。
OpenAI是重视AI安全性的非盈利组织，但采取了管理盈利企业的构造。
从这次的事宜看出，乃至是这样的组织，比安全性，会更优先AI创造的利益。

以前我们都认为数字的智能不会像人类那么精良，理解措辞和繁芜的东西或将是良久之后的事情。
伊尔亚率先改变了意见，但我并没有立时赞许。
现在我以为他是对的。

：联合国针对前辈AI被转用于军事作出了着眼于限定的紧急应对的决议。

辛顿：我认为未来10年内将涌现自主杀去世人类的机器人武器。
在第一次天下大战中造成悲剧的化学武器被后来的国际协议所禁止。
机器人武器或许迟早也会被限定。
但是，这可能要等到真正在沙场上被利用、人类认识到会带来多么悲惨的结局后才能实现。

我们谁也不肯望看到被AI支配的未来。
这一事实将成为各国在迈向AI武器限定的过程中保持同等步调的根本。
就像核战役一样。
这显然对所有国家都有危害，以是美国和前苏联才能在冷战期间就避免核战役达成协议。

杰弗里辛顿由于对人的大脑产生兴趣，在大学本科期间攻读了实验生理学。
由于这些履历，他为模拟人类大脑神经回路的机制的AI研发方法找到了可能性。

：OpenAI开拓的“ChatGPT”等对话式AI能理解人类的措辞吗？

辛顿：我认为作为天生式AI根本的大措辞模型能像我们一样理解措辞。
我在1985年建立了第一个措辞模型。
在模拟大脑如何理解措辞的根本上进行设计。
大多数声称AI不懂措辞的人并不节制人类是如何理解措辞的理论。

：记得您以前彷佛说过“纵然AI表面上看起来能理解措辞，但实际上并不理解”。

辛顿：我一贯把AI能不能理解笑话作为判断的标准。
2022年，让利用谷歌开拓的大措辞模型“PaLM”的谈天机器人(自动应答系统)阐明几个笑话。
谈天机器人能够理解为什么笑话很有趣，并全部成功作出阐明。

：通过AI的研究，对人类的理解是否也发生了变革？

辛顿：由于模拟大脑的智能可以人为创造出来，因此有很多创造。
有些哲学家认为人类天生就具有利用措辞的功能，这完备是无稽之谈。
我们认为措辞是出生后经由学习的后天产物。

50年来，我一贯为了让AI更靠近人类大脑而不断推进开拓。
这是由于我相信大脑在功能上更优胜。
但在2023年，我改变了想法。

人类分享知识须要很永劫光，我们无法逃脱去世亡。
另一方面，在数字天下里，将统统内容都分为“0”和“1”加以记录。
不依赖于特定的硬件，可以瞬间复制数据并运行完备相同的程序。

现在的对话式AI以人类大脑100分之1的规模而拥有数千倍的知识。
大措辞模型与人脑比较能够更高效地学习。

：AI是否不仅拥有智能，还将拥有觉得？

辛顿：如果从主不雅观履历这一角度进行解释，我认为AI可以拥有和人类一样的觉得。

人类也会经历与客不雅观事实不符的事宜。
例如我喝了很多酒，早上醒来时，面前由于幻觉而涌现了粉赤色的小象。
我不会相信小象的存在，而是会认为自己的感知系统没有正常事情，因此这只是内在的体验。

通过摄影机网络视觉信息的AI也可以产生同样的情形。
例如，将物体放在相机前，用棱镜使光芒波折，形成产生物体在远处的错觉。
如果对话式AI阐明称感知系统由于棱镜而不能正常事情，那么我们就可以说它有着和人类一样的觉得。

：与您共同得到“图灵奖”的美国纽约大学教授杨立昆（Yann LeCun）否认了AI具故意识或觉得的可能性。

辛顿：他至今仍是我的朋友，但我们有不同的见地。
大概他认为AI没有主不雅观履历。
很多人认为主不雅观履历是人类固有的，AI并不理解天下。
这是个缺点。

杰弗里辛顿（Geoffrey Hinton）

曾在英国剑桥大学攻读实验生理学，1978年在英国爱丁堡大学得到AI博士学位。
在约半个世纪的韶光里，他引领着天下AI研究，很多学生参与开拓最尖真个天生式AI。
曾于2013年至2023年供职美国谷歌。
现年76岁。

采访所感：

1950年，数学家艾伦图灵设计了一个“图灵测试”，用来判断机器是否拥有和人类一样的智能。
在4年前的采访中，我曾讯问辛顿，AI什么时候能听懂措辞并通过测试，他提出了“可能须要50到100年”的意见。

这次我也提出了相同的问题，得到的回答是“已经快要及格了”。
与上次采访时骄傲地讲述AI给社会带来的好处比较，辛顿的态度发生了明显变革。
通过AI研究“人类如何思考”这一主题的头号威信改变认识的意义重大。

他并不是在预言AI会统治人类。
而是在未来具有不愿定的条件下，强调长期的风险。
我们的社会须要从正面接管并谈论辛顿师长西席敲响的警钟。