明敏 鹭羽 发自 凹非寺量子位 | 公众号 QbitAI优配交易
Hinton突然对AGI变乐观了。
对于AI，他几周前还觉得是养虎为患，最新采访却改口说是一种母亲和婴儿之间的亲密共生关系。
大多数专家认为5-10年后人工智能会比人类更聪明。问题是更聪明事物被不聪明事物控制这种例子实在是太少了，可能政客和科学家之间是这种关系（笑）。但是我知道唯一的例子是母亲和婴儿。
不过AI才是母亲，人类是婴儿。
我们不必去尝试支配超级智能，应该是在设计之初就给它植入“母性本能”，这样AI就会本能地希望我们幸福，从而实现共存。
对于AI的发展，也不必踩刹车，应该要引导正确发展方向。
这和他过去3年来对AGI的态度，几乎是180度大转变。
2023年，他为了警告AI风险，从在任10年的离职，就是以更中立客观的角度向全世界布道AI的利弊。
已经77岁高龄但仍旧奔走于全世界，呼吁人类可控地推进AI发展。就在今年7月的WAIC上，他还以“养虎为患”的例子在中国阐释了AI风险。
才过去不到2个月就发生这样的变化。难道是他看到了什么？
也许Ilya向他展示了什么？
如上最新观点来自Hinton最新访谈，此外他还分享了AI发展的更多理解：比如有机会一定要警告马斯克奥特曼、现在没有1家AI公司足够重视AI安全……
重新审视AI风险，但还是要喷马斯克奥特曼
Hinton接受了来自著名记者Katie Couric的独家访谈，整个对话过程长达近一个小时，核心探讨的还是Hinton自谷歌离职后屡屡提及的AI风险。
Hinton将AI风险分为两种：
短期风险长期风险
他强调自己主要担忧并非是短期内的滥用AI，当然这也很重要，而是人工智能本身接管人类的可能性。
在很多人眼里，AI比人类聪明并接管整个世界，只是科幻小说的存在，但包括他在内的许多专家都认为，这其实是非常现实的长期风险。
也许就在未来的5到20年内，AI就会比人类聪明得多。
聪明程度的差异之大让人类举步维艰，要反过来控制比自己更聪明的智慧生物，Hinton表示他唯一知道的例子就是母亲和婴儿。
也就是说将AI设计成母亲的存在，而人类将会是AI庇护下的婴儿。
这和他在几个月前WAIC上对人类和AI关系的认识，可以说是截然不同。
当时他将AI比喻为人类饲养的小虎崽，等待他长大优配交易，就能轻而易举干掉人类。
要杜绝这种可能性，人类要么只能训练它无法伤害人类，要么就提前干掉它。
后者显然在当下是不现实的，我们的生活已经被AI完全渗透影响，那么我们只能选择引导AI。
朝什么方向呢？母亲和婴儿。
在设计之初，就为AI赋予强大的“母性本能”，让它们支持人类的成功，这样即使未来有一天，它变得更加聪明、更加强大，也能很好地与人类共存。
这种全新的设计思路，也许将彻底改变传统路径上人类试图统治AI的思维模式，成为一种普适性地训练AI善良特性的方法，并在不同智能水平的模型上得以实现。
不过，Hinton在此前的上海之行交流中也提及，这是他所希望看到的，是值得去深入探究的可能性，但也可能无法实现。
这需要所有AI研发者一起通力合作，而马斯克和奥特曼显然不在此列。
Hinton表示，假如他有机会和他们两人共处一室，那么他会相当直白地说：
你们很清楚，你们正在发展的事业很有可能正在消灭人类。
Hinton点评了当下几家AI公司在缓解风险上的表现，简单来说没有一家做的足够好：
Anthropic：比其他家投入更多精力在AI安全但是也还不够OpenAI：初心是对的，但是现在已经变味了Meta和xAI：在底层开发时都不关注AI安全
具体点就是，他认为OpenAI的初衷是安全开发AI，结果现在的重心却偏移到如何让AI更聪明，而不是如何让它更安全。
奥特曼转向快速开发AI的道路，让Hinton乃至马斯克都很反感，马斯克此前还曾起诉奥特曼没能履行最初的承诺。
不过马斯克也是一丘之貉，Hinton指出，马斯克自己在开发Grok的过程中，也没有过多关注安全问题，马斯克应该将他对待奥特曼的逻辑应用到自己身上。
而他们二人之所以这样做，主要原因还是因为贪婪和自负，渴望通过AI攫取巨额财富，并希望成为第一个创造出超级智能的人。
他们追逐的是创造超乎人类智能的兴奋感，而非守护人类的责任感。
AI的正向作用看医疗，但是也会取代一些工作
AI应用落地这一方面，Hinton还是一如既往看好医疗领域。这一定程度上和Hinton的个人经历有关，他的两任妻子都死于癌症，因此他非常希望AI能在医学领域有所突破。
总结来看Hinton认为值得关注的方面有5个：
医学影像解读加速药物研发个性化和精准医疗提升医疗系统效率更高情感关怀
首先在医学影像解读上，Hinton觉得AI能比人类医生获取更多信息。
比如AI可以通过分析眼底（视网膜）的扫描图像，就能准确预测一个人患心脏病的风险，甚至能判断患者性别，这些都是人类做不到的。
他承认自己在2016年预测“AI将取代所有医学影像医生”这有点过于乐观，但是他坚信这只是时间问题，未来AI辅助诊断将成为常态。
其次在新药研发上，Hinton提到了DeepMind在预测蛋白质折叠上的突破，蛋白质的3D结构决定了其功能，能够准确预测对于研发与特定靶点相互作用的新药至关重要。
比如在癌症领域，靶向药物比化疗这种传统治疗手段给人体带来的伤害更小。这项技术也将催生一个全新的产业，为我们带来一系列更有效的药物（不过不是1-2年之内）。
然后在个性化和精准医疗方面。AI可以整合大量医疗数据（包括基因组信息、病史、病历、家族病史），从而更好地实现疾病的早期诊断和个性化治疗。
以及AI也能解决医疗系统管理问题，比如通过数据分析，AI可以帮助医生更准确判断患者应当何时出院，这样能在确保患者得到充分治疗同时又优化医院床位的使用效率。
最后他还提出了一个反直觉的观点，一些研究表明AI在和患者交流时，比人类更有耐心、更具同理心，能提供更全面的信息和情感支持。
但是也不可否认，AI落地、提高生产力同时也将会导致一些人被取代。
在这之中一些职业将会面临更高风险：客服、律师助理、程序员等，甚至作家、编剧这种创意工作者也不能完全避免。
事实上AI在所有事情上都会比我们强。我认为10年之后它能写出非常精妙的剧本。
Hinton认为这些问题还会进一步加剧贫富差距等，不过这更多是社会问题，而非技术本身的问题。
好胜心极强的父亲：我得诺奖他会生气
最后访谈再次聊到了Hinton“显赫”的学术家族。
曾曾祖父乔治·布尔 (George Boole)是著名数学家和逻辑学家，是布尔代数的提出者，布尔代数是现代计算机科学和数字电路的理论基石。曾叔祖父塞巴斯蒂安·辛顿 (Sebastian Hinton)，儿童乐园里常见的攀登架的发明者。父亲霍华德·埃弗里斯特·亨顿（Howard Everest Hinton）是英国昆虫学家，英国皇家学会院士。表姐琼·辛顿 (Joan Hinton)，核物理学家，参加了曼哈顿计划。
Hinton说他的父亲是一位强势、好胜心极强的人，对子女都有很高期待。
父亲给他的“激励”往往是：等你的岁数有我2倍大、且工作强度是我现在的2倍时，你的成就或许也就只有我的一半吧。
虽然这句话是半开玩笑，但是也给年少的Hinton带来了很大压力。
不过从现在的知名度来看，Hinton超越了父亲。
所以，如果当父亲知道Hinton获得了诺奖，他会是怎样的反应？
会非常高兴，但又有点生气，他确实非常好胜（笑）。他会为儿子骄傲，但是儿子又获得了他没有的成就。
也是在这样的家族背景下，Hinton对于AI始终有着至高的学术追求，在晚年时期他也将引导AI正向发展视为己任。
所以我们看到，77岁高龄且患有严重腰伤的他开始频繁出现在公众视野，通过一次次访谈、演讲去向更多人传递对AI的正确认识。
他很高兴大家愿意听他的分享与讨论，在这次访谈里他也专门提到今年和中国方面取得联系。
在WAIC上，我们也看到了他在中国第一次公开演讲。
但我们也知道，Hinton还不会停下，他还会为AI的正向发展继续、不断奔走。
参考链接：https://www.youtube.com/watch?v=NnA2OoH_NFY
永信证券提示：文章来自网络，不代表本站观点。
