图灵奖得主Hinton：我已经老了，如何控制比人类更聪明的AI交给你们了

还记得大牛们就“ai是否可能灭绝人类”，分成了两大阵营吗？

由于并不理解为啥“AI会造成风险”，吴恩达最近开启了一个对话系列，去找两名图灵奖得主聊聊：

AI究竟存在哪些风险？

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

有意思的是，在相继和Yoshua Bengio以及Geoffrey Hinton进行深度对话后，他和他们“达成了不少共识”！

他们都认为，双方应该共同探讨人工智能将具体产生哪些风险，并弄清它的理解程度。Hinton还特别提到了图灵奖得主Yann LeCun作为“反方代表”

争论在这个问题上仍然十分激烈，即使像Yann这样备受尊敬的学者也认为大型模型并没有真正理解它们在表达什么。

马斯克对这次谈话也很感兴趣：

除此之外，Hinton最近还在智源大会上再一次“布道”AI风险，表示比人更聪明的超级智能很快就会出现：

我们不习惯思考比我们聪明得多的东西，以及如何与它们互动。

我现在看不出如何防止超级智能“失控”，而我已经老了。我希望，更多年轻的研究人员能掌握控制超级智能的方法。

一起来看看这些对话的核心观点，以及不同AI大牛针对这件事的看法。

吴恩达对话图灵奖得主：AI安全应达成共识

首先是与Bengio的对话。吴恩达和他达成了一个关键共识，即：

科学家们应该试着找出“AI风险存在的具体场景”。

也就是说，AI究竟会在哪些场景下，给人类带来重大危害、甚至导致人类灭绝，这是双方需要达成的共识。

Bengio认为，AI前景充满着“迷雾和不确定性”，因此找出一些AI具体带来危害的场景是有必要的。

然后是与Hinton的对话，双方达成了两个关键共识。

一方面，所有科学家必须针对“AI风险”议题好好聊聊，以便于制定良好的政策；

另一方面，AI确实在理解世界。列举AI安全议题的关键技术问题有助于科学家们达成共识。

在这个过程中，Hinton提到了需要达成共识的关键点，即“GPT-4和Bard这类对话大模型是否真的理解它们自己在说什么”：

Seede AI

AI 驱动的设计工具

713 查看详情

有些人认为它们理解，有些人认为它们只是随机鹦鹉。
我想我们都相信它们理解（自己在说什么），但一些我们非常尊重的学者如Yann，则认为它们并不理解。

当然，被“喊话”的LeCun也及时赶来，很认真地发表了自己的观点：

我们都同意“大家需要就一些问题达成共识”这件事。我也同意Hinton的观点，即LLM有一定的理解能力，说它们“只是统计数据”是误导性的。
1、但它们对世界的理解非常肤浅，很大程度上是因为它们仅仅用纯文本训练。从视觉中学习世界如何运作的AI系统，将对现实有更深入的理解，相比之下自回归LLM的推理和规划能力非常有限。
2、如果没有下述条件，我不太相信会出现接近人类（甚至是猫）水平的AI：
（1）从视频等感官输入中学习的世界模型
（2）一个可以推理和规划（而不仅仅是自回归）的架构
3、如果我们有了懂得规划的架构，它们将是目标驱动的，即能基于优化推理时间（而不仅仅是训练时间）目标来规划工作。这些目标可以是让AI系统“听话”且安全的护栏，甚至最终打造出比人类更好的世界模型。
然后，问题就变成了设计（或训练）保证安全和效率的良好目标函数。
4、这是一个困难的工程问题，但没有一些人所说的那么难。

虽然这一段回应仍旧只字未提“AI风险”，不过LeCun很实在地给出了提升AI安全性的建议（打造AI“护栏”），并设想了比人类更厉害的AI“长啥样”（多感官输入+可推理规划）。

某种程度上来说，也算是双方在AI存在安全问题这个观点上达成了一些共识。

Hinton：超级智能比想象中更近

当然，不止是和吴恩达的对话。

最近离职谷歌的Hinton，在不少场合都谈到了AI风险这一话题，其中也包括最近参加的智源大会。

在大会上，他以《通往智能的两条路线》为主题，讨论了“知识蒸馏”和“权重共享”两种智能路线，以及如何让AI变得更智能，以及自己对于超级智能出现的看法。

简单来说，Hinton不仅认为（比人更智能的）超级智能会出现，而且出现的时间比人们想象中更快。

不仅如此，他认为这些超级智能会失控，但目前他还想不到什么好的方法阻止它们：

超级智能可以通过操纵人来轻易获得更多权力。我们不习惯思考比我们聪明得多的东西，以及如何与它们互动。由于可以从某些小说作品中学习欺骗他人的案例，它变得善于欺骗人。

一旦它变得善于欺骗人，就能掌握让人们做任何事的方法……我觉得这很可怕，但我看不出如何防止这种情况发生，因为我老了。

我希望，像你们这样的年轻有才华的研究人员，会搞懂我们如何拥有这些超级智能，并让我们生活得更好。

放映出“THE END”幻灯片时，Hinton意味深长地强调了一下：

这是我的最后一张PPT，也是这场演讲的结束。

参考链接：
[1]https://twitter.com/AndrewYNg/status/1667920020587020290
[2]https://twitter.com/AndrewYNg/status/1666582174257254402
[3]https://2025.baai.ac.cn/

以上就是图灵奖得主Hinton：我已经老了，如何控制比人类更聪明的AI交给你们了的详细内容，更多请关注其它相关文章！

# 图灵奖  # 人类灭绝  # 奖得主  # 图灵  # 更聪明  # 我已经  # AI  # 湖南seo营销技巧分析  # 什么cms适合seo  # 西安网站公众号运营推广  # 许昌本地推广营销网  # 营销推广的几种方法  # 湘潭产品营销推广  # 芝麻seo技术  # 和平区企业营销推广公司  # 盲人按摩店推广营销文案  # 幼儿园如何营销推广活动  # 互动  # 说什么  # 在这个  # 成了  # 这是  # 开源 

相关栏目： 【 行业新闻62819 】 【 科技资讯67470 】

相关推荐： 梦想实现！硬核科幻大片VR智能头盔即将问世  DeepMind用AI重写排序算法；将33B大模型塞进单个消费级GPU  AI大模型火了！科技巨头纷纷加入，多地政策加码加速落地  智能电网技术：提高能源效率和可靠性  苹果在韩举办首届中小企业智能制造论坛，加速推动工业4.0发展  甲骨文与Cohere合作为企业提供生成式人工智能服务  小米首次曝光 64 亿参数的 MiLM-6B AI 大模型，或将应用于小爱同学  两架海燕号无人机交付中国气象局 助力建设国家级机动气象观测业务  智能客服进入AI 2.0时代 容联云发布语言大模型“赤兔”  拓普龙7188ML：轻便壁挂式工控机箱，为人工智能应用场景提供有力保障  乐天派AI桌面机器人提供的正能量情绪价值直接拉满，妥妥的治愈系  OpenOOD更新v1.5：全面、精确的分布外检测代码库及测试平台，支持在线排行榜、一键测试  马斯克称人类是半机器人，记忆外包给了电脑  中美陷入囚徒困境，人工智能变得不可控？可参考核不扩散条约规范  Meta Connect 2025已确定时间为9月27-28，主题涵盖Quest 3与AI技术  笔神作文声讨学而思AI大模型 称用“爬虫”技术盗取数据  马斯克的幽默“现实”：AR眼镜与20美元“增强现实”哪个真实？  【趋势周报】全球元宇宙产业发展趋势：ChatGPT的出现，将元宇宙实现至少提前了10年  国产医疗企业的人工智能  调查显示：实际上没有那么多人在用 ChatGPT  华为推出两款商用 AI 大模型存储新品，支持 1200 万 IOPS 性能  一图速览 | 十大脑机接口关键技术发布  套娃不可取：研究人员证实用AI生成的结果训练AI将导致模型退化  普林斯顿大学推出 Infinigen AI 模型，生成真实自然环境 3D 场景  英伟达首席执行官黄仁勋：生成式 AI 时代「人类」会是新的编程语言  科技赋能司法执行 阿里资产免费为全国法院升级VR新服务  13条咒语挖掘GPT-4最大潜力，Github万星AI导师火了，网友：隔行再也不隔山了  央视报道！星纪魅族集团车载人机交互技术成世界移动通信大会焦点  Intel酷睿Ultra发布会官宣！迈向全新的AI时代  如布科技发布新产品AI口袋学习机S12  新华社联合北大发布AI大模型评测：安全可靠成重点，360智脑表现优异  五项人工智能尚未能够实现的任务  零数科技CTO兰春嘉：区块链与人工智能的结合点在数据  英特尔张宇：边缘计算在整个AI生态系统中扮演重要角色  AI新风口？首个高质量「文生视频」模型Zeroscope引发开源大战：最低8G显存可跑  学而思网校推出首个基于自研大模型的《人工智能第一课》  如何利用AI工具写好本科论文：科技助你一臂之力  元宇宙技术带你穿梭“大运河”，江苏书展上的数字阅读馆吸睛小读者  AYANEO 安卓掌机 Pocket AIR 配置公布：天玑 1200 + 5.5 英寸屏  尼康尼克尔 Z 180-600mm f/5.6-6.3 VR 镜头发布，12499 元  AI+音乐如何“生成”动听旋律？一起揭秘世界人工智能大会开场曲  微软Bing聊天机器人电脑端即将支持语音提问  苹果公司迅速拓展AR/VR团队，Vision Pro发布后7月份增设近100份工作机会  跟着AI大热的“光模块”到底是什么？  周鸿祎参加中美青年科技创新峰会，分享人工智能创新机遇  人工智能“Aria”现身 Opera浏览器100版本更新：新功能“标签岛”  RoboNeo操作教程  鉴智机器人发布基于地平线征程5的标准视觉感知产品  周鸿祎：用超级AI实现室温超导和核聚变，实现能源自由  消息称 ChatGPT 未来有望增加更多功能：上传文件分析信息，还能记住用户画像