图灵奖得主杨立昆：AI的逻辑推理和规划能力有限，会犯事实错误和逻辑错误 天天观焦点
出品｜搜狐科技
作者｜郑松毅
(资料图片仅供参考)
6月9日，2023智源人工智能大会在北京举办。法国当地时间凌晨四点，被誉为“世界深度学习三巨头”之一的杨立昆（Yann LeCun）在法国视频连线北京现场，发表了主题为《走向能够学习、推理和规划的大模型》的演讲，表达了对于人工智能的深度思考。
搜狐科技在智源大会现场观看了这场演讲，从杨立昆演讲时面露微笑的表情中，可以感受到杨立昆对于人工智能发展的积极乐观态度。此前在马斯克等人联名签署联名信提出人工智能发展将给人类文明带来风险时，杨立昆曾公开反驳，认为人工智能尚未发展到给人类构成严重威胁的程度。演讲中，杨立昆再次强调人工智能是可控的，他表示，“恐惧是由对潜在负面结果的预期引起的，而兴高采烈是由对积极结果的预测产生的，像这样由目标驱动的系统，我将之称为‘目标驱动的人工智能’，它会是可控的，因为我们可以通过成本函数为它设定目标，确保这些系统不会想要接管世界，相反，它会屈从于人类和安全。”
杨立昆表示，人工智能距离人类和动物的能力差距在于逻辑推理和规划，这是智能的重要特征，现在的大模型只能“本能反应”。
“如果你用一万亿或两万亿个token来训练它们，机器的性能是惊人的，但最终机器会犯事实错误、逻辑错误，它们的推理能力是有限的。”
杨立昆强调，基于自我监督的语言模型无法获得关于真实世界的知识。他认为，与人类和动物相比，机器的学习能力并不是很好。几十年来，研发系统的方式都是在用监督学习，但监督学习需要太多标签，学习任何东西都需要进行大量的尝试，强化学习的结果却不尽人意，这些系统是脆弱的，会犯愚钝和错误，且并不会真正地推理和计划。
“就像我们在演讲时，如何从一个观点表达到另一个观点，怎么解释事物，大脑里是有计划的，而不是一字一句的即兴发挥。也许在低层次上，我们在即兴发挥，但在高层次上，我们一定是在规划。所以规划的必要性是非常明显的。我的预测是，在相对短的几年内，理智的人肯定不会再使用自回归元素（自监督学习方法中的模型之一）。这些系统将很快被放弃，因为它们是无法修复的。”
他表示，为了让语言模型真正理解真实世界的知识，需要一个新的架构来取代，而这个架构就是他在一年前所发表的论文中提出的架构，“自主智能（Autonomous Intelligence）”。这是由一个配置模块控制整个系统，基于输入信息，进行预测、推理、决策的架构。其中的“世界模块”具备估计缺失信息、预测未来外界状态的能力。
谈及未来几年AI将面临的挑战，杨立昆指出三个方面，其一是学习世界的表征和预测模型；其二是学习推理，即学习如何有意识、有目的地运用思维去完成任务；最后一个挑战是如何通过将复杂任务分解成简单任务，以分层的方式运行来规划复杂的行动序列。
谈到这里，杨立昆介绍了他发表在论文中的另一个模型“世界模型（World Model）”，该模型可以想象一个场景，并根据场景预测行动结果。目的是找出一系列根据其自己的世界模型预测的行动，并最小化一系列成本的行动序列。
当杨立昆在提问环节被问及有关即将参加的一场关于AGI的地位和未来的辩论时，他表示这场辩论将围绕一个问题展开，即人工智能系统是否会对人类构成生存风险。Max Tegmark 和 Yoshua Bengio 将站在“会”的一边，认为强大的 AI 系统可能对人类构成存在风险。而杨立昆和 Melanie Mitchell 将站在“不”的一边。
“我们的观点不是说没有风险，而是说这些风险虽然存在，但很容易通过精心设计来减轻或抑制。”
杨立昆认为，超智能系统尚未被研发出来，待其被发明出后，再讨论“是否能使超智能系统对人类安全”也来得及。
标签：
精彩推送
环球热头条丨“绵阳”江油市民宗局“三举措”扎实开展宗教活动场所白蚁防治工作
“绵阳”江油市民宗局“三举措”扎实开展宗教活动场所白蚁防治工作江油属亚热带季风性湿润气候，年均日...
拼经济·看㮾梨④｜长沙县家居生活用品智能制造基地又添一员“亿级新军”
红网时刻新闻6月7日讯（通讯员赵佳慧）6月7日清早，位于长沙县㮾梨街道健康钛家居生活用品智能制造基地建设
GIC Private Limited增持中国中免(01880)43.39万股 每股作价约124.72港元
5月31日，GICPrivateLimited增持中国中免(01880)43 39万股，每股作价124 7185港元，总金额约为5411 54万港元。
中星新材每10股派现1.02元 共计派发现金红利102万
挖贝网6月7日，中星新材（839389）近日发布2022年年度权益分派实施公告，公司2022年年度权益分派方案为：以
新闻快讯
X 关闭
X 关闭
新闻快讯
- 图灵奖得主杨立昆：AI的逻辑推理和规划能力有限，会犯事实错误和逻辑错误 天天观焦点
- 哥伦比亚政府与“哥伦比亚民族解放军”签署有期限停火协议
- 河南：关于做好2023年军队院校招收普通高中毕业生政治考核工作的通知-天天快资讯
- 上海嘉定一货车在运输途中发生爆燃，火已扑灭无人员伤亡 天天热消息
- ae羽化快捷键_羽化快捷键|视焦点讯
- 【全球聚看点】三星Galaxy Watch手表新专利：更准确评估卡路里摄入量
- 全球微速讯：领益智造：截至6月9日，公司股东总户数为203,136户
- 时隔24年，中国再度申报世界“双遗产”
- 当前热议!米克拉台风 2002年第6号台风（台风海神 2002年第25号台风）
- 睡觉醒来后头疼是怎么回事_女护士醒来后下身全是血
- 环球通讯！中国商业航天发展大会聚焦商业航天产业发展
- 水泥固化剂多少钱一公斤 水泥固化剂
- 谷歌反垄断案将如何影响人工智能技术的未来市场格局？
- 一个网一个白_一个王一个白-焦点消息
- 西安出租车价格表2022（西安出租车价格）
- 环球热议:武汉挂牌21宗地块：17宗宅地起始总价超281亿元
- 卧铺可自选上下铺位置 今日起12306试行在线选铺服务_速看料
- 尿微量白蛋白高是怎么回事（尿蛋白高是怎么回事）|全球快看点
- 天天快播：山东航空退市成定局！上市23年市值跌去九成，国航伸援手
- 天天视讯！美英领导人发表《大西洋宣言》 美英寻求建立“新型创新伙伴关系”！
- 阔太王艳48岁重新复出,穿花裙跳舞秀曼妙曲线,彻底颠覆豪门形象
- 韩国政府加大投资，推动人工智能项目发展
- 电焊工证书查询不了（电焊工证书查询）|每日观点
- AMD超威卓越平台全面登陆国内式机市场：为游戏玩家和创作者提供卓越解决方案-世界观热点
- 重温《蓝色生死恋》才懂，死去，才是恩熙无望人生的救赎和圆满 焦点快播
- 环卫母亲与高考儿子相拥而泣刷屏，普通人改变命运的努力打动人心
- 世界今日报丨台式电脑键盘错乱按什么键恢复_台式电脑键盘按键错乱怎么恢复
- 中国吸引跨国公司的不单是大市场-全球快消息
- 如何查询苹果手机是不是翻新机子（如何查询苹果手机是不是翻新机） 天天头条
- 你好，我在平台上买东西，已付款，但是商家跑路，我没有拿到商品 世界即时
- 环球速读：查手机号码机主姓名（查手机号）
- 英国监管机构阻止微软收购动视暴雪 后者获准参与上诉程序
- 计算机网络的定义简要概括（计算机网络的定义）
- 微资讯！vivo手机助手的隐藏彩蛋（vivo手机助手）
- 天翼网关怎么设置（网关怎么设置）_焦点
- 世界头条：组图｜2023高考结束！青春不散场 未来皆可期
- 【环球聚看点】IDC: 联想服务器出货量连续三个季度全球第三
- 暗黑4血怒巅峰效果介绍-世界快资讯
- 龙爸无双100集电视剧免费观看
- 2023高考今日落幕，多地公布志愿填报时间 世界动态
- 每日资讯：武汉挂牌21宗地块：17宗宅地起始总价超281亿元
- 李少红刘斯逸胡先煦亮相上影节开幕红毯，9月9日看《三贵情史》寻真爱破诅咒-百事通
- 暗黑4出血巅峰效果介绍-视焦点讯
- 做完无痛人流可以吃水果吗?
- 每日热文：2023“两展一节”在京开幕 特设十周年回顾展
- 纽约市空气质量恢复“良好”水平|通讯
- 三十而已顾佳打林有有是第几集出现的_三十而已顾佳打林有有是第几集|每日精选
- 晋商银行(02558)将于7月28日派发末期股息每100股10元
- 李华林的简介图片_李华林的简介
- 当前播报:工厂食堂8元餐一周菜谱?