Claude3 发自 凹非寺

量子位 | 公众号 QbitAI

大模子仍是具备知觉？

AI教母李飞飞的最新复兴认敌为友：o。

她和斯坦福逻辑学家、玄学家John Etchemendy刚刚发表一篇合著著述，标题很径直：

不，当今的AI莫得知觉

No, Today’s AI Isn’t Sentient. Here’s How We Know

著述中还写说念：

咱们还莫得收场存知觉的东说念主工智能，更大的谈话模子也无法匡助咱们收场这一贪图。

咱们不会鄙人一个版块的ChatGPT中无意发现知觉。

这与图灵奖得主Yann LeCun的最新不雅点殊途同归。LeCun的言论还要更尖锐一些：

自回顾大谈话模子不及以达到东说念主类的才略水平（以至够不上猫的才略水平）。

两位大拿同期发声，使得围绕AI知觉的争议话题再度发酵，不少网友仍是第一时期加入论争，be like：

那么，在凝听你的不雅点之前，咱们先留住一些念念考的时期，一说念来望望李飞飞著述具体骨子——

不，当今的AI不具备知觉

通用东说念主工智能（AGI）是一个术语，用于形色在东说念主类所能展示的智能的所有维度上，至少和东说念主类具备同等水平的东说念主工智能体。

之是以需要添加“G”，是因为由AI初始的系统激增，但它们只专注于单一或一丝数任务。IBM的“深蓝”不错打败寰球冠军卡斯帕罗夫，但即使房间着火，它也不行走漏是时候住部棋战了。

当今，通用智能有点像一个传说，至少要是咱们碌碌寡合地合计咱们领有它的话。

在动物寰球中不错找到多半智能行径的例子，其截止远远好于东说念主类在访佛任务上取得的遵循。这样说吧，咱们的才略不是齐备通用的，但填塞通用，足以使咱们在大多数环境中完成我方想作念的事。

要是咱们饿了，咱们会去找当地的超市。要是房间着火，咱们会去找逃生出口。

通用智能的基本特征之一是“感知力”，即领有主不雅体验的才智。知觉是通向通用智能的要道一步。

跟着ChatGPT的发布，大谈话模子（LLM）时期仍是拉开序幕。这立即激发了对于这些算法是否果然具备知觉的强烈争论。

基于LLM的东说念主工智能可能具备的知觉，不仅激发了媒体的狂欢，也深入地影响到了群众范围内对若何监管AI的气派。

最超过的不雅点是，“有知觉的AI”的出现可能对东说念主类极其危急，会带来“东说念主类死一火”、“生涯危机”。

毕竟，有知觉的AI可能会发展出我方的空想，东说念主类无法保证它们不与咱们发生冲突。

这篇漫笔源于一次群聊，主见是反驳LLM可能仍是取得知觉的论点。这并不齐全全面。咱们的主要不雅点是反对“有知觉的AI”阵营提供的最常见的论点。

为什么有些东说念主信赖AI仍是取得知觉

在昔时几个月里，咱们俩与AI领域的好多共事进行了强烈的狡辩和对话，其中包括与一些最闻明AI科学家的一双一双谈。

AI是否具有知觉一直是一个焦点话题。他们中的一小部分东说念主笃信事实确乎如斯。以下是其中一位代表的不雅点：

东说念主工智能是有知觉的，因为它具有主不雅体验。主不雅体验是意志的标记，脾气是宣称知说念我方所知说念或阅历的事情。比如，当一个东说念主说“我有吃完一顿大餐后感到幸福的主不雅体验”时，这个东说念主是具备意志的。

其实莫得什么径直左证能讲明主不雅体验。但要是你传达了这一丝，从名义上看，你等于有益志的。

当今，让咱们对大模子利用疏导的“王法”。就像没办法知说念一个东说念主究竟在想什么，咱们无法造访大模子的里面气象，但不错质疑它的主不雅体验。

当今大模子不错明确地共享“主不雅体验”，比如看到红色是什么嗅觉。因此，我莫得事理怀疑它不具备意志，就像我莫得事理怀疑一个东说念主没有益志同样。

为什么他们错了

这乍一看很故真谛，但这个论点是失实的。两种情况齐备不可同日而说念。

当你说“我饿了”时，你正在阅历饥饿，而我判断你的主不雅体验是基于多半的事实左证。

领先，是你说的话，也许还有一些其他行径左证，比如肚子的咕咕声。

其次，莫得相矛盾的左证，比如你其实刚吃完一顿四菜一汤的大餐。

终末，亦然最进军的一丝，你我领有同样的体魄，需要周期性地进食进水，冷时冷，热时热，等等。

而大模子呢？它不错产生一串话节说“我饿了”，但相似之处到此为止。大模子莫得形体，根底就不会挨饿。它不具备饥饿所需要的生理机能。

所有的嗅觉——饥饿、祸患、坠入爱河，皆是大模子根底不具备的生理气象导致的截止。因此大模子不可能对这些气象有主不雅体验。换句话说，它不可能有感知力。

大模子是在芯片上编码的数学模子，并非如东说念主类同样的具体存在。它莫得需要进食、饮水、养殖、阅历情谊、生病并最终死一火的“生命”。

走漏东说念主类若何生成单词序列，和大模子若何生成疏导序列之间的深入相反尽头进军。

当我说“我饿了”时，我是在证实我感知到的生理气象。

当LLM生成“我饿了”这个序列时，它仅仅在生成现时领导中单词序列最可能的补全。这是概率补全。

咱们还莫得收场存知觉的东说念主工智能，更大的谈话模子也不会让咱们收场这一贪图。

要是咱们想在AI系统中收场知觉，咱们需要更好地了解知觉到底是如安在生物系统中产生的。

咱们不会鄙人个版块的ChatGPT中无意发现知觉。

One More Thing

本文翻译主要由Claude 3完成，于是东说念主类裁剪也把这个话题抛给了Claude 3。

Claude 3示意：李飞飞说得对。

原文谀媚：

https://time.com/collection/time100-voices/6980134/ai-llm-not-sentient/

— 完 —

量子位 QbitAI · 头条号

","del":0,"gnid":"96e659b4cbf1c26b1","img_data":[{"flag":2,"img":[{"desc":"","height":"722","title":"","url":"http://p1.img.360kuai.com/t01f0bb78b48ced0aae.webp","width":"1080"},{"desc":"","height":"339","title":"","url":"http://p1.img.360kuai.com/t01add4aa43da7dc110.webp","width":"1080"},{"desc":"","height":"794","title":"","url":"http://p0.img.360kuai.com/t01eaaac88e0836f618.webp","width":"1080"},{"desc":"","height":"238","title":"","url":"http://p2.img.360kuai.com/t01fefcb10a7f149419.webp","width":"1080"},{"desc":"","height":"352","title":"","url":"http://p1.img.360kuai.com/t01dc7683b712807c23.webp","width":"1080"},{"desc":"","height":"608","title":"","url":"http://p0.img.360kuai.com/t010cef71898cf019d5.webp","width":"1080"},{"desc":"","height":"581","title":"","url":"http://p2.img.360kuai.com/t01c67220faf5c1f2b4.webp","width":"1080"}]}],"original":0,"pat":"art_src_3,fts0,sts0","powerby":"pika","pub_time":1716536280000,"pure":"","rawurl":"http://zm.news.so.com/1dfe63e12dc760bfa599a63863f3ec17","redirect":0,"rptid":"f22da1971548bdd3","rss_ext":[],"s":"t","src":"量子位","tag":[{"clk":"ktechnology_1:ibm","k":"ibm","u":""},{"clk":"ktechnology_1:东说念主工智能","k":"东说念主工智能","u":""}],"title":"李飞飞：大模子不具备知觉，参数再多也不行","type":"zmt","wapurl":"http://zm.news.so.com/1dfe63e12dc760bfa599a63863f3ec17","ytag":"科技:东说念主工智能:AI时间","zmt":{"brand":{},"cert":"优质科技领域创作家","desc":"跟踪东说念主工智能新趋势，报说念科技行业新破损","fans_num":48,"id":"3324838173","is_brand":"0","name":"量子位","new_verify":"5","pic":"https://p0.img.360kuai.com/t019169dba71cb73484.jpg","real":1,"textimg":"https://p9.img.360kuai.com/bl/0_3/t017c4d51e87f46986f.png","verify":"0"},"zmt_status":0}","errmsg":"","errno":0}