说米网

大模型的拟人行为，在让咱们产生恐怖谷效应。
「图灵测验是一个糟糕的测验规范，因为对话才能和推理彻底是两码事。」最近几天，AI 圈里一个新的观念正在流行。
现在已是生成式 AI 时代，咱们评价智能的规范该变了。
图片
「机器能考虑吗?」这是艾伦・图灵在他1950年的论文《核算机器与智能》中提出的问题。图灵很快指出，鉴于界说「考虑」的难度，这个问题「毫无意义，不值得评论」。正如哲学争辩中常见的做法，他主张用另一个问题替代它。
图灵想象了一个「仿照游戏」，在这个游戏中，一位人类裁判员别离与一台核算机和一名人类（烘托者）对话，两边都试图让裁判员信任自己才是真实的人类。
重要的是，核算机、烘托者和裁判员之间互相无法对视，他们彻底经过文本进行交流。邮件白名单,在与每个候选者对话后，裁判员猜想谁是真实的人类。
图灵的新问题是:「是否存在可幻想的数字核算机，能在仿照游戏中表现出色?」
图片
论文链接:
https://academic.oup.com/mind/article/LIX/236/433/986238?login=false
这个由图灵提出的游戏，现在被广泛称为图灵测验，用以辩驳广泛存在的直觉性认知:「因为核算机的机械性质，在原理层面上就不可能考虑。」
图灵的观念是:假如一台核算机在表现上与人类无法区分（除了它的外貌和其他物理特征），那么为什么咱们不将其视为一个有思维的实体呢?为什么咱们要将「考虑」的资历仅限于人类(或更广泛地说，仅限于由生物细胞构成的实体)?正如核算机科学家斯科特・阿伦森所描绘的，图灵的提议是「一种反对『肉体沙文主义』的呼吁」。
图灵测验是一种思想而不是「办法」
图灵将他的测验作为一个哲学思想实验，而不是一种能够实践衡量机器智能的办法。但是，在大众的认知中，图灵测验现已成为人工智能（AI）的终极里程碑 —— 评判通用机器智能是否到来的主要规范。
现在，近75年曩昔了，关于 AI 的报导充满着宣称图灵测验已被经过的论调，尤其是像 OpenAI 的 ChatGPT 和 Anthropic 的 Claude 这样的谈天机器人的推出之后。
去年，OpenAI 的首席执行官山姆・奥特曼发文称:「面临技能变革，人们的适应才能和耐性得到了很好的体现:图灵测验悄然曩昔，大多数人继续他们的日子。」
图片
各大媒体也宣布了类似的标题，例如某家报纸报导称，「ChatGPT 经过了闻名的『图灵测验』—— 标明该 AI 机器人具有与人类适当的智能。」
图片
英国每日发行的老牌报刊 —— 每日邮报
乃至像 BBC 这样的全球最大媒体之一、具有广泛影响力的公共传媒机构乃至在2014年就提出核算机 AI 现现已过了图灵测验。
图片
https://www.bbc.com/news/technology-27762088
但是，问题是:现代谈天机器人真的经过了图灵测验吗?假如是这样，咱们是否应该像图灵所提议的那样，赋予它们「考虑」的位置?
令人惊奇的是，虽然图灵测验在文化上具有广泛的重要性，长久以来，AI 社区却对经过图灵测验的规范没有达成一致意见。许多人怀疑，具备能够诈骗人的对话技能是否真实提醒了体系的底层智能或「考虑」才能。
一千个人眼中很可能有一千个图灵测验规范。
图灵奖得主 Geoffery Hinton 在一次访谈中谈及了他的「图灵测验规范」，他以为 Palm 等谈天机器人能够解说笑话为何风趣，这能够视为其智能的标志。现在的大模型，如 GPT-4十分拿手解说一个笑话为何风趣，这被以为是其图灵测验的一部分规范。
相比于其他科学家关于图灵测验严肃的界说，Hinton 的观念虽然诙谐，但仍是道出了他对「人工智能是否有考虑才能」这一终极出题的考虑。
访谈视频链接:https://www.youtube.com/watch?v=PTF5Up1hMhw
一场「图灵闹剧」
因为图灵并没有提出一个具有完整实践操作说明的测验。
他对「仿照游戏」的描绘缺少细节:
测验应该继续多长时刻?
答应提出什么类型的问题?
人类的裁判员或「烘托者」需求具备什么样的资历?
关于这些详细问题，图灵并未详细说明。不过，他做了一个详细的猜测:「我信任，大约在50年内，核算机能够经过编程变得极其出色，以至于普通的审问者在经过五分钟的提问后，识别出真实人类的概率不超越70%。」简而言之，在五分钟的对话中，裁判员有平均30% 的几率会被误导。
有些人将这一随意的猜测视为经过图灵测验的「官方」规范。2014年，英国皇家学会在伦敦举办了一场图灵测验竞赛，参赛的有五个核算机程序、30个人类烘托和30名裁判员。
参加的人类群体多样，既有年轻人也有年长者，既有母语是英语的人也有非母语者，既有核算机专家也有非专家。每位裁判员别离与一对参赛者（一名人类和一台机器）进行了多轮五分钟的并行对话，之后裁判员有必要猜想谁是人类。
一款名为「尤金・古斯特曼（Eugene Goostman）」的谈天机器人，扮演一名少年，居然成功诈骗了10名裁判员(诈骗率:33.3%)。
显然「诈骗率」现已超越了图灵当时所言的30%。
图片
尤金・古斯特曼（Eugene Goostman）仿照的是一名13岁男孩。
根据「在五分钟内有30% 几率诈骗」的规范，组织者宣布:「65年前的标志性图灵测验初次被核算机程序『尤金・古斯特曼』经过了图灵测验，这一里程碑将载入史册……」。
AI 专家在阅读这场图灵测验中的主角「尤金・古斯特曼（Eugene Goostman）」对话的记载后，对该谈天机器人经过图灵测验的说法不以为然，以为这个不行复杂且不像人类的谈天机器人并未经过图灵想象的测验。
有限的对话时刻和裁判员的专业水平不均使得这次测验更像是对人类轻信的考验，而非机器智能的展现。成果却是「ELIZA 效应」的一个显着例子 —— 这个效应得名于1960年代的谈天机器人 ELIZA，虽然其极其简单，但仍能让许多人误以为它是一个了解并赋有同情心的心思治疗师。
这凸显了咱们人类倾向于把能够与咱们对话的实体赋予智能的心思倾向。
图片
ELIZA 是图灵测验「宣布」后的最前期谈天机器人之一，它是一个十分基础的罗杰斯派心思治疗谈天机器人。
另一项图灵测验竞赛 —— 勒布纳奖（Loebner Prize）答应更长的对话时刻，邀请了更多专家评委，并要求参赛机器至少诈骗一半的评委。风趣的是，当规范提高后，在近30年的年度竞赛中，没有一台机器经过这一版别的测验。
图灵测验开始转向
虽然图灵的原始论文中缺少关于怎么详细实施测验的细节，但很显着，仿照游戏需求三名参加者:一台核算机、一位人类烘托者和一位人类裁判员。但是，随着时刻的推移，「图灵测验」这一术语在大众评论中的意义逐步演变为一个显着弱化的版别:任何人与核算机之间的互动，只需核算机表现得足够像人类，就被视为经过了图灵测验。
例如，当《华盛顿邮报》在2022年报导「谷歌的 AI 经过了一个闻名测验 —— 并展现了该测验的缺陷」时，他们指的并不是仿照游戏，而是谷歌工程师布雷克・莱莫因（Blake Lemoine）以为谷歌的 LaMDA 谈天机器人具有「感觉才能（sentient）」。
2024年，斯坦福大学发布的一份新闻稿宣布，斯坦福团队的研讨「标志着人工智能初次经过了严厉的图灵测验之一」。但这儿所谓的图灵测验是经过比较 GPT-4在心思调查和互动游戏中的行为计算与人类的行为计算来完结的。
这种界说可能与图灵的初衷相去甚远:斯坦福团队的界说是「咱们以为，当 AI 的回应在计算上无法与随机选取的人类回应区分隔来时，它就经过了图灵测验。」
最新的，宣称谈天机器人经过图灵测验的案例来自2024年的一项研讨，该研讨采用了「双人形式」的测验:与图灵的「三人」仿照游戏（其中裁判会同时问询核算机和人类烘托）不同，这儿每个裁判只与核算机或人类互动。
研讨人员招募了500名人类参加者，每人被分配为裁判或人类烘托。每位裁判与烘托、GPT-4（提示了人类编写的怎么诈骗裁判的主张）或 ELIZA 谈天机器人版别玩一轮五分钟的游戏。经过网络界面交谈五分钟后，裁判猜想他们的对话对象是人类仍是机器。
最后，人类烘托在67% 的回合中被断定为人类;GPT-4在54% 的回合中被断定为人类，ELIZA 在22% 的回合中被断定为人类。作者将「经过」界说为超越50% 的时刻诈骗评委 —— 也就是说，超越随机猜想的概率。按照这个界说，GPT-4经过了，虽然人类对手的得分依然更高。
令人担忧的是，大多数人类判断者在五分钟的对话之内被 GPT-4诈骗了。运用生成式人工智能体系假充人类传播虚假信息或进行诈骗是社会有必要应对的风险。但现在的谈天机器人真的经过了图灵测验吗?
答案当然是，这取决于你议论的是哪个版别的测验。一场由专家评委和更长对话时刻组成的三人仿照游戏依然没有被任何机器经过（有人计划在2029年举行一个超严厉的版别）。
因为图灵测验的重点是试图骗过人类，而不是更直接地测验智能。许多人工智能研讨人员长期以来一向以为图灵测验是一种搅扰，是一种「不是为了让人工智能经过，而是为了人类失败」的测验。但该测验的重要性在大多数人眼中依然占据主导位置。
进行对话是咱们每个人评价其他人类的重要方式。咱们很自然地以为，能够流利交谈的智能体有必要拥有类似人类的智能和其他心思特征，如信仰、欲望和自我意识。
但是，假如说人工智能的发展前史教会了咱们什么，那就是这些假设往往是站在过错的直觉上的。几十年前，许多闻名的人工智能专家以为，发明一台能够在国际象棋竞赛中打败人类的机器需求与人类彻底智能适当的东西。
人工智能前驱 Allen Newell 和 Herbert Simon 在1958年写道:「假如一个人能规划出一台成功的国际象棋机器，他似乎现已深入到人类智力的核心。」认知科学家 Douglas Hofstadter 在1979年猜测，未来「可能会有程序能够在国际象棋竞赛中打败任何人，但…… 它们将是通用智能的程序。」
当然，在接下来的二十年里，IBM 的 DeepBlue 打败了世界国际象棋冠军加里・卡斯帕罗夫，运用的是一种与咱们所说的「通用智能」相去甚远的蛮力办法。相同，人工智能的前进标明，从前被以为需求通用智能的任务 —— 语音识别、自然言语翻译，乃至自动驾驶 —— 都能够由缺少人类了解才能的机器来完结。
图灵测验很可能会成为咱们不断改变的智力观念的又一个牺牲品。1950年，图灵直觉地以为，像人类一样交谈的才能应该是「考虑」及其一切相关才能的有力依据。这种直觉至今依然很有说服性。但也许咱们从 ELIZA 和 Eugene Goostman 身上学到的东西，以及咱们可能仍能从 ChatGPT 及其同类产品中学到的东西是，能够流利地说出自然言语，比方下棋，并不是通用智力存在的确凿依据。
事实上，神经科学范畴中有越来越多的依据标明，言语流利程度与认知的其他方面出奇地脱节。麻省理工学院神经科学家 Ev Fedorenko 等人经过一系列详尽而令人信服的实验标明，他们所谓的「正式言语才能」（与言语生成相关的才能）背后的大脑网络与常识、推理和咱们可能称之为「考虑」的其他方面背后的网络大体上是分隔的。这些研讨人员宣称，咱们直觉上以为流利的言语是一般智力的充分条件，这是一种「谬论」。
图灵在1950年的论文中写道:「我信任，到本世纪末，词语的运用和普遍受教育的观念将会产生巨大的改变，人们将能够议论机器考虑，而不会遭到辩驳。」现在的咱们还没有抵达那个地步。图灵的猜测是否只是偏离了几十年?真实的改变是否产生在咱们对「考虑」的概念上?—— 仍是说真实的智能比图灵和咱们所认识到的更复杂、更微妙?一切还有待观察。
风趣的是，最近谷歌前 CEO 埃里克・施密特在那场斯坦福大学的演讲里也宣布了观念。
在很长一段前史中，人类对世界的了解更多是神秘的，科学革命改变了这种情况。但是现在的 AI 却再次让咱们无法真实了解其中的原理。常识的本质是否正在产生改变?咱们是否要开始承受这些 AI 模型的成果，与此同时不再需求它们解说给咱们听呢?
施密特是这样说的:咱们能够将其比作是青少年。假如你有个十来岁的孩子，你知道他们是人类，但你却无法彻底了解他们的主意。咱们的社会显然适应青少年的存在。咱们可能会有无法彻底了解的常识体系，但咱们了解它们的才能范围。
这可能就是咱们能够获得的最好成果。