说米网

有“AI教父”之称的杰弗里辛顿(Geoffrey Hinton)周一宣布，他现已从谷歌公司离职。半个世纪以来，辛顿一直在培育ChatGPT等谈天机器人背面的中心技能。可是现在，他忧虑AI会形成严重危害。
凤凰网科技《AI哨所》了解到，辛顿是AI前锋。2012年，辛顿博士和他在多伦多大学所带的两名研讨生开发的技能，成为了AI体系的常识基础。现在，科技职业的巨子们以为，AI体系是它们未来开展的关键。
为开展AI而懊悔
然而就在周一，他正式加入了越来越多的AI批评人士的行列。他们以为，这些公司积极开发基于生成式AI的产品，ChatGPT等热门谈天机器人等被快速研制，这是在奔向风险。
辛顿说，他现已辞去了谷歌的工作，以便自己能够自由地谈论AI的风险。他现已在谷歌工作了十多年，成为该范畴最受尊敬的人物之一。辛顿表明，他现在对自己一生从事的工作感到有些懊悔。
“我用往常的托言来安慰自己：就算我没做，别人也会做的。”上周，辛顿在多伦多家中的餐厅接受了长篇采访时称。那里距离他和学生取得AI突破的地方只有几步之遥。
辛顿从AI开拓者到末日预言者的改变，标志着科技职业在这个几十年来或许最重要的拐点上经历了一个特殊时刻。业界首领以为，新的AI体系或许与20世纪90年代初推出的windows虚机网络浏览器一样重要，并或许引发从药物研讨到教育等范畴的突破。
可是，令许多业内人士苦恼的是，他们忧虑自己正在向户外开释一些风险东西。生成式AI现已能够成为制作虚伪信息的工具。很快，它或许会对工作构成威胁。科技职业最大的担忧者表明，在未来的某个时候，它或许会对人类构成威胁。
辛顿对此表明，“很难想象你能怎么阻挠坏人利用它做坏事”。
自从OpenAI在3月份发布了最新版ChatGPT-4模型后，包括马斯克在内的上千名科技首领和高管签署联名信，呼吁暂停开发比ChatGPT-4更先进模型6个月时刻，由于AI“对社会和人类构成了深刻风险”。几天后，有40年前史的学术安排人工智能促进协会的19位现任和前任领导人宣布了他们自己的揭露信，正告AI的风险。该安排包括微软首席科学官埃里克霍维茨(Eric Horvitz)。微软已将OpenAI的技能应用于一系列产品，包括必应搜索引擎。
辛顿没有在这两封信上签名。他说，在辞职之前，他不想揭露批评谷歌或其他公司。上个月，他通知公司他将辞职。周四，他与谷歌母公司Alphabet CEO桑达尔皮查伊(Sundar Pichai)通了电话。他拒绝揭露评论与皮查伊谈话的细节。
谷歌首席科学家杰夫迪恩(Jeff Dean)在一份声明中表明：“我们仍然致力于对AI采取负责任的态度。我们在不断学习了解新出现的风险的一起，也在斗胆创新。”
AI风险更快到来
辛顿以为，跟着企业改善AI体系，它们会变得越来越风险。“看看五年前和现在的状况，”他在谈到AI技能时说，“接受差异并将其传播出去。太可怕了。”
他表明，直到去年，谷歌一直是这项技能的“适当管理者”，小心谨慎地不开释或许形成伤害的东西。可是现在，微软用谈天机器人增强了必应搜索引擎，应战谷歌的中心事务，导致谷歌也在竞相布置同样的技能。辛顿说，科技巨子陷入了一场或许无法阻挠的竞赛。
他现在最忧虑的是，互联网将充满着虚伪照片、视频和文字，普通人将“无法再知道什么是真的”。他还忧虑AI技能最终会推翻工作市场。现在，像ChatGPT这样的谈天机器人往往是对人类工作者的补充，但它们也或许替代律师助理、个人助理、翻译和其他处理机械化任务的人。“它省去了繁重的工作，但它带走的或许不止这些。”辛顿称。
未来，他忧虑未来版别的AI技能会对人类构成威胁，由于它们经常从剖析的大量数据中学习意想不到的行为。他说，这成了一个问题，由于个人和公司不只允许AI体系生成自己的计算机代码，还允许它们自己运转这些代码。他忧虑有一天真正的自主化兵器——那些杀人机器人——会成为实践。
“一些人相信，这种东西实践上会变得比人更聪明，”他表明，“但大多数人以为这还很悠远。 我也曾以为这还很悠远。我以为这需求30到50年甚至更长的时刻。显然，我现在不再这么想了。”
辛顿说，当人们曩昔问他怎么能研讨有潜在风险的技能时，他会转述美国“原子弹之父”罗伯特奥本海默(Robert Oppenheimer)的话：“当你看到某种从技能上感觉不错的东西时，你就会去做。”凤凰网科技《AI哨所》对此将持续关注。