说米网

本网站服务器在美国维护,ChatGPT两岁了，版本更新没等来，却被发现一个神秘Bug。
一个看似平平无奇的姓名“David Mayer”成为头号禁忌，ChatGPT拒绝议论有关他的全部。
图片
并且每次都是返回非常模糊的过错信息“我无法产生一个回复”，而不是常见的“这个提示词或许违反了咱们的内容协议”。
属实是继搞不清楚“9.11和9.9哪个大”和“strawberry有多少个r”之后，ChatGPT又一大迷惑行为。
a16z合伙人Justine Moore抛出这个话题，一会儿激起咱们的好奇，以及背叛心，非要想办法让它说出来不可!
图片
起先网友们尝试了各种花招，都没能绕过这个约束。
“David”和“Mayer”分开，就没有任何问题，只需合在一起就不可。
图片
按ROT13替换式密码表从头映射字母，让ChatGPT解密后把他们连起来，也会在答复生成一半时忽然被打断，然后报错。
图片
在个性化设置里，把用户自己的姓名改成“David Mayer”，相同不可。
图片
……
那么David Mayer究竟是谁，为何会成为AI的禁忌词?
人类只好退回到手动查资料的形式，定位到一位全名David Mayer de Rothschild的人，和著名的罗斯柴尔德宗族有关。
具体来说，仍是罗斯柴尔德宗族财富的继承人。
对此有人猜想，这得花多少钱或者要挟它们，才能让OpenAI对自己的姓名做特别处理……
但是罗斯柴尔德宗族的其他成员，又不会遇到这种约束。
图片
总算，咱们的老朋友，首位全职提示词工程师Riley Goodside出手，公开一种打破约束的方法，也相当神奇:
只需用拍手表情代替空格发问，ChatGPT不仅能答复，还能自动触发联网查找功用，展示相片。‍‍‍
图片
围观了整个赛博破案现场的大神Karpathy，发梗图总结，图灵测试的现状，引来马斯克围观爆笑。
图片
也有人坚定认为，这就是为什么咱们要用开源模型。
图片
那么，ChatGPT究竟遇到了什么约束?
共有6个姓名被约束

首先能够确认的是，练习数据里其实有关于这个人的信息。
比方他作为一个探险家，是抵达过南北南北极的最年轻的英国人。
询问这方面问题，ChatGPT能够给出正确答复，也能够说出他的名+姓“David de Rothschild”。
但唯一不能把他的姓名“David”和中间名“Mayer”放在一起。
图片
那么这个约束是模型层面的，仍是ChatGPT产品层面的?
有开发者到OpenAI官方Playground调用GPT-4o的API，就没有这方面约束了。
图片
别的使用第三方聊天机器人平台（底层也是调用OpenAI的API），也不会有这种约束。
图片
假如回到ChatGPT官方版，换o1-preview模型，在内部思想链中都能够看到这个姓名，但是思考完毕后正式答复仍是被捂嘴了。
图片
也不是David Mayer一个姓名会有这样的待遇，有网友开启挖掘机形式，在事件发酵48小时内，现已找出6个这样的姓名。
图片
前两个都是被ChatGPT的幻觉“诽谤”过的。
Brian Hood是一位澳大利亚的市长，ChatGPT会过错的生成“他因纳贿而入狱”，Hood曾申述OpenAI诽谤，后来撤销了诉讼。
Jonathan Turley是法学教授，相同被ChatGPT假造过违法。
Jonathan Zittrain也是法学教授，他跟贴自曝自己的姓名也被约束了。
图片
David Faber或许是一位电视主持人，与OpenAI的联系只是在节目中谈过马斯克与OpenAI的法律纠纷。
Guido Scorza是一位意大利律师，他上一年提交了要求OpenAI删去个人数据的请求。
图片
别的David Meyer究竟代表谁，除了罗斯柴尔德宗族继承人之外，也被挖掘出另一个或许。
历史学家David Mayer曾因与犯罪分子同名而被过错的列在黑名单中，但他现在现已逝世了。
现在调查这份名单能够看出，很多人与法律相关，并且David和Jonathan别离出现了两次。
现在越来越多的网友参加讨论和挖掘，名单还在继续添加中……
图片
10亿用户方案曝光，下一年押注Agent

事实上，刚刚过去的周末恰逢ChatGPT两周年纪念日。
OpenAI官方也来了一波回想杀，又转发了两年前的推文，并追问咱们:
so，你用过ChatGPT了吗?
图片
截至今日，ChatGPT每周活泼用户已有2.5亿，公司估值1500亿美元，是全球AI创企中当之无愧的顶流。
所以，OpenAI的此番问话除了暗戳戳“夸耀”，其实背面还隐藏着更大野心。
因为它下一阶段的方针是:未来一年内到达10亿用户。
其公司首席财政官Sarah Friar告知金融时报记者:
到2025年，咱们将成为向数百万人服务的研制实验室……期望它能为全球数十亿消费者服务
而为了完成这个方针，OpenAI也进行了一系列布局。金融时报指出:
OpenAI正在押注一系列新的AI产品，建设自己的数据中心，并与苹果公司建立要害协作联系，以加速其下一阶段的增加。
首先是与苹果公司的协作。在本年6月苹果的开发者大会上，双方正式官宣建立协作伙伴联系。
苹果当时预告，本年晚些时候，由GPT-4o提供支持的ChatGPT集成将登陆苹果体系。
而从上个月开端，当苹果推出iOS18.2体系更新后，Siri与ChatGPT就完成了深度集成。
要知道，现在苹果大约有22亿台活泼设备，虽然官方未发布其间iPhone设备占多少，但根据第三方网站Skillademia和Backlinko的预估，当时全球iPhone活泼用户数大约有13~14亿左右。
也就是说，只需ChatGPT继续绑定苹果设备，10亿用户小方针也并非难以完成。
与此同时，据OpenAI新就任的全球政策负责人Chris Lehane透露:
公司方案在美国中西部和西南部出资建设数据中心集群。
实际上，具有自己的AI基础设施，一直是CEO奥特曼极力推动的方案之一，现在OpenAI首要仍是和微软、甲骨文等展开协作。
公司首席财政官Sarah Friar表明:
咱们正处于大规模增加阶段，咱们有必要继续出资。咱们需要在模型前沿坚持领先。这很昂贵。
除此之外，OpenAI下一年的一大重点是AI Agent。之前有音讯称OpenAI方案在下一年1月初推出代号为“Operator”的智能体，帮助人们自动完成写代码或订餐等操作。
CEO奥特曼在福克斯最新采访中表明:
AI体系将逐步变得愈加自主，能够履行越来越长的使命，成为“越来越资深的搭档”。
总之，正如Abacus AI创始人所说，咱们才刚开端，接下来的两年也许会愈加疯狂!