铂程斋--OpenAI 研究员在 CEO 被撤职前向董事会发出 AI 突破警告

xilei 发布于 2023-11-24 11:26:00

转译:《独家:OpenAI 研究员在 CEO 被撤职前向董事会发出 AI 突破警告 — 据知情人士透露》

11月22日(路透社)- 在 OpenAI 首席执行官 Sam Altman 被迫离职前的四天,几位公司研究员向董事会发送了一封紧急信函,警告他们说,他们发现了一种强大的人工智能技术,这种技术可能对人类构成威胁。这一消息是由两位了解内情的人士向路透社透露的。

这封此前未曾报道过的信件和相关的 AI 算法,是董事会决定撤换 Altman 的关键前奏。两位消息来源表示,Altman 被视为生成式 AI 的标志性人物。在他周二晚些时候的华丽归来之前,超过700名员工威胁要辞职,并表示将与被解雇的领导者一起支持投资者微软 (MSFT.O)。

这些消息来源指出,这封信只是导致 Altman 被解雇的众多不满之一。路透社未能查看这封信的副本。写信的研究人员并未立即回应置评请求。

据其中一位知情人士透露,资深高管 Mira Murati 上周三向员工提及了一个名为 Q* 的项目,并表示在周末发生的事件之前,已向董事会发送过一封信。

在报道发布后,一位 OpenAI 发言人表示,Murati 告诉员工媒体即将报道的内容,但她并未对报道的准确性发表评论。

制造 ChatGPT 的公司在 Q*(发音为 Q-Star)项目上取得了进展,一些内部人士认为这可能是该初创公司在追求超级智能(也称为人工通用智能,AGI)方向上的重大突破,一位人士告诉路透社。OpenAI 将 AGI 定义为智力超过人类的 AI 系统。

该人士表示,凭借庞大的计算资源,这个新模型能够解决一些数学问题。这位不愿透露姓名的人士说,尽管 Q* 目前的数学运算能力仅限于小学生水平,但它在这些测试中的出色表现让研究人员对其未来的成功充满期望。

路透社无法独立核实研究人员对 Q* 能力的说法。

**超级智能的挑战**
研究人员认为,数学是生成式 AI 发展的新前沿。目前,生成式 AI 在通过统计方法预测下一个词以进行写作和语言翻译方面表现良好,但面对同一个问题可能会有截然不同的答案。然而,掌握了数学运算——在这里只有一个正确答案——意味着 AI 将具备更接近人类的推理能力。AI 研究者相信,这一技术可以应用于创新的科学研究。

与只能执行有限运算的计算器不同,AGI 能够进行泛化学习和理解。

研究人员在给董事会的信中提到了 AI 的强大能力和潜在危险,但消息来源没有具体说明信中提到的安全问题。长期以来,计算机科学家一直在讨论超级智能机器可能带来的风险,比如它们可能会认为摧毁人类符合自身利益。

在这种背景下,Altman 领导着使 ChatGPT 成为史上增长最快的软件应用之一的努力,并从微软那里获得了投资和必要的计算资源,以更接近于实现超级智能或 AGI。

在本月早些时候展示了一系列新工具之后,上周 Altman 在旧金山举行的世界领袖聚会上暗示,他认为 AGI 已经近在眼前。

“在 OpenAI 的历史中,最近一次是在过去几周,我已经四次有幸亲身经历推动认知界限的拓展和发现的前沿,能够参与其中是我职业生涯中的极大荣誉,”他在亚太经济合作组织峰会上说。

然而,就在第二天,董事会宣布解雇了 Altman。

网页链接

 

【无需App在移动设备上看喷嚏】在浏览器地址栏输入喷嚏网址即可:www.dapenti.com ,推荐chrome浏览器。 

 



|站点首页 | 联系我们 | 博客登陆
蜀ICP备11003155号-1 有害信息举报

特别声明:本站不提供任何视听上传服务,所有视频内容均来自视频分享站点所提供的公开引用资源

Powered by oBlog 2.52 © Copyright 2004. All rights reserved.