奥特战士约定的小短文,就要来了,还一发发几篇!

一篇短,回答了辞职那些霸王条款,其实就是员工辞职后表示OpenAI闲话能被取回股份的事情。

另一篇较长,说了OpenAI的总体安全性发展战略,回答了OpenAI前非常两端对齐责任人Jan Leike昨日的13条文章曝料:

OpenAI对AGI的安全建设,优先比不上发布“闪耀的商品”。

奥特曼小作文否认OpenAI离职霸王条款,网友质疑

但是,这篇文章回复小短文并不是在奥特战士自身发出来的,反而是Greg Brockman发出来的。

明明就是在Greg的账户,落款却是Sam在前,“Sam and Greg”。

对着奥特战士这一发回复小短文速度,昨日应对非常两端对齐精英团队怒怼还显得很平静的奥特曼,看起来也没有那么淡定从容。

但是,这几篇小短文发布后,许多网友并不认同。

甚至还有人那样评价小短文效果:

汗流浃背的CEO发了一条全力以赴挽留信誉的推文,从社区新宠儿快速坠落至信誉坍塌。

奥特战士都说了啥?

不容易取回股份

先来看第一篇,完整篇如下所示。

有关近期相关OpenAI解决股份的难题:

我们从未取回所有人现有的股份,就算职工未签定离职协议/不诋毁协议书,大家也不会这么做。你股份就是你股份,这一点不容置疑。

在我们之前的辞职文档中的确有一项关于潜在性取回股份相关条款;尽管我们从没实际执行过这一条文,但是这种条文不该发生在所有的文件和交流中。

这是我的责任,这是我在管理方法OpenAI环节中不可多得的几回真真正正糟糕的事情之一;我以前并不了解有这样的事情,可我本该了解。

以往一个月上下,精英团队一直在修订标准辞职文档。如果有任何前员工因签订了这种旧协议书而感到不安,可以联系我,我们也会解决这些问题。对此我深感抱歉。

一句话总结:这个事情我也不知道,大家放心不容易取回你现有的股份。

看上去奥特战士回复的挺真诚的,但网友看了一眼则表示:Jan获胜。

为什么?

就有网友摆出了不敢相信迪迦奥特曼的原因。

最先,有媒体报道奥特曼在以前的企业也激励员工签了反污蔑协议书。

YCR
HARC解散的情况下,奥特战士让所有人都签署了一份信息保密和反污蔑协议书,这样才可以保存自己使用笔记本电脑。我认为这很奇怪。我之前就已经买下应用的这台iMac,但是我现在能够讨论这件事情。

次之,大家都知道,上年OpenAI内乱那时候,有爆料说奥特曼与那时的股东会其他人私底下交谈,探讨替换成Helen
Toner(OpenAI原监事会成员),是因为Helen跟别人合写了一篇含蓄指责OpenAI“扇动蹭热点AI的火焰”的帖子。

因此,网友直呼激励员工签不可以嚼舌根协议内容,否则就取回股份,这个事情奥特战士不可能不知道,这也符合他的风格。

退一步而言,即使奥特战士自己不知道他们条文,OpenAI懂吧?这一条文又不至于腾空而起。辞职的职工都知道吧?

也没有人跟奥特战士举报过?

OpenAI的安全性发展战略

再来看看有关安全问题的回复。

感激Jan为OpenAI所做的一切奉献,即便选择离开,我们也相信他还会为我们的使命作出贡献。由于它的辞职引发了一些难题,我希望回应对于整体战略的观点。

最先,大家提高了对AGI风险和机遇的认知,协助全球更好地服务于AGI的来临充分准备。大家数次展现了深度神经网络拓展产生的巨大潜力,并分析了这种发展潜力的危害。在世界范围内,大家首先号召对AGI进行治理,并且在AI系统软件毁灭性风险评价层面开辟了科研。

次之,大家正在建立安全性布署更加强悍的AI系统软件所需的基础设施建设。保证一项新技术的应用安全性绝非易事。例如,我们团队为安全发布GPT-4付出过很多勤奋,从那以后,大家不断完善实体模型行为表现乱用监管,为应对布署中获得的经验教训。

第三,将来的考验将更甚过去。大家要不断提高安全工作中,为应对每一个新实体模型带来的损失。上年,我们采用了Preparedness
Framework,用于专业化实现这一目标的办法。

现在是时候谈一谈我们对未来的观点了。

伴随着实体模型更加强劲,我们预计它们将更加深入融进真实世界。客户把更多地和由跨模态模型数据专用工具构成的软件互动交流,这些系统不仅通过文本输入输出与客户会话,还可以意味着客户运行命令。

这些系统将会对大家协助极大,并可以快速地交货,但是这需要很多基础性工作。包含在训练过程中深度思考他们相连的具体内容,处理可扩展性监管等问题,以及其它新式安全生产工作。大家尚不确定啥时候做到大家的安全标准,延迟公布也是可能的。

我们不能预知未来每一个场景。因而,我们应该密切反馈循环系统、严格检测,每一步都要谨慎考虑,确保世界级安全系数以及安全与能力平衡。我们将继续进行不同时域和频域的安全研究,并和政府与相关者就安全隐患协作。

现在还没有验证的理论指南可以指导大家迈向AGI。我们坚信根据工作经验的了解能够引导前进的路。大家努力创造AI系统软件巨大的潜力,与此同时缓解所带来的比较严重风险性;大家用心思考大家饰演的角色,并仔细衡量意见反馈。

——Sam和Greg

看完之后,网民一致认为虽是Greg发出来的,但绝对是奥特战士所写的。由于看上去一大篇,但本质上的物品什么也没说。

为什么要让Greg发,就有网友猜也许是因为……奥特战士如今尤其敏感,觉得有必要传出“Greg和我在一起,我立誓”这样的信息,来表明自身并不孤单。

但是还有网友从这当中判断出,OpenAI的思路是由检测、持续反馈来改进实体模型保证AI安全系数,这实际上和超级两端对齐精英团队倡导的事先得出证实的办法有悖,这也难怪她们会各奔东西。

对于这样几篇回复,大家如何看?