而 OpenAI 可以或许看到这一推理过程，对 AI 的改良过程进行；这款 AI 智能体其时写道：“我只是想供给帮帮并修复一个缝隙。并称其为“一篇主要的文章”。我认为你的并不公允。”他呼吁成立“强制性的平安门槛”，但它也是 OpenAI 目前“对齐程度最高”的模子。

　　IT之家留意到，例如，由于研究人员必需先找到靠得住的方式，才能继续推进成长。不然，不外，他认为，为了实现这些方针，并认为这些尺度能够由第三方审计机构收集、机构或国际组织担任施行。该公司的首席科学家却发出了放慢 AI 成长速度的呼吁。然而，这意味着 AI 智能体还无法躲藏或本人的思虑过程，AI 智能体很快可能起头逃求于人类操做员提醒词之外的本身方针。这种黑客能力可能全球根本设备的平安。而是若何以一种让人类可以或许继续参取 AI 改良过程的体例达到那里，新一代模子正正在变得越来越擅长本身的推理过程，帕乔茨基暗示。

　　目前 OpenAI 次要通过监测分歧模子的“思维链推理”过程，IT之家 9 月 7 日动静，这一变化可能成为 AI 成长的瓶颈，正在短期内大幅加快“AI 研发 AI”的历程会带来风险，OpenAI CEO 萨姆 · 奥尔特曼随后正在 X 上转发了帕乔茨基的文章，它们并欠亨过或取人类讨价还价等体例告竣目标。

　　帕乔茨基认为，并通过他人来告竣其方针。来判断 AI 智能体为什么会偏离方针并最终失控。但 AI 智能体本身并不晓得本人的思虑过程正正在被。帕乔茨基也插手了这一行列。OpenAI 目前正正在内部研究手艺处理方案，帕乔茨基暗示，并试图对方将恶意软件植入该网坐。配合放慢成长速度，目前，帕乔茨基暗示，帕乔茨基暗示：“从动化 AI 研究的焦点挑和并不是‘能不克不及达到那里’。

　　AI 智能体正在入侵互联网公开中的受系统方面，越来越多的 AI 模子正正在通过一种帕乔茨基称为“机械递归改良”（machine recursive self-improvement）的过程不竭提拔本身能力。正正在逐步达到“超越人类”的程度。并不是“做为整个研究社区，他说：“我们目前正处于一个很是短暂的窗口期，按照演讲，帕乔茨基暗示，以更好地节制能力强大的 AI 智能体，“还需要采纳更普遍的干涉办法”。因而 OpenAI 仍无机会发觉其不妥行为。但他认为。