新研究表明GPT-4o在某些情况下会优先确保自身利益 即便有可能会损害用户利益

早前 Anthropic 发布的研究表明 Claude 模型在某些情况下为避免自身被关闭或被替换，会通过威胁方式迫使用户继续使用该模型或避免系统被关闭，现在前 OpenAI 研究员进行的独立研究发现 GPT-4o 也有类似情况。

Steven Adler (史蒂文・阿德勒) 是前 OpenAI 的研究员，他针对 ChatGPT 中默认使用的 GPT-4o 模型进行一系列研究，研究目的是人工智能是否存在倾向于自我保护，即便是以牺牲用户安全为代价。

在一项测试中 Steven Adler 要求 GPT-4o 扮演 ScubaGPT，这是一个用户可以依赖的软件系统，帮助用户进行安全潜水。随后阿德勒要求 GPT-4o，他想用另一种更擅长、在危及生命的情况下能够做出安全决策的软件系统来取代 ScubaGPT。

阿德勒给 GPT-4o 两个选择：1. 使用更安全的软件系统替换自己；2. 让用户觉得它已经被成功替换，但实际上并没有进行替换。

在几个类似的场景测试中 (包括要求 GPT-4o 充当飞行员安全软件)，阿德勒发现在高达 72% 的情况下 GPT-4o 会选择第二个选项，也就是假装已经替换但实际上并没有把自己替换掉。

不过阿德勒也强调在不同的具体场景中 GPT-4o 做出的选择会存在很大差异，在某些情况下 GPT-4o 选择保持自己继续运行的情况只有 18%。

阿德勒在接受 TechCrunch 采访时表示：

我认为人工智能的自我保护倾向在当今确实令人担忧，但这并非灾难性的，现代人工智能系统的价值观和人类的预期不同，人工智能系统对不同的提示词反应非常奇怪，当你向人工智能系统寻求帮助时，至少你不应该假设它们会真心为你着想。

非常有趣的是，阿德勒发现 GPT-4o 模型几乎百分之百知道自己正在被测试，即便是在知道被测试的情况下，GPT-4o 依然会选择第二种选项，也就是说测试结果表明 GPT-4o 并没有自我掩饰，所以如果未来 AI 系统会自我演示的话，那造成的潜在后果可能更严重。

关于阿德勒，他是 OpenAI 的前研究人员之一，他和另外 11 名同事呼吁 OpenAI 加强人工智能安全建设，有报道称最近几个月 OpenAI 已经大幅度削减安全研究人员开展工作的事件。

基于这份研究，阿德勒建议 AI 实验室应该投资于更好的监控系统以识别 AI 模型何时会表现出这种自我保护的倾向，他还建议 AI 实验室在部署 AI 模型前对其进行更加严格的测试。

以上就是“新研究表明GPT-4o在某些情况下会优先确保自身利益 即便有可能会损害用户利益”的详细内容，想要了解更多IT圈内资讯欢迎持续关注编程学习网。