《年代》今日(5 月 23 日)发布博文 ,地表等官报导称 Anthropic 的最强首席科学家 Jared Kaplan 泄漏,因为测验过程中呈现企图逃逸、编程勒索以及自主告发等不良行为 ,模型面最新发布的逸勒 Claude Opus 4 被列为安全要害等级(ASL-3)。
在承受《年代》采访时 ,索工Kaplan 正告称,程师最新 AI 模型 Claude Opus 4 或许成为潜在恐怖分子的地表等官东西 ,协助他们组成流感等病毒 ,最强内部测验显现,编程该模型在辅导新手制作生物武器方面体现优于以往版别。模型面
IT之家征引博文介绍 ,逸勒Anthropic 公司对新模型 Claude Opus 4 进行了广泛内部测验,索工发现其在模仿情境中展现出令人担忧的程师自主性 。
在一次测验中 ,地表等官模型误认为自己已从公司服务器“逃逸”至外部设备