TechCrunch AI 技术与创作工具资讯· Julie Bort·· 4 小时前AI 评分58
Anthropic 在修订版 S-1A 中警告接近 RSI 能力
Anthropic warns that it’s very close to RSI capability, aka self-building AI
先看结论
原文显示 Anthropic 把 RSI 视为研发加速带来的安全风险,并称尚未有模型越过其内部阈值,读者可据此了解其披露口径而非已实现能力。
报道讲了什么
- Anthropic 在修订版 S-1A 的风险因素部分新增关于递归自我改进的表述。
- 文件称其内部估算与对未来模型的预期显示可能很快达到自身 RSI 定义阈值。
- 文件称过去曾在使用 AI 加速研发时未及时识别能力跃升。
可以做什么
- Anthropic 称已在研发中使用 AI 辅助开发新模型。
- 文件提到 Claude 在编码、数学和网络安全方面的能力今年大幅增长,但未给出具体指标。
怎么使用
原文没有提供可复现的操作步骤,请从下方原文或官方说明确认使用方法。
结果与限制
- Anthropic 明确表示目前没有任何模型越过其 RSI 阈值。
- 公司称不预期能在缺乏有意义人类监督的情况下安全地用 Claude 完全自主设计并构建后续前沿模型。
- 原文指出 S-1 兼具披露与营销功能,接近 RSI 的说法可能被质疑为后者。
使用入口与依据
来源:TechCrunch AI 技术与创作工具资讯 · techcrunch.com
事件后续
查看事件全部正在读取事件进展…