即将IPO的大模型巨头,劝你暂停AI研究
Anthropic发布报告称AI已经开始加速自身的研发,预计到2026年AI代码库中的代码大部分都将由AI自行编写,AI的独立完成任务能力和代码产出能力显著提高,人工智能正在逐渐接管研发过程中的许多环节,人类的主要作用可能只剩下选题和判断结果的可信度。Anthropic提出了三种未来情景,其中最极端的情景是AI实现全面递归自我优化,研发速度主要取决于算力和算法效率,人类退居监督和核验位置。为了应对这种情况,Anthropic呼吁全球应建立可核验的暂停机制,以便在必要时控制AI的发展步伐。