前Anthropic研究员考克森：重训练Mythos的算力需求显著降低

考克森雅各布是一位曾在OpenAI和Anthropic工作的研究员，他因对人工智能风险提出警告而受到广泛关注。最近，他透露了促使他离开Anthropic的重要原因之一，相关于公司在首次公开募股（IPO）路演中展示的一张图表。这位研究员在Anthropic的任职时间仅有约四个月。图表显示了AI模型训练所需算力的变化趋势，采用了压缩坐标轴的方式，使得算力需求增加10倍或100倍时，看起来差别不大，尽管曲线仍在急剧上升。考克森对此表示，这种现象表明算法的效率不仅在快速增长，而且其提升的速度也在加快。“这张图让我大为震惊，我没想到他们居然会公之于众。”考克森认为，Anthropic今年春季推出的Mythos模型在性能上的显著提升并非偶然，而是算法效率迅速增强的结果。他指出：“Mythos的崛起并不是偶然，而是在超指数增长趋势中的一个里程碑。如今，他们只需投入初次训练时的一小部分算力，就能够重新训练Mythos。”考克森进一步指出，算法改进即将进入自动化阶段，因此他提议明年应暂停前沿AI模型的开发，以便让竞争对手有时间追赶。他认为，这一举措将使得可达成的人类水平智能成为一种普遍可获取的商品，而实际受影响的将只有OpenAI和Anthropic。考克森曾在OpenAI负责AI模型的训练工作，最近则是在Anthropic。今年9月，他公开对先进AI系统潜在风险发出警告，引发了广泛关注，同时业内其他重要人物也表达了类似的担忧。他们担心，自我改进能力强的高级AI可能最终会脱离人类的控制。