Claude 实现超长上下文：支持 500 万 token 输入

突破上下文极限

Anthropic 今日宣布 Claude 模型已支持高达 500 万 token 的上下文窗口，这一数字远超当前市面上的所有竞品。500 万 token 意味着 Claude 可以一次性处理约 375 万字的中文文本，相当于数十本长篇小说的体量。

技术实现

Anthropic 采用了一种全新的稀疏注意力机制，在保持推理质量的同时将内存占用降低至传统方法的 1/8。这使得超长上下文推理在经济上也变得可行。

应用场景

超长上下文打开了众多新场景：法律领域的全案卷分析、科研领域的大量论文综述、金融领域的跨年度报告分析等。此前需要复杂 RAG 管道的任务，现在可以直接将全部上下文提供给模型。