跳到正文
LlamaIndex:产品、工程与评测·· 2023-05-12精选AI 评分65

LlamaIndex 实测 Anthropic Claude 100K 上下文窗口处理 SEC 10-K 文件的表现

Testing Anthropic Claude’s 100k-token window on SEC 10-K Filings

AI 导读

LlamaIndex 在 UBER 2019-2022 年 SEC 10-K 文件上测试 Anthropic 新推出的 100K token 上下文窗口。由于单份 10-K 约 160k token 仍超出窗口,作者用 list index 切成约 100k token 大块并测试响应合成策略。

推荐理由

作者用 UBER 10-K 实测 Claude 100K 上下文的延迟、成本与回答质量,并给出 tree_summarize 优于 create-and-refine 的可复用结论。

来源:LlamaIndex:产品、工程与评测 · llamaindex.ai