人工智能初创公司 Anthropic 近日宣布,其备受关注的 Claude Sonnet4LLM 模型现已扩展支持高达100万个上下文词元。此前,该模型的 API 仅支持20万个词元。此次扩展使得开发者可以在单个请求中传输超过75,000行的代码,极大提高了使用的灵活性和便利性。数字化转型网www.szhzxw.cn
目前,扩展后的长上下文支持已经在 Anthropic 的 API 和 Amazon Bedrock 上开始公开测试,Google Cloud Vertex AI 也将在不久后上线这一功能。然而,这一长上下文功能目前仅限于 Tier4的开发者使用,并且需要遵循自定义的速率限制。Anthropic 表示,未来几周内将会向更多开发者开放此功能。