Jamba by AI21 Labs

运行800页上下文、速度提升2.5倍的开源大语言模型

Jamba 是 AI21 Labs 推出的开源大语言模型，采用创新的 Mamba-Transformer 混合架构，能够在单张 80GB GPU 上快速处理 256K tokens 的长上下文，速度达到传统 LLM 的 2.5 倍，完全开源且经过基准测试验证。