OLLM

LIBRARY

oLLM：超长上下文推理库

作为一名从头开始实现过transformers的AI研究人员，我对oLLM如何在不牺牲性能的情况下解决VRAM限制的方法感到着迷。