# 本地推理

Magnitude推理引擎：为本机硬件调优开源模型

Magnitude推理引擎会在本机编译并调优内核，面向多种硬件运行开源模型；项目称部分基准测试速度可达 llama.cpp 的两倍。