一、LM Studio
LM Studio下載地址:LM Studio - Discover, download, and run local LLMshttps://lmstudio.ai/LM Studio是使用electron架構,引用的llama.cpp庫。
下載后的模型存儲于 /User/Admin/.lmstudio/models中。
二、llama.cpp庫下載地址
llama.cpp編譯好的三方庫下載地址:
github.comhttps://github.com/ggml-org/llama.cpp/releases