Local LLaMA Server Setup Documentation。

Drift

一份全面且详细的本地 LLM 服务器搭建指南：Local LLaMA Server Setup Documentation。

包含推理引擎、聊天平台、语音合成和文生图等功能，所有数据都在本地处理，且不依赖任何云服务。

GitHub：varunvasudeva1/llm-server-docs
📦 系统需求
操作系统：Ubuntu 20.04+ / Debian / Arch / Windows WSL2
CPU：x86_64 或 ARM64（推荐带 AVX 支持）
内存：至少 16GB（推荐 32GB+）
显卡：
Nvidia GPU（建议 >= 8GB 显存，支持 CUDA）
AMD GPU（支持 ROCm）
磁盘空间：50GB+
默认支持以下模型：

LLaMA 2 / Mistral / OpenChat
Whisper (语音识别)
Bark / Coqui TTS（文本转语音）
Stable Diffusion 1.5 / SDXL（文生图）

提供从零开始的搭建全流程详细教程，并支持 Nvidia 和 AMD GPU，适合新手学习。