项目概览
Oxide Lab 是一款在用户电脑上直接运行大语言模型的桌面聊天应用,可加载 GGUF 或 SafeTensors 模型,并通过 CPU、NVIDIA CUDA 或 Apple Metal 加速生成。它支持多种 Llama、Qwen、Mistral、DeepSeek 等模型架构,推理过程无需云端服务。用户需要自行下载兼容模型,较大的模型也会显著增加内存和硬件需求。
仓库事实
- 主要语言
- Rust
- 许可证
- Apache-2.0
- 仓库更新时间
- 2026年7月6日
- 默认分支
- main
资源类型
桌面应用
使用场景
个人与日常生活
运行方式
桌面端本地运行
核心能力
文本生成