OmniRoute

项目简介

DeepReasoning 提供自托管 API 和聊天界面，先利用 DeepSeek R1 的推理过程，再由 Claude 完成回答、创作或代码生成，并可在一次请求中流式返回结果。它面向希望组合两类模型优势并自行掌控密钥与部署环境的开发者；运行需要 DeepSeek 与 Anthropic API 密钥，可从源码或 Docker 部署。

项目简介

mlx-serve 是面向 Apple Silicon 的原生本地推理服务器，并附带 MLX Core 菜单栏应用。用户可下载和管理 MLX 或 GGUF 模型，在终端或桌面界面聊天、使用工具与 Agent 模式，并通过 OpenAI、Anthropic 或 Ollama 兼容接口接入现有客户端。它不依赖 Python 或云端推理，但仅适合具备相应内存与算力的 Apple Silicon Mac。