API 或服务端软件开发

mlx-serve

在 Apple Silicon Mac 上本地运行 MLX 与 GGUF 模型

Stars
276
Forks
21
License
MIT
更新于
更新于 2026年7月14日

正在检查仓库实时数据……

项目概览

mlx-serve 是面向 Apple Silicon 的原生本地推理服务器，并附带 MLX Core 菜单栏应用。用户可下载和管理 MLX 或 GGUF 模型，在终端或桌面界面聊天、使用工具与 Agent 模式，并通过 OpenAI、Anthropic 或 Ollama 兼容接口接入现有客户端。它不依赖 Python 或云端推理，但仅适合具备相应内存与算力的 Apple Silicon Mac。

仓库事实

主要语言
Zig
许可证
MIT
仓库更新时间
2026年7月14日
默认分支
main

资源类型

API 或服务端命令行应用

使用场景

软件开发

运行平台

Claude CodeCursor

操作系统

macOS

运行方式

命令行本地运行

协议与集成

MCP

核心能力

工具调用

适合人群

开发者

相关项目

打开项目 OmniRoute
API 或服务端软件开发

OmniRoute

@diegosouzapwTypeScript

把多个大模型提供商统一接入一个可切换网关

Stars
★ 17,195
Forks
⑂ 2,597
开源许可
MIT
打开项目 deepreasoning
API 或服务端软件开发

deepreasoning

@winfuncRust

把 DeepSeek R1 推理与 Claude 生成串成统一对话接口

Stars
★ 5,364
Forks
⑂ 440
开源许可
MIT
打开项目 aisense-free-public-rest-apis
API 或服务端软件开发

aisense-free-public-rest-apis

@aisenseapiPython

免注册调用常用 REST 接口，并接入脚本或智能体工作流

Stars
★ 0
Forks
⑂ 0
GitHub 更新
2026年3月29日
打开项目 NadirClaw
API 或服务端软件开发

NadirClaw

@NadirRouterPython

按提示复杂度自动分配模型，控制 LLM 调用成本

Stars
★ 609
Forks
⑂ 73
GitHub 更新
2026年7月14日
查看更多同类项目