VSCode ,codex,claude code使用 oMLX 本地模型
在 VS Code 中使用 oMLX 本地模型,主要依赖于 oMLX 提供的 OpenAI / Anthropic 兼容 API 接口,通过配置 VS Code 的 AI 插件(如 Continue、Copilot Chat 等)连接到 oMLX 本地服务。 ✅ 核心步骤 🛠️ 在 VS Code…
在 VS Code 中使用 oMLX 本地模型,主要依赖于 oMLX 提供的 OpenAI / Anthropic 兼容 API 接口,通过配置 VS Code 的 AI 插件(如 Continue、Copilot Chat 等)连接到 oMLX 本地服务。 ✅ 核心步骤 🛠️ 在 VS Code…
oMLX.AI 是专为 macOS 设计的原生 MLX 服务器,旨在充分利用 Apple Silicon 的计算能力,提供极速的本地大型语言模型(LLM)推理体验
一、概述与产品定位 2025 至 2026 年间,AI 编程工具从 IDE 插件(以 Cursor 为代表)大举走向终端(即 “Vibe Coding”)。Anthropic 的 Claude Code、OpenAI 的 Codex CLI、Google 的 Gemini CLI 三款主流命令行工具相继成熟,它们以交互式终端为基本界面,支持读取本地文件、编辑代码、执行 Shell 命令,让开发者在终端内完成从原型到部署的完整编码流程。与此同时,Cursor 于 2026 年 1 月推出 CLI…
🤔 一句话理解 Vibe Coding 2025 年 2 月,OpenAI 联合创始人 Andrej Karpathy 在社交媒体上分享了自己使用 AI 编程的体验,并用一个新词来描述这种状态——Vibe Coding(氛围编程)。他给出的定义是:“完全跟着感觉走,拥抱指数增长,忘掉代码本身的存在。”同年 11 月,柯林斯词典将这个词评为 2025 年度词汇。 简单来说,Vibe Coding 是一种全新的 AI 驱动编程方式:你只需要用自然语言描述需求,AI 就会生成可运行的代码;你只管看效果,不对就继续对 AI 说,直到感觉“对味”为止。开发者从“代码搬运工”转变为“解决问题工程师”,聚焦于需求表达、结果验证和迭代反馈,而非逐行编写和审查代码。 🔧 核心工具生态 Vibe…
在上一篇文章 《我用16GB Mac Mini打造AI powerhouse——LM Studio Link如何改变一切》中,我探索了通过在强大的机器上使用LM Studio Link来在较小设备上运行AI模型的方法。 如果我想反其道而行之——将多台机器的CPU、GPU和RAM资源整合起来,运行单台机器无法处理的模型呢? 如果你手头有一堆较小的设备,想要将它们的能力整合起来以发挥更大作用呢? 来认识Exo。这正是这个问题的答案。 1、什么是Exo? Exo是由Exo Labs维护的一个开源项目。用一句话概括:它将你的所有设备连接成一个个人AI集群,让你可以运行那些永远无法装入任何单台机器的前沿模型。 核心能力一览: 自动设备发现——运行Exo的设备会自动在网络上找到彼此,无需手动配置。 拓扑感知自动并行——Exo会根据每台设备可用的RAM、CPU/GPU资源以及节点间的网络延迟,自动找出最优的模型分割方式。 张量并行——模型分片可在2台设备上实现高达1.8倍加速,在4台设备上实现3.2倍加速。 Thunderbolt 5上的RDMA——在支持的硬件(M4 Pro/Max)上,这可将设备间延迟降低高达99%。 MLX后端——使用苹果的MLX框架在Apple Silicon上进行GPU加速推理。 OpenAI兼容API——暴露http://localhost:52415/v1接口,任何支持OpenAI的工具都可以直接与你的集群通信。 支持54个以上模型——从小的Llama模型到671B参数的DeepSeek变体。 适用于Mac、Linux,甚至树莓派。 我的配置:Mac Mini M4…
1. 前言 本文基于aiclient2api v2.9.7版本,Github地址为 https://github.com/justlovemaki/AIClient-2-API aiclient2api 能够将 GeminiCLI , ClaudeCode 等转换为不仅限于原客户端使用的API,从而供给OpenClaw或其它客户端使用 2. 搭建 首先选择一个目录,本文中使用的是/data/aiclient2api 运行 mkdir -p /data/aiclient2api && touch /data/aiclient2api/compose.yaml ,创建docker compose文件 复制以下docker compose 配置(3000端口比较常见容易被占用所以这里我改成了3180,可自行修改为其它端口)3000 为 Web UI,其余为 OAuth…
1. 前言 本文基于sub2api v0.1.84版本,Github地址为 https://github.com/Wei-Shaw/sub2api sub2api 能够将 GeminiCLI , ClaudeCode 等转换为不仅限于原客户端使用的API,从而供给OpenCode或其它客户端使用 2. 搭建 首先选择一个目录,本文中使用的是/data/sub2api 运行 mkdir -p /data/sub2api && touch /data/sub2api/compose.yaml ,创建docker compose文件 复制以下docker compose 配置(8080端口太常见容易被占用所以这里我改成了6780,可自行修改为其它端口) services: # ================= 主程序…