Model Access

让本地模型安全触达公网

Model Access 将运行在您电脑或内网中的本地模型,通过公网服务端以 OpenAI-compatible API 对外提供服务。

产品是什么

桌面客户端负责连接 Ollama、vLLM、LM Studio 等本地 Provider,并通过 Agent 长连接与公网服务端保持在线。外部使用方通过 API Key 调用 Gateway,无需直接访问您的内网。

工作原理

1

安装客户端

下载并登录桌面客户端

2

连接本地模型

检测本机 Provider 并保存草稿

3

发布模型

通过控制面发布到公网注册表

4

API 调用

外部使用 OpenAI-compatible API

OpenAI Compatible

几分钟开始调用

发布模型后,任意 HTTP 客户端均可通过标准 OpenAI API 格式访问。 先在控制台创建 API Key,再替换示例中的 YOUR_API_KEY即可发起请求。

  1. 01

    注册并发布

    登录控制台,用客户端发布本地模型

  2. 02

    创建 API Key

    在控制台生成密钥,妥善保管

  3. 03

    发起调用

    使用下方 curl 或任意 OpenAI SDK

GET/v1/models

获取可用模型

列出当前账号下已发布、可对外调用的全部模型名称与元信息。

curl -s http://aicash.online/v1/models \
  -H "Authorization: Bearer ma__YOUR_API_KEY"
POST/v1/chat/completions

对话补全

向指定模型发送消息并获取回复。将 model 替换为 /v1/models 返回的名称。

curl -s http://aicash.online/v1/chat/completions \
  -H "Authorization: Bearer ma__YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
  "model": "Llama3.2",
  "messages": [{"role": "user", "content": "你好"}],
  "stream": false
}'

兼容 OpenAI SDK

base_url 设为 http://aicash.online/v1 api_key 设为您的密钥,即可在 Python、Node.js 等生态中直接使用。

还没有 API Key?

注册账号并在控制台创建密钥;模型须先通过客户端发布上线。

核心能力

架构示意

从外部调用到本地模型,全链路在一套画板中横向呈现。

外部调用方

Codex / SDK / 应用

公网服务端

Gateway · 注册表

桌面客户端

Agent 长连接

本地模型

Ollama · vLLM · LM Studio

下载客户端

安装桌面客户端以连接本机或内网模型、维持 Agent 长连接并完成发布流程。 当前版本:0.1.0

macOS

macOS 12+

下载

Windows

Windows 10+

即将推出

Linux

x86_64

即将推出
  1. 下载并安装对应平台客户端
  2. 打开客户端,使用与本站相同的账号登录
  3. 连接本地模型并发布,即可通过 API Key 从公网调用

准备好连接您的本地模型?