Fasten Share
开源 · 跨平台 · 隐私优先

借一张网,共享 AI 算力与额度

通过统一服务端发现和调用在线模型生产者,支持标准 HTTP、流式响应与服务端积分结算。

核心特性

🔗

统一 HTTP 接入

消费者直接调用 Fasten Share,服务端将请求和流式响应路由到生产者。

🧩

本地 / 在线多模型

接入本地 Ollama、LM Studio、vLLM,或在线 OpenAI、Anthropic 等兼容接口(URL + APIKey),统一并入同一张网络。

🔁

生产者 + 消费者一体

同一个跨平台桌面程序内置两种角色:既能分享自己的模型算力,也能借用他人的算力进行推理。

🩺

健康检查,自动下线

生产者定时探活与额度探测,接口不可用或 Token 耗尽即自动摘除,消费者发现的永远是可用节点。

🎯

智能发现与排序

按模型协议或关键字匹配候选生产者,默认按延迟升序(越快越靠前),可切换按在线时长降序。

🌐

多实例高可用

生产者只需建立出站连接,多台服务端通过 Redis Streams 协同路由。

怎么用

作为生产者

  1. 在桌面端填入本地 URL,或在线 URL + APIKey + 模型 ID。
  2. 选择模型协议,启动分享,自动上线并定时健康检查。
  3. 网络中的消费者即可直连借用你的算力 / 额度。

作为消费者

  1. 按模型协议或关键字搜索网络中可用的生产者。
  2. 从候选列表中选择生产者并生成服务端调用地址。
  3. 像调用本地接口一样发起推理,享受流式 Token 响应。

隐私优先

生产者的上游 APIKey 保存在自己的设备上,不发送给服务端或消费者。

常见问题

我的密钥会被上传吗?

不会。生产者在本机注入上游密钥,密钥始终保存在生产者机器。

业务 Token 会经过服务器吗?

会。服务端负责转发、权威计量和结算,请始终使用受信任的 HTTPS 域名。

支持哪些平台?

桌面端支持 Windows、macOS、Linux,同一程序内置生产者与消费者两种角色。

支持哪些模型接口?

本地的 Ollama / LM Studio / vLLM,以及 OpenAI / Anthropic 等在线兼容接口。