OPEN SOURCE · 开源项目

把大模型,
装进你的电脑。

OmniStudio 是一个本地大模型一体化桌面工作台(Electrobun + React):模型市集一键下载,llama.cpp / vLLM / SGLang 三引擎统一管理,开箱即用的对话、语音、图片、OCR 四大应用——不上云,全程本地优先。

开源 · MIT License · Electrobun + React · 全程本地优先

3
推理引擎 · 可热切换
4
内置本地应用
200k
上下文压测上限
(01) 模型市集

主流开源模型,
一键拉到本地

浏览、下载、分类、续传——把模型仓库管得像应用商店一样顺手。

01

模型浏览搜索

接入 ModelScope,参数大小、下载量、许可证、标签一目了然,快速筛选目标模型。

02

全格式下载

GGUF、safetensors、bin、pt、onnx 全格式支持,单文件或整仓下载,HuggingFace 补充语音模型源。

03

断点续传

并行队列下载,暂停、恢复、取消随心所欲,HTTP 206 字节级续传,大模型下载不再心累。

04

能力自动分类

按 Chat / TTS / ASR / Image 自动归类,打标筛选,多目录统一管理模型文件。

(02) 推理引擎

三引擎一个入口,
随时热切换

llama.cpp、vLLM、SGLang 统一抽象,本地跑还是接远程,随你。

DEFAULT

llama.cpp

默认引擎,GGUF 直接跑。GPU 卸载、KV Cache 量化、多模态 mmproj 全内置。

PERFORMANCE

vLLM

高性能推理服务,safetensors 直接加载,把显存吞吐吃满。

THROUGHPUT

SGLang

面向高并发与结构化输出的推理框架,引擎之间随时热切换。

UNIFIED RUNTIME · 统一运行层

  • 一个 Runtime 抽象层统一管理三引擎,热切换无需重启
  • 远程模式:接入任意 OpenAI 兼容端点(base URL / API Key / 模型)
  • 标准端点:/v1 Chat Completions、/health、/metrics 一键复制
(03) 内置应用

不是引擎工具箱,
是能直接用的应用

四个开箱即用的本地应用,覆盖日常工作流里的高频场景。

CHAT

对话

流式输出 + 推理过程展示,支持图片等多模态附件,自动起标题,按应用隔离会话。

  • 流式输出
  • 推理展示
  • 多模态

VOICE

语音

audio.cpp 本地 TTS(Metal 加速、一键安装)、whisper.cpp 实时 ASR,Edge-TTS 与音色克隆库,录音内嵌播放器。

  • TTS
  • ASR
  • 音色克隆

OCR

文字识别

Tesseract 本地引擎 + Chandra / GLM-OCR 视觉模型双通道,PDF / 图片一键解析为结构化 Markdown(表格、公式、代码块)。

  • Tesseract
  • 视觉模型
  • PDF 解析

IMAGE

图片生成

SDXL / Kolors 类模型预设已就绪,更完整的本地图像生成闭环正在路上。

  • SDXL
  • Kolors
  • 规划中
(04) 运维与遥测

本地服务,
也要看得明明白白

跑起来只是开始,性能与健康状态要随时在掌握之中。

01

实时仪表盘

预填充 / 生成 Token、tok/s、请求数、内存与 CPU 负载、模型磁盘占用,2 秒刷新。

02

基准压测

1K–200K 上下文扫描,TTFT / TPOT / TPS 关键指标,本地或远程服务一键出报告。

03

服务日志

实时尾随、ANSI 配色、自动滚动与防截断保护,复制、清理都顺手。

04

CLI 集成

一键生成 Claude Code、Codex、OpenCode、OpenClaw、Hermes、Pi 等工具的启动命令,AI 助手直连本地模型。

(05) 技术栈

干净整洁的
现代工程栈

Electrobun 桌面壳 + React 前端,推理、语音、OCR 全链路开源组件。

桌面底座

Electrobun + Bun

前端

React 19 · Tailwind · shadcn/ui · Zustand · TanStack Query

推理

llama.cpp · vLLM · SGLang · OpenAI 兼容

语音 / OCR

audio.cpp · whisper.cpp · Tesseract · Edge-TTS

数据存储

Drizzle ORM + Bun SQLite

工程化

Vite · Turborepo · Bun Workspaces

Bun 1.3+ · macOS(Apple Silicon);Linux / Windows 支持规划中。

CONTACT · 商务合作

想把 AI 真正
用进业务里?

企业培训、一对一咨询、产品合作——从一封邮件开始。

商务邮箱
hi@kunpengtalk.com
商务微信
KunpengTalk
全网平台
搜「鲲鹏Talk」↗