本项目是一套面向个人开发者及小型团队的多模型 AI Chat 与 Agent 系统,可部署于低配置 Linux 服务器。
系统支持接入 OpenAI Chat Completions、Responses、Anthropic Messages 及各类兼容 API,并集成联网搜索、网页读取、文件解析、代码工作区、工具调用和 Agent 能力。
整体采用轻量化架构,无需 Docker、独立数据库或浏览器服务,适用于私人 AI 助手、内部 AI 工具、模型 API 聚合及定制 AI Agent 等场景。
多模型 API 接入
支持 OpenAI Chat Completions、Responses、Anthropic Messages 等协议,可接入 OpenAI、NVIDIA、OpenRouter、Vercel AI Gateway 及其他兼容模型服务。
支持自动获取模型列表,并针对不同模型独立配置 Thinking、Reasoning Effort、生成长度及其他参数。
联网搜索与网页读取
集成多种搜索与网页读取方案。
通过 Tool Calling 将搜索结果和网页内容返回模型,实现多轮联网搜索和资料整理。
流式 AI 对话
支持回答、推理过程、搜索步骤和引用来源的流式展示,并提供 Token 统计、停止生成、重新回答、消息复制、后台生成及历史会话管理等功能。
文件与多模态处理
支持图片、PDF、DOCX、XLSX、文本及代码文件上传。
图片可发送至多模态模型,文档内容可在服务器端提取并加入模型上下文。
AI 编程工作区
每个会话拥有独立文件工作区,模型可通过工具完成文件读取、搜索、创建、修改和删除。
支持 运行验证,以及文件检查,可用于基础 AI Coding Agent 场景。
Agent 与 Skills
提供独立 Agent 模式,可调用 Shell、文件系统、服务管理、联网搜索等工具。
支持 Skills 扩展机制,可安装和管理编程、调试、网页开发及系统管理等能力模块。
轻量化部署
后端采用 Python + FastAPI,使用 SQLite 单文件数据库和 systemd 服务管理。
无需 Docker 和独立数据库服务,针对低配置
本项目由我独立完成需求设计、系统架构、前后端开发、模型 API 接入、Agent 工具设计、数据库设计及服务器部署。
后端基于 Python + FastAPI,通过异步 HTTP 请求接入多个模型服务,并统一处理流式输出、Reasoning 内容及 Tool Calling。
设计统一联网搜索层,对不同搜索和网页读取服务进行封装,并将结果转换为统一格式供模型调用。
实现会话级文件工作区及 Agent 工具系统,使模型能够完成文件操作、代码验证、Shell 执行和服务器管理等任务。
前端采用原生 JavaScript、HTML、CSS 开发,支持桌面端和移动端,包含 Markdown、KaTeX、代码块、附件上传、模型参数配置、文件面板及 Skills 管理等功能。
数据采用 SQLite + WAL 存储,并通过 systemd 和自动安装脚本实现 Linux 服务器快速部署。
声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!

下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态
评论