企业接入 AI 的真正门槛不在模型,而在接入与治理:业务系统已经有完整的 OpenAPI,却缺少一层能够安全调用它的 Agent 服务;多个业务方共用一套智能体能力时,需要应用级鉴权、用户身份透传、工具白名单、调用配额、敏感操作审批和全链路审计;一次对话往往持续数十秒甚至数分钟,断线后还要能续上并回放过程。
本项目面向内容社区、企业信息化和 SaaS 厂商三类场景:宿主应用只需提供 OpenAPI 文档和应用密钥,即可零代码获得智能助手能力;平台侧按应用维度完成隔离与治理,业务侧无需改动现有系统。当前已在知光社区完成接入,知文检索、公开 Feed、热搜榜等只读接口被自动转换为智能体工具,写接口默认不暴露。
一、多类型智能体运行时:内置 ReAct、Reflection、Plan-and-Solve、Simple 四种 Agent,支持子代理并行拆解复杂任务。
二、统一接入 API:/v1/chat/stream 提供 SSE 流式输出,X-App-Key 完成应用级鉴权,X-User-Token 只透传不解析;每次请求生成 task_id,事件逐条落盘,断线后可按序号增量回放。
三、宿主应用零代码接入:通过 YAML 声明应用 ID、密钥、系统提示、模型与工具白名单;服务启动时拉取宿主 OpenAPI 文档,自动生成带命名空间前缀的工具(如 zg_searchKnowposts),并支持 allow/deny 白名单,写接口默认不暴露。
四、工具与扩展体系:内置工具覆盖文件读写、网页搜索、浏览器操作、RAG 检索、文档解析、定时任务、技能与子代理;支持 MCP 服务器接入与插件加载,工具按 toolset 声明式装配。
五、记忆与上下文:跨会话记忆分热层与向量冷层,按应用和用户命名空间隔离;上下文引擎按压力分级压缩,控制长对话的 token 成本。
六、治理与可观测:按应用设置每日 token 配额、kill switch、并发上限与执行期工具黑白名单;敏感工具按风险等级触发审批,支持 SSE 弹窗与 webhook 两种模式;审计日志按天以 JSONL 落盘,另提供 Trace 轨迹。
七、深度研究:基于 LangGraph 编排问题拆解、检索、阅读与综合,输出带来源的研究结果。
采用 Python + FastAPI 构建服务(默认 8002 端口),按接入层、编排层、能力层、治理层分层实现。
接入层:AppRegistry 扫描 config/apps/*.yaml 加载宿主应用,用 X-App-Key 做应用级鉴权;RunContext 基于 ContextVar 在单次请求内透传 app_id、user_id 与 user_token,用户凭证全程不解析、不落盘。
编排层:Agent 工厂按模式装配 ReAct、Reflection、Plan、Simple Agent,并按应用配置注入系统提示、专属模型、记忆开关与工具集;对话以 SSE 流式返回,TaskStore 将任务主记录与事件写入 SQLite,支持断线重连回放。
能力层:OpenApiToolSource 解析宿主 OpenAPI 文档并生成函数工具,ToolRegistry 统一注册内置工具、MCP 工具与 OpenAPI 工具;MemorySDK 提供跨会话记忆,ContextEngine 提供压力驱动的多级压缩;DeepSearch 用 LangGraph 编排研究流程。
治理层:UsageGuard 按应用与日期累计 token,超限返回 429,kill switch 命中直接 403;信号量限制单应用并发;ApprovalManager 按风险等级触发审批,SSE 与 webhook 双模式;AuditLogger 按天写 JSONL,覆盖认证失败、任务开始/完成/异常与工具调用。
部署:提供 Dockerfile 与 docker-compose,挂载应用配置、日志与数据卷;pytest 覆盖租户隔离、应用注册、OpenAPI 转换、运行上下文与任务存储。当前版本为单实例设计,会话缓存与任务状态为进程内存与 SQLite。
声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!

下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态
评论