个人和小团队想用 AI 处理日常任务,但不愿意把聊天记录、实验数据这类敏感内容上传到第三方云端,也希望能直接操作本地文件、音视频等资源,而不是只给出一段建议文本。
点击空白处退出提示
个人和小团队想用 AI 处理日常任务,但不愿意把聊天记录、实验数据这类敏感内容上传到第三方云端,也希望能直接操作本地文件、音视频等资源,而不是只给出一段建议文本。
采用"规划 + 执行"双模型协作,一个模型拆解任务并决定调用哪个工具,另一个负责执行;内置 17 个工具,覆盖视频剪辑与合成、语音转字幕、文字转语音、文件读写、网页搜索;本地 Chroma 知识库做检索增强;提供用户注册登录、基于个人内容的问答、材料配方性能预测;全部回答流式输出到前端。
我负责架构设计与全部开发。技术栈为 Django + LangChain/LangGraph + Ollama,规划与执行分别由本地部署的推理模型承担,工具以统一接口注册,新增能力不需要改核心逻辑,数据与模型全部在本机运行。难点是本地模型响应慢带来的流程编排与重试设计、流式输出与前端渲染的协同、工具调用失败时的兜底处理。



评论