本项目旨在解决医药领域直接询问AI大模型存在幻觉,知识陈旧,私有知识未知的问题。
点击空白处退出提示
本项目旨在解决医药领域直接询问AI大模型存在幻觉,知识陈旧,私有知识未知的问题。
redis匹配重复问题,mysql匹配高频问题,设计缓存降级处理,支持向量知识库检索,用户对话补全重写,BM25+向量混合检索,重排序,完善的提示词设计放幻觉,支持SSE流式输出,用户界面点赞点踩回写badcase
独立开发rag全链路,混合检索+rerank重排序
父子块分块策略,父块注入上下文,子块用于精准匹配
设计三级缓存,匹配重复问题,高频问题,降级处理
langchain框架,调用大模型api,设计SSE流式输出
基于会话历史对用户问题改写与补全
最终生成内容,过合规审查,检查引用标记,免责声明等
答案回写redis形成闭环



评论