logicfp 项目可以概括为一个面向 LLM 调用的轻量保护中间层。它不是去替代大模型,而是在模型调用前后加一层可控逻辑,减少幻觉、异常输出和调用不稳定带来的业务风险。
具体功能模块主要包括:
输入封装与校验模块
对进入系统的请求做统一封装,并基于 schema / 数据结构进行校验,提前拦截明显错误输入,避免无效调用继续向下游扩散。
评分模块(Scoring)
对一次模型调用结果进行风险评分,常见维度包括超时、报错、结构是否合规、输出是否异常等,用于量化本次调用的可信度。
策略模块(Policy)
根据评分结果判断当前请求是否允许继续、是否需要降级、是否应该阻断,起到“规则裁决层”的作用。
执行策略选择模块(Strategy)
在主模型、备用模型、本地小模型、探测流量等路径之间做选择,实现 fallback 和灰度试探,保证系统在异常情况下仍尽量可用。
状态机模块(FSM)
管理 CLOSED / OPEN / HALF_OPEN 等状态,控制故障后的恢复节奏,避免系统在不稳定阶段反复放量,提升整体稳定性。
事件日志与审计模块
记录调用开始、校验失败、主链路成功、降级执行等关键事件,便于追踪问题、做审计和后续优化。
HTTP/服务接口模块
通过 FastAPI 等方式暴露统一调用入口,方便与 LangChain、LangGraph 或业务服务集成。
项目主要功能描述:
logicfp 的核心作用,是把原本“直接调用大模型”的不稳定链路,改造成“可评分、可决策、可降级、可审计”的受控链路。它适合放在 AI 应用和模型之间,充当一个轻量、可插拔的保护层,重点解决大模型在真实业务中常见的不可控、输出异常和高风险调用问题。
点击空白处退出提示












评论