立项原因与痛点：
当前市面上的大模型应用普遍存在三大致命痛点：一是“上下文爆炸”导致长周期任务账单极速飙升；二是网络波动或进程崩溃导致任务直接断片、状态丢失；三是底层模型迭代极快，导致业务代码频繁面临重构。
行业背景与应用场景：
本项目定位为“可热插拔的高可用智能体底座”。适用于需要长周期稳定运行的复杂业务场景，如：自动化系统运维巡检、跨平台数据采集与清洗、以及结合物联网/机器人的跨机指令调度。在这些场景中，系统必须保证“断电/断网不丢数据”、“极低的 Token 成本”以及“随时可更换最新的大模型内核”，从而为企业提供真正能落地的数字员工。
双端交互与热插拔内核：基于“平台/内核分离”架构，同一套核心引擎同时支持终端 CLI 与浏览器 Web（SSE 流式输出）；支持在运行时动态装卸、替换不同的大模型内核（换脑不重写代码）。
高可用状态与持久化：内置原子写与水位线幂等机制，实现断点续传与崩溃自恢复；采用“七格板”管理长任务状态，确保任务进度绝不丢失。
多工具调度与降级链：集成 15 种标准工具，支持跨机 SSH 控制（如连接 ROS2 机器人环境）与代码沙箱执行；具备 API 降级重试机制（原生搜索->备用搜索->自建爬虫），保证工具调用极其稳定。
超低成本上下文管理：内置动态上下文装载策略，将长对话按需分流，实测高频任务中缓存命中率超 96%，百万 Token 成本压缩至 0.11 元，大幅降低商业化部署成本。
一、我负责的具体任务
作为独立系统架构师兼全栈开发者，我主导了从0到1的架构设计与落地：
全局架构定义：制定“平台/内核分离”的六边形架构规范，编写 AST 静态扫描守卫脚本，强制约束各层代码依赖。
状态流转与高可用设计：设计并实现了基于事件驱动（Event-driven）的会话状态机，以及断网/崩溃后的数据恢复机制。
核心接口契约：定义并冻结了 7 类核心语义事件（Event），确保多端（CLI/Web）交互的绝对一致性。
质量把控与 AI 协同：制定严苛的测试策略与边界条件，利用 AI 辅助生成了 211 条自动化测试用例（覆盖事件一致性、断点恢复、并发锁等），并负责最终的质量审查与全量测试验收。
二、技术栈、架构与实现难点
技术栈：Python (后端核心) / HTTP + SSE (流式通信) / Flask / 异步多线程。
架构：六边形架构（端口/适配器模式） + 事件驱动架构（EDA）。
实现亮点与难点：
解决上下文爆炸（成本痛点）：自研 P0.5 动态上下文装载策略，将单轮 75 万 Token 的冗余上下文压缩至 1.5K。实测高并发下缓存命中率达 96% 以上，处理 8.2 亿 Token 账单仅 91.5 元。
解决长任务断片（稳定性痛点）：纯文件系统手搓“水位线幂等追加”与“原子写”机制，实现进程崩溃后自动接续任务，绝不丢失一条执行记录。
解决多端表现不一致（工程痛点）：严格约束 SSE 事件流必须为内核的 1:1 转发，拒绝前端拆包伪造，保证了终端与网页体验的绝对同构。
评论