随着大语言模型技术的快速发展，AI智能体（AI Agent）正从概念验证走向实际应用落地。然而，当前市场上的AI应用普遍存在两个痛点：一是智能体能力单一、缺乏个性化，用户无法根据自己的需求定制专属AI助手；二是多智能体之间的协作能力薄弱，难以完成复杂的多步骤任务。轻语AI的立项初衷，正是要打造一个集智能体创作、多智能体协作、音色克隆、设备互联于一体的综合性AI互动平台。让普通用户无需具备技术背景，即可自由创建个性化智能体，享受多轮对话记忆、语音交互等沉浸式AI体验。在行业场景层面，轻语AI定位于“AI智能体互动平台”，覆盖陪伴社交、儿童教育、娱乐互动、内容创作等多个垂直领域，满足用户对个性化AI助手和智能化交互体验的日益增长的需求。
轻语AI包含以下核心功能模块：智能体广场汇聚了“小甜豆”、“汪汪队-莱德”、“文心一言”、“巴斯光年”、“CyberSpirit赛博”、“心心”、“蛋小蓝”等多种风格的AI智能体，覆盖陪伴、教育、娱乐、星座塔罗等多元场景，用户可自由选择感兴趣的智能体开启对话。智能体创作模块允许用户自定义创建专属智能体，包括名称设定、简介、角色描述，并支持“AI一键优化”功能自动润色角色设定。多轮对话系统支持与不同智能体进行连续对话，每个智能体拥有独立的角色人设和上下文记忆，能够记住用户的偏好和聊天历史。音色克隆功能让用户可以录制几句话，AI即可学习并克隆专属声音，后续所有语音播报都将使用该声音。设备管理模块支持配对码、蓝牙配网、扫一扫等多种方式绑定智能设备，实现跨端AI交互体验。会员体系提供多重模型选择、音色播报、声音复刻卡包等增值服务。管理后台则提供智能体审核上下架、Prompt模板配置、音色样本审核、对话数据运营、设备配置管理等能力
在本项目中，我主要负责多轮对话记忆管理、提示词工程优化、低代码编排、多智能体协作及知识库构建等核心模块研发。采用SpringCloud微服务架构拆分网关、用户、智能体、对话、推理、音色、设备、管理8个服务；AI推理层基于LangChain+LangGraph+LlamaIndex，通过FastAPI和Pydantic工程化部署，aiohttp异步调用；数据层使用MySQL、Redis和Milvus向量库；LLM集成通义千问公开模型，向量化采用sentence-transformers（BGE）。实现亮点：基于LangGraph状态图实现多Agent动态路由与条件分支；设计分层记忆（Redis短期窗口+摘要中期+Milvus长期向量）控制长对话Token消耗；采用“粗召回+精排”两阶段检索（Milvus召回+BGE-Reranker）提升RAG质量；通过Redis Pub/Sub实现配置热加载。技术难点：长对话上下文膨胀，通过分层记忆有效解决；知识库频繁更新时，采用文档版本管理配合Milvus Upsert实现向量级增量更新，避免全量重建导致服务中断。容器化部署使用Docker。
评论