离线语音转换工具产品系统Vibe Coding

我要开发同款
Gzx主攻AIagent项目2026年07月20日
15阅读

技术信息

语言技术
Python
系统类型
Windows
行业分类
边缘计算
演示地址
暂无

作品详情

行业场景

1、立项原因
旨在解决网络环境不佳或完全断网场景下,开发者无法依赖云端服务进行高效编码的问题。尤其针对“vibe coding”(氛围式/对话式编程)开发模式中,需频繁口头表述需求、反复整理和调整关键词的痛点,通过引入本地化的语音转换输入能力,降低操作门槛,提升离线状态下的开发效率与体验。

2、行业场景
适用于边缘计算、野外作业、移动车载、工业现场、保密内网等弱网或断网环境下的软件开发场景。在此类业务背景下,传统在线IDE或云编码工具不可用,而开发者仍需快速迭代原型或调试代码,本方案可为其提供轻量、即时、无需联网的语音辅助编程支持。

功能介绍

1、功能模块
**入口**(`main.py`):负责单实例互斥、日志初始化、全局异常钩子,以及启动画面展示与模型延迟加载的协调。

**语音识别引擎**(`asr_engine.py`):核心模块,统筹音频采集、VAD切句、ASR识别、实时模拟输入和LLM异步纠错的全流程。

**配置管理**(`config.py`):单例模式读写`settings.json`,支持配置变更通知和原子写入。

**LLM客户端**(`llm_corrector.py`):封装HTTP请求,实现与本地或远程大语言模型的通信、可用性探测及超时重试。

**系统托盘**(`tray_app.py`):基于pystray实现托盘图标、全局快捷键(左Alt+Q)监听及状态显示。

**启动画面**(`splash.py`):无边框进度窗口,带毛玻璃效果,展示模型加载进度。

**设置界面**(`settings_ui.py`):独立线程运行的Tkinter配置窗口,支持LLM地址/模型修改及连接测试。

**VAD指示器**(`vad_indicator.py`):鼠标旁动态彩色光点,实时显示语音概率和音量大小。

2、功能描述
核心工作流程如下:

用户按下全局热键(左Alt+Q)后,系统通过PyAudio采集麦克风音频,经Silero VAD进行语音活动检测与切句,再由SenseVoiceSmall端到端模型实时识别为文字。识别结果立即模拟键盘输入上屏,确保低延迟反馈。

同时,系统将识别文本送入LLM纠错队列,在用户静默3秒后自动触发批量纠错。LLM修正标点和错字后,通过模拟退格删除原文并粘贴修正文本,实现无感替换。纠错过程支持取消重入——若用户在LLM处理中继续说话,当前请求被取消,未处理句子自动归还队列等待下一批次。

项目实现

1、技术栈:项目基于 Python 3.12 开发,GUI采用Tkinter(启动画面、设置界面、VAD指示器),系统托盘使用pystray,全局热键监听依赖pynput。音频采集由PyAudio完成,语音活动检测采用Silero VAD(torch.hub加载),语音识别使用SenseVoiceSmall模型。LLM通信基于requests库调用OpenAI兼容API,键盘模拟和剪贴板操作借助pywin32、ctypes及pyperclip实现。

2、系统架构:核心线程包括音频采集线程、VAD切句线程、ASR识别线程和LLM工作线程,通过`queue.Queue`进行线程间数据解耦。主线程负责Tkinter事件循环,设置界面和VAD指示器各自运行于独立Tcl解释器线程。配置管理采用单例模式,支持原子写入和热更新。

3、实现亮点:
**延迟加载与启动优化**:启动画面先展示,模型在后台线程依次加载,进度实时反馈,缩短用户感知等待时间。

**无感替换策略**:纠错前通过Windows API检测用户空闲状态,结合模拟退格删除原文+剪贴板粘贴修正文本,避免干扰用户正在进行的操作。

**模块化与可扩展性**:VAD、ASR、LLM均设计为可插拔组件,配置热更新,便于模型替换和功能扩展。

4、技术难点:

**VAD与ASR协同的实时性**:需在低延迟和识别准确率之间取得平衡,通过32ms帧粒度采集、600ms静音阈值及10秒单句上限进行调优。

**LLM纠错与实时识别的冲突协调**:解决批量纠错时用户持续输入导致的“覆盖冲突”,通过取消重入+原子性替换操作保障数据一致性。

**多Tkinter实例管理**:启动画面、设置窗口、VAD指示器均涉及Tkinter,需防止多线程下Tcl解释器冲突,采用独立线程+单次创建策略规避崩溃风险。

示例图片

声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!
下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态

评论