ShrinkLLM产品系统Vibe Coding

我要开发同款
kfasfsa2026年10月13日
3阅读

技术信息

语言技术
Python、Torch
系统类型
算法模型
行业分类
人工智能

作品详情

行业场景

面向本地大模型研究与资源受限设备的实验评测场景。针对压缩方案难以同时核对权重体积、模型质量和运行资源的问题,建立可复现的实验流程,帮助比较共享参数、低秩修正和知识蒸馏的实际效果,为后续模型部署研究提供有据可查的实验记录。

功能介绍

支持固定配置的模型实验、共享 MLP 与独立低秩修正、恢复训练、蒸馏和对照评测。记录验证损失、困惑度、完整权重体积、训练与推理资源及延迟数据,生成 CSV 和 Markdown 报告。通过参数身份、底层存储和新进程重载检查确认真实共享,并核对保存前后的输出一致性及实验来源信息。

项目实现

我围绕本地模型压缩研究确定实验需求与验收条件,使用 Codex 辅助实现 Python、PyTorch 和 Transformers 实验工具链。项目固定模型版本、数据划分、随机种子与训练预算,并加入权重哈希、冻结参数检查和新进程重载验证。已有 Qwen3-0.6B 实验记录显示,完整权重体积减少约 1.52%;质量与延迟分别评测,并保留未改善的结果。当前作为研究工具源码展示。

示例图片

声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!
下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态

评论