DCinfer推理管线运行时开源项目

背景：
- 旨在解决复杂 AI 业务场景下的硬件选型受限问题。

硬件无关性：
- 通过抽象注入层，使系统能同时调度本地 GPU、异构加速卡及远程 AI 服务，避免传统推理框架对 NVIDIA 生态的强绑定。

电路图语义的运行时：
- 数据驱动、声明式输出，天然允许推理图拓扑成环。
- 自定义算子信号控制，可在运行时动态改变执行路径。
- 专注高并发工况，推理任务不会因为其它无关任务的出错或阻塞而阻塞。