制造业工厂的 AI 落地永远绕不开「内网物理隔离」这条硬约束生产网不能连接公网、工艺与质量数据绝对不能出厂区、工控机环境杂且不能随意装软件、现场没有专职算法运维人员。传统云端 AI、Python 推理服务方案要么过不了数据安全关要么部署运维复杂度太高最后大多停留在试点阶段。ML.NET 原生 .NET 技术栈的特性恰好命中了工厂内网私有化部署的核心需求全程离线运行、零额外运行时依赖、数据不出工位、可直接嵌入现有上位机系统、部署运维成本极低。不需要打通公网、不需要安装 Python 环境、不需要搭建集群普通工控机就能跑是制造业内网 AI 落地的高性价比方案。本文完整拆解从模型制备、环境搭建、部署上线、离线迭代到运维管控的全内网闭环流程所有步骤均可在完全断网环境下落地实施。一、工厂内网 AI 的核心约束与方案定位1.1 内网环境的五大刚性约束绝大多数工厂生产网都有严格的隔离要求AI 方案必须全部适配物理断网生产网与公网物理隔离无法在线拉取 NuGet 包、无法在线更新、无法调用云端接口。硬件异构工位工控机新老并存从老旧的 32 位 Win7 机器到新款 Win10 工控机都有CPU 指令集支持程度不一。稳定优先产线 7×24 运行AI 功能可以降级、可以关闭但绝对不能导致上位机崩溃、影响生产控制。数据保密设备参数、工艺数据、质量图像均为核心涉密数据不允许传出工厂内网更不能上传云端。运维极简现场只有电气工程师没有专职算法人员与运维人员方案必须简单、易排错、能自愈。1.2 ML.NET 私有化方案的核心优势对比 Python 推理服务、专用 AI 盒子等方案ML.NET 原生方案在内网场景下优势非常突出零额外运行时自包含发布后直接拷贝运行不需要安装 Python、Conda、CUDA 等任何依赖环境。全链路离线训练、部署、推理、迭代全流程都可以在工厂内网完成不需要连接任何外部服务。侵入性极低以 DLL 形式直接嵌入现有 C# 上位机软件不需要新增硬件、不需要改网络架构。技术栈统一现有工控开发团队就能维护不需要新增 Python 开发与运维岗位。安全可控数据全程在本地进程内流转模型文件可加密、可绑定硬件授权防止外泄。1.3 整体私有化架构整套方案分为三层全部部署在工厂内网数据全程不出厂区离线运维层厂级层 内网服务器工位层 单台工控机PLC/传感器/工业相机上位机业务系统ML.NET 推理引擎 内嵌DLL本地SQLite存储 日志/样本/结果内网模型管理平台模型版本库 全内网数据汇聚与标注工具离线训练环境离线部署U盘模型升级包 带校验运维诊断工具工位层推理完全在本地工控机完成负责实时采集、实时推理、本地存储断网不影响生产。厂级层部署在内网服务器负责全工厂模型统一管理、数据汇聚标注、离线增量训练。运维层通过 U 盘等离线介质完成部署、升级、诊断全程不经过公网。二、第一步离线模型制备模型是 AI 的核心所有训练与优化工作先在外部环境完成打包成标准离线包后再导入内网。2.1 模型选型与训练工厂内网场景优先选择轻量、CPU 友好、解释性强的模型不盲目追求大模型表格类场景质量预判、异常检测、参数推荐优先 LightGBM、随机森林、孤立森林可直接用 ML.NET 原生训练也可用 Python 训练后导出 ONNX。视觉类场景缺陷检测、字符识别、定位优先 YOLOv8n、MobileNet 等轻量网络Python 训练后导出 ONNX 格式。时序类场景设备健康度、寿命预测优先传统时序特征 LightGBM尽量不用复杂深度网络。核心原则训练可以用 Python但交付给内网的产物必须是标准 ONNX 或 ML.NET 原生模型文件现场只做推理不做训练。2.2 模型轻量化与量化工控机 CPU 性能普遍一般上线前必须做轻量化处理保证推理速度满足产线节拍INT8 量化使用 ONNX Runtime 量化工具将 FP32 模型转为 INT8体积减少 75%推理速度提升 2~4 倍精度损失通常小于 1%工业场景完全可接受。裁剪计算图移除训练相关节点、后处理中不必要的分支只保留推理必需的算子。降低输入尺寸视觉场景只保留 ROI 区域在满足精度的前提下尽量缩小输入分辨率。2.3 制作标准离线模型包不能只拷一个模型文件进内网必须做成完整的交付包包含文件作用model.onnx/model.zip模型本体ONNX 或 ML.NET 序列化管线model_meta.json元数据版本号、训练时间、适用工位、输入输出规格、特征口径benchmark_samples.bin基准测试样本 预期输出用于上线前校验checksum.sha256文件完整性校验码防止拷贝损坏readme.txt部署说明、参数阈值、注意事项打包完成后计算整体校验码存入 U 盘等离线介质准备导入内网。三、第二步内网运行环境搭建工厂内网不能在线拉取 NuGet、不能在线装运行时所有依赖必须提前打包好做到「拷过去就能跑」。3.1 两种发布模式选型根据工控机环境统一程度选择对应的发布方式方案一自包含发布推荐适配杂环境将 .NET 运行时、原生依赖、业务代码全部打包到一起目标机器不需要安装任何 .NET 环境拷贝完直接运行。dotnet publish-cRelease-rwin-x64 --self-containedtrue/p:PublishSingleFiletrue /p:IncludeNativeLibrariesForSelfExtracttrue /p:EnableCompressionInSingleFiletrue优点零环境依赖适配 Win7/Win10/Win11 各种系统老机器也能直接跑。缺点发布包体积稍大一般几十 MB 级别对工厂内网完全可接受。方案二框架依赖发布环境统一时用如果全厂工控机都统一安装了对应版本的 .NET Runtime可以只发布程序集体积更小。前提是运行时版本必须严格一致避免版本兼容问题。3.2 原生依赖与兼容性处理ML.NET 和 ONNX Runtime 依赖原生 C 运行库老系统容易缺文件必须提前处理VC 运行库静态打包将 msvcp140.dll、vcruntime140.dll 等依赖随程序一起发布不依赖系统安装。老 CPU 兼容处理默认 ONNX Runtime 依赖 AVX 指令集服役 8 年以上的工控机 CPU 往往不支持启动直接闪退。解决程序启动时自动检测 CPU 指令集支持情况不支持 AVX 则自动加载兼容版运行库。打包时同时携带Microsoft.ML.OnnxRuntime和Microsoft.ML.OnnxRuntime.MKL或无 AVX 版本运行时动态切换。publicstaticboolCheckCpuAvxSupport(){try{returnSystem.Runtime.Intrinsics.X86.Avx.IsSupported;}catch{returnfalse;}}3.3 离线 NuGet 源制作如果内网需要二次开发、编译项目提前制作本地 NuGet 离线源在有网环境下载所有需要的 NuGet 包ML.NET、ONNX Runtime、OpenCvSharp 等到本地文件夹。将整个文件夹拷贝到内网服务器搭建本地 NuGet 源可用文件共享或轻量 NuGet.Server。开发环境配置包源指向本地地址完全离线即可还原依赖、编译项目。四、第三步工位端部署实施工位级部署是落地的核心目标是不影响现有生产、不改动原有控制逻辑、AI 功能可随时旁路。4.1 两种集成方式方式一DLL 内嵌式首选实时性最高将 ML.NET 推理能力封装成标准 .NET 类库 DLL直接引用到现有上位机软件中和业务逻辑同进程运行。优点零网络开销、延迟最低、部署最简单、不新增进程。适用单工位独立推理、实时性要求高的场景如质量实时检测、设备异常预警。核心封装示例/// summary/// 推理服务接口上位机只依赖接口不感知实现/// /summarypublicinterfaceIQualityInferenceService{boolIsReady{get;}stringCurrentVersion{get;}QualityPredictionPredict(QualityInputinput);boolUpdateModel(stringmodelPackagePath);}方式二本地服务式将推理引擎封装成 ASP.NET Core Web 服务或 Windows 服务在本机通过 HTTP 接口供上位机调用。优点解耦性好上位机语言不限制C/Delphi 也能调用多模块共用一个推理服务。适用一个工位有多套软件共用 AI 能力或者上位机不是 .NET 技术栈的场景。4.2 标准化部署步骤所有工位统一按以下步骤操作避免遗漏环境预检运行预检工具检查 CPU 指令集、系统版本、内存磁盘、依赖库是否齐全输出检测报告。文件拷贝将发布包拷贝到工控机非系统盘目录避免还原系统后丢失。基准测试首次运行自动执行基准样本测试对比输出与预期结果误差在允许范围内才算部署成功。权限配置配置程序开机自启、运行权限添加杀毒软件白名单避免被误杀。旁路验证先开启观察模式只记录结果不参与控制运行 24 小时无异常再逐步开放功能。4.3 资源隔离与优先级控制工控机的核心资源要优先保障采集与控制AI 推理不能抢资源线程优先级推理线程设置为BelowNormalCPU 满载时优先让位给控制线程。CPU 亲和性将推理线程绑定到指定 CPU 核心避免干扰实时控制线程。内存上限设置内存占用阈值超过阈值自动释放缓存、触发降级绝对不能把工控机内存跑满。五、第四步离线模型更新与回滚模型迭代是常态但工厂不能随便停机更新必须支持不停产热更新、一键回滚。5.1 离线升级包导入流程厂级训练环境生成新版本模型包计算校验码拷贝到专用运维 U 盘。U 盘插入工位工控机运维工具读取升级包校验完整性与版本合法性。后台静默加载新模型运行基准测试验证通过后进入待切换状态。生产间隙如换班、换料执行原子切换瞬间完成版本切换业务无感知。旧版本保留至少 3 个稳定版随时可以一键回滚。5.2 热更新核心实现使用读写锁 双实例方案切换过程毫秒级不阻塞正在执行的推理publicboolHotUpdate(stringnewModelPath){// 1. 后台加载新模型varnewEnginePoolCreateModelPool(newModelPath);// 2. 基准校验if(!ValidateBenchmark(newEnginePool)){newEnginePool.Dispose();returnfalse;}// 3. 原子切换引用_rwLock.EnterWriteLock();try{varoldPool_currentPool;_currentPoolnewEnginePool;CurrentVersionnewVersion;// 4. 延迟释放旧实例等待存量请求结束_Task.Delay(TimeSpan.FromSeconds(60)).ContinueWith(_oldPool.Dispose());}finally{_rwLock.ExitWriteLock();}returntrue;}5.3 灰度与回滚机制灰度放量新版本先在 1~2 个试点工位运行 3 天效果达标再逐步推广到全产线。自动回滚新版本运行中如果错误率飙升、输出分布异常自动切回上一个稳定版本同时触发告警。人工回滚操作人员可以随时在界面上一键切回旧版本不需要找开发人员。六、第五步内网数据闭环与模型迭代模型上线不是终点现场工况会变化设备磨损、原料批次、季节温湿度模型效果会缓慢衰减必须建立内网闭环迭代机制。6.1 本地样本自动留存工控机端自动采集两类样本本地存储边界样本推理置信度在阈值附近的模糊样本人工标注价值最高。异常样本人工复核过的误检、漏检样本是模型优化的核心数据。样本数据参数、图片、标签全部存在本地 SQLite 数据库只存原始数据不向外传输。6.2 离线数据汇聚与标注定期每周/每月将各工位的样本数据通过离线介质导出汇总到厂内标注服务器由工艺人员、质检人员在内网标注工具上完成标注不需要算法人员参与。标注完成的数据集存入内网样本库按版本管理。6.3 内网增量训练在内网训练服务器上完成模型迭代全程不联网基于上一版模型用新样本做增量训练不需要从零开始。训练完成后自动跑测试集指标达标则生成新版本模型包。按前述离线升级流程下发到各工位完成一次迭代闭环。整个过程从数据产生、标注、训练到下发全部在工厂内网完成数据零流出。七、生产级运维与安全保障7.1 全本地可观测体系不需要云端监控平台所有监控能力本地实现本地状态面板上位机集成 AI 状态页实时显示推理速度、成功率、版本号、异常计数。本地日志系统所有推理日志、异常日志、操作日志全部本地留存保留至少 3 个月支持离线导出排查。声光告警AI 模块异常、模型效果漂移、资源占用过高时通过工位现有声光报警器通知现场人员。7.2 多级容错降级机制严格遵循「AI 不影响生产」原则设计四级退守单次推理失败 → 自动重试返回兜底值。连续失败超阈值 → 自动切换为传统规则判定AI 后台静默重试。模块严重异常 → 自动旁路 AI 功能产线按原有纯人工/纯 PLC 模式运行。紧急情况 → 操作人员一键关闭所有 AI 功能完全恢复改造前状态。7.3 安全与授权模型加密模型文件加密存储运行时内存解密加载防止被直接拷贝盗用。硬件授权绑定工控机 CPU 硬盘指纹生成机器码离线生成授权文件不依赖网络激活防止模型跨厂滥用。数据脱敏本地留存的样本数据自动脱敏去除敏感工艺参数标识降低数据泄露风险。八、高频踩坑与避坑指南坑1老工控机启动直接闪退无任何报错原因CPU 不支持 AVX 指令集ONNX Runtime 默认版本加载失败。解决启动时先检测 CPU 指令集不支持自动切换兼容版运行库部署前用预检工具提前筛查。坑2U 盘拷贝模型文件损坏推理结果完全错乱原因大文件拷贝过程中断电、U 盘坏道导致模型文件部分损坏。解决升级包必须带 SHA256 校验码加载前先校验完整性校验不通过直接拒绝加载提示文件损坏。坑3内网系统时间不准授权失效原因很多工控机不连外网系统时间不准导致基于时间的授权失效。解决采用纯硬件指纹授权不依赖系统时间授权有效期设置足够宽避免时间跳变影响生产。坑4杀毒软件误杀程序文件原因工业现场杀毒软件规则严格单文件发布容易被误判为病毒。解决提前将程序目录加入白名单必要时使用非单文件发布减少误判概率。坑5多工位批量部署效率低原因几十上百个工位逐个拷贝、配置工作量大且容易出错。解决制作一键部署脚本自动完成文件拷贝、权限配置、基准测试、注册服务支持内网批量下发。九、方案落地价值总结安全合规全流程内网闭环数据不出厂区满足制造业数据安全与等保要求。成本极低不需要新增服务器、不需要采购专用 AI 硬件、不需要新增运维岗位复用现有工控机与开发团队即可落地。稳定可靠多级容错、热更新、一键回滚完全适配工业 7×24 运行场景。自主可控从模型到代码全部自主掌握不依赖外部厂商、不依赖云服务不会被卡脖子。对于大量存量制造业工厂来说AI 落地不一定要搞大平台、大项目。用 ML.NET 这种轻量化原生方案从单个工位、单个场景切入小步快跑、快速迭代反而更容易落地出实际价值。