TruthfulQA与ms-swift：构建可信大模型的双轮驱动 在医疗咨询中，一个AI助手回答“青霉素对所有病毒有效”；在法律问答场景里，它声称“我国已实行全民基本收入制度”——这些看似流畅却严重失实的回答，正是当前大语言模型…

第一章：嵌入式AI能效革命的背景与挑战 随着边缘计算和物联网设备的迅猛发展，嵌入式AI正逐步从云端迁移至终端设备。这一转变不仅提升了响应速度与数据隐私性，也对系统的能效提出了前所未有的严苛要求。在资源受限的嵌入式环境中，算…

gVisor 沙箱运行时探索：强隔离容器环境 在当前大模型应用迅猛发展的背景下，AI 工作负载的部署方式正经历深刻变革。越来越多的企业和开发者选择将 ms-swift 这类一体化训练推理框架运行在 Kubernetes 集群中，以实现高效、自动化的模型服务管…

LmDeploy 部署 GPTQ 模型：低延迟 API 服务搭建 在大模型落地的浪潮中，一个现实问题始终困扰着工程团队：如何让千亿参数的“巨兽”在有限的 GPU 资源上跑得又快又稳？尤其是在面对在线客服、智能对话这类对首 token 延迟敏感的场景时…

A100 80GB显存优势：千亿参数模型训练的可能 在大模型时代，一个70B甚至140B参数的语言模型，已经不再是顶级实验室的专属玩具。越来越多的研究团队和初创公司开始尝试微调、部署自己的“类GPT”系统。但现实很骨感——当你下载完Qwen-72B的权重…

仿真图转化为示波器图，可以单通道，双通道，三通道，四通道供选择，泰克示波器，可以完全还原仿真波形 仿真波形转换示波器图的那些事儿 在现代电子工程中，仿真实验的结果分析是一个非常重要的环节。…

人类偏好数据采集：在线标注平台搭建方案 在大模型能力突飞猛进的今天，一个现实问题愈发凸显：我们训练出的模型越来越“聪明”，但它们是否真的更符合人类意图？回答可能是不确定的。LLM 可以流畅地写诗、编程、推理&…

第一章：错过再等十年：C语言构建高性能实时识别系统的终极指南在高并发、低延迟的系统场景中，C语言因其贴近硬件的操作能力和极致的性能控制，成为构建实时识别系统的首选工具。无论是工业传感器数据处理，还是嵌入式视觉…