1. 项目概述在科研计算和高性能计算领域Slurm集群是广泛使用的资源管理和作业调度系统。许多研究机构和企业都会部署带有GPU计算节点的Slurm集群用于深度学习训练、科学计算等计算密集型任务。而Jupyter Notebook作为交互式编程环境在数据分析和机器学习工作流中扮演着重要角色。本文将详细介绍如何在Slurm集群环境下通过SSH隧道实现本地计算机与GPU计算节点上运行的Jupyter Notebook/Lab的安全连接并确保计算任务能够正确分配到GPU资源。2. 环境准备与基础概念2.1 Slurm集群基本架构典型的Slurm集群由以下组件构成登录节点Login Node用户直接连接的入口节点计算节点Compute Node实际执行计算任务的节点部分配备GPU控制节点Control Node运行slurmctld守护进程负责作业调度存储节点提供共享文件系统2.2 Jupyter Notebook与GPU资源Jupyter Notebook在数据科学工作流中的优势包括交互式代码执行和可视化支持Markdown文档与代码混合丰富的内核支持Python、R、Julia等当需要GPU加速时必须确保Jupyter内核运行在分配了GPU的计算节点上正确加载了CUDA和cuDNN等GPU计算库使用的深度学习框架如PyTorch、TensorFlow已配置GPU支持3. 详细操作步骤3.1 连接到计算节点首先通过Slurm分配一个带有GPU的计算节点srun --nodes1 --partitiongpu --gresgpu:1 --time24:00:00 --pty bash参数说明--nodes1请求1个计算节点--partitiongpu指定GPU分区--gresgpu:1请求1块GPU--time24:00:00分配24小时运行时间3.2 启动Jupyter服务在获得计算节点shell后启动Jupyter Labjupyter lab --no-browser --port8889 --ip0.0.0.0关键参数--no-browser不自动打开浏览器--port8889指定服务端口--ip0.0.0.0允许外部连接3.3 建立SSH隧道在本地计算机上建立端口转发ssh -N -L 8889:localhost:8889 usernamelogin-node-address这条命令将本地8889端口映射到计算节点上的8889端口。3.4 访问Jupyter界面在本地浏览器中访问http://localhost:8889输入启动Jupyter时显示的token即可完成认证。4. 高级配置与优化4.1 持久化Jupyter会话使用tmux或screen保持会话tmux new -s jupyter jupyter lab --no-browser --port8889 # 按CtrlB, 然后按D分离会话4.2 自定义Jupyter环境创建专用conda环境conda create -n myenv python3.8 conda activate myenv conda install jupyterlab pytorch torchvision cudatoolkit11.3 -c pytorch4.3 GPU资源监控安装和使用gpustat监控GPU使用情况pip install gpustat gpustat -i5. 常见问题与解决方案5.1 连接问题排查检查SSH隧道是否建立成功netstat -tuln | grep 8889验证计算节点上的Jupyter服务是否运行ps aux | grep jupyter5.2 GPU不可用问题确保PyTorch/TensorFlow能识别GPUimport torch print(torch.cuda.is_available()) # 应返回True print(torch.cuda.device_count()) # 应显示GPU数量5.3 性能优化建议使用--mem参数为作业分配足够内存对于多GPU任务考虑使用--gresgpu:2等参数在Jupyter中合理使用%time和%%timeit魔法命令监控代码性能6. 安全注意事项始终使用token认证避免无密码访问考虑使用SSL加密Jupyter通信作业完成后及时释放计算资源敏感数据应存储在安全位置避免通过Jupyter暴露提示在共享集群环境中建议使用--notebook-dir参数指定工作目录避免意外访问他人文件。7. 扩展应用场景7.1 多用户协作配置JupyterHub与Slurm集成实现多用户管理和资源分配。7.2 远程开发环境结合VS Code Remote SSH扩展创建完整的远程开发环境。7.3 自动化工作流使用papermill等工具实现Jupyter Notebook的批量执行和参数化运行。
