Ubuntu双显卡配置与测试全攻略：从安装到性能调优

引言

在深度学习、3D渲染和高性能计算领域，多显卡（尤其是NVIDIA GPU）的并行计算能力已成为提升效率的关键。Ubuntu作为开发者首选的Linux发行版，其多显卡配置与测试一直是热门话题。本文将从基础配置到性能调优，系统梳理Ubuntu下双显卡（或多显卡）的完整流程，涵盖驱动安装、CUDA环境配置、性能测试工具及常见问题解决。

一、Ubuntu双显卡硬件兼容性分析

1.1 显卡类型与接口要求

• NVIDIA显卡：推荐使用同型号或兼容架构（如Pascal/Turing/Ampere）的显卡，避免混合不同代数（如GTX 1080与RTX 3090）导致的驱动冲突。
• AMD显卡：需确认内核模块amdgpu对多卡的支持，部分旧卡（如HD 7000系列）可能存在兼容性问题。
• 混合显卡（NVIDIA+AMD）：需通过prime-select或optimus-manager管理输出，但计算任务通常需统一驱动。

1.2 主板与电源要求

• PCIe插槽：确保主板提供足够PCIe x16插槽（建议至少2个），并确认BIOS中启用“Above 4G Decoding”和“PCIe Gen3/Gen4”。
• 电源功率：按每张RTX 3090约350W计算，双卡需750W以上电源，并留出20%余量。

1.3 散热设计

• 独立风道：多显卡并排安装时，建议使用垂直风道机箱或间隔安装，避免热风积聚。
• 温度监控：通过nvidia-smi -l 1实时监控温度，超过85℃需优化散热。

二、驱动安装与配置

2.1 官方驱动安装

方法一：Ubuntu仓库驱动（简单但版本旧）

sudo ubuntu-drivers autoinstall  # 自动推荐并安装
sudo reboot

方法二：NVIDIA官方驱动（推荐）

1. 禁用Nouveau驱动：

   sudo bash -c "echo 'blacklist nouveau' >> /etc/modprobe.d/blacklist.conf"
   sudo update-initramfs -u
   sudo reboot

2. 下载驱动（以NVIDIA为例）：

   wget https://us.download.nvidia.com/XFree86/Linux-x86_64/535.154.02/NVIDIA-Linux-x86_64-535.154.02.run
   sudo sh NVIDIA-Linux-x86_64-*.run --dkms  # --dkms支持内核更新

2.2 多显卡驱动验证

• 检查设备识别：

  lspci | grep -i nvidia
  nvidia-smi -L  # 列出每张卡的UUID和型号

• 验证CUDA版本：

  nvcc --version

三、CUDA与多GPU编程环境配置

3.1 CUDA Toolkit安装

wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-ubuntu2204.pin
sudo mv cuda-ubuntu2204.pin /etc/apt/preferences.d/cuda-repository-pin-600
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/3bf863cc.pub
sudo add-apt-repository "deb https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/ /"
sudo apt-get update
sudo apt-get -y install cuda-12-2  # 替换为所需版本

3.2 多GPU编程示例（Python+PyTorch）

import torch
# 检查可用GPU
print(torch.cuda.device_count())  # 输出GPU数量
print(torch.cuda.get_device_name(0))  # 输出第一张卡型号
# 数据并行示例
model = torch.nn.Linear(10, 10).cuda()
if torch.cuda.device_count() > 1:
    model = torch.nn.DataParallel(model)  # 自动分配到多卡

四、性能测试与调优

4.1 基准测试工具

• NVIDIA Nsight Systems：分析GPU利用率、内核启动延迟。

  nsys profile --stats=true python train.py

• CUDA Samples：运行bandwidthTest测试PCIe带宽。

  cd /usr/local/cuda/samples/1_Utilities/bandwidthTest
  make
  ./bandwidthTest --device=0,1  # 测试双卡间带宽

4.2 性能瓶颈分析

• PCIe带宽：若双卡性能低于单卡的1.8倍，可能受PCIe x8限制（需确认主板支持x16/x16）。
• NVLink配置：RTX 4090等支持NVLink的显卡需通过桥接器连接，带宽可达900GB/s。

4.3 优化建议

• 任务分配策略：
  • 数据并行：适合模型较小、数据量大的场景（如图像分类）。
  • 模型并行：适合超大型模型（如GPT-3），需手动分割模型层。
• CUDA流优化：

  stream1 = torch.cuda.Stream(device=0)
  stream2 = torch.cuda.Stream(device=1)
  with torch.cuda.stream(stream1):
      # 卡0任务
  with torch.cuda.stream(stream2):
      # 卡1任务

五、常见问题解决

5.1 驱动冲突

• 现象：nvidia-smi报错或登录循环。
• 解决：

  sudo apt purge nvidia-*  # 彻底卸载
  sudo rm /etc/X11/xorg.conf  # 删除可能存在的配置文件
  sudo reboot

5.2 CUDA版本不匹配

• 现象：ImportError: libcublas.so.12找不到。
• 解决：

  sudo apt install --only-upgrade cuda-12-2  # 升级到指定版本

5.3 多卡训练卡死

• 原因：NCCL通信超时。
• 解决：

  export NCCL_DEBUG=INFO
  export NCCL_BLOCKING_WAIT=1  # 启用阻塞等待

六、进阶配置：多节点多GPU

6.1 使用Horovod分布式训练

pip install horovod[pytorch]
mpirun -np 2 -H server1:1,server2:1 \
  python train.py --dist-url tcp://server1:23456

6.2 容器化部署（Docker）

FROM nvidia/cuda:12.2.0-base-ubuntu22.04
RUN apt-get update && apt-get install -y python3-pip
RUN pip install torch torchvision

运行命令：

docker run --gpus all -it my_image

结论

Ubuntu下双显卡（或多显卡）的配置需兼顾硬件兼容性、驱动稳定性和任务分配策略。通过本文的流程，开发者可系统完成从驱动安装到性能调优的全过程。实际测试中，双RTX 3090在数据并行下可实现近1.9倍的加速比，而模型并行需针对具体架构优化。建议定期使用nvidia-smi topo -m检查GPU拓扑结构，以最大化利用NVLink或PCIe带宽。