前言
平时遇到一些奇怪的代码问题,记录并整理。
博客渲染超时
在 Hugo 中,如果博客文章较多,渲染时间会非常长,导致渲染超时。具体考量可能是因为担心无限递归之类的,hugo 使用了粗暴的解决方法,超时就中断并且报错。所以解决方法也很简单,修改 config.toml
文件中的 timeout
配置项,增加渲染超时时间,单位貌似是毫秒。之前一直没有看 Github 详细报错,之前又出现过 Github Actions 瘫痪,我还以为又出现了,re-run 之后也就好了,估计是因为当初体量卡在临界点上,现在彻底超时了,也就发现了这个问题。
CUDA & CUDNN & Pytorch 安装
因为之前的 Ubuntu 系统又因为我自己的不小心所以坏掉了,于是又一次尝试重装系统,但是出现了很多的问题。
我的系统是 Ubuntu 20.04.6,在清华大学镜像站下载的最新版,电脑显卡是 NVIDIA GeForce RTX 3070 Laptop,可以支持 CUDA 12.2,在本段内容书写的时候,Torch 的官网使用的最标准的 pytorch 是 CUDA 12.1 的,所以安装这个版本,以及 9.3.0 的 CUDNN。
首先给出下载 CUDA 和 CUDNN 的官网,其中 CUDA 12.1 为 https://developer.nvidia.com/cuda-12-1-0-download-archive,CUDNN 9.3.0 为 https://developer.nvidia.com/cudnn-downloads,之后依次选择自己的系统版本即可。其中 CUDA 的安装方法使用的是 runfile (local)
,并且在此之前运行了 sudo ubuntu-drivers autoinstall
并重启以安装 driver。
问题出现在,对于任何一个全新的最小安装的 Ubuntu 20.04 系统,在使用 runfile 的时候,均会报错,并说明在 /var/log/nvidia-installer.log
中可以看到详情,其最后为:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
| -> Error.
ERROR: An error occurred while performing the step: "Checking to see whether the nvidia kernel module was successfully built". See /var/log/nvidia-installer.log for details.
-> The command `cd ./kernel; /usr/bin/make -k -j16 NV_EXCLUDE_KERNEL_MODULES="" SYSSRC="/lib/modules/5.15.0-117-generic/build" SYSOUT="/lib/modules/5.15.0-117-generic/build" NV_KERNEL_MODULES="nvidia"` failed with the following output:
make[1]: Entering directory '/usr/src/linux-headers-5.15.0-117-generic'
warning: the compiler differs from the one used to build the kernel
The kernel was built by: gcc (Ubuntu 9.4.0-1ubuntu1~20.04.2) 9.4.0
You are using: cc (Ubuntu 9.4.0-1ubuntu1~20.04.2) 9.4.0
MODPOST /tmp/selfgz3405/NVIDIA-Linux-x86_64-530.30.02/kernel/Module.symvers
ERROR: modpost: GPL-incompatible module nvidia.ko uses GPL-only symbol 'rcu_read_unlock_strict'
make[2]: *** [scripts/Makefile.modpost:133: /tmp/selfgz3405/NVIDIA-Linux-x86_64-530.30.02/kernel/Module.symvers] Error 1
make[2]: *** Deleting file '/tmp/selfgz3405/NVIDIA-Linux-x86_64-530.30.02/kernel/Module.symvers'
make[2]: Target '__modpost' not remade because of errors.
make[1]: *** [Makefile:1830: modules] Error 2
make[1]: Leaving directory '/usr/src/linux-headers-5.15.0-117-generic'
make: *** [Makefile:82: modules] Error 2
ERROR: The nvidia kernel module was not created.
ERROR: Installation has failed. Please see the file '/var/log/nvidia-installer.log' for details. You may find suggestions on fixing installation problems in the README available on the Linux driver download page at www.nvidia.com.
|
经过检查,发现问题其实很简单,是因为 g++ 等版本为 9,太高了,设置为 7 即可。
1
2
3
4
5
6
7
| sudo apt-get install gcc-7 g++-7
sudo update-alternatives --install /usr/bin/gcc gcc /usr/bin/gcc-7 9
sudo update-alternatives --install /usr/bin/gcc gcc /usr/bin/gcc-9 1
sudo update-alternatives --display gcc
sudo update-alternatives --install /usr/bin/g++ g++ /usr/bin/g++-7 9
sudo update-alternatives --install /usr/bin/g++ g++ /usr/bin/g++-9 1
sudo update-alternatives --display g++
|
之后再次运行,获得输出:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
| ===========
= Summary =
===========
Driver: Not Selected
Toolkit: Installed in /usr/local/cuda-12.1/
Please make sure that
- PATH includes /usr/local/cuda-12.1/bin
- LD_LIBRARY_PATH includes /usr/local/cuda-12.1/lib64, or, add /usr/local/cuda-12.1/lib64 to /etc/ld.so.conf and run ldconfig as root
To uninstall the CUDA Toolkit, run cuda-uninstaller in /usr/local/cuda-12.1/bin
***WARNING: Incomplete installation! This installation did not install the CUDA Driver. A driver of version at least 530.00 is required for CUDA 12.1 functionality to work.
To install the driver using this installer, run the following command, replacing <CudaInstaller> with the name of this run file:
sudo <CudaInstaller>.run --silent --driver
Logfile is /var/log/cuda-installer.log
|
设置环境变量:
1
| sudo vim ~/.bashrc # or ~/.zshrc
|
之后在最后添加:
1
2
3
| export PATH=/usr/local/cuda-12.1/bin${PATH:+:${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda-12.1/lib64\
${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}
|
之后再 source
一下:
1
| source ~/.bashrc # or ~/.zshrc
|
就可以正常的使用 CUDA 了:
输出为:
1
2
3
4
5
| nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2023 NVIDIA Corporation
Built on Tue_Feb__7_19:32:13_PST_2023
Cuda compilation tools, release 12.1, V12.1.66
Build cuda_12.1.r12.1/compiler.32415258_0
|
之后的 CUDNN 以及 torch 的安装就是按照提供的正常流程进行,完结撒花。
全部的指令包括以下内容:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
| sudo apt update
sudo apt upgrade
sudo ubuntu-drivers autoinstall
reboot
sudo apt-get install gcc-7 g++-7
sudo update-alternatives --install /usr/bin/gcc gcc /usr/bin/gcc-7 9
sudo update-alternatives --install /usr/bin/gcc gcc /usr/bin/gcc-9 1
sudo update-alternatives --display gcc
sudo update-alternatives --install /usr/bin/g++ g++ /usr/bin/g++-7 9
sudo update-alternatives --install /usr/bin/g++ g++ /usr/bin/g++-9 1
sudo update-alternatives --display g++
wget https://developer.download.nvidia.com/compute/cuda/12.1.0/local_installers/cuda_12.1.0_530.30.02_linux.run
sudo sh cuda_12.1.0_530.30.02_linux.run
sudo vim ~/.bashrc # or ~/.zshrc
### add following in .bashrc ###
export PATH=/usr/local/cuda-12.1/bin${PATH:+:${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda-12.1/lib64\
${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}
################################
source ~/.bashrc # or ~/.zshrc
wget https://developer.download.nvidia.com/compute/cudnn/9.3.0/local_installers/cudnn-local-repo-ubuntu2004-9.3.0_1.0-1_amd64.deb
sudo dpkg -i cudnn-local-repo-ubuntu2004-9.3.0_1.0-1_amd64.deb
sudo cp /var/cudnn-local-repo-ubuntu2004-9.3.0/cudnn-*-keyring.gpg /usr/share/keyrings/
sudo apt-get update
sudo apt-get -y install cudnn
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh
./Miniconda3-latest-Linux-x86_64.sh
conda create -n torch python=3.8
conda activate torch
pip3 install torch torchvision torchaudio
|
之后在 python 中 torch.cuda.is_available()
返回为 true
。
Ubuntu 22.04 三系统安装以及安装显卡驱动后无线网卡恢复
因为 Ubuntu 20.04 的若干的内容已经不再支持,使用起来最新的一些软件基本上全是报错,比较经典的就是 GLIBC 2.3.1
以及 libssl.so.3
等内容,而前者的安装十分的麻烦,所以干脆直接安装三系统。
三系统的安装不是很困难,使用之前安装 Ubuntu 20.04 的 EFI 分区作为挂载点就好,之后在系统的 GRUB 界面就可以看到三个系统了。
Ubuntu 22.04 有一个比较经典的问题,就是安装显卡驱动之后,会导致无线网卡消失,按照正常的流程进行操作之后,运行 sudo ubuntu-drivers autoinstall
并且重启,再次进入默认的系统之后,就会发现网卡消失了。
再次重启,进入 GRUB 之后选择 Advanced options for ubuntu
,进去之后可以看到两个 Ubuntu 的版本以及对应的两个 recovery mode。两个版本里面比较新的一个是在安装显卡驱动之后新安装的版本,可以理解为显卡驱动对于较高版本的内核具有依赖,但是配套的无线没有一起安装,记下来两个版本的型号,然后选择较低版本的内核(不是 recovery mode)进入。
进入这一内核之后,可以发现网卡是有的,但是使用 nvidia-smi
,并没有正常的那个输出界面,因为这个系统中内核不满足显卡驱动的依赖,那么把这个系统的版本提上去就好了。
使用 sudo dpkg --get-selection | grep linux
可以看到一些信息,其中一些项目包含版本号,有新版本的版本号,以及旧版本的,记下来这些旧版本的,并且使用 sudo apt install
安装使用新版本号覆盖旧版本号的这些内容。本人安装内容如下,作为参考:
1
| sudo apt install linux-headers-6.8.0-40-generic linux-image-6.8.0-40-generic linux-modules-6.8.0-40-generic linux-modules-extra-6.8.0-40-generic
|
再次重启,正常进入正常的系统,恢复。
需要注意的是,越早设置这些内容,与本文档的对齐程度最高,本人的安装流程为,正常安装系统(将全部硬盘空间都挂在在 /
下)并设置语言为中文,进入系统之后更换语言为英文(因为不然的话输入法的安装比较麻烦),重启,将文件夹变为英文名,再重启,连接网络,sudo apt update
以及 sudo apt upgrade
,最后就开始安装显卡驱动 sudo ubuntu-drivers autoinstall
并 reboot
重启。