顯示卡驅動程式, CUDA, cuDNN, PyTorch, TensorFlow 全部都必須升級到新版或開發版才能使用。

測試使用版本如下:

顯示卡驅動程式 456.38

CUDA: 11.0

cuDNN: 8.0.4

torch: 1.8.0.dev20201005+cu110

torchvision: 0.8.0.dev20201007+cu110

tf-nightly: 2.4.0.dev20201007

LEADERG AppForAI 人工智慧開發工具: 2041

從 LEADERG AppForAI 200多種演算法中,挑選三個 AI 演算法進行訓練測試,結果如下:

Jupyter-Image-Classification-InceptionV3-PyTorch: RTX 3090 略快

Jupyter-Image-Segmentation-MaskRCNN-Keras: RTX 3090 略快

Jupyter-Image-Segmentation-UNet-Keras: RTX 3090 較慢(GPU CUDA 使用率只有一半)

結論: 

1. 雖然 RTX 3090 的 CUDA core 比 Titan RTX 多一倍,但是目前的軟體還在開發中,沒有針對 RTX 3090 的硬體進行優化,因此 AI 訓練速度只有快一點點,甚至有較慢的情況。

2. 過一陣子升級 CUDA, cuDNN, PyTorch, TensorFlow 的版本應該可以再提升 RTX 3090 的速度。

3. Titan RTX 一張卡片8萬多元,RTX 3090 一張卡片5萬多元。RTX 3090 便宜很多,卻有接近的性能表現,算是很超值。