2024年5月25日发(作者:巫代桃)
目前
GPU
深度学习服务器在
AI
、视频处理、科学计算等领域都有广泛应用。随着
NVIDIA
推出更多的
GPU
硬件和
工具软件,如何配置一台属于自己的
GPU
服务器,在开发者的工作中成为了重中之重。
文章大概:
1
、硬件平台的搭建
o
深度学习服务器的性能需求
o NVIDIA GPU
的性能特点
o
硬件环境的配置搭配要点
2
、软件环境的配置
o
深度学习环境的系统配置,环境搭建
o NVIDIA CUDA
的安装
o
介绍
NVIDIA Deep Learning
相关
SDK
工具,包括类似于
Transfer Learning Toolkit
,
CuDNN
,
CuBlas,
TesnorRT…
o NVIDIA GPU Cloud
介绍
o
成熟的解决方案或者案例
最近开始学习深度学习(
Deep Learning
)技术,特别是
的
Tensorflow
深度学习包开源后,深度学习已经
成为大数据领域的重大计算革命,配合
Teras
顶层框架,使得
Deep learning
的学习成本降低。(百度也开源了飞
桨开源平台也不错)
目前
Deep learning
技术应用越来越广,一切数据都是图,
CNN
卷积神经网络技术充满了神奇的计算魅力。
DL
技
术广泛应用于:图像处理、人脸识别、自动驾驶、聊天机器人、
AI
人工智能、机器语言翻译、图片推荐系统、声
音处理、音乐作曲、机器写作等领域。
现今,日益完善的深度学习技术和
-AI-
服务愈加受到市场青睐。与此同时,数据集不断扩大,计算模型和网络也
变得越来越复杂,这对于硬件设备也提出了更为严苛的需求。如何利用有限的预算,最大限度升级系统整体的
计算性能和数据传输能力成为了最为重要的问题。
由于,做深度学习,需要很多科学计算学习包。以及深度学习框架(
tensorflow
)
我这里选择的是下载
Anaconda
(集成环境。
Anaconda installer archive
/archive/
)。
推荐配置
如果您是高校学生或者高级研究人员,并且实验室或者个人资金充沛,建议您采用如下配置:
主板:
X99
型号或
Z170
型号
CPU: i7-5830K
或
i7-6700K
及其以上高级型号
内存:品牌内存,总容量
32G
以上,根据主板组成
4
通道或
8
通道
SSD
:
品牌固态硬盘,容量
256G
以上
显卡:
NVIDIA GTX 1080ti
、
NVIDIA GTX TITAN
、
NVIDIA GTX 1080
、
NVIDIA GTX 1070
、
NVIDIA GTX
1060 (
顺序为优先建议,并且建议同一显卡,可以根据主板插槽数量购买多块,例如
X99
型号主板最多可以
采用
×4
的显卡
)
电源:由主机机容量的确定,一般有显卡总容量后再加
200W
即可
最低配置
如果您是仅仅用于自学或代码调试,亦或是条件所限仅采用自己现有的设备进行开发,那么您的电脑至少满足
以下几点:
CPU
:
Intel
第三代
i5
和
i7
以上系列产品或同性能
AMD
公司产品
内存:总容量
4G
以上
如果是先可以玩玩
Keras
文档说明中的几个案例,都有详细的代码和说明。
【经费充足的情况下另外也可以购买云厂商(
BATH
的几家)的专用
GPU
服务器,需要单独购买英伟达授权。】
Keras
文档关于计算机的硬件配置说明
- keras-
/en/latest/for_beginners/keras_linux/
一般我们也可以将这台配置的
GPU
电脑作为服务器,通过设置
SSH Key
和
SSH tunnel
用平时的苹果电脑远程访
问进行深度学习算法建模,通过模型训练后将模型
save
后,在不带
GPU
的电脑调用
load
模型或
weights
模型,进
行预测和分类。
GPU ——Nvidia GTX 1080 Ti
GPU
的重要性在于:
2024年5月25日发(作者:巫代桃)
目前
GPU
深度学习服务器在
AI
、视频处理、科学计算等领域都有广泛应用。随着
NVIDIA
推出更多的
GPU
硬件和
工具软件,如何配置一台属于自己的
GPU
服务器,在开发者的工作中成为了重中之重。
文章大概:
1
、硬件平台的搭建
o
深度学习服务器的性能需求
o NVIDIA GPU
的性能特点
o
硬件环境的配置搭配要点
2
、软件环境的配置
o
深度学习环境的系统配置,环境搭建
o NVIDIA CUDA
的安装
o
介绍
NVIDIA Deep Learning
相关
SDK
工具,包括类似于
Transfer Learning Toolkit
,
CuDNN
,
CuBlas,
TesnorRT…
o NVIDIA GPU Cloud
介绍
o
成熟的解决方案或者案例
最近开始学习深度学习(
Deep Learning
)技术,特别是
的
Tensorflow
深度学习包开源后,深度学习已经
成为大数据领域的重大计算革命,配合
Teras
顶层框架,使得
Deep learning
的学习成本降低。(百度也开源了飞
桨开源平台也不错)
目前
Deep learning
技术应用越来越广,一切数据都是图,
CNN
卷积神经网络技术充满了神奇的计算魅力。
DL
技
术广泛应用于:图像处理、人脸识别、自动驾驶、聊天机器人、
AI
人工智能、机器语言翻译、图片推荐系统、声
音处理、音乐作曲、机器写作等领域。
现今,日益完善的深度学习技术和
-AI-
服务愈加受到市场青睐。与此同时,数据集不断扩大,计算模型和网络也
变得越来越复杂,这对于硬件设备也提出了更为严苛的需求。如何利用有限的预算,最大限度升级系统整体的
计算性能和数据传输能力成为了最为重要的问题。
由于,做深度学习,需要很多科学计算学习包。以及深度学习框架(
tensorflow
)
我这里选择的是下载
Anaconda
(集成环境。
Anaconda installer archive
/archive/
)。
推荐配置
如果您是高校学生或者高级研究人员,并且实验室或者个人资金充沛,建议您采用如下配置:
主板:
X99
型号或
Z170
型号
CPU: i7-5830K
或
i7-6700K
及其以上高级型号
内存:品牌内存,总容量
32G
以上,根据主板组成
4
通道或
8
通道
SSD
:
品牌固态硬盘,容量
256G
以上
显卡:
NVIDIA GTX 1080ti
、
NVIDIA GTX TITAN
、
NVIDIA GTX 1080
、
NVIDIA GTX 1070
、
NVIDIA GTX
1060 (
顺序为优先建议,并且建议同一显卡,可以根据主板插槽数量购买多块,例如
X99
型号主板最多可以
采用
×4
的显卡
)
电源:由主机机容量的确定,一般有显卡总容量后再加
200W
即可
最低配置
如果您是仅仅用于自学或代码调试,亦或是条件所限仅采用自己现有的设备进行开发,那么您的电脑至少满足
以下几点:
CPU
:
Intel
第三代
i5
和
i7
以上系列产品或同性能
AMD
公司产品
内存:总容量
4G
以上
如果是先可以玩玩
Keras
文档说明中的几个案例,都有详细的代码和说明。
【经费充足的情况下另外也可以购买云厂商(
BATH
的几家)的专用
GPU
服务器,需要单独购买英伟达授权。】
Keras
文档关于计算机的硬件配置说明
- keras-
/en/latest/for_beginners/keras_linux/
一般我们也可以将这台配置的
GPU
电脑作为服务器,通过设置
SSH Key
和
SSH tunnel
用平时的苹果电脑远程访
问进行深度学习算法建模,通过模型训练后将模型
save
后,在不带
GPU
的电脑调用
load
模型或
weights
模型,进
行预测和分类。
GPU ——Nvidia GTX 1080 Ti
GPU
的重要性在于: