最新消息: USBMI致力于为网友们分享Windows、安卓、IOS等主流手机系统相关的资讯以及评测、同时提供相关教程、应用、软件下载等服务。

如何配置一台高效的GPU(深度学习)服务器

IT圈 admin 26浏览 0评论

2024年5月25日发(作者:巫代桃)

目前

GPU

深度学习服务器在

AI

、视频处理、科学计算等领域都有广泛应用。随着

NVIDIA

推出更多的

GPU

硬件和

工具软件,如何配置一台属于自己的

GPU

服务器,在开发者的工作中成为了重中之重。

文章大概:

1

、硬件平台的搭建

o

深度学习服务器的性能需求

o NVIDIA GPU

的性能特点

o

硬件环境的配置搭配要点

2

、软件环境的配置

o

深度学习环境的系统配置,环境搭建

o NVIDIA CUDA

的安装

o

介绍

NVIDIA Deep Learning

相关

SDK

工具,包括类似于

Transfer Learning Toolkit

CuDNN

CuBlas,

TesnorRT…

o NVIDIA GPU Cloud

介绍

o

成熟的解决方案或者案例

最近开始学习深度学习(

Deep Learning

)技术,特别是

google

Tensorflow

深度学习包开源后,深度学习已经

成为大数据领域的重大计算革命,配合

Teras

顶层框架,使得

Deep learning

的学习成本降低。(百度也开源了飞

桨开源平台也不错)

目前

Deep learning

技术应用越来越广,一切数据都是图,

CNN

卷积神经网络技术充满了神奇的计算魅力。

DL

术广泛应用于:图像处理、人脸识别、自动驾驶、聊天机器人、

AI

人工智能、机器语言翻译、图片推荐系统、声

音处理、音乐作曲、机器写作等领域。

现今,日益完善的深度学习技术和

-AI-

服务愈加受到市场青睐。与此同时,数据集不断扩大,计算模型和网络也

变得越来越复杂,这对于硬件设备也提出了更为严苛的需求。如何利用有限的预算,最大限度升级系统整体的

计算性能和数据传输能力成为了最为重要的问题。

由于,做深度学习,需要很多科学计算学习包。以及深度学习框架(

tensorflow

我这里选择的是下载

Anaconda

(集成环境。

Anaconda installer archive

/archive/

)。

推荐配置

如果您是高校学生或者高级研究人员,并且实验室或者个人资金充沛,建议您采用如下配置:

主板:

X99

型号或

Z170

型号

CPU: i7-5830K

i7-6700K

及其以上高级型号

内存:品牌内存,总容量

32G

以上,根据主板组成

4

通道或

8

通道

SSD

品牌固态硬盘,容量

256G

以上

显卡:

NVIDIA GTX 1080ti

NVIDIA GTX TITAN

NVIDIA GTX 1080

NVIDIA GTX 1070

NVIDIA GTX

1060 (

顺序为优先建议,并且建议同一显卡,可以根据主板插槽数量购买多块,例如

X99

型号主板最多可以

采用

×4

的显卡

)

电源:由主机机容量的确定,一般有显卡总容量后再加

200W

即可

最低配置

如果您是仅仅用于自学或代码调试,亦或是条件所限仅采用自己现有的设备进行开发,那么您的电脑至少满足

以下几点:

CPU

Intel

第三代

i5

i7

以上系列产品或同性能

AMD

公司产品

内存:总容量

4G

以上

如果是先可以玩玩

Keras

文档说明中的几个案例,都有详细的代码和说明。

【经费充足的情况下另外也可以购买云厂商(

BATH

的几家)的专用

GPU

服务器,需要单独购买英伟达授权。】

Keras

文档关于计算机的硬件配置说明

- keras-

/en/latest/for_beginners/keras_linux/

一般我们也可以将这台配置的

GPU

电脑作为服务器,通过设置

SSH Key

SSH tunnel

用平时的苹果电脑远程访

问进行深度学习算法建模,通过模型训练后将模型

save

后,在不带

GPU

的电脑调用

load

模型或

weights

模型,进

行预测和分类。

GPU ——Nvidia GTX 1080 Ti

GPU

的重要性在于:

2024年5月25日发(作者:巫代桃)

目前

GPU

深度学习服务器在

AI

、视频处理、科学计算等领域都有广泛应用。随着

NVIDIA

推出更多的

GPU

硬件和

工具软件,如何配置一台属于自己的

GPU

服务器,在开发者的工作中成为了重中之重。

文章大概:

1

、硬件平台的搭建

o

深度学习服务器的性能需求

o NVIDIA GPU

的性能特点

o

硬件环境的配置搭配要点

2

、软件环境的配置

o

深度学习环境的系统配置,环境搭建

o NVIDIA CUDA

的安装

o

介绍

NVIDIA Deep Learning

相关

SDK

工具,包括类似于

Transfer Learning Toolkit

CuDNN

CuBlas,

TesnorRT…

o NVIDIA GPU Cloud

介绍

o

成熟的解决方案或者案例

最近开始学习深度学习(

Deep Learning

)技术,特别是

google

Tensorflow

深度学习包开源后,深度学习已经

成为大数据领域的重大计算革命,配合

Teras

顶层框架,使得

Deep learning

的学习成本降低。(百度也开源了飞

桨开源平台也不错)

目前

Deep learning

技术应用越来越广,一切数据都是图,

CNN

卷积神经网络技术充满了神奇的计算魅力。

DL

术广泛应用于:图像处理、人脸识别、自动驾驶、聊天机器人、

AI

人工智能、机器语言翻译、图片推荐系统、声

音处理、音乐作曲、机器写作等领域。

现今,日益完善的深度学习技术和

-AI-

服务愈加受到市场青睐。与此同时,数据集不断扩大,计算模型和网络也

变得越来越复杂,这对于硬件设备也提出了更为严苛的需求。如何利用有限的预算,最大限度升级系统整体的

计算性能和数据传输能力成为了最为重要的问题。

由于,做深度学习,需要很多科学计算学习包。以及深度学习框架(

tensorflow

我这里选择的是下载

Anaconda

(集成环境。

Anaconda installer archive

/archive/

)。

推荐配置

如果您是高校学生或者高级研究人员,并且实验室或者个人资金充沛,建议您采用如下配置:

主板:

X99

型号或

Z170

型号

CPU: i7-5830K

i7-6700K

及其以上高级型号

内存:品牌内存,总容量

32G

以上,根据主板组成

4

通道或

8

通道

SSD

品牌固态硬盘,容量

256G

以上

显卡:

NVIDIA GTX 1080ti

NVIDIA GTX TITAN

NVIDIA GTX 1080

NVIDIA GTX 1070

NVIDIA GTX

1060 (

顺序为优先建议,并且建议同一显卡,可以根据主板插槽数量购买多块,例如

X99

型号主板最多可以

采用

×4

的显卡

)

电源:由主机机容量的确定,一般有显卡总容量后再加

200W

即可

最低配置

如果您是仅仅用于自学或代码调试,亦或是条件所限仅采用自己现有的设备进行开发,那么您的电脑至少满足

以下几点:

CPU

Intel

第三代

i5

i7

以上系列产品或同性能

AMD

公司产品

内存:总容量

4G

以上

如果是先可以玩玩

Keras

文档说明中的几个案例,都有详细的代码和说明。

【经费充足的情况下另外也可以购买云厂商(

BATH

的几家)的专用

GPU

服务器,需要单独购买英伟达授权。】

Keras

文档关于计算机的硬件配置说明

- keras-

/en/latest/for_beginners/keras_linux/

一般我们也可以将这台配置的

GPU

电脑作为服务器,通过设置

SSH Key

SSH tunnel

用平时的苹果电脑远程访

问进行深度学习算法建模,通过模型训练后将模型

save

后,在不带

GPU

的电脑调用

load

模型或

weights

模型,进

行预测和分类。

GPU ——Nvidia GTX 1080 Ti

GPU

的重要性在于:

发布评论

评论列表 (0)

  1. 暂无评论