如何科学的搭建一台深度学习服务器?

在如今的时代,人工智能的技术已经开始使用在各行各业,例如人脸识别等计算机视觉技术已经开始广泛的使用在人们的日常生活中去 ,如果我们要自己去训练模型,首先我们需要的是寻找到数据集,因为深度学习的技术是需要有非常多的数据,其次最为重要的也就是“算力”,深度学习模型的训练需要基于强大算力平台。也就是GPU,深度学习的模型训练的过程中大量张量会在GPU上完成求导等计算梯度的运算,但是单单有GPU是不行的,还需要有CPU进行配合,甚至SSD固态硬盘,内存等多个问题组成,那么如何选择一台“性价比”最高的深度学习服务器呢?请看下面的解释:

GPU:GPU(图像处理单元)也就是我们常说的显卡,GPU是整个深度学习服务器中最为重要的东西,一般的笔记本的显卡配置的都是GTX1060显卡,显存6G,可以用来执行一些简单的数据集,但是coco等大型数据集就不适合了,现在一般的深度学习服务器中主流选择的GTX1080ti,显存11G,RTX2080ti,显存11G,两个的显存很大,且性价比最高,同时为了提高训练的速度,个人推荐四块GTX1080ti,或者四块RTX2080TI最为合适。当然也有特殊情况,比如使用的数据集数据过大,造成GPU的显存溢出,可以选择更大显存的显卡,接下来是重点Tesla v100 16G/32G,或者RTX8000,48G显存。他们二者的区别在于具体的用途,Tesla v100 支持双精度训练,RTX8000仅仅支持单精度训练,双精度训练一般用于医学图像上的目标检查或者分割,也就是要求极其严格的领域,除此之外均不需要双精度。另外根据BP反向传播算法的原理,Batch size越大,测到的梯度越是准确,因此大显存使用推荐RTX8000显卡,另外比较一下显卡的散热方式,显卡在运行时会出现对大量的热,散热方式尤其重要,Tesla v100为被动散热的风扇散热,噪音较大,且风扇散热效果不好,造成显卡温度超过86℃,会使得GPU的主频下降,利用率减低,RTX8000为主动的涡轮散热,散热效果更好,噪音更小。

CPU: CPU用于深度学习模型训练过程中的数据预处理与多卡训练的均值LOSS损失函数计算,因此CPU很有可能成为深度学习模型训练的瓶颈,因此需要使用较高的主频,考虑得到性价比,目标选择为金牌6149与银牌4125,二者参数分别为8核 16进程3.2GHZ ,16核 32进程 3.1GHZ,虽然主频降低0.1GHZ,但是核心数增大了一倍,因此金牌6149更加具有性价比,除此之外,CPU分为正显版与正式版,一般来说,正显版指的是在CPU正式售出前的测试版,但是均是通过测试的,所以正显没有问题,CPU的铂金系列售价最为昂贵,不建议使用,CPU由于需要处理大量的运算,因此核心与主频不会都高,一般来说核心越多的,主频会降低,可以并行运算多线程,主频高的执行单个进程速度最快,根据目的选择。

内存:根据CPU的读写通道数,内存在为6的倍数时间读写更快,因此选择6*16GB,或者6*32GB,现在一些数据集比如imagnet数据集已经超过了100GB,因此选择192GB的内存比较合适,甚至一些主机已经超过了200GB,不过已经够用了,选择R4版本内存条效果最好。

磁盘存储:磁盘分为固态硬盘与机械硬盘两个部分的存储,固态硬盘的价格比较便宜,为了加快地读取的速度,可以使用磁盘阵列做成阵列卡,加快读取速度,举个例子一张12GB的硬盘速度不如3张4TB的机械硬盘,同时阵列卡更加安全,其中一张卡损坏,数据仍然可以读出来。

最后说一下服务器的机架,分为塔式与机架式,塔式的占地面积小,更加省地方,一般均选择塔式。

以上就是所有深度学习服务器的选择指南,包涵了很多的计算机硬件的基础知识,只有充分了解这些技术的知识吗,才能根据不同的用途选择最为合适的服务器,做到物尽其用!加油加油!

作者CSDN社区:https://blog.csdn.net/baidu_39629638/article/details/106108004

作者微信公众号: AI初学者的学习笔记

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 204,189评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,577评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,857评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,703评论 1 276
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,705评论 5 366
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,620评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,995评论 3 396
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,656评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,898评论 1 298
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,639评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,720评论 1 330
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,395评论 4 319
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,982评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,953评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,195评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 44,907评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,472评论 2 342