admin管理员组

文章数量:1647864

作者:AlchemyTech

时间:2023年 9 月15日

内容简介:为入门AI,研究深度学习的同学,提供设备选择的建议



目录

1. 个人学习用

(1)PC配置:

        显存要求:

        博主的电脑配置:

(2)云服务器

2. 公司项目用

(1)研发需求

(2)部署需求

3. 算力云平台详细对比

3.1. AutoDL

3.2. OpenBayes

3.3. 智星云

3.4. 矩池云

3.5. 小牛云

3.6. 停运及异常云服务:

3.7. 境外:

3.8. 各大厂商:

 4. 参考资料:


1. 个人学习用


(1)PC配置:

        显存要求:

显存要求:越大越好,无上限
最低显存 最佳显存 备注
仅做计算机视觉

6G

12G以上

(仅CNN)

如果要玩stable diffusion的,

以及要玩VIT的,研究自监督训练之类的,

建议显存大点,12G就不够了

需要测试大模型

8G

16G以上

8G可以跑通大多数7B模型的Int4版本,6G就够呛了。

如果要运行7B float16版本的,建议显存至少到16G

需要微调大模型 24G 无上限

对于需要在基座模型基础上添加层,使用lora微调的

24G只能说能

本文标签: 服务器AIPC