新加坡是不是也是996?为什么还好多人想run过去? |
不知道chargpt用的啥规模的硬件,估计不会很低。
@whxiaoxu 那么问题来了,我们那么牛掰plus的超算,每天在算啥?
@RockLee2020 各科研单位需要计算 某个实验(比如天文/核物理等)数据 可以申请用超算
我的理解是,chatgpt 是持续不简单的计算大规模数据模型。
而国家的超算单次计算某个计算量大的实验数据
@RockLee2020 ChatGPT这类人工智能计算的底层硬件实现方式是大规模的并行计算,为什么用GPU呢?因为GPU最早是用于图形像素的处理,在大数据量的并行计算方面就有很大的优势。所有的人工智能都是基于算法模型来实现的,算法模型通过各种方式转换成向量,然后交给GPU并行计算。
中国的超算主要用于科学计算、气象/地质、生物基因这类需要进行数学建模的场景,类似于解方程。在实现方式上还是以CPU为主,即以指令集、流水线这种传统的串行架构为主。
@whxiaoxu GPU我用过,超算没用过,不过你说超算是串行架构,不适合并行计算的神经网络,算不了AI?我有点不相信,我读书少,不要骗我哦。。。
@RockLee2020 我没有说算不了AI啊,当然可以算,只是效率比较低而已。用马拉火车,也可以动,但是不如专业的发动机。
另外,所谓的串并行并不是硬件不兼容,只是应用场景不同,现在国内的一些超算中心也开始引入GPU计算了,比如气象局要处理各种图像信息,他们就是用的GPU。所有的GPU都是插在服务器上才能使用,没有操作系统和工具链的支持,它也没法用,操作系统和工具链软件,都得依赖CPU才能运行。
@whxiaoxu GPU之所以能做并行计算,是因为里面有几千个算力相对CPU核较弱的核,所有核可以同时工作,组成了一个分布式的算力系统。超算不计成本,不计能耗,别人把最强的CPU核当成你GPU核用,规模更大,算力更强,要不你以为超算就一个主机在干?
@RockLee2020 我感觉你在抬杠,拜拜!
过早客微信公众号:guozaoke • 过早客新浪微博:@过早客 • 广告投放合作微信:fullygroup50 鄂ICP备2021016276号-2 • 鄂公网安备42018502001446号