给大家介绍如何利用多张A卡，搭建AI绘画多显卡服务器，反响非常热烈。那多张A卡还能干什么呢？今天我们将继续带大家探索A卡的潜力。

随着AI大语言模型规模的扩大和训练数据的增多，单张GPU的显存，已经无法应对个人对更大模型的训练需求，这个时候就需要多卡来完成训练任务。

硬件配置方面为了保证性能和稳定，处理器选择了地表最强的线程撕裂者7995WX，主板则是华硕WRX90，搭配了6张20GB以上显存的不同规格A卡。为了方案的完整性，机箱上选择的是开源宇宙的WS06A型，6卡高性能GPU服务器机箱，550（mm）高*380(mm)宽*640（mm）深，每张卡通信达到PCIE4.0*16，软件上系统安装了ubuntu22.04，同时利用到了AMD ROCM（6.0.2）结合LLaMA Factory进行训练，LLaMA Factory是一个集成了多种先进且高效训练方法的微调平台，用户可以在无需编写任何代码的前提下，在本地完成上百种预训练模型的微调。

接下来，就带大家看一下这套方案如何运行。

另外再训练开始前需要注意几点，第一训练数据集格式，第二训练数据集定义，在data文件夹中，对文件中的训练数据集进行定义，不同的数据集定义的方式不同，第三在参数方面影响训练结果准确度的参数有几个，如：数据集训练轮数、学习率、最大梯度范围、训练精度需要更为精细的调整。我们测试了大约15G大小的模型文件，16G显存的显卡无法进行训练，建议进行LORA训练的显存，至少是目标模型文件的1.2倍以上，如果使用两张7900XTX可以支持训练更大的模型，可以完全把模型加载到显存中，避免显存容量不足，频繁需要通过内存进行数据转换。

就这样我们完成了从0开始搭建一套用于AI大语言模型多卡训练的平台。