大模型成长进入关键期，探究AI背后的算力战争( 二 ) _大模型

文章插图
训练阶段：需要基于大量的数据来调整和优化人工智能模型的参数，使模型的准确度达到预期，核心在于算力。
推理阶段：训练结束后，建立的人工智能模型可用于推理或预测待处理输入数据对应的输出，这个过程为推理阶段，对单个任务的计算能力不及训练，但总计算量也相当可观。
虽然，目前算力的需求在不断增加，也导致了出现“算力危机”，但我们看到突破这些危机的一些技术趋势。
第一个趋势，在算力层面，我们看到通用算力正在转向专用算力，也可以称为智能算力。专用算力包括以GPU为核心的并行训练加速，例如，英伟达DPU，谷歌的GPU，还有新型的算力形态，如NPU等，用于加速 AI 载体。

文章插图
第二个趋势是从单点到分布式的发展。在十多年前，我们可能只需要使用CPU进行AI模型训练，然后逐渐转向GPU加CPU的方式。当时由于CPU和GPU的编程方式不同，需要重新编译两次才能在CPU和GPU上运行，因此在那个时候，AI模型通常在单台机器上单卡上运行。随着模型参数的增加和模型类型的多样化，从单机单卡逐渐演变成了单机多卡，然后随着GPU的崛起，从单机多卡又发展为分布式训练。这也使得模型训练的速度更快。
第三个趋势是能耗和可持续性。随着训练集群的出现，能耗上升成为一个问题，数据中心需要进行改建和升级以满足能耗要求，这也引发了合规和可持续性的关注。高能耗需要政府批准，因此降低能耗、实现绿色和节能成为趋势。
第四个趋势是软硬结合。从纯硬件走向软硬件结合，尤其是英伟达等公司的带领，软件生态系统变得至关重要。软件工程师和人工智能算法工程师的参与推动了这一趋势。

文章插图
就我国而言，未来，随着新的算力芯片到来的，还有国内各地出台的一系列利好政策，也积极引导大模型研发企业应用国产芯片，加快提升算力供给的国产化率，提升算力资源统筹供给能力，携手企业共同推动算力市场发展。
写在最后
可以说，算力是数字经济时代最底层的驱动器，无人驾驶、智慧城市、智能交通、智慧金融、仿生科技、生命医学、气候预测以及农业精细化等，都离不开超大算力的支持。在未来的大国竞争中，算力之强弱将直接深度影响到新技术的研发效率和研发成果。
未来，大模型时代的全面到来，注定充满挑战，而挑战往往孕育着机遇。以计算为代表的颠覆技术成为大模型时代的重要底座。最终，谁将主导这场算力的变革，让业界看到大模型市场的新机会，在广阔的市场中率先突围呢?我们拭目以待。