加速大模型上车!浪潮信息自动驾驶计算框架AutoDRRT 2.0实现车端低延时计算
随着自动驾驶算法技术的快速发展,基于BEV+Transformer的感知范式为高阶自动驾驶提供了更高精度感知、更强场 景泛化能力和更优多模态融合的方案,是目前各大主流汽车厂商高阶自动驾驶方案的标配。当下主流自动驾驶方案的大模型算法参 数规模在几千万至接近亿级,比以往最高提升了一个数量级,但苛刻的时延要求并没有降低,这对算力、数据IO和互联都带来了极 大的挑战:大模型复杂的网络结构和算子推理,依赖于更高性能的车载算力;众多传感器的高频采集,带来了大规模数据流的实时 IO吞吐需求;算力单元间的协同,也需要更强大的网络通信支撑。...