欢迎来到知嘟嘟! 联系电话:13336804447 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13336804447
知嘟嘟经纪人
收藏
专利号: 2024115645648
申请人: 南京邮电大学
专利类型:发明专利
专利状态:已下证
专利领域: 计算;推算;计数
更新日期:2026-11-16
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.一种3D集成的GPU-FPGA异构系统,所述GPU-FPGA异构系统包括GPU芯粒、FPGA芯粒和封装基板,其特征在于:所述GPU芯粒堆叠在所述FPGA芯粒之上,所述GPU芯粒和所述FPGA芯粒使用铜混合键合通过硅通孔连接在一起,所述硅通孔穿过所述GPU芯粒和所述FPGA芯粒垂直电连接且所述GPU芯粒和所述FPGA芯粒以背对背的方式连接在一起,所述FPGA芯粒通过微凸点连接到所述封装基板上,所述GPU芯粒包括多个流式多处理器,每个所述流式多处理器划分为四个处理块,每个所述处理块包含一个Warp调度器和分派单元、一组处理元件和一个寄存器文件,所述流式多处理器内所有处理块共享统一数据高速缓存和共享存储器、L1指令高速缓存和纹理高速缓存,所述统一数据高速缓存和所述共享存储器启用自适应高速缓存机制,每个主存控制器分区包含由所有流式多处理器共享的L2高速缓存库,并且每个L2高速缓存库与主存控制器通道相关联,所述FPGA芯粒被集成在L2高速缓存和主存控制器之间,所述FPGA芯粒包括逻辑单元、IO单元、互连单元、片上RAM和数十万可配置逻辑模块,所述可配置逻辑模块包含一个小型6输入查找表、一个D触发器和一个2:1多路复用器,相邻的两个所述可配置逻辑模块之间通过放置在所述可配置逻辑模块周围的开关盒和线互联,通过将数十万个可配置逻辑模块连接在一起,FPGA芯粒实现复杂的逻辑功能,在所述FPGA芯粒上设计一个连接所述GPU芯粒、所述FPGA芯粒和主存控制器MC的片上网络NoC,所述片上网络NoC为属于同一个分区的L2高速缓存和主存控制器MC之间提供高带宽连接,所述片上网络NoC包括外环和内环,所述外环负责在主存控制器MC和IO单元之间传输数据,所述内环负责在FPGA芯粒和GPU芯粒之间传输数据。

2.一种使用权利要求1所述的3D集成的GPU-FPGA异构系统的计算加速方法,其特征在于:计算加速方法为:将用于将FPGA芯粒配置为批量归一化计算单元,在数据从GPU芯粒发送到主存控制器MC和从主存控制器MC加载数据到GPU芯粒之前处理数据,减少GPU芯粒对内存的读取和写入次数。

3.根据权利要求2所述的计算加速方法,其特征在于:在计算加速方法中,在所述FPGA芯粒中配置两组交叉开关阵列和仲裁器以及对应每个主存控制器的内存分区的处理单元,每个处理单元包含一组G2M和M2G单元,用于GPU芯粒和主存控制器数据传输过程中进行模型训练中批归一化计算。

4.根据权利要求3所述的计算加速方法,其特征在于:当GPU芯粒向主存控制器写回数据时,仲裁器对数据包进行仲裁,如果当前数据不需要批归一化计算处理,则直接通过,将数据发送到主存控制器,否则根据数据包中指示,将数据传入对应通道的G2M单元,在这一阶段,G2M单元计算数据的均值μ和标准差的倒数在计算均值μ时,G2M单元首先遍历所有的数据,对所有的数据xi累加,累加结束后的结果乘以1/M得到均值μ,M是数据量,得到的均值μ并不会直接输出,而是在锁存器中保存,等待计算标准差时使用,并等待标准差的倒数计算完成后同步写入主存控制器;

计算方差倒数时,同样遍历全部的数据xi,计算每个数据xi的平方并累加,累加结束后的结果乘以1/M得到同时对锁存器中均值μ进行平方,并用累加结果减去μ2得到σ2,最后对σ2开方和取倒数计算得到

5.根据权利要求3所述的计算加速方法,其特征在于:当GPU芯粒从主存控制器读取数据时,仲裁器会对数据包进行仲裁,如果是需要批归一化的数据,就进入对应通道的M2G单元,否则直接返回GPU芯粒,M2G单元对所有传入数据使用计算得到的均值μ和标准差的倒数以及预配置好的学习变量γ和β进行处理,以得到批归一化后的数据发送给GPU芯粒进行计算,在这一过程中,M2G单元遍历所有数据依次进行减去均值μ,乘以方差倒数乘以γ和减去β,M2G单元根据数据包配置信息选择对计算结果进行ReLU或者直接输出。