欢迎来到知嘟嘟! 联系电话:13336804447 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13336804447
知嘟嘟经纪人
收藏
专利号: 2022107491047
申请人: 桂林电子科技大学
专利类型:发明专利
专利状态:已下证
专利领域: 计算;推算;计数
更新日期:2026-11-16
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.一种基于多FPGA异构架构的CNN神经网络加速设计方法,其特征在于:包括以下步骤:

步骤1、设计卷积神经网络在FPGA开发板的若干个模块;根据模块的功能判断,在RTL级使用Verilog HDL设计能实现完整的计算功能的模块,其余的模块使用Vivado的HLS工具进行开发;所述FPGA开发板包括指令控制单元、数据收发单元、数量成对的卷积计算单元、输入缓存;

步骤2、对卷积神经网络进行量化,将卷积神经网络的浮动32位数据量化为定点16位或

8位数据;

步骤3、利用PCIe总线连接CPU、外部存储器与若干个FPGA板,CPU依据任务分配法分配计算任务给FPGA板;

步骤4、CPU依据卷积神经网络的计算神经网络的相关信息对FPGA板和外部存储器进行初始化配置;所述初始化配置包括加载信息、计算参数;

步骤5、CPU获取加载信息并将加载信息通过数据收发单元加载至各个FPGA开发板;

步骤6、指令控制单元接受CPU的指令后,FPGA开发板通过输入缓存载入计算参数;

步骤7、两个卷积计算单元通过流水交替方式进行计算;

步骤8、对卷积计算单元的工作状态进行检测并依据计算检测方法进行调整;

步骤9、满足步骤8的条件下,重复6~8的操作,直到当前卷积神经网络计算完成,输出结果。

2.根据权利要求1所述的一种基于多FPGA异构架构的CNN神经网络加速设计方法,其特征在于:所述卷积神经网络采用YOLOv3网络。

3.根据权利要求1所述的一种基于多FPGA异构架构的CNN神经网络加速设计方法,其特征在于:步骤2中将卷积神经网络的浮动数据量化为定点数据具体包括量化卷积神经网络的权重数据步骤和量化卷积神经网络的特征图数据步骤。

4.根据权利要求3所述的一种基于多FPGA异构架构的CNN神经网络加速设计方法,其特征在于:所述量化网络的权重数据步骤的方法为:历遍卷积神经网络的每一个卷积层的权重数据,历遍不同的阶码,在保证量化后的整数表示范围比权重数据分布大的前提下,找到每层最优的权重阶码,根据原始权重和量化后的权重误差和的最小值确定16位动定点量化的小数点位置,确定小数部分的位长Q,将权重数据乘以比例2^Q,取整数数据即为int16动定点量化的结果;对int16动定点量化的结果进行反量化,反量化的过程为int16型量化结果除以比例系数2^Q,得到反量化的浮点数结果;对卷积神经网络的每一卷积层权重数据进行上述操作,最后形成该卷积层的量化权重数据。

5.根据权利要求3所述的一种基于多FPGA异构架构的CNN神经网络加速设计方法,其特征在于:所述量化卷积神经网络的特征图数据步骤的方法为:准备校准数据集,数量为训练集数据的10%;遍历网络每一层的特征图输入数据,找出每一层输入特征图数据的最值,确定16位动定点量化的小数点位置,即确定小数部分的位长Q,对网络的每一层进行量化操作,确定每一层的量化小数位数Q,对校准数据集中的所有图片进行量化操作,对每一层的量化小数位数Q求平均值,得出最后的网络输入特征图的量化小数位数Q。

6.根据权利要求1所述的一种基于多FPGA异构架构的CNN神经网络加速设计方法,其特征在于:所述任务分配法具体包括以下步骤:使用预设的程序对卷积神经网络的网络模型大小进行分析,并获取每个FPGA板的参数性能来评估各个FPGA板的算力,依据算力分配每个FPGA板对应的任务量来保证每块开发板的执行时间基本持平。

7.根据权利要求1所述的一种基于多FPGA异构架构的CNN神经网络加速设计方法,其特征在于:所述步骤4中所述相关信息为卷积神经网络相关计算层的层数信息,各个层的连接关系、计算规模、权重数值信息。

8.根据权利要求1所述的一种基于多FPGA异构架构的CNN神经网络加速设计方法,其特征在于:所述步骤5中的加载信息为卷积神经网络的网络层数、节点数。

9.根据权利要求1所述的一种基于多FPGA异构架构的CNN神经网络加速设计方法,其特征在于:所述步骤7中流水交替方式具体为:将存于输入缓存中相应位置的参数载入第一个置闲的卷积计算单元中;同时从外部存储器中取出用于下次卷积计算单元的参数存于输入缓存的相应位置;将输入缓存参数载入第二个卷积计算单元,完成第二个卷积计算单元的参数配置。

10.根据权利要求1所述的一种基于多FPGA异构架构的CNN神经网络加速设计方法,其特征在于:所述步骤8中计算检测方法的具体方法为:检测到有卷积计算单元处于空闲状态时,就继续从外部存储器中对应位置取出用于下一个卷积计算单元载入的参数放置到输入缓存中。