(19)中华 人民共和国 国家知识产权局
(12)发明 专利申请
(10)申请公布号
(43)申请公布日
(21)申请 号 202111639517.1
(22)申请日 2021.12.2 9
(71)申请人 安徽大学
地址 230601 安徽省合肥市经开区九龙路
111号
(72)发明人 田野 石子睿 杨尚尚 张兴义
(74)专利代理 机构 安徽省合肥新 安专利代理有
限责任公司 34101
代理人 陆丽莉 何梅生
(51)Int.Cl.
G06V 40/10(2022.01)
G06V 10/764(2022.01)
G06V 10/82(2022.01)
G06N 3/08(2006.01)
G06K 9/62(2022.01)G06N 3/04(2006.01)
(54)发明名称
一种基于梯度引导的进化算法的图像识别
方法
(57)摘要
本发明公开了一种基于梯度引导的进化算
法的图像识别方法, 其步骤主要包括: 1、 获取图
像样本构建训练样本数据集; 2、 初始化父代种
群, 对其在交配选 择过程中使用gSBX算子来获得
子代种群, 将父代种群加入子代种群中并对子代
种群进行非支 配排序, 从排序好的种群中选取前
若干个个体作为最优个体种群; 3、 从最优个体种
群中删去被支配的解, 使用稀疏随机梯度法SGD
对种群中剩余的每个个体的权重变量微调, 在该
种群的Pareto前沿面上的拐点区域选择一个个
体的属性集作为最终训练模型的变量。 本发明通
过进化算法优化图像识别模型, 从而能提升模型
在图像识别上的精确度, 并减少神经网络的训练
成本和内存用量。
权利要求书3页 说明书8页 附图3页
CN 114220127 A
2022.03.22
CN 114220127 A
1.一种基于梯度引导的进化 算法的图像识别方法, 其特 征是按照如下步骤进行:
步骤一、 获取T个 图像样本及其类别标签, 并根据每个图像样本的类别标签, 提取每个
图像样本对应的属性特征, 从而得到 图像样本集
其中, xt表示第t个图像样
本的属性特征, yt表示第t个图像样 本的真实类别标签, (xt,yt)表示第t个图像的样 本数据,
t=1,2,…,T;
定义最大迭代次数为GEN, 当前迭代次数为gen, 并初始化gen =1;
步骤二、 设种群大小为N, 定义第gen代种群集合记为
表示第gen代种群中的第i个 个体;
定义第gen代种群中的每个个体的属性包括: R个权重变量、 梯度和两个待优化目标; 其
中, 待优化目标分别是损失函数值和模型复杂度;
初始化第gen代种群中的每 个个体的R个权 重变量为随机值;
初始化第gen代种群中的每 个个体的梯度集 合为空集;
步骤2.1、 创建一个包 含R个权重变量的图像识别模型Model1, 初始化i=1;
步骤2.2、 用第gen代种群Pgen中第i个体
的R个权重变量替换图像识别模型Model1中
的R个权重变量得到替换后的图像识别模型Model ′1, 将图像样本集L中的样本数据作为替
换后的图像识别模型Model ′1的输入, 并得到预测类别标签集
其中, y′t表示所述图
像识别模型Model ′1在第t个图像的样本数据(xt,yt)上的预测类别标签;
步骤2.3、 将所述预测类别标签集
与所述真实类别标签集
传入损失函数中,
从而得到第gen代种群c中第i个体
在图像样本集L上的损失函数值Loss, 然后统计第gen
代种群Pgen中第i个体
的非0变量数作为对应 个体的模型复杂度;
步骤2.4、 根据所述图像识别模型Model1的损失函数值计算梯度
表示第gen代
种群Pgen中第i个个体
的第r个权重变量的梯度, 然后用梯度
替换第gen代种群Pgen
的第i个个体
的梯度集 合, r∈[1,R];
步骤2.5、 将i+1赋值给i, 判断i<N是否成立, 若成立, 则返回步骤2.2顺序执行, 否则, 表
示第gen代种群Pgen中的每个个体完成图像样本集L的 图像特征信息
的学习, 并执行步
骤2.6;
步骤2.6、 使用二元锦标赛选择算法从所有完成学习后的第gen代种群P ′gen中选择N个
个体作为交配池M1, 同时创建一个空的第gen代子代种群Zgen;
步骤2.7、 从交配池M1中随机选取两个个体q1和q2, 并从交配池M1中同时删除, 使用gSBX
算子对所选取的两个 个体q1和q2进行交叉操作:
步骤2.7.0、 定义十个参数η、 λ、 μ1、 μ2、 k1、 k2、 β1、 β2、 α1、 α2, 其中, η为图像特征信息
的均值
λ是在每个维度上由均匀分布U[0,1]采样得到的常数, μ1、 μ2是由权重变量和
梯度信息决定的两个随机数, β1、 β2、 α1、 α2均为中间变量;权 利 要 求 书 1/3 页
2
CN 114220127 A
2定义
为第1个个体q1的第j个权重变量,
为第1个个体q1的第j个梯度,
为第2个个
体q2的第j个权 重变量,
为第2个个体q2的第j个梯度, 并初始化j=1;
定义z1为第1个子代个 体, 并初始化第1个子代个 体z1的权重变量集合为空集;
定义z2为第2个子代个 体, 并初始化第2个子代个 体z2的权重变量集合为空集;
步骤2.7.1、 计算
若k1>0, 则 μ1在[0,0.5]中随机取值, 若 k1<0, 则 μ1在
(0.5,1]中随机取值, 若k1=0, 则 μ1在[0,1]中随机取值;
步骤2.7.2、 计算
若k2<0, 则 μ2在[0,0.5]中随机取值, 若k2>0, 则 μ2在
(0.5,1]中随机取值, 若k2=0, 则 μ2在[0,1]中随机取值;
步骤2.7.3、 若第l个随机数 μl≤0.5, 则计算中间变量
否则, 计算中间变量
其中, l=1,2;
步骤2.7.4、 对两个中间变量β1, β2进行变量代换:
若λ≤0.5且
且
则令α1=‑β2‑1, α2=‑β1‑1, 否则, 令α1=
β1‑1, α2=β2‑1;
步骤2.7.5、 对两个中间变量α1, α2补正:
若第l个个体ql的第j个权 重变量
则令αl=0, 否则, αl保持不变, 其中, l =1,2;
步骤2.7.6、 计算第1个子代 个体z1的第j个权重变量
第2个子代
个体z2的第j个权 重变量
步骤2.7.7、 将j+1赋值给j, 若j≤R成立, 则返 回步骤2.7.1顺序执行, 否则, 表示两个子
代个体z1、 z2的所有权 重变量已经 更新完成, 并执 行步骤2.8;
步骤2.8、 将权 重变量更新完成的两个子代个 体z1、 z2加入第gen代子代种群Zgen;
步骤2.9、 判断交配池M1是否为空, 且第gen代子代种群Zgen中的个体数是否达到N, 若均
是, 则执行步骤2.10, 否则, 返回步骤2.7顺序执 行;
步骤2.10、 以图像样本集L作为输入, 计算第gen代子代种群Zgen中的每个个体
的损
失函数值和模型复杂度;
步骤2.11、 根据NSGA ‑II的环境选择策略对第gen代父代种群Pgen和子代种群Zgen进行排
序选择, 从而得到 选择完成的第gen代新的种群
步骤2.12、 将gen+1赋值给gen后, 判断gen>GEN是否成立, 若成立, 则根据NSGA ‑II的支
配关系从第GEN代新的种群
中删去被支配的个体, 得到 最终种群Pfinal, 否则, 将第gen ‑1
代新的种群
赋值给第gen代种群Pgen后, 返回步骤2.1顺序执 行;
步骤三、 令最终种群Pfinal中个体数目为n, 令
表示最终种群Pfinal的第m个个体, 初 始
化m=1;
步骤3.1、 将图像识别模型Model ′1的R个权重变量
替换为第m个个体
的R个权
重变量, 从而得到更新后的图像识别模型Model ″1;权 利 要 求 书 2/3 页
3
CN 114220127 A
3
专利 一种基于梯度引导的进化算法的图像识别方法
文档预览
中文文档
15 页
50 下载
1000 浏览
0 评论
309 收藏
3.0分
温馨提示:本文档共15页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
本文档由 人生无常 于 2024-03-18 20:41:13上传分享