基于粒子群神经网络的细胞图像分割方法.doc

第7期 基于粒子群神经网络的细胞图像分割方法 · 63 ·
更多电子资料请登录赛微电子网
基于粒子群神经网络的细胞图像分割方法*
张煜东 吴乐南 韦 耿
(东南大学信息科学与工程学院, 南京 210096)
摘 要: 为了更好地分割细胞图像, 对传统的BP神经网络进行改进: 首先将输入神经元设置为一个3×3窗口, 以代替传统的单像素通道; 其次采用一种基于信息熵的方法估计隐层神经元的个数; 最后采用一种改进的PSO算法来保证网络权值收敛到最优。对血细胞和肠细胞的分割结果表明, 本文方法得到的隐层神经元数大幅减少, 误判率也优于BP与LM算法, 耗时较BP算法少且近似接近LM算法。本文提出的估计隐层神经元的方法有效, 且改进的PSO算法能够跳出误差函数局部极小点, 收敛到全局最小点。
关键词: 神经网络；细胞图像分割；隐层神经元个数；粒子群优化
中图分类号: TN911.73　　　文献标识码: A　　　国家标准学科分类代码: 510.4050
Cellular image segmentation based on particle swarm neural network
Zhang Yudong Wu Lenan Wei Geng
(School of Information Science & Engineering, Southeast University, Nanjing 210096, China)
Abstract: In order to segment cellular images more efficiently, traditional BP neural network was improved in following aspects: first, the input layer was set as a 3×3 window in replace of mono-pixel channel; second, the number of neurons in hidden layer was estimated by an information entropy based approach; finally, a improved PSO (particle swarm optimization) algorithm was proposed to guarantee the network to converge to the global optimum. The experiments on blood bacteria and intestine bacteria show that the number of neurons in hidden layer is quite reduced, the misclassification rate is less than the results via BP and LM, and the computation time is far less than that of BP and close to that of LM. In conclusion, the method of estimating number of neurons in hidden layer is effective, and the improved PSO is capable of jumping from local minima of the error surface and converging into global minima.
Keywords: neural network; cellular image segmentation; number of neurons in hidden layer; particle swarm optimization

1 引 言
细胞图像是细胞胚胎学、病理学的重要辅助研究手段, 在伤口愈合、自主防御机制、癌细胞转移机制、血细胞和免疫细胞统计分析等研究中发挥着重要作用。
对细胞图像的分割在临床上有重要应用价值, 其目的是抽取临床有用的重要信息, 以提高疾病的诊断与治疗水平。细胞图像的分割是整个图像处理与分析中的关键技术, 分割质量对随后的诊断有十分重要的影响[1]。
目前, 细胞图像的分割方法有很多, 但由于神经网络(NN)具有较强的学习能力和自适应能力, 并可以看作是一种具有大量链接的并行分布处理系统, 较之传统方法具有很大优越性[2]。因此, 本文选取NN对细胞图像进行分割, 碰到的主要问题一是如何确定网络结构, 二是如何保证网络收敛到全局最优。
本文介绍了基于分类的图像分割技术, 将权值学习转化为粒子群优化问题, 提出一种改进的PSO算法, 保证网络权值收敛到最优。
2 背 景
将图像分割视作一个分类问题, 则其发展可示于表1。

表1 基于分类的图像分割进展
Table 1 Progress on image segmentation based on classification
指标
直方图法
匹配法
神经网络法
维数空间
1×1
模板(3×3等)
模板(3×3等)
比较方法
直接
线性卷积后
通过非线性网络后
分界面
一个点
一个超平面
一个超曲面
分割性能
差
中
优

2.1 直方图法
最早的直方图法, 就是一个简单的1×1像素的分类。直方图法的本质是通过计算给定图像的直方图, 寻找目标灰度级与背景灰度级的分界点T。比较过程如下:
(1)
可见, 分割面就是一个点T。
2.2 匹配法
考虑到直方图法仅在一维空间进行, 即分类时只考虑本像素。而实际的图像分类, 不仅和本像素的值有关, 而且和周围像素的值也具有强相关性。因此随后发展形成了匹配法(或称滤波法、卷积法)。即首先建立一个模板K, 然后在图像上移动, 计算模板K与其覆盖子图像X的卷积, 并与阈值T比较:
(2)
常见的区域提取算子如Sobel、Prewitt、Roberts、Laplacian等, 均属于匹配法。这些算子将图像分割成边缘与非边缘后, 将第奇数个边缘点和第偶数个边缘点之间的区域认定是目标, 其余部分则认定是 背景。
2.3 神经网络法
因为卷积KX是线性的, 所以匹配法本质上属于线性方法, KX<T在维数空间中的映射就是一个超平面。其缺点很明显: 如果最佳分界面不是平面怎么办？
神经网络能够有效解决这一难题。考虑到不同权值不同偏置的神经网络对应着不同的非线性变换, 因此神经网络方法可看作是一种“参数化”的非线性变换, 将匹配法中的“模板”推广为一个非线性的“网络”。比较过程如下:
(3)
式中: net表示神经网络。此时, net(X)<T在空间中的映射是超曲面, 但如何确定网络结构与权值这些参数也是个问题。
2.4 神经网络的意义
因此, 神经网络本身不是一个优化过程, 而是一个模型。通过NN, 将本来无从下手的如何确立一个非线性变换这个泛函优化问题, 转化为求解NN参数这样一个极值优化问题[3]。
有学者提出用1×1模板来实现基于NN的灰度图像分割, 但笔者认为存在以下不妥:
1) 维数空间降为一维, 超曲面退化为分界点, NN的优势无法体现;
2) 求分界点本身是一个极值优化问题, 不需要NN;
3) 求NN参数的计算量大于直接求分界点的计算量。
2.5 采用PSO优化权值的原因
BP是专为NN设计的一个快速调整网络参数的算法, 基于梯度进行搜索。由于在非线性问题上梯度搜索策略存在重大缺陷, 所以人们进行了很多改进。但是BP用于优化的效果其实并不理想[4]。 因此, 很多研究者提出采用进化算法来解决FNN网络的参数优化问题。例如, Motlaghi[5]采用GA优化, Fadaei[6]采用SA优化, Kahramanli[7]提出用AIS优化, Zhang[8]采用BCO优化, 效果均优于流行的各类BP算法及其变形。
PSO是一类性能更加优异的全局优化算法, 效率高, 结构简单, 代码短。因此, 本文采用PSO作为网络权值搜索的主体算法, 并加以改进。
3 用于图像分割的NN结构
假设2层神经网络, 其输入层、隐层和输出层的神经元个数分别为m、n、q, 本节讨论如何确定这些参数。
3.1 输入层神经元个数m
传统上, 利用NN分割图像, 均采用单个对应像素值作为神经元。但此时NN的作用只等同于“阈值法”, 即给定一个像素, 如果其值大于阈值, 判定为前景, 否则判定为背景。
本文将对应像素的3×3窗口内的9个像素均作为输入神经元, 以便NN判别某个像素时, 不仅可以利用该像素本身, 而且可以利用周围像素的信息, 使分类效果更好。
3.2 输出层神经元个数q
如果期望类数C已知, 则输出层神经元的个数
(4)
一般地, q=C, 此时若判定某个样本为第i类, 则有
(5)
显然, 将q设置为C可以清晰地从神经元的输出判别输入属于哪个类。当C=2时, 由于输出层的两个神经元始终互反, 故删去一个冗余者。
3.3 隐层神经元个数n
传统的设置隐层个数的方法如下: 1)测试不同隐层个数的网络; 2)计算各自的误差; 3)选择最佳值。这种方法不仅极其耗时, 而且有诸多限制。有学者给出一些近似公式, 如: n=(m+q)/2, 或n=(m+q)1/2+a(a是一个正常数)。但是, 这种估计方法极不科学。首先没有正式的理论指明n与m、q有关联, 其次影响隐层神经元数的因素, 仅是下列几种: 训练集中的样本个数、样本的信噪比、待拟合函数的复杂度、待分类的类数等。
采用一种基于信息熵的估计方法[9], 能很好地估计隐层神经元数, 其具体过程如下:
Step 1 将隐层神经元数目设置为充分大;
Step 2 用给定样本集P训练网络, 直到误差低于预设阈值;
Step 3 将训练后的网络能够正确识别的样本, 组成一个样本子集P¢;
Step 4 对网络输入P¢, 计算每个样本下每个隐层神经元的激活值Hij (i代表隐层神经元索引, j代表样本索引);
Step 5 将H沿每一行重新排序, 得到排序后的隐层神经元激活矩阵H¢, 记每行的排序映射为fi, 拟映射为fi-1;
Step 6 对H¢的每行, 分别假定一个切入点将该行分割成两块, 计算分割后的信息增益矩阵N(N的列数=H的列数-1, N的行数=H的行数);
Step 7 选择N中的最大值Nmn, 构建决策树的一个节点;
Step 8 P¢=P¢-fm-1{H¢m1, H¢m2,…, H¢mn};
Step 9 若P¢=, 则转Step 10; 否则转Step 4;
Step 10 搜索整个决策树, 寻找所有重要节点。重要节点总数就是该网络的隐层神经元数。
3.4 各层激活函数
经试验, 隐层激活函数选择“logsig”较宜, 输出层激活函数选择“purelin”较宜。
4 神经网络学习过程
考虑到NN本质上就是一个将m维输入向量X=(X1,…, Xm)变换到q维输出向量O=(O1,…,Oq)的非线性映射[10]。因此网络训练时, 给定某个输入样本向量, 其实际输出是权重和偏置的自变量函数:
(6)
式中: W和b分别是权重矩阵与偏置矩阵, a为网络的实际输出。假设t为对应的期望输出, SN为样本总数, 则网络的最小均方差可表示为:
(7)
神经网络通过训练, 不断调整节点之间的权值与偏置, 使网络输出逼近期望输出。
然而, 依靠网络自身的算法来实现网络收敛, 往往会陷入局部最优解。因此, 学者们提出用PSO算法来实现网络学习[11], 主要在于实现如图1所示的3个映射:

图1 神经网络与粒子群优化的映射
Fig. 1 Map between NN and PSO
1) 神经网络权值与粒子维度空间的映射
粒子群中每个粒子的维度分量都对应NN中的一个权值, 即NN包含权值与偏置的个数, 等于PSO中每个粒子的维数。
2) 神经网络MSE与粒子适应度函数的映射
将NN的MSE作为PSO的适应度函数, 通过PSO强大的搜索性能, 使网络的MSE最小化。
3) 神经网络的学习与粒子的搜索
NN的学习过程主要是权值和偏置不断更新, 使得MSE更小的过程; PSO的搜索过程是其不同维度上粒子的速度和位置的改变。考虑到每一个粒子对应了神经网络的一个权重与偏置的集合, 因此NN的学习过程等价于粒子的搜索最优位置。
5 改进粒子群优化
5.1 PSO概述
PSO将每个可行解视作一个粒子, 每个粒子有两个属性, 位置x与速度v。每次迭代过程中, 计算每个粒子的适应度函数, 然后将粒子群不断跟踪两个最好的粒子: 一个是当前粒子经历的最好位置, 称为“pBest”; 另一个是当前粒子邻域内最好的粒子, 称为“nBest”; 如果邻域为整个粒子群, 那么nBest变为全局最好的粒子, 称为“gBest”。
某粒子的速度与位置按照式(8)式(9)更新:
(8)
(9)
式中: w表示惯性权重(inertia weight), 控制过去速度对现在速度的影响; c1与c2是正常数, 表示加速度系数; r1与r2是两个在[0,1]上均匀分布的随机数; 表示时间间隔。必须注意的是, 粒子速度存在一个上限vmax, 以保证粒子的搜索不会太快。
5.2 改进思想
传统的PSO算法中, 参数(w, r1, r2)是影响收敛的关键参数。因此, 考虑到混沌算子的遍历性与独立性, 采用混沌算子来产生新的r1与r2, 并对惯性权重w进行自适应变换[12]。
同时为了更好地改进PSO, 引入人工免疫系统(AIS), 使得粒子可根据自身的亲和度(affinity)克隆。亲和度越高, 克隆体越多。图2为混沌免疫粒子群优化(CIPSO)的流程图。

图2 CIPSO的流程图
Fig. 2 Flowchart of CIPSO

5.3 克隆
在每代开始, 抗体群都要重新计算亲和度, 然后按照下列步骤运算: 首先进行亲和度的高低排序; 然后, 选择中间点将抗体群划分为优等(top-half)与劣等(foot-half); 优等的作为克隆的父体, 而劣等的作为交叉变异的父体, 如图3所示。

图3 克隆、交叉、变异的流程图
Fig. 3 Flow chart of clone, crossover and mutation

克隆采用轮盘(roulette-wheel)操作, 如图4所示。即事先按照父集中抗体的亲和度, 计算其归一化比例, 然后在轮盘中给每个抗体一个对应的区域。转动轮盘, 当指针停下时对应哪个区域, 就把该区域所对应的抗体复制一次。因此, 高亲和度值的抗体能以更大的概率复制自身。

图4 轮盘选择
Fig. 4 Selection of roulette-wheel

5.4 交叉
克隆使得整个抗体群向着当前最好抗体所在的位置移动, 这样容易“早熟”。因此, 有必要选用有效的交叉与变异手段来抑制早熟。注意交叉或变异有可能引入比父体更差的抗体, 这是为了保证抗体在解空间的遍历性。
选用“点对点交叉”策略, 即任选两个抗体, 然后任选抗体基因座的某个位置, 但必须保证该基因座上两个父体的基因值不同。然后互换该位置对应的点, 得到两个新抗体代替原来的旧抗体, 如图5 所示。

图5 交叉示意图
Fig. 5 Sketch map of crossover

5.5 变异
尽管复制与交叉可以产生新粒子, 但不引入新信息到当前群体中。因此, 采用混沌算子, 重新计算式(8)中的r1与r2:
(10)
式中: ri(0)(0,1)且ri(0){0.25,0.5,0.75}。通过式(10)得到的ri(t)会表现出遍历性与混沌性, 如图6 (a)所示。如果ri(0)在{0.25,0.5,0.75}中取值, 则ri(t)收敛到一个固定常数, 如图6(b)所示。
ri(t)的遍历性保证了粒子在解空间中的遍历性, 混沌性保证了粒子之间的彼此不相关性, 这就很好地解决了上述两个问题。

(a) r(0)=0.01 (b) r(0)={0.25,0.5,0.75}

图6 方程(10)的混沌特性
Fig. 6 Chaotic property of formula (10)

5.6 接受器修正
如5.4、5.5节所述, 为了使抗体在解空间遍历, 引入了交叉与变异因子, 但同时也不可避免地使得劣等解中可能会出现越来越差的抗体。因此, 选用“接受器修正”策略, 每隔若干步就消除劣质解中最差的部分。
6 实验结果与分析
6.1 网络的训练过程
从互联网上搜索到142幅细胞图像库, 将其均分为两类。一类利用Photoshop进行手工分割, 得到最优分割结果, 作为神经网络训练样本; 另一类作为测试样本。
最初的NN结构设为9-20-1, 然后用3.3节所述方法构建如图7的决策树。通过搜索该决策树, 最终发现了7个重要节点{1, 2, 4, 6, 7, 11, 18}, 因此, 网络结果最终确定为9-7-1。

图7 决策树用于确定隐层神经元个数
Fig. 7 Decision tree used to determine number
of neurons in hidden layer

6.2 网络的测试结果
对比算法采用BP、LM-BP, 评价准则采用误判率(ME)。定义为 (11)
式中: 是原图最佳分类(一般由先验知识与手工实验获得)后的第类的集合, 是采用算法自动分类后的第i类的集合。|·|表示集合的基数(cardinality)。ME从0变化到1, 对应着最佳分类到完全错分。
将测试样本输入训练好的网络, 并与采用BP算法和LM-BP算法比较, 可得如图8所示的分割结果。传统的BP模型等效于一个阈值分割: 直接采用BP算法, 结果如图8(b), 此时网络不能保证收敛到最佳阈值, 因此分割结果显得较差; 采用LM-BP算法的结果如图8(c), 此时尽管能收敛到全局最优的阈值, 但分割结果包含太多的孤立点, 以及细胞内部存在太多空白点。

(a) 原始图像; (b) BP, ME=0.1192

(c) LM-BP分割, (d) 本文算法分割,
ME=0.0932; ME=0.0498

图8 血细胞分割结果
Fig. 8 Segmentation of blood cells

本文提出的改进BP模型, 输入向量不仅考虑了像素本身值, 而且还考虑了周围的8个像素, 可视作一种动态的局部阈值分割, 结果如图8(d)所示。可见, 不仅分割基本将细胞提取出来, 而且孤立点、空白点大幅减少。
再用另一幅图像测试, 结果示于图9。图9(a)为原始图像, 图中两个偏大的细胞是白细胞, 其余偏小的是红细胞。图9 (b)显示了BP算法分割结果, 由于噪声影响, 把细胞之间的梗塞、污渍等也提取出来了, 不利于后续处理; 图9 (c)显示了LM-BP分割结果要好得多, 但仍存在较明显的孤立噪声。本文算法得到的结果示于图9(d), 可见其分割效果最好。

(a) 原始图像; (b) BP分割, ME=0.1540;

(c) LM-BP分割, (d) 本文算法分割,
ME=0.0428; ME=0.0227
图9 肠细胞分割结果
Fig. 9 Segmentation of intestinal cell

6.3 时间分析
将图8、图9的分割所耗时间列于表2。可见, BP算法耗时最多, 其次是本文算法, 耗时最少的是LM-BP算法。考虑到本文算法在分割方面的优越性, 这是值得的。

表2 运行时间对比/s
Table 2 Comparison of computation time
图像
大小
BP
LM-BP
本文算法
血细胞
225×225
10.87
1.32
2.86
肠细胞
249×249
12.36
1.39
2.91

7 结 论
本文提出一种基于BP神经网络分类的图像分割方法, 采用一种改进的PSO算法实现网络权值的搜索和一种基于信息熵的方法估计隐层神经元的个数。与传统BP和LM-BP的对比, 证实了本文算法的有效性。
参考文献:
[1] LIU Y K, EGHBALI M, Stefani E. Cell Image Quality and Point Spread Function Depends on Photomultiplier Sensitivity in a Fast Frame-Rate Multi-color Laser-Scanning Confocal Fluorescence Microscope[J]. Biophysical Journal, 2009, 96(3): 638a-639a.
[2] 张煜东, 吴乐南. 基于二维Tsallis熵的改进PCNN图像分割[J]. 东南大学学报: 自然科学版, 2008, 38(4): 579-584.
ZHANG Y D, WU L N. Image segmentation based on 2D tsallis entropy with improved pulse coupled neural networks[J]. Southeast University Journal: Nature and Science Edition. 2008, 38(4): 579-584.
[3] ZHANG Y D, WU L N. Stock market prediction of S & P 500 via combination of improved BCO Approach and BP Neural Network[J]. ESWA. 2009, 36: 8849-8854.
[4] 张煜东, 吴乐南, 吴含前. 工程优化问题中神经网络与进化算法的比较[J]. 计算机工程与应用. 2009, 45(3): 1-6.
ZHANG Y D, WU L N, WU H Q. Comparison of neural network and evolutionary algorithm on engineering optimization[J]. Computer Engineering and Application. 2009, 45(3): 1-6.
[5] MOTLAGHI S, JALALI F, AHMADABADI N. An expert system design for a crude oil distillation column with the neural networks model and the process optimization using genetic algorithm framework[J]. ESWA, 2008, 35(4): 1540-1545.
[6] FADAEI A H, SETAYESHI S. LONSA as a tool for loading pattern optimization for VVER-1000 using synergy of a neural network and simulated annealing[J]. Annals of Nuclear Energy. 2008, 35(10): 1968-1973.
[7] KAHRAMANLI H, ALLAHVERDI N. Rule extraction from trained adaptive neural networks using artificial immune systems[J]. ESWA. 2007.
[8] ZHANG Y D, WU L N. Optimizing Weights of Neural Network Using BCO[J], PIER, 2008, 83: 185-198.
[9] YUAN H C, XIONG F L, HUAI X Y. A method for estimating the number of hidden neurons in feed-forward neural networks based on information entropy[J]. Computers and electronics in agriculture. 2003, 40: 57-64.
[10] ZHANG Y D, WU L N. A novel pattern recognition method via PCNN and Tsallis entropy[J]. Sensors. 2008, 8(11): 7518-7529.
[11] 林晓梅, 吕珊珊, 朱丹, 等. 基于神经网络——粒子群优化算法的医学图像分割新方法[J]. 长春工业大学学报: 自然科学版, 2008, 29(2): 158-161.
LIN X M, LV SH SH, ZHU D, et al. A new particle swarm optimization algorithm for medical image segmentation based on neural network [J]. Journal of Changchun University of Technology: Nature Science Edition, 2008, 29(2): 158-161.
[12] HONG W C. Chaotic particle swarm optimization algorithm in a support vector regression electric load forecasting model. Energy Conversion and Management, 2009, 50: 105-117.
作者简介:
张煜东: 分别于2004年和2007年在南京航空航天大学获得学士学位、硕士学位, 现为东南大学在读博士生, 主要研究方向为神经网络、进化算法。
E-mail: zhangyudongnuaa@
Zhang Yudong: received BS and MS both from Nanjing University of Aeronautics and Astronautics in 2004 and 2007, respectively. Now he is a PhD candidate in School of Information Science and Engineering, Southeast University. His research interests are neural networks and evolutionary algorithm.

第3期 汤清虎 等: 非晶态Mn-Ce-O催化芒香醇选择氧化 7