07-计算智能

计算智能

神经网络

人工神经元模型

神经网络连接形式

前向网络：第一层输入层、中间层隐含层、最后一层输出，输入层与输出层神经元个数可以不一致
从输入到输出有反馈的前向网络：输入层与输出层神经元个数必须不一致
同层的层内互连前向网络
相互结合型网络（全连接）

神经网络的学习算法

有监督学习：输出与期望输出作比较（即监督），调整连接权重，将差异变小
无监督学习
再励学习

学习规则（调整权重规则）

hebb学习规则：该权重的改变值是两个连接神经元的输出，以及学习速率（给定的常量）的乘积
delta学习规则：该权重的改变值是前一个神经元的输出，和后一个神经元的期望输出和实际输出的差值函数值的乘积，以及学习速率（给定的常量）的乘积

单层感知器网络

响应函数：阈值函数 $F(x)=\begin{cases} 0 \\ 1 \end{cases}$

解决：分类问题

线性神经网络

响应函数：线性函数 $F(x)=x$

解决：线性拟合问题

W-H学习算法

误差： $E=|Y-Y_真|^2$

响应函数类型： $Y=WX+B$

梯度下降思想：用误差对响应函数求导，将WB将向导数反方向进行调整

BP神经网络（反向传播）

模型：至少三层前向网络模型（输入层、隐含层、输出层）

误差效能： $误差*输出层响应函数的求导$

隐含层权重的修正量： $学习率*后一个神经元的误差效能*前一个神经元的输入$

解决：非线性问题

进化计算

基本原理

自然选择、优胜略汰
生物遗传学
随机自适应的全局搜索算法

遗传算法

编码与译码：问题的解转换为位串形式，反正为译码
- 基因型（染色体）：位串
  - 染色体长度：位串长度
  - 基因位：位串的一位
- 表现型：解码后的位串
- 解空间：表现型的空间
- 编码空间：基因型空间，搜索空间
- 编码：位串与解空间的映射
- 种群：个体集合（遗传算法中种群规模不变）
适应度函数
- 评价个体的优秀程度
- 越优秀函数值越大
- 函数值都大于等于零
遗传操作
1. 选择：轮盘赌、转轮法
  1. 染色体的选择概率： $\frac{该个体适应度函数值} {所有个体适应度函数值之和}$
  2. 每个个体的累计概率： $当前选择概率+之前所有个体选择概率$
  3. 产生随机数，根据随机数大小在累计概率那个区间，选择出个体，放入交配池
2. 交叉
  - 交叉概率：根据交叉概率，选取交叉多少对个体
  - 随机选择交配池中的两条染色体，随机指定一点或多点交叉位置，进行交换，得到两条新染色体
3. 变异
  - 根据变异概率在交叉后的新个体中选择个体变异

模糊计算

模糊性和随机性的区别

随机性：是描述事件或现象含义是清楚的，可能事件概率总和为1

模糊性：所描述的现象或概念本身边界是不清楚的，模糊性用可能性来度量，也是0到1之间的数，但是总和不要求是1

模糊集

模糊集（隶属度集或隶属函数映射集）：0到1之间的数表示状态，属于该状态的程度，即隶属度，越大越属于，一个模糊集对应一个模糊语言值

经典集：0或1表示状态

论域：讨论的范围，可以是连续的，也可以是不连续的

隶属函数：将论域映射到0到1上的一个数字，用来映射模糊集

模糊集表示

$F=隶属度/论域中的一个值+...$
$F=隶属度函数/论域中的一个值+...$

模糊集的运算

相等：两个模糊集合所有元素相等则模糊集相等

包含：一个模糊集中的元素都小于或等于另一个模糊集，则这个集合包含另一个集合，另一个集合其实更加精确

并集：两个模糊集同一个论域点，隶属度取最大，表示两个模糊语言的或者关系

交集：连个模糊集同一个论域点，隶属度取最小，表示连个模糊语言同时满足

补集：记作~F，将集合中的所有隶属函数换成 $1-u_F(u)$ ，表示该模糊集的非集

集中：将模糊集中的隶属度平方，表示非常，很等修饰

扩张：将模糊集中的隶属度开根号，表示有些，稍微等修饰

加强对比：对隶属度0.5以上 $2u_F^2(u)$ ，对0.5以下 $1-2(1-u_F(u))^2$ ，表示明确，确定等修饰

模糊关系

两个模糊关系做笛卡尔乘积，V={郭德纲，于谦}，U={抽烟，喝酒，烫头}，，U×V={（郭德纲，抽烟），（郭德纲，喝酒），（郭德纲，烫头），（于谦，抽烟），（于谦，喝酒），（于谦，烫头）}
对得到的结果计算隶属度，有关系的程度 $\mu_R(于谦，烫头)=1$ 等
使用矩阵表示 $\mu_R$ 的值，一行表示一个U元素，一列表示一个V元素

$\begin{matrix} 0.1 & 0.2 & 0.3 \\ 0.4 & 0.5 & 1 \end{matrix}$

模糊关系合成

对于两个关系矩阵R1（模糊集1×模糊集2）和R2（模糊集2×模糊集3），合成记作R=R1·R2，合成方法如下，最终得到的关系是模糊集1和模糊集3的关系

模糊变换（推导另一个模糊集）

已知一个模糊集（F），已知模糊关系矩阵（R=U×V），则 $F·R=G$ ，运算方法与关系合成一样

模糊推理

模糊概念的匹配

海明距离：两个模糊集的每个隶属度做差取绝对值，全部相加后取平均， $d(F,G)=\frac{\vert\mu_F(u_1)-\mu_G(u_1)\vert + \vert\mu_F(u_2)-\mu_G(u_2)\vert + ... +\vert\mu_F(u_n)-\mu_G(u_n)\vert}{n}$
贴进度：内积加上一减去外积除以二， $(F,G)= \frac{(F·G+(1-F\bigodot G))}{2}$
- 内积：先两个模糊集中每对应个元素取最小，再整体取最大 $F·G=max<min(\mu_F(u_1),\mu_G(u_1)),min(\mu_F(u_2),\mu_G(u_2)),...,min(\mu_F(u_n),\mu_G(u_n))>$
- 外积：先两个模糊集中对应元素取最大，再整体取最小 $F\bigodot G=min<max(\mu_F(u_1),\mu_G(u_1)),max(\mu_F(u_2),\mu_G(u_2)),...,max(\mu_F(u_n),\mu_G(u_n))>$