四大优化算法

高概括总结

说到优化算法，就不得不提四大优化算法

• 遗传算法（Genetic Algorithm, GA）

  • 模拟：自然选择和遗传
  • 核心：通过选择、交叉和变异操作在种群中产生新的解，以期在迭代过程中找到问题的最优解
  • 应用：可调整神经网络，组合优化问题（多个独立参数找最优解组合问题）

• 粒子群优化算法（Particle Swarm Optimization, PSO）

  • 模拟：鸟群觅食行为
  • 核心：个体作为粒子在解空间中移动，通过个体历史最优位置和群体历史最优位置来调整自身速度和方向

• 蚁群算法（Ant Colony Algorithm, ACA）

  • 模拟：蚂蚁觅食行为
  • 核心：通过信息素的沉积和挥发来引导蚂蚁寻找食物，从而在迭代过程中发现最优路径
  • 应用：旅行商问题 (TSP)

• 模拟退火算法（Simulated Annealing, SA）

  • 模拟：物理退火过程
  • 核心：通过模拟物质冷却过程中的随机搜索，以一定概率接受次优解，从而跳出局部最优，寻找全局最优解

相同点

• 都是找相对最优解，核心都是最优的解群 + 随机
• 随机性：都有。细节可能不同，可能是变异等
• 最优策略：
  • 遗传：交叉结合
  • 粒子群：更新个体和群体的最优位置，调整飞行路径
  • 蚁群算法：路径信息素浓度，奖励机制
  • 退火：（根据最低温、最高温、温度衰减控制）