一组粗略的类比

这是一个关于生物学与深度学习的粗略类比的笔记，这些类比中的大多数都是非常推测性和探索性的，但我发现它们很有趣并且值得思考.

生物学	深度学习
外界环境	输入数据
认知过程	特征提取
基因	神经网络权重结构 (特征)
基因突变	神经网络权重结构改变
性状	神经网络功能
细胞	神经元
组织 (细胞分化)	神经网络在后面的层
器官	神经网络专门处理特定任务的组件
个体	模型
繁殖	迭代
反馈调节	优化器 (eg: 梯度下降) 更新网络的机制
自然选择	损失函数定向衡量性能
进化	学习
进化 = 基因突变 + 自然选择 (定向)	学习 = 神经网络权重结构改变 + 损失函数定向衡量性能
基因决定性状	神经网络权重结构可以决定神经网络功能
个体繁殖	模型迭代