漫谈人工智能之一(2)

计算机发明出来就是帮人类处理大数据的，你把成千上万乃至上亿的数据一排一排列出来，“超高维”不足为奇。用什么方法来破解超高维数据蕴含的秘密？就看各家功夫了。线性方法最易于理解和计算（比如Andrew Ng老师讲机器学习的经典课程就是从线性回归讲起的），但是“直来直去”的缺陷也很明显。各派武功中，计算机学家们喜欢用离散的数据结构，推出各种“树”和“森林”等遍历搜索方法；统计学家们信奉“存在即合理”的贝叶斯理论，正过来P（A|B）不好算我就倒过来算P（B|A），效果相当不错；古典数学流派祭出“核变换”的秘籍，把高维空间的一个椭球变成低维空间的一个线性平面（还记得高中解析几何里教的球坐标吧？就是它！），然后还能把低维平面的边界距离远近都算的清清楚楚。这招叫SVM，也称霸武林十几年。

但这些武功有一个问题，就是只用了单层复杂函数来模拟现实。现实世界是复杂的，用单层复杂模型难免会顾此失彼，别说在图像识别这种领域里“鼻子眼睛眉毛”这些特征都很难用一句话说清楚，计算机的表现差强人意就不奇怪了。

深度学习的前生叫“神经网络”，单层神经网络叫“感知机”，名字取得挺好听，实际上啥也感知不了，武功弱爆了，基本被上面说的各派武功秒杀。好在“神经网络派”虽小，但是几位长老不甘心，孤心苦诣研究出多层神经网络，终在几次华山论剑中大胜，从此名动江湖，有了人工智能的今天。

啰嗦了半天，到底多层神经网络（深度学习）为什么牛？最重要的一点就是深度学习用非线性的拟合函数一层一层套下去，无限逼近任何函数数据模型！N层网络套下来，这个函数在纸上根本都写不下。相当于在高维非线性空间里创造出一个可以任意弯曲的超级粒子“深度子”！（函数即粒子，恕我借用了量子力学中“波粒二象性”的观点）。这个“深度子”能量超高，具备万有逼近能力，前面说的“树子”，“SVM子”等等处理相对简单的“小数据”问题还行，在比拼模拟真实复杂世界的能力上，一下子就输给“深度子”了（比如说图像识别大赛）。

驾驭“深度子”非常不易，神经网络派长老们用了王重阳的办法，以多打一，用“天罡北斗七星阵”，结阵御敌。层数一多，阵中参数上亿，变化玄妙，人类不能参透。长老们陆续想出了一些方法，比如说

1、下山法（GD算法）：深度学习要做得事情其实就是找到给定高维空间中目标函数的最小值。这如同要求“深度子”在有无数崎岖山峰的大山中寻找最低点，牛顿300多年前发明的“下山法”就帮上忙了，“深度子”每到一处就丈量四周坡度，找个最陡的角度往下俯冲；

2、回溯法（BP算法）：“深度子”找最低点不可能一蹴而就，长老们就在终点检查“深度子”交的作业，如果结果不理想，长老们就沿着“北斗七星阵”逆流回溯，哪个节点做得最差就让从哪里改起，逐步优化（只听王重阳喝到：孙不二，你这剑力量弱了，让敌人跑了，赶紧加力）。

3、卷积法（CNN）：比如说要从千万张的二维图像中分辨中是猫、狗、猴子，“深度子”先化身为一个小范围扫描仪，扫遍全图分析结果。这样一遍一遍扫下来，“深度子”就逐步能认出毛发，眉眼，再到面貌，最后给长老交作业：这是猫！那是狗！嗯，这个不太确定，像是个猴子。

4、循环法（RNN）：深度神经网络阵法一经催动，变幻如流水；流水川流不息，就算最后在入海口能通过CNN辨别万象，但是逝者如斯夫，不会形成“记忆”；这样处理时序问题就不太行。循环算法大致就是让阵中前后相连的神经元捉对循环演练（孙不二和郝大通互相推手N次再练下一招，这样孙不二就对郝大通的武功有了记忆）。RNN有个变种叫LSTM，特别适合做语义理解和机器翻译。(责任编辑：方向)