“你把这些小碎片一层一层地拼,拼到最后,理论上你能拼出整句话的意思。这就是cnn干的事。拿一个小放大镜,一小块一小块地看,然后靠叠加很多层来慢慢扩大你的视野。”
他停了一拍。
“你的残差连接解决了什么问题?解决了叠加层数时信号衰减的问题。换句话说,你让这个放大镜可以叠很多很多层了,不会失灵了。这很了不起。”
任少卿听出了这句话后面跟着一个“但是”。
果然。
“但放大镜终究是放大镜。”
顾屿用笔尖在那行字的第一个字和最后一个字之间画了一条红色的连线。
“如果这句话的第一个字'今'和最后一个字'吧'之间存在某种关键的联系呢?你得叠多少层,才能让第一层的卷积核'看到'最后一个字?”
任少卿的嘴唇动了一下。
“图像上你感受不到这个问题。”
顾屿把笔盖盖上,转过身面对任少卿。
“因为一张照片里,猫的耳朵和猫的眼睛挨得很近,它们天生就在一个局部窗口里。卷积核天然适合干这个活。”
“但如果有一天,你要处理的东西不是图片呢?”
会议室里安静了几秒。只有中央空调出风口的微弱嗡鸣声。
“比如一篇文章。”
顾屿说。
“比如一整本小说。第一章的伏笔,要到最后一章才回收。中间隔了几十万字。你的卷积核要滑多少次才能把它们联系起来?”
任少卿没有接话。
顾屿没有急着往下说。
他把马克笔放回白板槽里,走回座位坐下,端起桌上已经凉透的茶杯喝了一口。
给任少卿留消化的时间。