第315章 大脑的刹车
“未来智能项目组”
的会议室里,气氛压抑。
那三张并列的、触目惊心的突触权重矩阵图,还停留在全息屏幕上,象三份无法回避的“罪证”
,无声地宣告着他们刚刚经历的那场“灾难性”
的失败。
“我们尝试了降低学习率,也试过在损失函数中增加对旧任务的‘记忆’惩罚项。”
索菲亚疲惫地汇报道,她的面前,是一沓打印出来的、新的测试结果,“但效果都不理想。
要么,新知识的学习速度变得极慢;要么,旧知识的遗忘速度只是稍微减缓,但最终还是会被复盖。”
“看起来,‘复习’是绕不过去的。”
周嘉豪也补充道,“我们测试了混合训练的模式,也就是在训练新数字的同时,把旧数字的数据也掺进去一起训练。
这样做,确实可以解决遗忘问题,但训练成本,正如之前所担心的,随着知识库的扩大,会急剧增加,最终变得不可行。”
团队陷入了一个两难的境地。
他们创造出的“可塑性”
网络,象一个没有自控能力的“暴食症患者”
,对新知识的渴望会摧毁它已经拥有的一切。
在穷尽了所有计算机科学领域的常规解决方案后,徐涛做出了一个决定。
“把问题,正式提交给丰院士。”
他对众人说,“我们不能再闭门造车了。
这个问题,很可能已经超出了算法优化的范畴,答案,或许还藏在生物学之中。”
第二天上午,一场由丰院士亲自主持的问题研讨会,在同一间会议室召开。
徐涛将他们遇到的“灾难性遗忘”
问题,以及所有的测试数据、失败的尝试,都毫无保留地向丰院士作了完整的汇报。
在徐涛讲述的过程中,会议室里的年轻成员们,表情都有些沮丧和不安,仿佛是一群搞砸了实验、等待老师批评的学生
然而,出乎所有人意料的是,从头到尾安静地听完汇报的丰院士,脸上非但没有任何意外或失望的表情,反而露出了一个“果然如此”
的、了然于胸的微笑。
“很好,非常好。”
丰院士开口的第一句话,就让所有人都愣住了。
本章未完,点击下一页继续阅读