机器也有烦恼,需要“做梦”来忘掉
他们的答案发表在4月份出版的《神经网络》(Neural Networks)杂志上的一篇论文中。在新的框架下,人工网络在标准的在线或清醒期间会持续学习和存储信息模式(作为记忆)。但当存储容量达到0.14时,网络被迫进入脱机或休眠状态。这个睡眠阶段用来删除不相关的信息,并巩固重要的信息,或者更专业一点的说法是,用于“去除虚假模式和强化纯粹模式”。通过增加这样一个离线过程,网络能够释放存储空间,并将容量增加到1。
随着生物进化,哺乳动物的大脑知道哪些信息应该被整合,哪些应该被删除,但人工网络需要人来承担这项任务。巴拉说:网络本身不知道什么重要,什么不重要,所以必须要由人类来告诉它。”
哺乳动物的大脑和人工智能还有其他技术上的差异。例如,在人类大脑中,清除和巩固发生在两个不同的睡眠阶段(REM和SW);而当网络处于睡眠状态时,两个任务是同时发生的。也许人类睡眠与机器睡眠最大的区别在于,我们可以自主地进行睡眠和打盹儿,而人工网络的睡眠是由数学触发的。
有了公共领域的新框架,巴拉的工作就结束了。他说:“我是一个理论物理学家,我负责开发数学框架,现在是工程师们实现它的时候了。也许人工网络可以好好睡上一觉。
译者:Jane
本文来自: 36氪