作者:TAVISHSRIVASTAVA
翻译:王雨桐
校对:丁楠雅
本文约字,建议阅读15分钟。
本文将通过思想实验和一些应用案例来简要介绍序列模型的必备知识。
简介
众所周知,人工神经网络(ANN)的设计思路是模仿人脑结构。但是直到10年前,ANN和人类大脑之间唯一的共同点是对实体的命名方式(例如神经元)。由于预测能力较弱并且实际应用的领域较少,这样的神经网络几乎毫无用处。
但是随着近十年来技术的飞速进步,神经网络越来越接近人脑,这使得ANN在各个行业中应用得越来越多。
本文中,我们将介绍人工神经网络(ANN)领域的两大革新,这些革新使得ANN更接近于人类大脑。
目录
ANN领域的两大革新
思想实验
序列模型的实际应用
序列生成器
序列到序列NLP模型
一些非文本的序列到序列模型
ANN领域的两大革新
随着GPU极大地提升了计算能力,我们可以大幅度地增加神经元的深度和广度。然而这样的人工神经网络仍然远远不及大脑的神经元数量。
ANN现在既可以处理输入节点的序列数据,也可以处理输出节点的序列数据。这和我们大脑的工作模式一样。人类大脑并不是通过二分类来理解复杂的理念的。基于一系列给定的信息,我们形成了“思想”,随后大脑会通过一系列可以理解的词汇来表达“思想”。
我们能否在ANN中引入“思想”的概念呢?答案是肯定的,本文将进一步讨论这个理念。
现实世界的大部分数据都是以序列的形式出现的,这使得序列模型受到越来越多的北京治疗白癜风哪家正规哈尔滨白癜风