建立企业网站的步骤外贸网站搭建推广

建立企业网站的步骤,外贸网站搭建推广,互联网保险论文,网站开发外包公司有哪些部门上一篇文章里介绍了Encoder#xff0c;本篇文章来介绍Decoder以语音辨识问题为例。一种典型的Decoder结构是Autoregressive#xff08;自回归#xff09;的Decoder。即每一步的输出依赖于之前的所有输出。有了Encoder的输出以后#xff0c;将其一次性输入Decoder#xff0…上一篇文章里介绍了Encoder本篇文章来介绍Decoder以语音辨识问题为例。一种典型的Decoder结构是Autoregressive自回归的Decoder。即每一步的输出依赖于之前的所有输出。有了Encoder的输出以后将其一次性输入Decoder并且伴随一个起始标识Decoder的直接输出的是一个概率分布例如如果是语音转中文辨识问题会给出一组中文字表这个中文字表需要事先人为设定以及其对应的概率分布然后将最大概率对应的字作为输出有了第一个输出Decoder会把这个输出连带之前的输入一起作为新的输入再得到新的概率分布再找到对应的中文字然后重复上述过程。Decoder的内部结构如下可以将其和Encoder做一个对比比较重要的几个点这里的Multi-Head Attention机制增加了Masked操作。完整的Self-Attention机制如上我们知道Self-Attention机制就是结合上下文机制即每一个输入向量分量要考虑其它所有分量的相关度。而增加了Masked以后其表示图如下其实是每一个输入向量分量在计算相关度时只能考虑在它之前出现过的分量而不能考虑在它之后出现过的分量。Decoder在上述语音辨识问题中还要遇到一个问题就是判断输出何时停止。那么这时需要在前面提到的中文字表中添加一个“end”即停止标识。Encoder和Decoder交互的地方实际如下图Cross attention部分其详细作用过程如下给Encoder输入语音序列在经过Encoder的多block处理后得到一排向量。首先将begin向量作为Mask Self-attention层的输入得到第一个输出向量计算该向量的q向量利用self-attention中的k、v向量生成机制计算出Encoder每个输出向量的k、v向量将其组合产生输出向量通过全链接神经网络最终得到一个输出词将这个输出词作为新的输入交给Mask Self-attention层计算和之前的所有输入向量的相关度继续得到新的输出然后继续和Encoder的输出进行self-attention操作然后循环此操作。将Mask Self-Attention的输出向量和Encoder的输出向量进行Self-Attention操作称之为Cross attention计算。下面介绍Transformer如何训练。以中文语音辨识为例显然数据集格式应该为输入语音输出文字序列我们知道Decoder直接输出每个向量是一组概率分布如第一个输出{机0.8器0.1学0.1习0}而实际上第一个输出向量标签为“机”转化成独热码形式应该是{机1器0学0习0}显然这类似一个多分类问题可以用交叉熵作为损失函数在第一个输出向量中。这里需要特别提醒的是在训练阶段Decoder的输入是人为给定正确答案而不是用其自己根据起始Begin向量生成的向量通过cross attention生成的输出向量作为输入再做mask self-attention。