当训练和测试完成一个深度学习模型之后，如果我们打算将这个算法模型上线，投入生产环境部署使用，那么我们就需要做一些额外的处理工作。由于深度学习模型对于算力需求较大，在上线过程中，一般有减小网络规模、使用专用硬件和通过C/S架构联网进行云端计算这三种方式。AI柠檬博主推荐使用第三种方式，即模型部署于服务器端，客户端通过网络将输入数据发送至服务器，计算得结果后传递给客户端。5G时代就在眼前，IPv6协议大规模部署，万物即将互联，尤其是无线移动互联网作为重要的基础设施是大势所趋。通过联网，即使是成本最低的低端的硬件，也可以在不损失精度的情况下，能够以更快的速度得到深度学习模型的计算结果。例如，ASRT语音识别系统就是以这种方式进行模型的部署的，已经能够为AI柠檬网站提供语音识别服务，用于语音搜索等任务。
近日，来自 FAIR 的研究者提出结合自训练和无监督预训练执行语音识别任务，证明这两种方法存在互补性，并取得了不错的结果。
来自机器之心翻译，有修改 https://www.jiqizhixin.com/articles/2020-11-05-10
自训练和无监督预训练已经成为使用无标注数据改进语音识别系统的有效方法。但是，我们尚不清楚它们能否学习类似的模式，或者它们能够实现有效结合。
最近，Facebook 人工智能研究院（FAIR）一项研究显示，伪标注和使用 wav2vec 2.0 进行预训练在多种标注数据设置中具备互补性。
只需来自 Libri-light 数据集的 10 分钟标注数据和来自 LibriVox 数据集的 5.3 万小时无标注数据，该方法就能在 Librispeech clean 和 other 测试集上取得 3.0%/5.2% 的 WER（词错率），甚至打败了仅仅一年前的基于 960 个小时标注数据训练的最优系统。在 Librispeech 所有标注数据上训练后，该方法可以达到 1.5%/3.1% 的词错率。
ASRT项目最近新上线了Python3版的SDK，并在GitHub与国内的Gitee上同步开源，以方便各位使用Python直接测试ASRT最终的使用效果，欢迎大家使用。开源项目地址为：
https://github.com/nl8590687/ASRT_SDK_Python3
https://gitee.com/ailemon/ASRT_SDK_Python3
大家也可以直接接入使用AI柠檬部署的ASRT语音识别服务API接口，详见ASRT语音识别项目文档( https://asrt.ailemon.net/docs/ )。由于后端服务器的规模和性能限制，以及网络的延迟，可能存在着等待时间偏长的问题，请耐心等待。
谷歌在2019年提出了用于语音识别数据增强的SpecAugment算法，基本原理是对频谱图进行各种遮盖，例如横向进行频率范围遮盖，以及纵向进行时间段遮盖，也可以将二者组合起来，如图所示。本文将以代码来介绍在实际应用中如何复现SpecAugment算法，并介绍如何将该代码应用到AI柠檬的ASRT语音识别系统( https://github.com/nl8590687/ASRT_SpeechRecognition )的训练中。
毕竟确实是有用的！每写一篇技术博客都是对自己技术学习的督促，也是对自己实际写作能力的考验，更是对自己独立思考和逻辑思维能力的锻炼。“天下文章一大抄”，还有“天下代码一大抄”，在互相抄来抄去的时代，能够自己原创写作，写出好文章，与自己原创从头一点一点编写好代码是一样的。有条件的话可以买一个自己的域名和服务器搭建独立博客，独立博客是自己的专属天地，如同自己的家一般，这里的一切规则由自己喜好主导，页面排版如何展示也自己说了算！在写博客前后，跟读者的交流也是自己的创意和想法的来源，如果自己有什么项目作品，博客还是发布自己的作品的绝佳平台！
在DNN-HMM架构的语音识别系统的声学模型中，训练一个DNN模型通常需要先进行帧和标签的对齐操作，此时需要先使用GMM通过EM算法不断迭代实现。而且隐马尔可夫假设一直饱受诟病，随着深度学习的发展，尤其是基于CTC的CNN和RNN模型的出现，使得实现端到端的语音识别声学模型成为了可能。CTC由于其强大的在时间序列上进行标签自动对齐的能力，可被用于语音识别、图像验证码(或者文本)识别和视频手势识别(手语识别)等问题中。
熟悉AI柠檬博主的可能会知道，博主除了有搭建在公有云（阿里云和腾讯云等）上的博客和ASRT语音识别项目相关的网站等服务外，还在自己的局域网里搭建了一个物理的私有云服务器，用于个人数据文件的存储，以及一些计算的需求。并且，私有云上的部分服务也是可以通过公网访问的，而且部分公网上的服务也依赖于我的私有云，这样解决了数据存储安全性、数据访问便捷性和综合成本的节约的问题。或许你也需要一套这样的混合云解决方案！
RNN是循环神经网络的缩写，并且也是循环网络结构中的一种，我们通常使用这种网络模型来处理序列型的数据。语音识别处理的就是一个典型的有时间顺序的序列数据，自然语言文本也是。在一个普通的DNN网络中，层与层之间是全连接的，而每层中的神经元节点之间不存在任何连接，这样的一种普通DNN网络结构难以解决很多问题。以语音识别为例，不同时刻t的语音包含的字，在推理计算时，需要根据上下文来确定应该输出为什么字符，而且结果应当跟具体所在时刻t无关，否则会出现不同时间说相同的字会产生不同的识别输出的问题。
循环网络就解决了这个问题，这有点类似于隐马尔可夫模型，对于每一时刻的输入，所产生的输出值，不仅仅依赖于当前时刻t，还依赖于前N个时刻的输出值。这主要是通过在每一个循环层单元中，添加了一个记忆单元实现的。
2020年计算机类专业的校招找工作情况可谓是“卷”，“僧多粥少”的局面依旧，尤其是算法岗，但其他岗位也水涨船高，hc和简历投递数悬殊的比例持续扩大。很多用人单位在要求的第一条就明确写到需要至少有一篇顶会或顶刊的论文，甚至会再次强调这一条很重要，让求职者明白岗位要求后再投递简历，更有甚者有形无形中会对求职者的学历和毕业学校有要求。
那么难道我们上大学、读研究生学计算机专业的求职就业前景真的就越来越黯淡了吗？AI柠檬博主这样看。
卷积神经网络是模式识别分类常用的网络结构之一，在大规模的图像识别等方面有着很大的优势。本文将总结卷积层、反卷积层、感受野、权重参数数量等卷积神经网络相关的原理和计算过程。
