Sotelo, Jose, et al. “Char2wav: End-to-end speech synthesis.” (2017).
Char2Wav是一个2017年发表在ICLR上的语音合成模型。
作者： AI柠檬博主
GolnazGhiasi, Tsung-YiLin, QuocV.Le
Google Brain
摘要
当深度神经网络被过度参数化并经过大量噪声和正则化训练（例如权重衰减和dropout）时，它们通常可以很好地工作。尽管Dropout被广泛用作全连接层的正则化技术，但对于卷积层而言，效果通常较差。卷积层Dropout的不太成功可能是由于以下事实：卷积层中的激活单元在空间上相关，因此尽管有丢失，信息仍可以通过卷积网络流动。因此，需要结构化的Dropout形式来规范卷积网络。在本文中，我们介绍了DropBlock，这是一种结构化的Dropout形式，其中特征图的连续区域中的单元被一起Drop掉。我们发现，在卷积层之外的跳过连接中应用DropbBlock可以提高准确性。同样，在训练过程中逐渐增加的Drop单元数量会产生更佳的准确性和对超参数选择的鲁棒性。大量的实验表明，在正则化卷积网络中，DropBlock的效果要优于Dropout。在ImageNet分类中，带有DropBlock的ResNet-50体系结构可实现78.13％的准确度，比基线提高了1.6％以上。在COCO检测时，DropBlock将RetinaNet的平均精度从36.8％提高到38.4％。
Ghiasi, Golnaz, Tsung-Yi Lin, and Quoc V. Le. “Dropblock: A regularization method for convolutional networks.” Advances in Neural Information Processing Systems. 2018.
卷积层Dropout的不太成功可能是由于以下事实：卷积层中的激活单元在空间上相关，因此尽管有丢失，信息仍可以通过卷积网络流动。所以我们需要使用一个新的可以用于卷积层的Drop方法。
摘要： 在使用机器学习处理一些实际场景中的任务时，往往会面临可获取的数据量不多的问题，而生物信息学就是这样的一个领域。生物信息学相关数据的样本量有限，而且往往样本正反例不平衡，主要为正例样本，并且数据的标注成本较高，而迁移学习技术使得在这样的条件下进行机器学习成为了可能。本文主要论述使用迁移学习进行生物信息学研究的可行性、有效性和重要性。
关键词： 生物信息学; 迁移学习
由于很多同学需要使用Windows系统进行GPU上的计算，比如运行TensorFlow或者Pytorch等，在Windows上正确安装CUDA和CUDNN则成了一个关键的问题。与在Linux上安装的整体流程类似，但是还有一些细节要注意，本文以Windows 10系统为例，进行CUDA环境的安装，并以TensorFlow验证安装的成功。
注：Windows下 TensorFlow的GPU版本最多支持到2.10版本，2.11及以后版本仅支持CPU，如果运行 tf.test.is_gpu_available() 是 False的话，需要注意是否是这种情况。
摘要：2020年我们遭受到了新型冠状病毒肺炎疫情的袭击，幸运的是，高新技术为我们中国此次抗击疫情，提供了最先进的、最有力的武器，这是我们战胜疫情的法宝。包括疫情在内，人类战胜大灾大疫等重大突发危机事件，都离不开科学的发展，以及技术的创新。
关键词：科技力量；抗疫；危机事件
AI柠檬之前发布过一篇总结有哪些开源的中文语音数据集的文章（详见：几个最新免费开源的中文语音数据集），这里我将再总结一些免费开源的英文语音数据集，以方便大家做科研和工程时能够使用到。并且这里列举出的英文语音数据集可以确保能够下载和使用，并且是免费开源的，下载链接见文末。
我们说软件体系结构的时候，常常说的是静态的体系结构。众所周知，静态的体系结构在运行的时候是不会发生结构上的变更的。而每当在结构上有变更的时候，比如给软件增加一个新的功能，新的模块，都需要重新编译相关的组件并部署。由于这个部署常常需要重启软件，这给一些软件的运行维护带来了极大的挑战，比如金融类的软件系统，正常情况下不能停止运行，哪怕数秒时间，否则会产生很多麻烦。而通过动态软件体系结构，使用可以“热插拔”的插件，我们就能够实现“给奔跑的汽车换零件”。
大约三周前，一位GitHub用户在ASRT开源语音识别项目提交了一个Issue，指出该项目不能运行于TensorFlow 2.X环境下，存在兼容问题。于是他上周向本项目提交了修改代码的Pull Request。经过本人实际测试，修改后的代码同时兼容TensorFlow 1.X版和2.X版，并且完全无错误正确运行。
“家是最小国，国是千万家”，是一句耳熟能详的歌词，时常会在我们的耳边响起。从古至今，对于英雄或者做出了突出贡献的人们，我们也经常会提到一个词，那就是“家国情怀”。家国情怀是《礼记》里修身齐家治国平天下的人文理想，是《岳阳楼记》中“先天下之忧而忧，后天下之乐而乐”的大任担当，也是中国人的精神谱系里，国家与家庭、社会与个人的一种密不可分的整体思维。而这次疫情，让中国人的“家与国“，在社会中的各个角落里，体现得淋漓尽致。
