本篇文章1384字,读完约3分钟
最近,雷锋。com开启了深度学习三巨头中的头两个:辛顿、勒昆和本吉奥,但只有最后一个本吉奥。作为为数不多的仍致力于学术深度学习的教授之一,他在网上的生平介绍自然要比前两位少得多,但雷锋除外。com已经尽了他的职责,开了一个小专家,找到了我们能为每个人找到的所有信息,这样他就不能再生活在传说中了。
1.根据本吉奥的博客自我报告,本吉奥在20世纪80年代还是学生时,(深度学习)只是神经网络中的一个概念,也是深度学习的前身。他被这个概念迷住了,决定在计算机科学领域开始他的学术生涯。
2.根据网上发布的图表,本吉奥是吴恩达老师乔丹的博士后研究员。
3.从1992年到1993年,yann lecun和yoshua bengio是at&t Bell实验室的同事。
4.本吉奥的论文《神经概率语言模型》开创了神经网络作为语言模型的先河。其中的思想影响和启发了许多关于基于神经网络的自然语音处理的文章。
5.5.bengio的博士后导师jordan也提到:“到目前为止,在更高级的自然语言处理任务中,深度学习还没有像在语音识别和物体识别(图像识别)任务中那样完成。显著降低错误率。”因此,在韩丁提出深度学习的概念并激活整个领域的前提下,以及勒昆发表了诸如卷积神经网络(cnn)这样的突破性成果,本吉奥对自然语音处理问题的贡献是非常有意义的。也许几年后,在克服了自然语音处理问题之后,他会变得更加出名。
6.他可以和韩丁、乐坤一起被称为“三巨头”。除了对rnn的一系列推广(详细讨论神经语言模型、梯度消失、word2vec的雏形),还有另一个非常重要的原因。当神经网络衰退时,他坚持进行神经网络研究,并拥有超越普通学术爱好的品质。
7.2013年,业内一些大牛响应行业号召,去了科技公司。当时,yoshua bengio估计,世界上只有大约50名深度学习领域的专家,其中许多人还是研究生。
8.2015年4月,当吴恩达的reddit在回答一个粉丝的问题时提到他时,他说“很多关于本吉奥的理论研究给了我很大的启发。”
9.至于本吉奥为什么没有像另外两头大奶牛一样加入谷歌或facebook来让自己更出名,或许我们可以看一下韩丁的话。
10.bengio在最近的一篇博客文章中说,在这个领域依靠几个“媒体明星”是远远不够的。为了取得更大的进步和更多的应用,在学术界和工业界的人工智能领域都需要成千上万的科学家和工程师。
辛顿曾经说过:“一些危险是,如果足够大的公司雇佣足够多的研究人员,那么大学里就没有足够的人来培训学生和进行纯粹的基础研究。”然而,他认为科技公司已经意识到这些问题。例如,谷歌希望本吉奥继续其基础研究。因此,本吉奥投身于学术界,不是因为他有多排斥这个行业,而是因为他想留在学生世界,做一些更重要的事情——带头培养成千上万的科学家和工程师。
另一方面,我们知道深度学习最近在各个领域的成功主要归功于更强大的计算机、丰富的可用数据集和先进的算法,但是深度学习本身的理论进展很小。自2006年韩丁、本吉奥、扬恩·勒昆等人提出并发表相关著作以来,我们在理论上并没有取得很大进展,这可能是本吉奥想留在学术界的另一个原因。
相关:
当人类群星闪耀时|深度学习的创始人杰夫·辛顿:没有他,就没有今天的人工智能
当人类群星闪耀时|脸谱网人工智能主管扬·勒昆:让深度学习摆脱束缚
标题:Yoshua Bengio大神为什么要留在学术界?
地址:http://www.j4f2.com/ydbxw/9290.html