欢迎来访浩海留学官网
留言咨询

400-1571-365

浩海offer 留学资讯 留学实事 留学干货 讲座视频

2018图灵奖授予深度学习三巨头!他们曾是最顽固的“蠢货”……



深度学习三剑客获图灵奖



就在27日,国际计算机学会ACM官宣公布了最新的、素有“计算机界诺贝尔奖”之称的图灵奖获得者,他们是被称为“深度学习三剑客”的蒙特利尔大学教授 Yoshua Bengio、多伦多大学名誉教授 Geoffrey Hinton、纽约大学教授 Yann LeCun。



图灵奖取名于计算机先驱艾伦·图灵 (Alan. M. Turing),获奖者必须是在计算机领域具有持久而重大的先进性的技术贡献。

因此,这一奖项对于获奖者的要求极高,评选程序也及其严格,一般每年只奖励一名计算机科学家,极少数年度会有两名及以上在同一方向的科学家同时获奖。

而今年,该奖项获奖者为三人。国际计算机学会将于2019年6月15日在旧金山召开图灵奖颁奖典礼。这一奖项目前由 Google 赞助,总奖金高达100万美元。



他们三人在深度学习上持之以恒进行研究,推动了人工智能在21世纪前两个十年爆发式的发展,实现了无数的技术突破,因此给他们颁发2018年图灵奖奖项,以表彰他们通过概念和工程的突破让深度精神网络成为计算关键部件。



三巨头主要贡献奠定时代基础


人工智能是现在科学领域发展最快的领域之一,也是社会上最受关注的话题之一。人工智能的发展很大程度上归功于Bengio,Hinton和LeCun奠定基础的深度学习的新进展。





Geoffrey Hinton

现年72岁,谷歌的副总裁和工程师,也是AI研究机构Vector Institute的首席科学顾问和多伦多大学的名誉教授。他在80年代把以前没有受重视的反向传播(BP)算法引入了神经网络,使得复杂神经网络的训练成为可能,直到今天,反向传播算法依然是训练神经网络最重要的算法。

之后,他又在1983 年发明玻尔兹曼机(Boltzmann Machines),以及在 2012 年改进了卷积神经网络的,并在著名的 ImageNet 评测中取得惊人成绩,在计算机视觉领域掀起一场革命;



主要贡献为——

反向传播:

1986年,Hinton证明了反向传播能让神经网络发现自己内部的数据表征,这样便可以处理以往无法解决的问题。如今,反向传播已经是神经网络的标准操作,Hinton也有了“反向传播之父”的名号。

玻尔兹曼机:

1983年,Hinton和同伴一起发明了玻尔兹曼机,那是最早能够学习神经元内部表征的网络之一:那些表征既不来自输入,也不来自输出。

改进卷积神经网络:

2012年,Hinton和学生们一起,利用线性整流神经元(Rectified Linear Neurons)和dropout 正则化改进了卷积神经网络。


在获得图灵奖之前,Hinton就已经获手握加拿大最高荣誉勋章(Companion of the Order of Canada),是顶级认知科学奖鲁梅哈特奖的首位获奖者,也获得了人工智能国际联合会(IJCAI)杰出学者奖终生成就奖等。此外,他也是英国皇家学会成员、美国工程院外籍院士。




Yann LeCun

现年58岁,现在是Facebook首席AI科学家。卷积神经网络 (CNN) 之父,是他最为人熟知的名号。

他将反向传播算法引入了CNN,并且发明了权值共享、池化等技巧,让CNN真正更为可用,现在,CNN已经广泛用于计算机视觉、语音识别、语音合成、图片合成以及自然语言处理等学术方向,以及自动驾驶、医学图片识别、语音助手、信息过滤等行业应用方向。

他还在 1998 年开发了 LeNet5——首个被大规模商用的 CNN,并制作了被Hinton称为“机器学习界的果蝇”的经典数据集 MNIST 。



主要贡献为——

卷积神经网络 :

1989年,LeCun以反向传播为基础发表了一项研究,叫做“将反向传播用到手写邮编的识别上”。CNN的第一次实现,就是在这里诞生。

反向传播雏形:

1985年,LeCun在巴黎六大读博期间发表过反向传播的一个早期版本,根据变分原理给出了一个简单的推导过程。他用两种加速学习的方法,让反向传播变得更快了。

拓展了神经网络的视野:

LeCun不止把神经网络用在图像识别上,还解锁了许多其他任务。他提出的一些概念,如今已经成了AI领域的基础。另外,他和同伴Léon Bottou一起提出,学习系统可以由复杂的神经网络构成。



Yoshua Bengio

现年55岁,现为蒙特利尔大学计算机科学与运筹学系教授。创建了蒙特利尔学习算法研究(MILA),担任研究所的科学主任,也是深度学习“三巨头”中唯一一位仍全身心在学术界工作的大牛。

他的诸多科研积累,包括深度学习架构、循环神经网络(RNN)、对抗算法、表征学习,影响和启发了后来的大量研究者,将深度学习应用到自然语言处理、计算机视觉等人工智能的各个主要领域,对近年来深度学习的崛起和发展起到了巨大的推动作用;




主要贡献为——

序列的概率模型:

上世纪90年代,Bengio提出了序列的概率模型。他把神经网络和概率模型(例如隐马尔可夫模型)相结合,用新技术识别手写的支票。

高维词汇嵌入和注意机制:

Bengio参与发表了一篇里程碑式的论文,把高维词嵌入 (High-Dimentional Word Embeddings) 作为词义的表征。这对NLP研究(如翻译、问答和视觉问答等任务)产生了深远的影响。

生成对抗网络:

2014年,Bengio与Ian Goodfellow一同发表的生成对抗网络 (GAN) ,引发了计算机视觉和图形学的革命。




合作与坚持,几十年起伏终得硕果



从上世纪50年代起,神经网络的网站起起伏伏,被人唾弃过,也被屡次唱衰过。这也多亏了一批最早在黑暗中等待黎明的人,不断研究探索,才有了人工智能的今天。

三位获奖者在业内被称为“当代人工智能教父”,开创了深度神经网络(deep neural network),而这项技术已经成为计算科学的关键部分,为深度学习算法的发展和应用奠定了基础。


在过去,深度学习提出后,因为计算能力跟不上、研究能力限制等众多原因,很多人都质疑此,并不看好它,表示“看不到未来”。


但Bengio、Hinton、LeCun 三人坚持了下来。他们努力克服计算量和数据量不够的限制,坚持不懈地反复研究。

数十年来,此三人既有合作又独立研究,一起奠定了深度神经网络领域的概念基础,并在此基础上进行大量研究,在工程上付出众多努力,在发现此技术有极大的研究潜力,从而证明了深度神经网络的优势所在。


早在2015年,知乎上就出现问题:Yann LeCun、Geoffrey Hinton或Yoshua Bengio能得图灵奖吗?




当时,部分网友认为虽然他们做出了极大的贡献,但是还不至于能获得图灵奖。如今,消息一出,大家都纷纷跑去问题下面自行打脸。

对于这三位大牛获奖,AI行业的多数人都表示祝贺,更多人对此消息的第一反应是“实至名归”、“众望所归”。



人工智能为何能独领风骚?



那么,人工智能在当今快速发展的社会中为何能独领风骚呢?


ACM 表示,这三位学者共同开发该领域的概念基础,并验证了令人惊艳的表现,为工程进展带来了贡献,证明了深度神经网络的实际优势


近年来,深度学习方法在计算机视觉、语音识别、自然语言处理和机器人技术带来了惊人突破,其影响也已经蔓延到计算机以外太多其他领域,数学家物理学家化学家生物学家也都开始用深度学习加速科研。


AI 是当今科学界发展最快的领域之一,也是社会上最受关注的话题。ACM 总裁 Cherri M. Pancake 说,“人工智能的成长及其带来的优点,很大程度上归功于深度学习的最新进展,而这些就是奠基于 Yoshua Bengio、Geoffrey Hinton 和 Yann LeCun 的研究。

数十亿人使用这些技术,智能手机的用户可以体验自然语言处理和计算机视觉领域的进步,这在过去 10 年是不可能实现的,除了我们每天使用的产品之外,深度学习的新进展也为科学家提供了强大的新工具,从医学、天文学到材料科学等。



1.什么是人工智能?

人工智能---AI(Artificial Intelligence),它是一门包含计算机、控制论、信息论、神经生理学、心理学、语言学等综合学科。

该概念第一次在达茅斯顿学术会议上提出:人工智能是从计算机应用系统角度出发,研究如何制造出人造的智能机器或智能系统,来模拟人类智能活动的能力,以及延生人类智能科学(ps:注意包括2个部分:模拟人类以及延伸人类智能)。



2.美国人工智能专业的概况及就业前景

随着人工智能技术在各行各业中的应用越来越普及,相关专业技术人才也是供不应求,各大公司或是创业公司不惜重金招募AI人才。

在美国AI工程师情况调查中,也同样的,初级岗位比较多,较为缺少资深人才,另外几种编程语言中,Java和Artificial Intelligence为最重要的两种语言,C++, Software Development,和Python紧随其后。

作为人工智能专业的发源地和领头羊,去美国学习人工智能无疑是不错的选择。


就业方向参考


  • 搜索方向: 百度、谷歌、微软、yahoo等(包括智能搜索、语音搜索、图片搜索、视频搜索等都是未来的方向)
  • 医学图像处理: 医疗设备、医疗器械很多都会涉及到图像处理和成像,大型的公司有西门子、GE、飞利浦等。
  • 计算机视觉和模式识别方向: 前面说过的指纹识别、人脸识别、虹膜识别等;还有一个大的方向是车牌识别;目前鉴于视频监控是一个热点问题,做跟踪和识别也不错;
  • 还有一些图像处理方面的人才需求的公司,如威盛、松下、索尼、三星等。


另外,AI方向的人才都是高科技型的,在待遇方面自然相对比较丰厚,所以很这个方向很有发展前途。



3.AI核心课程

● Artificial Intelligence 人工智能

● Machine Learning 机器学习

● Advanced Operating Systems 高级操作系统

● Advanced Algorithm Design 高级算法设计

● Computational Complexity 计算复杂性

● Mathematical Analysis 数学分析

● Advanced Computer Graphics 高级计算机图形

● Advanced Computer Networks 高级计算机网络



4. AI专业分支情况

  • 模式识别:是指对表征事物或者现象的各种形式(数值的文字的逻辑关系的等)信息进行处理分析,以及对事物或现象进行描述分析分类解释的过程,例如汽车车牌号的辨识 涉及到图像处理分析等技术。

  • 机器学习:研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构是指不断完善自身的性能,或者达到操作者的特定要求。

  • 数据挖掘:知识库的知识发现,通过算法搜索挖掘出有用的信息,应用于市场分析、科学探索、疾病预测等。

  • 智能算法:解决某类问题的一些特定模式算法;例如,我们最熟悉的最短路径问题,以及工程预算问题等。


在国外高校都有其偏重,了解各个分支能够很好地指导选择自己感兴趣的方向,在申请学校的时候也可以做到有的放矢。



5.2019USnews美国最佳人工智能院校排名


1、卡耐基梅隆大学Carnegie Mellon UniversityPittsburgh, PA

2、麻省理工学院Massachusetts Institute of TechnologyCambridge, MA

3、斯坦福大学Stanford UniversityStanford, CA

4、加州大学伯克利分校University of California, BerkeleyBerkeley, CA

5、华盛顿大学University of WashingtonSeattle, WA

6、康奈尔大学Cornell UniversityIthaca, NY

7、佐治亚理工学院Georgia Institute of TechnologyAtlanta, GA

8、伊利诺伊大学厄本那-香槟分校University of Illinois, Urbana-?ChampaignUrbana, IL

8、德克萨斯大学奥斯汀分校University of Texas, AustinAustin, TX

10、密歇根大学安娜堡分校University of Michigan, Ann ArborAnn Arbor, MI

11、马萨诸塞大学阿默斯特分校University of Massachusetts, AmherstAmherst, MA

12、哥伦比亚大学Columbia University New York, NY

13、宾夕法尼亚大学University of PennsylvaniaPhiladelphia, PA

14、加州大学洛杉矶分校University of California, Los AngelesLos Angeles, CA

15、南加州大学University of Southern CaliforniaLos Angeles, CA

16、马里兰大学学院公园分校University of Maryland, College ParkCollege Park, MD

17、普林斯顿大学Princeton University Princeton, NJ

18、哈佛大学Harvard University Cambridge, MA

19、加州理工学院California Institute of Technology Pasadena, CA

20、威斯康辛大学麦迪逊分校University of Wisconsin, Madison Madison, WI







浩海2019申请季相关录取

(部分)


L同学

背景:GPA3.8+,GRE325+

申请专业:计算机科学

录取院校:斯坦福、耶鲁


Y同学 硕士录取

背景:GPA3.9+,GRE330+

申请专业:计算机

录取院校:伯克利、密歇根、哥大等


Y同学 硕士录取

背景:GPA3.4+,GRE325+

申请专业:计算数据科学

录取院校:卡耐基梅隆等


F同学 PhD录取

背景:GPA3.7+,GRE330+

申请专业:计算机科学

录取院校:UIUC、普渡、佐治亚等


W同学 硕士录取

背景:GPA3.9+,GRE325+

申请专业:人工智能

录取院校:耶鲁、卡耐基梅隆、JHU等


Z同学 硕士录取

背景:GPA3.8+,GRE320+

申请专业:电子与计算机工程

录取院校:密歇根、康奈尔、哥大等


D同学 硕士录取

背景:GPA3.9+,GRE320+

申请专业:计算机

录取院校:西北、圣地亚哥、南加大等


Y同学 硕士录取

背景:GPA3.8+,GRE325+

申请专业:计算机科学

录取院校:西北、杜克、南加大、莱斯等





浩海人工智能相关导师推荐


(部分)




Kevin Cao

个人背景:

● 斯坦福大学计算机科学硕士,北京大学计算机学士

● 现任LinkedIn高级软件工程师

● 熟悉算法、机器学习、人机交互、数据挖掘、自然语言处理等王牌方向

擅长专业:

计算机(CS)、人工智能(AI)、数据科学(DS)、信息系统(Information System)



Alex Cheng

个人背景:

● 上海交大密歇根学院电子与计算机工程学士

● 宾夕法尼亚大学电子与系统工程硕士

● 现任微软软件工程师

● 曾任亚马逊软件工程师

擅长专业:

计算机科学(CS)、电子工程(EE)



Justin Li

个人背景:

● 浙江大学学士,加州大学伯克利分校电子工程硕士(数据科学和系统方向);

● 现任Oracle(甲骨文)软件工程师;

● 曾在MIT和UCLA进行暑期科研;

● 熟悉美国各名校的CS和EE项目,曾帮助多位学生拿到名校offer;

● 熟悉美国各大IT公司面试流程,精通Python、C、Java、SQL等编程语言;

擅长专业:

计算机科学(Computer Science)、电子工程(Electrical Engineering)



Michael Huang

个人背景:

● 斯坦福大学计算机科学博士

● 计算机视觉与图像处理专家

● IEEE等多家权威杂志发表多篇论文

擅长专业:

计算机科学(Material Science Engineering)、电子工程(Electrical Engineering)










如果你在申请过程中有任何疑问

请添加小助手微信(haohaixzs)告诉我们

我们会在第一时间为你答疑解惑



添加小助手 做个好朋友


在线咨询
400-1571-365
公众号
返回顶部