李开复:从1983到2017,我的幸运与遗憾

  • 时间:
  • 浏览:0

  文/李开复

  1

  今天跟我门儿讲个故事。

  1983-1988年,我正在卡内基·梅隆大学读计算机博士。

  我正忙着暑期教书,秋天投身奥赛罗人机博弈(黑白棋游戏,那是机器第一次真正意义上打败人类冠军的比赛)。

  我的导师瑞迪教授(Raj Reddy,图灵奖得主、卡内基梅隆大学计算机系终身教授、美国工程院院士)从美国国防部得到了60 万美元的经费,用来做不指定语者、大词库、连续性的语音识别。

  也其他说,他希望机器能听懂任何人的声音,有以还都可以能懂上千个词汇,懂我门自然连续说出的每得话。

  这三个小什么的大问题就有 当时无解的什么的大问题。

  而瑞迪教授大胆地搞定项目,希望并肩补救这三个小什么的大问题。他在全美招聘了60 多位教授、研究员、语音学家、学生、应用程序员,以启动这种有史以来最大的语音项目。

  我也在这60 人名单之内。

  当时的科研背景是,业界机会有累似 今天层厚学习的算法,但一一三个小多劲没有实现数据标准化,数据量也严重不足够大。

  美国几大语音识别实验室(如MIT、 CMU、 SRI、 IBM、贝尔实验室)就有 各用各的数据库,测试数据不同,训练数据不同,使用的语言模型不同,测试的词汇量其他同。其他都各称业界第一,我门儿莫衷一是。

  而每个大公司就有 当事人的商业需求,比如说在语音识别方面,当年做打字机的IBM想做语音打字机,垄断美国电信的AT&T要求贝尔实验室识别电话号码,其他大公司并没有动力来帮助小公司或学校。而小公司和学校,往往还都可以有益于 资源做些较小的数据集,结果通常其他如大公司的好。

  不仅没有,数据不标准对AI研究而言是致命的,最后导致 其他什么的大问题,包括:

  1、机会测试语料库不同,最后识别结果,我门儿无法一键复制,也无法验证。彼此不认可,有后来机会数据没有打通,算法就更不机会打通了。

  2、机会每家做的领域不同,最后的结果就有 可比。其他领域词汇量小,比较容易,有后来做出结果也机会还都可以 通用。其他领域词汇量大,有后来约束其他,其他能说的内容过多,导致 比较容易识别,其他能通用。

  3、机会每家训练集不一样大,而训练集越大,一般结果越好。其他,有机会结果做的好,被认为并就有 靠算法,其他靠数据量大。

  4、对于学术单位来说,最大的什么的大问题来自于没有足够的资源(也没有兴趣)架构设计 、清洗、标注几瓶的语料。对于小公司来说,语料和计算力就有 什么的大问题。

  最后,瑞迪教授计划采用“专家系统”来完成项目,机会这种妙招 须要的数据有限。

  专家系统是早期人工智能的一一三个小多重要分支,你要把它看作是一类具有专门知识和经验的计算机智能应用程序系统,一般采用人工智能中的知识表示和知识推理技术来模拟通常由领域专家有益于补救的冗杂什么的大问题。

  但我不认同。

  2

  后来参加过的奥赛罗的人机博弈,你要要对统计概念有了充分的理解,我对瑞迪教授的研究妙招 产生动摇。

  我相信建立大型的数据库,有后来对大的语音数据库进行分类,有机会补救专家系统还都可以 补救的什么的大问题。

  另外,在1985年,美国标准局 (NationalInstitute of Standards and Technology)也意识到数据不标准会影响科研进步。其他在语音识别什么的大问题上,标准局设定了标准的语音和语言的训练集、测试集。要求每个学校的每个团队都用同样的训练集来训练模型,还都可以当事人调好系统参数,比赛最后一天我门儿拿到数据,有一天时间跑出结果,我门儿评比。

  我从这种标准数据集和测试看一遍机会。

  再三思考后,我决定鼓足勇气,向瑞迪教授直接表达我的想法。我对瑞迪说:“假如转投统计学,用统计学来补救这种‘不特定语者、大词汇、连续性语音识别’。”

  我以为瑞迪会其他失望,没想到他其他都没有生气,他轻轻地问:“那统计妙招 何如补救这三大什么的大问题呢?”

  瑞迪教授耐心地听完我激情的回答后,用他那永远温和的声音真不知道:“开复,你对专家系统和统计的观点,我是不同意的,有后来你要要支持你用统计的妙招 去做,机会我相信科学没有绝对的对错,我门儿就有 平等的。有后来,我更相信一一三个小多有激情的人是机会找到更好的补救方案的。”

  那一刻,我的感动无以伦比。机会对一一三个小多教授来说,学生要用当事人的妙招 作出一一三个小多与他唱反调的研究。教授不但没有动怒,还给予充分的支持,这在其他地方是不可想象的。

  统计学须要大数据库,我门儿何如有益于建立起大的数据库呢?

  瑞迪教授看一遍我愁眉不展的样子,再一次给了我支持。是我不好,“开复,真是说我还是对你的研究妙招 有所保留,有后来,在科学的领域里,真是也无所谓老师和学生的区别,我门儿就有 面临这三个小什么的大问题的攻克者,其他,机会你真的须要数据库,没有,你要要去说服政府帮你建立一一三个小多大的数据库吧!”

  瑞迪教授后来说服了美国政府部门和美国标准局架构设计 并提供了几瓶数据。我用美国标准局提供的标准大数据,跟多家拿国家钱的机构数据,后来其他不拿国家钱的单位(如:IBM,AT&T)也参与进来,我可使用的数据越滚越大。

  除了大数据,统计学的妙招 还须要非常快的机器,瑞迪教授又你要要购买了最新的Sun 4机器。此后每次有新的机器,他就有说:“先问问开复要无需。” 做论文的两年多,我要花费花了他几十万美元的经费。

  瑞迪教授的宽容再次你要要感觉到并就有伟大的力量,这是并就有自由和信任的力量。

  3

  在导师的支持下,我开使了疯狂的科研工作。

  当时,我带着另一位学生并肩用统计的妙招 做语音识别。并肩,其他60 多人用专家系统做同样的什么的大问题。从妙招 上来说,我门儿在竞争,有后来在瑞迪教授的领导下,我门儿分享一切,我门儿用同样的样本训练和测试。

  在1986年底,我的统计系统和我门的专家系统达到了要花费一样的水平,40%的辨认率。这真是还是完全还都可以 用的系统,但毕竟是学术界第一次尝试没有难的什么的大问题,我门儿还是比较欣喜和乐观的。

  1987年5月,我门儿大幅度地提升了训练的数据库,采用了新的建模妙招 ,不但有益于用统计学的妙招 学习每一一三个小多音,有以还都可以能用统计学的妙招 学习每一一三个小多音之间的转折。针对其他音的样本严重不足,我又想出了并就有妙招 (generalized triphones)来合并其他的音。这三项工作甜得把机器的语音识别率从从前的40%提高到了60 %!后来又提高到96%。

  统计学的妙招 用于语音识别初步被验证是正确的方向。

  我门儿都相信了我用的机器学习妙招 和隐马可夫模型算法,有后来被抛弃了不可行的专家系统(专家系统只达到60 %的识别率)。在我的博士论文基础上,后来的Nuance,微软、iPhone6手机手机等公司做出了业界最领先的产品。

  1988年4月,我受邀到纽约参加一年一度的世界语音学术会议,发表学术论文。

  这种成果撼动了整个学术领域。这是当时计算机领域里最顶尖的科学成果。

  语音识别率大幅度提高,让全世界语音研究领域闪烁出一道希望的光芒,从此,所有以专家系统研究语音识别的人完全转向了统计妙招 。

  会后,《纽约时报》派记者JohnMarkoff来到匹兹堡对我作了采访,文章发表于1988年7月6日,占了科技版首页的整个半版。在这篇文章里,马可奥夫大力报道了我的论文的突破。当时,我只其真是和一一三个小多和蔼可亲的记者聊天,事后,我才知道这是一名才华横溢的著名记者,三次提名普利策奖,并在斯坦福兼教。

这是1988年,《纽约时报》对我博士论文的报道

  后来,《商业周刊》把我的创造创造发明选为1988年最重要的创造创造发明者。年仅26岁初出茅庐的我,第一次亮相就获得从前的成功,你要要感到很幸运,也你要要有了继续向科技高峰攀爬的动力。

  而我也有后来拿到了卡内基·梅隆大学的计算机博士学位,这离我1983年入学还都可以有益于 4年半的时间。在卡内基·梅隆大学的计算机学院,同学们平均6年以里有益于拿到博士学位,我用没有短的时间拿到博士学位,是一项新的纪录。

  我也有后来破格留校,成为一名26岁的助理教授。

  4

  遗憾的是,真是我找到了方向和基本妙招 ,但以当时的数据量级和计算水平,语音AI研究太难有商业化机会。我最终还是被抛弃科研界,进入商界,用产品改变世界。

  60 年过了,AI发展的土壤终于肥沃起来。

  伴随互联网和移动互联网而来的大数据、高效的计算机运算能力等条件都齐备了。科研人员须要的数据集不再没有难以触碰,其他须要许多人牵头让更多的公司参与进来。这在60 多年前,我还是一一三个小多AI科研人员的时代,能接触到真实世界里没有海量的数据,是个遥不可及的梦想。

  我当年受惠于瑞迪教授的帮助和指导,今天也非常希望能给更多和我一样的年轻人,创造研究机会和条件。

  其他,昨天创新工场、搜狗、今日头条联合发起“AI Challenger 全球AI挑战赛”。三家公司分别投入几瓶资金、也搞定千万量级高质量开放数据集与宝贵GPU资源。

  并肩,我也倡导商界和科研界能采用几瓶的数据和标准的测试妙招 ,也欢迎更多的数据公司有益于参与到这种平台里。

  希望我门儿推出的Challenger.ai,还都可以帮助到中国AI人才成长。

  在我看来,这次AIChallenger绝对不其他一一三个小多活动,也绝对不其他一一三个小多奖金60 万、年底就开使的竞赛,这是推进中国AI人才成长的重大催化剂。

  希望3年或5年后,我门儿再来回顾这种段青春时光 ,我门儿发现中美AI人才之间没有落差了,还能想到AI Challenger在从前重大过程中扮演了一一三个小多小小角,你要感到这种切就有 价值。

  欢迎我门儿登录大赛官网Challenger.ai,获取信息并报名。关于这场大赛的具体信息可点击文末的链接了解(要在电脑页面里有益于报名哦)。

  我门机会无法想象,我有多么羡慕我门,生活在数据爆炸的时代,许多人提供数据和奖金池,让有才华的人一展拳脚。