[转载]如何在NLP领域第一次做成一件事

作者 : 开心源码 本文共3779个字,预计阅读时间需要10分钟 发布时间: 2022-05-13 共254人阅读

前言

自己也写过一篇关于NLP研究领域的个人粗浅的了解与入门学习建议—-吾爱NLP(3)—我对NLP的了解与学习建议,今日偶然发现了微软亚研大佬的这篇文章,不仅详情了NLP相关的各个研究领域以及入门实践的路径,还简单的解读了如何完成一篇学术论文,特此转载希望对各位有帮助。

​​


自然语言解决入门必读

微软亚洲研究院首席研究员 周明

微软亚洲研究院首席研究员 周明

作者简介

周明,微软亚洲研究院首席研究员、ACL候任主席(president)、中国计算机学会中文信息技术专委会主任、中国中文信息学会常务理事、哈工大、天津大学、南开大学、山东大学等多所学校博士导师。1985年毕业于重庆大学,1991年获哈工大博士学位。1991-1993年清华大学博士后,随后留校任副教授。1996-1999访问日本高电社公司主持中日机器翻译研究。他是中国第一个中英翻译系统、日本最有名的中日机器翻译产品J-北京的发明人。1999年加入微软研究院并随后负责自然语言研究组,主持研制了微软输入法、对联、英库词典、中英翻译等著名系统。近年来与微软产品组合作开发了小冰(中国)、Rinna(日本)等聊天机器人系统。他发表了100余篇重要会议和期刊论文。拥有国际发明专利40余项。

image

自然语言解决(简称NLP),是研究计算机解决人类语言的一门技术,包括:

1.句法语义分析:对于给定的句子,进行分词、词性标记、命名实体识别和链接、句法分析、语义角色识别和多义词消歧。

2. 信息抽取:从给定文本中抽取重要的信息,比方,时间、地点、人物、事件、起因、结果、数字、日期、货币、专有名词等等。浅显说来,就是要理解谁在什么时候、什么起因、对谁、做了什么事、有什么结果。涉及到实体识别、时间抽取、因果关系抽取等关键技术。

3.文本挖掘(或者者文本数据挖掘):包括文本聚类、分类、信息抽取、摘要、情感分析以及对挖掘的信息和知识的可视化、交互式的表达界面。目前主流的技术都是基于统计机器学习的。

4.机器翻译:把输入的源语言文本通过自动翻译取得另外一种语言的文本。根据输入媒介不同,可以细分为文本翻译、语音翻译、手语翻译、图形翻译等。机器翻译从最早的基于规则的方法到二十年前的基于统计的方法,再到今天的基于神经网络(编码-解码)的方法,逐步形成了一套比较严谨的方法体系。

5.信息检索:对大规模的文档进行索引。可简单对文档中的词汇,赋之以不同的权重来建立索引,也可利用1,2,3的技术来建立更加深层的索引。在查询的时候,对输入的查询表达式比方一个检索词或者者一个句子进行分析,而后在索引里面查找匹配的候选文档,再根据一个排序机制把候选文档排序,最后输出排序得分最高的文档。

6.问答系统: 对一个自然语言表达的问题,由问答系统给出一个精准的答案。需要对自然语言查询语句进行某种程度的语义分析,包括实体链接、关系识别,形成逻辑表达式,而后到知识库中查找可能的候选答案并通过一个排序机制找出最佳的答案。

7.对话系统:系统通过一系列的对话,跟客户进行聊天、答复、完成某一项任务。涉及到客户用意了解、通用聊天引擎、问答引擎、对话管理等技术。此外,为了表现上下文相关,要具有多轮对话能力。同时,为了表现个性化,要开发客户画像以及基于客户画像的个性化回复。

随着深度学习在图像识别、语音识别领域的大放异彩,人们对深度学习在NLP的价值也寄予厚望。再加上AlphaGo的成功,人工智能的研究和应用变得炙手可热。自然语言解决作为人工智能领域的认知智能,成为目前大家关注的焦点。很多研究生都在进入自然语言领域,寄望未来在人工智能方向大展身手。但是,大家常常遇到少量问题。俗话说,万事开头难。假如第一件事情成功了,学生就能建立信心,找到窍门,今后越做越好。否则,也可能就灰心丧气,甚至离开这个领域。这里针对给出我个人的建议,希望我的这些粗浅观点能够引起大家更深层次的探讨。

image

建议1:如何在NLP领域快速学会第一个技能?

我的建议是:找到一个开源项目,比方机器翻译或者者深度学习的项目。了解开源项目的任务,编译通过该项目发布的示范程序,得到与项目示范程序一致的结果。而后再深入了解开源项目示范程序的算法。自己编程实现一下这个示范程序的算法。再按照项目提供的标准测试集测试自己实现的程序。假如输出的结果与项目中出现的结果不一致,就要仔细查验自己的程序,反复修改,直到结果与示范程序基本一致。假如还是不行,就大胆给项目的作者写信请教。在此基础上,再看看自己是否进一步完善算法或者者实现,获得比示范程序更好的结果。

建议2:如何选择第一个好题目?

工程型研究生,选题很多都是老师给定的。需要采取比较实用的方法,扎扎实实地动手实现。可能不需要多少理论创新,但是需要较强的实现能力和综合创新能力。而学术型研究生需要获得一流的研究成果,因而选题需要有肯定的创新。我这里给出如下的几点建议。

  • 先找到自己喜欢的研究领域。你找到一本最近的ACL会议论文集, 从中找到一个你比较喜欢的领域。在选题的时候,多注意选择蓝海的领域。这是由于蓝海的领域,相比照较新,容易出成果。

  • 充分调研这个领域目前的发展状况。包括如下几个方面的调研:方法方面,能否有一套比较清晰的数学体系和机器学习体系;数据方面,有没有一个大家公认的标准训练集和测试集;研究团队,能否有著名团队和人士参与。假如以上几个方面的调研结论不是太清晰,作为初学者可能不要轻易进入。

  • 在确认进入一个领域之后,按照建议一所述,需要找到本领域的开源项目或者者工具,仔细研究一遍现有的主要流派和方法,先入门。

  • 反复阅读本领域最新发表的文章,多阅读本领域牛人发表的文章。在深入理解已有工作的基础上,讨论还有没有少量地方可以推翻、改进、综合、迁移。注意做试验的时候,不要贪多,每次试验只要要验证一个想法。每次试验之后,必需要进行分析存在的错误,找出起因。

  • 对成功的试验,进一步讨论如何改进算法。注意试验数据必需是业界公认的数据。

  • 与已有的算法进行比较,体会能够得出比较一般性的结论。假如有,则去写一篇文章,否则,应该换一个新的选题。

image

建议3:如何写出第一篇论文?

接上一个问题,假如想法不错,且被试验所证实,即可开始写第一篇论文了。

  • 确定论文的题目。在定题目的时候,一般不要“…系统”、“…研究与实践”,要避免太长的题目,由于不好表现要点。题目要具体,有深度,突出算法。

  • 写论文摘要。要突出本文针对什么重要问题,提出了什么方法,跟已有工作相比,具备什么优势。试验结果表明,达到了什么水准,处理了什么问题。

  • 写引言。首先讲出本项工作的背景,这个问题的定义,它具备什么重要性。而后详情对这个问题,现有的方法是什么,有什么优点。但是(注意但是)现有的方法依然有很多缺陷或者者挑战。比方(注意比方),有什么问题。本文针对这个问题,受什么方法(谁的工作)之启发,提出了什么新的方法并做了如下几个方面的研究。而后对每个方面分门别类加以叙述,最后说明试验的结论。再说本文有几条贡献,一般写三条足矣。而后说说文章的章节组织,以及本文的重点。有的时候东西太多,篇幅有限,只能详情最重要的部分,不需要面面俱到。

  • 相关工作。对相关工作做一个梳理,按照流派划分,对主要的最多三个流派做一个简单详情。详情其原理,而后说明其局限性。

  • 而后可设立两个章节详情自己的工作。第一个章节是算法形容。包括问题定义,数学符号,算法形容。文章的主要公式基本都在这里。有时候要给出简明的推导过程。假如借鉴了别人的理论和算法,要给出清晰的引文信息。在此基础上,因为一般是基于机器学习或者者深度学习的方法,要详情你的模型训练方法和解码方法。第二章就是试验环节。一般要给出试验的目的,要检验什么,试验的方法,数据从哪里来,多大规模。最好数据是用公开评测数据,便于别人重复你的工作。而后对每个试验给出所需的技术参数,并报告试验结果。同时为了与已有工作比较,需要引用已有工作的结果,必要的时候需要重现重要的工作并报告结果。用试验数据说话,说明你比人家的方法要好。要对试验结果好好分析你的工作与别人的工作的不同及各自利弊,并说明其起因。对于目前尚不太好的地方,要分析问题之所在,并将其列为未来的工作。

  • 结论。对本文的贡献再一次总结。既要从理论、方法上加以总结和提炼,也要说明在试验上的贡献和结论。所做的结论,要让读者感到信服,同时指出未来的研究方向。

  • 参考文献。给出所有重要相关工作的论文。记住,漏掉了一篇重要的参考文献(或者者牛人的工作),基本上就没有被录取的希望了。

  • 写完第一稿,而后就是再改三遍。

  • 把文章交给同一个项目组的人士,请他们从算法新颖度、创新性和试验规模和结论方面,以挑剔的眼光,审核你的文章。自己针对薄弱环节,进一步改进,重点增强算法深度和工作创新性。

  • 而后请不同项目组的人士审阅。假如他们看不明白,说明文章的可读性不够。你需要修改篇章结构、进行文字润色,添加文章可读性。

  • 如投ACL等国际会议,最好再请英文专业或者者母语人士提炼文字。

原文: 微软亚洲研究院 — 发布于 2016-11-24


我的博客即将搬运同步至腾讯云+社区,邀请大家一同入驻:https://cloud.tencent.com/developer/support-plan?invite_code=3mtmis547ccgw

说明
1. 本站所有资源来源于用户上传和网络,如有侵权请邮件联系站长!
2. 分享目的仅供大家学习和交流,您必须在下载后24小时内删除!
3. 不得使用于非法商业用途,不得违反国家法律。否则后果自负!
4. 本站提供的源码、模板、插件等等其他资源,都不包含技术服务请大家谅解!
5. 如有链接无法下载、失效或广告,请联系管理员处理!
6. 本站资源售价只是摆设,本站源码仅提供给会员学习使用!
7. 如遇到加密压缩包,请使用360解压,如遇到无法解压的请联系管理员
开心源码网 » [转载]如何在NLP领域第一次做成一件事

发表回复