如何做出顶级AI研究?OpenAI科学家Jason Wei《AI研究思考》演讲,讲述杰出与普通研究之差别



如何做出世界级影响力的AI研究?我们来听听OpenAI科学家Jason Wei在伯克利的报告《AI研究思考》,非常值得关注!


OpenAI科学家Jason Wei。Jason Wei毕业于达特茅斯大学,之前,他在Google Brain担任高级研究科学家,在大模型研发领域拥有丰富的经验和杰出成就,在谷歌工作期间曾主导推广了大语言模型中包括思维链提示、指令微调和模型涌现在内一系列关键思想的诞生。
过去的几年里,我与一些极为才华横溢的研究者合作并进行了观察,我注意到了以下趋势:
当开始一个项目时,普通的研究者往往会迅速跳到建模提议、架构设计、新思路等。而杰出的研究者通常首先会手动查看数据和与模型互动,深入了解问题,然后再提出(通常是简单的)方法。
普通研究者可能经常编写乱七八糟、不可重用且需要多个独立步骤的代码。而杰出的研究者往往也是优秀的软件工程师——他们的代码可以轻松地扩展用于未来的实验,他们编写详尽的测试,并且建设基础设施以迅速进行多次实验并用最少的点击次数可视化结果。
虽然普通研究者可能主要是独自工作或与一两个人合作,但杰出的研究者知道研究是一种社交活动。他们与经验各异的人合作,分享研究成果,并有说服力地传达他们的愿景。
普通研究者可能会陷入“兔子洞”——如果他们的实验结果只是普通,他们会花3个多星期撰写并提交到会议。而杰出的研究者在知道某种方法不会取得重大突破时,会迅速转向其他研究。
如果普通研究者取得了一些成功,他们可能会试图继续做他们觉得舒适的事情,即使这样的方法变得过时。而杰出的研究者能迅速调整,并不断适应新的进展和范式。
普通研究者经常实施针对特定任务的解决方案,这些方案针对单一任务进行了大量优化。杰出的研究者也可能致力于特定任务,但他们会试图思考可以应用于许多其他任务的通用方法。
普通研究者谈论并优化论文或会议的接受率。我从未遇到一个真正关心这些事情的杰出研究者。
(顺便说一句,被称为普通研究者不应该被视为侮辱。即使进行研究都需要付出大量努力:))

杰出研究者




选择一个研究主题

设计与执行实验

撰写论文

最大化影响力














版权声明
 转自专知, 版权属于原作者,仅用于学术分享
人工智能产业链联盟高端社区

相关阅读
【碳中和】珍藏版!22个国内外“碳中和”相关报告合集!
【工业机器人】全球工业机器人详细产业链梳理!
【智能制造】智能制造50大产业链全景图
【智能工厂】智能工厂如何快速落地
【工业技术】航空制造推动新概念机器人发展(上)
【工业技术】航空制造推动新概念机器人发展(下)
【新基建+人工智能生态】全网最火“新基建”生态图谱—人工智能篇(含40个细分领域厂商)
【AI】一文读懂人脸识别技术
【AI】解析 | 人工智能发展及技术架构
【报告】中国人工智能厂商全景报告(附PDF下载)
【AI】(收藏)从 A-Z 全面盘点人工智能专业术语梳理!
【AI】计算机视觉入门大全:基础概念、运行原理、应用案例详解
【AI】一文读懂机器学习、数据科学、人工智能、深度学习和统计学之间的区别
【智能仓储】一文带你彻底搞懂智能仓储!
【深度学习】12张高清思维导图,总结深度学习
【神经网络】给初学者们讲解人工神经网络(ANN)
人工智能的基础--知识分类
【AI产业链】120图勾勒全球AI产业完整图谱!
【AI】一文读懂人工智能产业链
【AI】中国人脸识别产业链全景图!
【AI】史上最全的人工智能(AI)产业链地图!
【芯片】国产芯片大全:70个细分领域代表企业
人工智能产业链深度透析—基础层
人工智能产业链深度透析-技术层
人工智能全产业链深度透析--(综合)
人工智能产业链深度透析—产业应用医疗篇
朱松纯 | 人工智能的现状、任务、构架与统一(上)
朱松纯 | 人工智能的现状、任务、构架与统一(中)
朱松纯 | 人工智能的现状、任务、构架与统一(下)
【AI】美国国家人工智能研发战略规划2019
【智慧农业】2018中国农牧家禽行业智慧养殖白皮书
【智慧农业】2019年智慧农业市场调研及前景研究报告(附PDF下载)
【智能家居】我国智能锁产业现状及未来发展趋势分析
【知识图谱】详解知识图谱关键技术与应用、AI图谱技术在知乎的应用实践、如何构建多快好省的“知识图谱即服务”
荐:
【中国风动漫】《姜子牙》刷屏背后,藏着中国动画100年内幕
【中国风动漫】除了《哪吒》,这些良心国产动画也应该被更多人知道!
【中国风动漫】《雾山五行》大火,却很少人知道它的前身《岁城璃心》一个拿着十米大刀的男主夭折!

声明
免责声明:部分文章和信息来源于互联网,不代表本订阅号赞同其观点和对其真实性负责。如转载内容涉及版权等问题,请立即与小编联系(微信号:913572853),我们将迅速采取适当的措施。本订阅号原创内容,转载需授权,并注明作者和出处。如需投稿请与小助理联系(微信号:AI480908961)
编辑:Zero



推荐关注↓↓↓

到顶部