fast.ai创始人JeremyHoward:训练模型是门手艺,实践出真知编程计算机人工智能技术

近日,智源社区对明星AI教育家、原Kaggle总裁兼首席科学家、fast.ai创始人JeremyHoward进行专访。本次专访围绕技术普惠、开源与闭源之争、中美差距、AI人才培养等核心议题展开。

关于AI教育,Jeremy提到让知识“通俗易懂”一个秘诀是:保持实用性,并且提供大量的实例。“我并不希望把学习变成一种仅限于少数人的特权。我们的目标是让学习变得开放和易于接触,让每个人都能够理解和应用。”

以下为采访全文(编者进行了不改变原意的改编)。

谈技术普惠:AI学习并非少数人的特权

Q:你的教育理念是“Makedeeplearninguncool!"能再详细阐释一下吗?

A:当我们谈论到某事物‘酷’时,英文用“cool”,中文用‘酷’来形容,中、英语言在含义上有所相似。我不完全确定中文中的‘很酷’是否也含有这种意味:在英语中,‘酷’这个词常带有一种排他性的暗示。它不只是代表某事物很棒,而且还蕴含着一种超越常人的特殊性。我们并不希望把学习变成一种仅限于少数人的特权。我们的目标是让学习变得开放和易于接触,让每个人都能够理解和应用。

因此,学习不应只局限于那种‘酷’的特质。它也不应该是令人惊叹或神秘的东西,不需要过度复杂。学习应该是直观和明了的,使人感觉‘这很有道理’,并能够在日常生活中找到应用。这才是我们追求的实用性。我们的目标是创造一种实用、高效、适合所有人的学习方式。

A:我和我妻子联手创办了fast.ai,课程只是项目中四个业务之一。自2016年起,我们就明确了fast.AI的使命:致力于使深度学习与AI技术更为普及易懂。

为了避免只有少数人才能使用AI,因此我们便想着教更多人在自己的领域熟练部署AI。开设教学课程显然一种是有效手段。课程中我们向学员展示AI的最佳实践,教会他们用最小的低成本和最高的效率构建高优的模型。

我和妻子分工教学,她负责自然语言处理和线性代数方面,而我负责机器学习和深度学习。我们希望学员们不仅在课程中学到理论知识,更能将知识快速、高效应用于实践中。

Q:fast.ai课程以其接地气的风格而闻名,如何确保课程内容简洁易懂,让更多人从中受益?

让知识“通俗易懂”一个秘诀是:保持实用性,并且提供大量的实例。

因此,我们很少使用复杂的数学公式。在通常会用到数学公式的地方,我们改用代码示例。每当展示代码示例时,我们都会现场实操运行这些代码。我们尽量确保每次运行的代码都控制在一两行之内,这样学生可以立刻看到结果。

通过这种方法,就能将复杂的概念拆解开来。我认为,当我们试图一次性掌握太多内容时,难度就会增加。所以,如果能把内容分割成小块,就更容易理解了。如果学生在学习过程中遇到困惑,他们可以随时回放视频,找到开始感到困惑的部分,进而逐步解决疑惑。

Q:fast.ai课程最重要的优势是什么?

理论为辅,实践为主。课程设计始终将应用作为核心。先给学生讲授最直接、最实用的内容。让学生在完成第一节课之后,就可以立刻投入实践。

然后,课程会逐渐深入,步步为营地拓展学习深度。这与大多数课程不同,传统的课程往往像大学课堂一样,从基本概念开始,逐渐搭建起完整的知识体系,但直到课程结束,学生才可能接触到真正实用的知识。相比之下,我们采用的自上而下的学习方法,更受许多学生的青睐。

Q:对于零基础的学生需要先修习哪些知识才能正确使用fast.ai课程?

A:并不需要掌握太深的理论知识,但确实要求学生能有至少一年的编程经验,除此之外没有其他特别要求。

就算不懂编程,也可以通过借助ChatGPT这类工具来实现入门与进阶。编程背景的重要性可能逐渐降低,但若想真正精通AI,依然需要一定的编程技能。

Q:fast.ai最近发布了新课程“FromDeepLearningFoundationstoStableDiffusion”,要知道训练扩散模型通常需要大量计算资源,没有充足GPU的学生该如何学习这门课程?

A:实际上,这门课程只需一块GPU就足够了。你可以在GoogleColab或类似的平台上运行。我相信中国也有很多公司和机构面向学生提供免费的GPU访问权限,因此计算资源不会成为学习这门课程的门槛。

创立Answer.AI实验室,和AI大厂相比更专注实用性产品

Q:你领衔创建了Answer.AI实验室,能否介绍一下?

A:众所周知,AI研究在不同的单位进行,比如Google、DeepMind、OpenAI这样的公司。在中国,还可能是北京智源人工智能研究院(BAAI)这样的机构、BAT等等。这些通过学术途径公开的研究,通常更偏重于理论,将它们应用于实际场景并创造实用价值并不总是很直接。因此,建立Answer.AI的目标是打造一个集研究与开发于一体的实验室。

在实验室的具体工作中,我们会先识别出那些对世界有好处的创新项目;然后想着如何用AI加速实现这些目标。我希望Answer.AI所开展的都是关键研究,目标是让世界变得更好一点。当然,Answer.AI采取的是盈利模式,通过销售有用的创新产品来盈利,然后用获得的利润来开发更多好产品。毕竟,盈利是实现实验室可持续发展的必要因素。

Answer.AI的核心目标是:使AI更易于接触和使用。虽然fast.AI也追求类似的使命,但fast.AI是非盈利组织,完全依赖我个人的资金,这种模式无法长期持续。因此,Answer.AI旨在成为一个更加可持续的组织,在盈利的基础上,利用和最大化语言模型的潜力。理想情况下,我们希望开发出能直接向终端用户收取小额月费的产品。简而言之,我们的目标是发现人们的需求,生产并以盈利方式销售这些产品。

Q:你希望组建一个什么样的团队来实现这一目标?

A:我们的计划是建立一个规模较小、技能全面的团队。团队成员涉猎广泛,基础扎实,即擅长编程、善于解决问题,又具备高度创造性。他们可能源自各行各业,但期望他们在某个领域已经有了一些成绩,因为勤奋、智慧和创造力往往伴随着成功。当然,最看重的是他们是否能够通过自己的创造力、智慧和努力产生实际影响。

Q:与Google、OpenAI或DeepMind这样的大公司对比,Answer.AI有哪些独特之处?

谈发展路径:开源,极佳的国家战略

Q:开源和闭源路径之争中,我们应该如何抉择?

A:闭源只能帮助创建它的公司,并且只有公司内部的人才能对其进行改进。而开源则能帮助整个社会,任何人都可以为其改进做出贡献。从其他软件领域的经验来看,开源在创造对社会有用的产品和服务方面更为成功。例如,大多数互联网都运行在开源的Linux操作系统上。大部分网页运行在Apache、Nginx和Caddy这些开源服务器上。我们的大多数电子邮件都存储和发送于开源服务器。

开源不是偶然,从互联网的发展历程看,它能帮助AI更快速、更高效的发展。目前来看,AI的重要性可能会超过互联网。如果持续闭源发展,虽然少部分群体会获益,但社会总收益将有损失。紧接着,大学、机构无法使用代码和模型进行科研,社会创新持续减少,安全风险由于无法直接访问的模型也会不断增大。因此,AI越发展,开源越有必要。

开源的重要性不分地区和国籍,中国、澳大利亚和美国都需要开源助推AI发展。尤其中国人极其重视家国情怀,如果中国能成为开源AI模型的主要力量,每个人都能对这些模型贡献自己的力量,那么在增添国家荣耀的同时,也能促进团结和进步。目前,最优秀的模型主要来自美国的Google和OpenAI,澳大利亚和中国相对落后。但通过开源合作,我们可以快速赶超这些闭源模型。

Q:我们如何向大众宣传开源的益处?

Q:在整个开源产业链当中,有哪些工具、系统仍然稀缺,尚需填补哪些空缺?

A:开源AI软件面临易用性的挑战。这些软件通常由对技术充满热情的工程师开发,更多地考虑他们自己和同行的需求,而非普通用户的实际需求。因此,尽管在创建和训练模型方面优于闭源软件,开源软件的用户门槛仍然偏高,这是其主要问题。

此外,运行AI训练或推理需要高性能GPU,但由于美国对中国市场高端GPU的限制,这成为了中国研发更优产品的契机。就像华为在面临限制时的表现一样,中国有潜力开发出性能更好、价格更优的GPU。

无论软件多优秀,如果硬件成本过高,仍是一个重大障碍。AI领域的快速发展意味着技术更新换代非常迅速,如何在保持尖端技术的同时提升软件的易用性和可访问性是一个挑战。引入更多人机交互(HCI)领域的专家,开发出更符合人类需求的友好界面,将极大地促进软件的普及。软件开发不应仅限于数学家和计算机科学家,而是需要更多理解人类需求的专家参与,使软件更加人性化。

谈大模型潜力:微调是关键

Q:如何评价目前流行的开源模型?优势和劣势是什么?

A:在目前最优秀的开源模型中,有一款非常出色的是由开复团队开发的Yi-34B模型。它规模达到了34B,相对容易获取,可以在常规电脑上运行。但这个模型的一个主要问题是,它并非真正意义上的开源,因为在商业用途上的使用需要申请许可,这是目前的一个限制。

Llama2模型现在略显过时,已经被Mistral模型超越了。尽管Mistral模型没有Yi-34B那样大的规模,仅有7B,但它正快速发展和进步,非常令人期待。

我注意到的一个问题是,为了使这些模型有效工作,需要进行微调。我观察到的多数成功的微调工作似乎都在美国进行。虽然中国在基础模型的开发上贡献巨大,但在微调这一关键部分似乎做得不够多,这实际上更为重要,因为这是使模型真正有效工作的关键所在。这是一个任何人都能贡献的领域。因此,社区可以尝试开发更优的微调模型,尤其是在中英双语数据方面,这将成为一个极具价值的社区项目。

谈人才培养:编程要从娃娃抓起

Q:如何看待AI普及教育和面向未来的AI人才培养?

A:我认为,这个问题应该从两个截然不同的角度来考虑。首先,我们要思考如何将AI融入日常生活。其次,则是探讨如何推动AI技术的前沿发展。

禁止使用AI,无异于禁止使用计算机或互联网,等于剥夺了学生掌握工作和学习中关键工具的机会。

对于老师来说,AI代表了一场巨大的变革。老师应该走出舒适区,致力于提升学生的竞争力。我们应该教会学生如何使用这项技术。培养学生自己开发AI模型和解决方案的能力,关键在于编程教育,因此编程要从“娃娃”抓起。

数学的某些分支,比如线性代数和微积分,对于AI来说非常重要。我建议在高中和大学阶段重点学习这些课程。如果你精通线性代数、微积分和编程,你就有机会成为一名杰出的AI研究员和实践者。

Q:当前AI教育模式存在哪些弊端?如何看待大多数AI教育资源都集中在顶尖机构和大学手中?

A:在线课程或许能填补一些目前教育弊端。例如我们提供出色且免费的课程。在西方,YouTube上有大量优秀的视频内容跟进AI最前沿的技术动态。最近,我在YouTube上发布了视频《AHackers'GuidetoLanguageModels》的视频,看完这90分钟的视频就能获得关于语言模型的所有知识点。

谈兴趣学习:中文学习打开AI科研新视角

Q:你曾在中国学习语言,能谈谈那段学习经历么?

Q:如何下决定学习中文的?

A:其实没啥特别的原因,我只是觉得自己需要一个能持续10年的挑战性项目。CIA将阿拉伯语、汉语和日语评为英语母语者三大最难学的语言。我对阿拉伯语不太感兴趣,而关于日本文化,我已经有了一定的了解。因此,我想学习中文可能会很有趣,于是我就开始了学习中文的旅程。

这个决定带来了意想不到的惊喜。比如,每学习一个新的成语,就仿佛揭开了一个全新的故事的序幕。这些成语不仅是语言的组成部分,更是那个时代文化和艺术的体现。当我去中国时,我惊讶地发现我的中国朋友对西方历史和文化有深入的了解。而在我们这里,大多数欧美人对中国的历史和文化所知甚少。这是一个全新的世界,既启发我,也给我带来了极大的喜悦。我为自己能拥有这样的经历感到非常幸运。

Q:中文学习对你的计算机研究有何帮助?

A:我想对刚入门深度学习的初学者说,要记住,深度学习仍然是一个较新的领域。当前这个领域的许多专家也是从初学者起步的。一开始,虽然一切似乎都充满神秘和复杂性,但请相信,你终将能够理解并赶上进度。

我的建议是,不要过度沉溺于数学理论,也不必太担心数学问题。应当将重心放在编程和实际项目构建上。最开始不完全理解每个细节也是正常的,关键在于多加实践和尝试。深度学习不仅是一门艺术和工程学科,更是一种科学。因此,我建议你把重点放在实践和工程方面,把它当作一种手艺来对待。就像陶艺家或陶工一样,他们虽然可以了解很多制作陶器的理论,但真正关键的是动手实践。如果你想制作精美的陶瓷或高质量的模型,就需要制作出大量的作品。正如第一次尝试制作陶器时可能会出现瑕疵一样,你初期训练的模型可能也不会太完美。但关键是不要放弃,只要坚持,就意味着你在不断地学习和进步。

THE END
1.零基础学阿拉伯语软件哪个好APP推荐零基础学阿拉伯语软件哪个好2022 阿拉伯语是小语种中的一个重点分支,很多小伙伴想知道在哪可以学习阿拉伯语,小编给大家介绍零基础学阿拉伯语软件哪个好2022 零基础学阿拉伯语软件有哪些,这几款软件相信可以帮到大家在线上学好阿拉伯语。 No.1 网易有道词典https://www.wandoujia.com/bangdan/403201/
2.语有哪些app?免费学阿拉伯语的app自学阿拉伯语软件下载阿拉伯语作为阿拉伯国家官方语言和世界上最大的语种之一,吸引着越来越多的人开始学它。一般除了线下上语言课的方式以外,大家还可以选择在专门的语言教学软件上来学习。小编今天就为大家带来了一些免费学阿拉伯语的app,这里包括了天天阿拉伯语、莱特阿拉伯语、busuu博树和忆术家等软件,这些软件里面的教学内容非常丰富,从基础http://www.downyi.com/key/xalbydrj/
3.莱特阿拉伯语学习背单词app下载软件介绍 技巧攻略 全部平台 历史版本 标签:学习 介绍 零基础快速入门学阿拉伯语。数百万阿拉伯语学习者的随身工具,不同阶段阿拉伯语学习者的学习神器,轻松学阿拉伯语,牢固背单词,地道阿拉伯语学习助手,包含了较常用的基础阿拉伯语口语与短语,随身携带的阿拉伯语老师,打造一口流利阿拉伯语。软件特色功能:【每日一句】每日https://m.liqucn.com/rj/9619966889186.wml
4.莱特阿拉伯语学习app下载莱特阿拉伯语学习v2.2.8官方版莱特阿拉伯语学习app是一款阿拉伯语学习软件,莱特阿拉伯语学习app数百万阿拉伯语学习者随身工具,轻松学阿拉伯语,地道阿拉伯语学习助手,包含了较常用的基础阿拉伯语口语与短语,随身携带的阿拉伯语老师,打造一口流利阿拉伯语。 应用介绍: 零基础快速入门学阿拉伯语。 数百万阿拉伯语学习者随身工具,轻松学阿拉伯语,地道阿拉伯https://m.qqtn.com/q/269920
5.零基础学阿拉伯语软件排行榜有哪些哪个好用偏玩手游盒子分享十大零基础学阿拉伯语软件排行榜前十名手机应用,编辑为您推荐手机零基础学阿拉伯语软件排行榜第一名到前5名到前十名的应用。找零基础学阿拉伯语软件有哪些、零基础学阿拉伯语软件哪个好用,上偏玩手游盒子https://www.pianwan.com/s/zj-2614783
6.阿拉伯语app有哪些?阿拉伯语app下载阿拉伯语翻译软件手机版阿拉伯语app汇集了非常好用的阿拉伯语学习翻译输入法等软件,能够帮助大家更好地学习运用阿拉伯语,让小语种爱好者也有实用的手机工具app,有需要的用户赶紧下载试试吧。http://www.downcc.com/k/alaboyuapp/
7.AppStore上的“学习阿拉伯语(初学者)”快速和独自学习阿拉伯语! 你想在线学习阿拉伯语吗? 加入超过2000万选择通过BNR语言以简单直观的方式学习的人群吧!这是从零开始免费学习阿拉伯语的最佳方式。在学习新语言的同时,您将会获得乐趣!通过大量单词选择,从基础到高级,扩大您的词汇量。 从头开始学习,从字母表开始!100%的词汇都提供了对中文的翻译,或者你选https://apps.apple.com/cn/app/id1622490070
8.Okyan维语词典必力嵌阿拉伯语词典软件资讯软件快报软件截图 必力嵌阿拉伯语词典 软件大小: 31.7 MB 应用平台: iOS 下载地址: 点击下载 必力嵌阿拉伯语词典是快捷方便的词典软件。本词典以阿拉伯语词汇为基础,主要收录阿拉伯语-维吾尔语词典,阿拉伯语解释词典,维吾尔语解释词典等。提供了快速查找、全面查找、释文查找、选择查找等多种查找方式,使用户快速、方便地查到https://soft.zol.com.cn/437/4374216.html
9.又上新啦!快来看看有没有适合你的岗位→澎湃号·政务2、英语/日语/阿拉伯语听说读写熟练; 3、有突出的逻辑思维和归纳总结能力; 4、具有良好的沟通能力。 见习补贴: 2152元/月 工作地点: 淞沪路270号3号楼 2.软件开发技术人员(2人) 上海公共就业招聘新平台二维码: 岗位职责: 1、参与大型全球保险业务运营商业应用数字化解决方案的设计与开发; https://www.thepaper.cn/newsDetail_forward_27352186
10.零基础学习阿拉伯语字母(第1个字母)零基础学习阿拉伯语字母(第1个字母) 本站是提供个人知识管理的网络存储空间,所有内容均由用户发布,不代表本站观点。请注意甄别内容中的联系方式、诱导购买等信息,谨防诈骗。如发现有害或侵权内容,请点击一键举报。http://www.360doc.com/content/24/0314/12/1609415_1117142877.shtml
11.零基础学习阿拉伯语字母(第1个字母)零基础学习阿拉伯语字母(第1个字母)叶老师YP >《语言文字》2024.03.14 湖北 关注 本站仅提供存储服务,所有内容均由用户发布,如发现有害或侵权内容,请点击举报。打开APP,阅读全文并永久保存 猜你喜欢 类似文章 摄影:一组江南景观(5) 认知| 一个人容易被他人影响的最大原因 方清平单口相声合集 退休手续办理https://www.360doc.cn/article/1609415_1117142877.html
12.零基础阿拉伯语学习:发音摘要:阿拉伯语有28个字母,包括14个太阳字母(? ? ? ? ? ? ? ? ? ? ? ? ?)以及14个太阴字母。 阿拉伯语有28个字母,包括14个太阳字母(? ? ? ? ? ? ? ? ? ? ? ? ?)以及14个太阴字母,今天我们来学习阿拉伯语字母发http://www.eopfun.com/news/detail/5075
13.从零开始画图标系列:超全面的基础知识优设网再者,不同的语言,文字的长度也不同,如果换成阿拉伯语或者俄罗斯语,或许一行还装不下所有文字。图标可以以一种更高效的方式,将我们想要传递的信息进行浓缩,不仅易于识别,也能让界面更简洁,利于排版,比如下方案例。 △ 应用文字替换了图标的对比 第二点,就是关于视觉的观赏性。有些页面中,如果把图标去掉了,也丝毫https://www.uisdc.com/superman-icon-design-1/
14.阿拉伯语零基础语音入门随到随学班快来学习阿拉伯语吧,了解阿拉伯语和他们的文化,会为你打开一个更广阔的大门。 温馨提示:本班级移动端支持课件下载学习。 想学更多?想开口对话?点击直达新版课程>>> 适合对象 1、阿拉伯语零基础的同学; 2、有一定阿拉伯语基础,想复习巩固发音的同学; https://class.hujiang.com/131977/intro
15.阿拉伯语全套自学视频教程/零基础/初级/高级合集需要的小伙伴豆油我的人太多了,一一发送难免会漏掉一些真正需要资料的同学,真心想要的可以加我wechat找我要,验证的时候可以写豆瓣我就通过了 weixin ID: Shirley_wt 教程1:《空中阿拉伯语》全套讲座+教材 5.33 GB Mr.Li, Chwan-Tyan 台湾政治大学阿拉伯语文学系副教授 阿拉伯语中东情势分析专家 空中阿拉伯语是中国唯一一套https://m.douban.com/group/topic/49008127/
16.深圳阿拉伯语零基础培训深圳韵扬语言培训中心深圳阿拉伯语零基础培训 【课程介绍】 本课程的教学内容主要围绕语音、词汇句型、语法、功能意念、语言技能等内容展开,以向学员传授阿拉伯语基础知识为基本目的,对学员进行阿拉伯语语言熟巧和技能的全面训练,使学员对阿拉伯的文化及国情有初步的了解,培养学员掌握用阿拉伯语进行交际的初步能力,要求学员掌握学习阿拉伯语的正https://www.91goodschool.com/course/2986-76943.html
17.甄选!阿拉伯语培训机构人气榜单,机构对比分析对于零基础学阿拉伯语的学习者来说,起初可能会感到有些困难。一方面,阿拉伯语的字母表与中文以及许多西方语言存在较大差异,字母的书写方式和发音特点都较复杂。此外,阿拉伯语有着丰富的语法规则和独特的口语表达方式,初学者需要投入时间去理解和练习。另一方面,学习者在零基础阶段也能够通过合理的培训课程、耐心的老师和https://m.766it.com/news/280553.html
18.义乌初级阿拉伯语培训班义乌初级阿拉伯语培训对阿拉伯语充满好奇,希望从零开始探索这一古老而美丽语言的学员;因个人兴趣想要拓宽语言技能的学员;因职业规划需要掌握多一门国际交流工具的学员。 【课程内容】: 课程主要使用外研社《新编阿拉伯语》1-7课进行授课,引导零基础学员入门,主要学习阿拉伯语的12个发音符号,28个基础字母和拼读:发音、读音规则、正确的书https://m.qinxue365.com/course/963144.html