Spark编程基础(Python版)教材官网

厦门大学林子雨,郑海山,赖永炫编著

林子雨(ziyulin@xmu.edu.cn)

披荆斩棘,在大数据丛林中开辟学习捷径

填沟削坎,为快速学习Spark技术铺平道路

深入浅出,有效降低Spark技术学习门槛

资源全面,构建全方位一站式在线服务体系

本教材已经上市销售,可以京东、当当网购

ISBN:978-7-115-52439-3定价:49.80元人民邮电出版社

2020年4月第1版

(备注:第2版教材书稿已经提交给出版社,预计2024年6月上市销售)

本页面内容导航

扫一扫访问本网页

《Spark编程基础(Python版)》

教材简介

本书以Python作为开发Spark应用程序的编程语言,系统介绍了Spark编程的基础知识。全书共8章,内容包括大数据技术概述、Spark的设计与运行原理、Spark环境搭建和使用方法、RDD编程、SparkSQL、SparkStreaming、StructuredStreaming、SparkMLlib等。本书每个章节都安排了入门级的编程实践操作,以便读者更好地学习和掌握Spark编程方法。本书官网免费提供了全套的在线教学资源,包括讲义PPT、习题、源代码、软件、数据集、上机实验指南等。

作者简介

《Spark编程基础(Python版)》由林子雨、郑海山、赖永炫执笔,其中,林子雨负责教材规划、统稿、校对和在线资源创作,并撰写第1、2、3、4、5、6章的内容,郑海山负责第7章内容的撰写,赖永炫负责撰写第8章的内容。

Scala版教程

(1)在线教程

问:在线版本的《Spark入门教程》和出版发行的纸质教材《Spark编程基础(Scala版)》二者的区别是什么?

需要注意的是,在线版本中也包含了一些纸质教材中没有的内容,因为这些操作实践的内容比较琐碎,因此,没有放入纸质教材,所以,读者阅读在线版本仍然会有新的收获。总体而言,在线版本和纸质教材二者配合使用,效果更好。

(2)授课视频(Scala版)

每个章节配套实验题目和答案

纸质教材《Spark编程基础(Python版)》的每个章节(除了第3章Spark的设计与运行原理)末尾都配套了学生上机实验题目,每套实验题目可以满足1次上机实验室(比如连续4节课机房统一上机实验课)的要求,旨在帮助学生更好消化理解课堂内容。下面是7个实验一览表。

本案例涉及数据预处理、消息队列发送和接收消息、数据实时处理、数据实时推送和实时展示等数据处理全流程所涉及的各种典型操作,涵盖Linux、Spark、Kafka、Flask、Flask-SocketIO、Highcharts.js、sockert.io.js、PyCharm等系统和软件的安装和使用方法。案例适合高校(高职)大数据教学,可以作为学生学习大数据课程后的综合实践案例。通过本案例,将有助于学生综合运用大数据课程知识以及各种工具软件,实现数据全流程操作。各个高校可以根据自己教学实际需求,对本案例进行补充完善。

本案例涉及数据预处理、存储、查询和可视化分析等数据处理全流程所涉及的各种典型操作,涵盖Linux、MySQL、Hadoop、Hive、Sqoop、Eclipse、ECharts、Spark等系统和软件的安装和使用方法。案例适合高校(高职)大数据教学,可以作为学生学习大数据课程后的综合实践案例。通过本案例,将有助于学生综合运用大数据课程知识以及各种工具软件,实现数据全流程操作。各个高校可以根据自己教学实际需求,对本案例进行补充完善。

本案例将实现一个系列程序,从厦门小鱼网爬取租房租金信息,然后利用spark的python版本进行简单分析,并利用echarts的python版本展示分析结果,此外还会简单介绍pycharm的工程建立,所以本篇将分为四个部分。

本案例采用TMDB数据集,并使用Python语言编写Spark应用程序对电影数据进行各种分析。

本实验采用Python语言,使用大数据处理框架Spark对数据进行处理分析,并对分析结果进行可视化。

本案例以2020年美国新冠肺炎疫情数据作为数据集,以Python为编程语言,使用Spark对数据进行分析,并对分析结果进行可视化。

本案例数据集是来自Kaggle的一个跨国在线零售业务的交易数据,采用Python为编程语言,采用Hadoop存储数据,采用Spark对数据进行处理分析,并使用Echarts做数据可视化。

本案例针对全球重大地震数据进行分析,采用Python为编程语言,采用Hadoop存储数据,采用Spark对数据进行处理分析,并对结果进行数据可视化。

本案例以和鲸社区的信用卡评分模型构建数据为数据集,以Python为编程语言,使用大数据框架Spark对数据进行处理分析,并对分析结果进行可视化。

先修课程(建议学习,不是必须)

大数据课程公共服务平台

教材勘误

在教材使用过程中,如发现任何错误,欢迎联系教材作者林子雨:ziyulin@xmu.edu.cn。在此向读者表示衷心的感谢!

大事记

*2019年1月,由林子雨、郑海山、赖永炫编著的《Spark编程基础(Python版)》纸质教材书稿完成撰写,提交给人民邮电出版社出版。

*2019年11月,人民邮电出版社返回教材清样,作者进行最后校对交付给出版社,等待教材最后出版。

THE END
1.Python的在线教育学习平台该Python的在线教育学习平台基于B/S架构,后端采用Django框架,前端采用Bootstrap等技术,并结合MySQL数据库。该系统分为系统管理员、前台用户两种角色: 前台用户角色的功能: 1)登录和注册 2)浏览机构信息 3)浏览信息 4)学习 5)收藏/取消收藏 系统管理员角色的功能: https://blog.csdn.net/2301_78251288/article/details/144325375
2.python开发工具哪个好用?推荐几款主流好用的Python开发工具版本控制:PyCharm支持多种版本控制系统,如Git、Mercurial和Subversion,可以帮助开发人员更好地管理代码,并且能够与其他开发人员协作开发。 多语言支持:除了Python,PyCharm还支持多种其他编程语言,如JavaScript、HTML、CSS等,可以帮助开发人员在同一个平台上进行全栈开发。 https://www.jb51.net/softjc/927153.html
3.线上python哪个平台好?Worktile社区3. 丰富的教学资源:提供了许多教学视频和文档,可以帮助学生更好地理解Python的概念。 ### 五、Repl.it Repl.it是一个在线编程平台,支持多种编程语言,包括Python。它提供了一个简单易用的界面,可以轻松创建和共享代码。 ### 优势 1. 在线协作:可以邀请其他人一起编写和编辑代码,方便团队合作。 2https://worktile.com/kb/ask/90158.html
4.Python编程实战妙趣横生的项目之旅《Python编程实战:妙趣横生的项目之旅》基于Python语言,通过项目展示Python的奇妙应用,适合Python初学者学习。在本书中,你将使用Python编程语言模拟探索火星、木星以及银河系最遥远的地方,体验诗人的意境,了解高级的金融知识等。你还会学到各种各样的技术,如马尔可夫链分析技术、蒙特卡罗模拟、图像叠加技术、基因遗传算法等https://www.epubit.com/bookDetails?id=UB77b8974a26924
5.好用的Python在线编辑器推荐3.菜鸟教程提供的在线编辑器 编辑器地址1:http://c.runoob.com/compile/9 编辑器地址2:https://www.runoob.com/try/runcode.php?filename=HelloWorld&type=python3 支持切换Python2/Python3的环境 不支持常用导入模块(例如numpy等) 4.Crossin编程教室提供的在线编辑器 https://www.jianshu.com/p/899ec38dfed3
6.免费python在线正常网站mob64ca12d61d6b的技术博客免费Python在线编程网站介绍及应用 Python是一种广泛使用的高级编程语言,以其简洁易读的语法和强大的社区支持而闻名。如今,许多在线平台提供了Python编程环境,方便用户无需安装任何软件即可练习和学习Python。本文将介绍几种优秀的Python在线编程网站,并结合具体代码示例进行讲解。 https://blog.51cto.com/u_16213323/11846938
7.python编程网页版(python在线编程)python编程网页版(python在线编程)6,289次阅读 没有评论 最近,越来越多的人对Python编程产生了浓厚的兴趣。Python作为一种易学易用的编程语言,被广泛应用于各个领域。而如今,我们甚至可以通过网页版的方式来进行Python编程,这为更多人提供了极大的便利。 什么是Python编程网页版? 在过去,我们通常需要在本地安装Pythonhttps://www.python51.com/jc/97278.html
8.晓得博客分享Python编程WordPress主题教程WordPress插件分享Python编程、WordPress主题教程、WordPress插件、WordPress插件教程、WordPress外贸建站、WordPress网站优化、WooCommerce建站与网络营销的实战经验 | 晓得博客https://www.pythonthree.com/
9.Python123Python 优雅胜于丑陋,简单胜于复杂,为你提供更好的 Python 学习体验。 我们相信,学习编程不在于它有多强大,而在于它能够给你怎样的力量!https://www.python123.io/index
10.软件下载青少儿编程编程软件ScratchPythonIDLEScratch3 编程工具 Scratch3 在线版 Scratch3 离线版 Windows版 Mac版 Scratch3 Linux版 Scratch3使用说明 使用电脑操作 Scratch3是麻省理工推出的最新编程启蒙平台。官方目前只推荐在电脑上使用。 1 2 选择版本 Scratch3有两个版本:在线版和离线版。在线版在国内的连接速度不稳定,但无需安装,可直接使用浏览器运行https://qbitschool.cn/download
11.慧编程在线Python编程慧编程在线Python编辑器 0基础学编程 支持机器人编程与人工智能教学https://python.makeblock.com/
12.Python学习网Python编程语言学习、交流、培训平台,包含最新Python3基础教程、视频教程、技术动态及下载资源推荐等,欢迎自学!https://www.py.cn/
13.推荐几款非常火爆的Python在线编辑器!腾讯云开发者社区优点:提供学习和练习平台,适合初学者。缺点:功能有限,主要是面向练习和挑战。 7. CodingGround CodingGround是一个在线的编程环境,支持多种编程语言,包括Python。它的特色是提供了一个简单的界面和工具,让用户可以专注于编写代码,而不必关心环境配置等问题。 https://cloud.tencent.com/developer/article/2416099
14.WelcometoPython.orgThe official home of the Python Programming Languagehttps://www.python.org/
15.Python编程:从入门到实践(第2版)练习答案:你应该花大量时间独立完成“动手试一试”中的练习,但如果卡壳了、无法取得进展,可在线查看部分练习的答案。 速查表:在线提供了完整的速查表,可作为主要概念的参考指南。 为何使用 Python 继续使用 Python,还是转而使用其他语言——也许是编程领域较新的语言?我每年都会考虑这个问题。可我依然专注于 Python,https://www.ituring.com.cn/book/tupubarticle/32678
16.菜鸟工具菜鸟工具,为开发设计人员提供在线工具,网址导航,提供在线PHP、Python、 CSS、JS 调试,中文简繁体转换,进制转换等工具。致力于打造国内专业WEB开发工具,集成开发环境,WEB开发教程。..https://c.runoob.com/
17.哈希编程PythonTip学编程提升编程技能的完美平台 学生 是在准备大考还是想在第一次面试中取得好成绩?利用 Pythontip 的现实实践来巩固你所学到的知识,并为那个重要的时刻做好准备。 专业人员 你可以学到一些全新的东西来促进你的职业发展。或者你只是想把铁锈去掉。尝试 Pythontip 来获得各种各样的课程,从机器学习到网络开发。 http://www.pythontip.com/
18.STEM86在线编程环境免除繁琐安装配置自带图形化Python编程,方便初学者使用。https://python.stem86.com/
19.CodeCombat扣哒世界是教育部白名单赛事平台,信奥CSP-J/S学习平台,AI世青赛、图灵计划和Code Quest官方竞赛平台,支持Python, C++, JavaScript。https://il.codecombat.com/