Spark从入门到精通（Scala编程、案例实战、高级特性、Spark内核源码剖析、Hadoop高端）

Spark从入门到精通（Scala编程、案例实战、高级特性、Spark内核源码剖析、Hadoop高端）

第1讲-Spark的前世今生

第2讲-课程介绍、特色与价值

第3讲-Scala编程详解:基础语法

第4讲-Scala编程详解:条件控制与循环

第5讲-Scala编程详解:函数入门

第6讲-Scala编程详解:函数入门之默认参数和带名参数

第7讲-Scala编程详解:函数入门之变长参数

第8讲-Scala编程详解:函数入门之过程、|azy值和异常

第9讲-Scala编程详解:数组操作之Array. ArrayBuffer以及遍历数组

第10讲-Scala编程详解:数组操作之数组转换

第11讲-Scala编程详解: Map与Tuple

第12讲-Scala编程详解:面向对象编程之类

第13讲-Scala编程详解:面向对象编程之对象

第14讲-Scala编程详解:面向对象编程之继承

第15讲-Scala编程详解:面向对象编程之Trait

第16讲-Scala编程详解:函数式编程

第17讲- Scala编程详解:函数式编程之集合操作

第18讲-Scala编程详解:模式匹配

第19讲-Scala编程详解:类型参数

第20讲-Scala编程详解:隐式转换与隐式参数

第21讲- Scala编程详解: Actor入门

第22讲课程环境搭建: CentOS 6.5集群搭建:

第22讲-课程环境搭建: Virtual Box使用注意(必看) 

第23讲课程环境搭建: Hadoop 2.4.1集群搭建

第24讲-课程环境搭建: Hive 0.13搭建

第25讲_课程环境搭建: ZooKeeper 3.4.5集群搭建

第26讲_课程环境搭建: kafka. 2.9.2-0.8.1集群搭建

第27讲课程环境搭建: Spark 1.3.0集群搭建

第28讲- Spark核心编程: Spark基本工作原理与RDD

第29讲- Spark核心编程:使用Java. Scala和spark-shell开发wordcount程序,

第30讲- Spark核心编程: wordcount程序原理深度剖析

第31讲-Spark核心编程: Spark架构原理

第32讲-Spark核心编程:创建RDD(集合、本地文件. HDFS文件) 

第33讲-Spark核心编程:操作RDD ( transformation和action案例实战) 

第34讲Spark核心编程: transformation操作开发实战

第35讲-Spark核心编程: action操作开发实战

第36讲- Spark核心编程: RD持久化详解

第37讲-Spark核心编程:共享变量( Broadcast Variable和Accumulator ) 

第38讲- Spark核心编程:高级编程之基于排序机制的wordcount程序

第39讲- Spark核心编程:高级编程之=次排序

第40讲- Spark核心编程:高级编程之topn

第41讲- Spark内核源码深度剖析: Spark内核架构深度剖析

第42讲-Spark内核源码深度剖析:宽依赖与窄依赖深度剖析

第43讲-Spark内核源码深度剖析:基于Vrn的两种提交模式深度剖析

第43讲Spark内核源码深度剖析:这是上一讲的补充说明

第44讲-Spark内核源码深度剖析: SparkContext原理剖析与源码分析

第45讲-Spark内核源码深度剖析: Master主备切换机制原理剖析与源码分析

第46讲- Spark内核源码深度剖析: Master注册机制原理剖析与源码分析

第47讲-Spark内核源码深度剖析: Master状态改变处理机制原理剖析与源码分析

第48讲-Spark内核源码深度剖析: Master资源调度算法原理剖析与源码分析:

第49讲- Spark内核源码深度剖析: Worker原理剖析与源码分析

第50讲-Spark内核源码深度剖析: job触发流程原理剖析与源码分析

第51讲- Spark内核源码深度剖析: DAGScheduler原理剖析与源码分析

第52讲Spark内核源码深度剖析: TaskScheduler原理剖析与源码分析

第53讲-Spark内核源码深度剖析: Executor原理剖析与源码分析

第54讲- Spark内核源码深度剖析: Task原理剖析与源码分析

第55讲Spark内核源码深度剖析: Shuffle原理剖析与源码分析

第56讲-Spark内核源码深度剖析: BlockManager原理剖析与源码分析

第57讲-Spark内核源码深度剖析: CacheManager原理剖析与源码分析

第58讲-Spark内核源码深度剖析: Checkpoint原理剖析

第59讲Spark性能优化:性能优化概览

第60讲- Spark性能优化:诊断内存的消耗:

第61讲-Spark性能优化:高性能序列化类库

第62讲- Spark性能优化:优化数据结构

第63讲- Spark性能优化:对多次使用的RDD进行持久化或Checkpoint

第64讲- Spark性能优化:使用序列化的持久化级别:

第65讲-Spark性能优化: Java虚拟机垃圾回收调优

第66讲- Spark性能优化:提高并行度

第67讲Spark性能优化:广播共享数据

第68讲- Spark性能优化:数据本地化:

第69讲-Spark性能优化: reduceByKey和groupByKey

第70讲Spark性能优化: shuffle性能优化

第71讲-课程环境搭建: Spark新版本特性、Spark 1.5.1源码编译、Spark 1.5.1集群搭建

第72讲- Spark SQL :前世今生

第73讲-Spark SQL : DataFrame的使用

第74讲-Spark SQL :使用反射方式将RDD转换为DataFrame

第75讲-Spark SQL :使用编程方式将RDD转换为DataFrame

第76讲- Spark SQL :数据源之通用的load和save操作

第77讲-Spark SQL : Parquet数据源之使用编程方式加載数据

第78讲-Spark SQL : Parquet数据源之自动分区推断

第79讲-Spark SQL : Parquet数据源之台并元数据

第80讲-Spark SQL : JSON数据源复杂综合案例实战

第81讲-Spark SQL : Hive数据源复杂综合案例实战

第82讲-Spark SQL : JDBC数据源复杂综合案例实战

第83讲- Spark SQL :内置函数以及每日uv.销售额统计案例实战

第84讲Spark SQL :开套函数以及top3销售额统计案例实战

第85讲-Spark SQL : UDF自定义函数实战

第86讲-Spark SQL : UDAF自定义聚合函数实战

第87讲-Spark SQL :工作原理剖析以及性能优化

第87讲-Spark SQL :核心源码深度剖析( DataFrame lazy特性. Optimizer优化策略等) 

第87讲-Spark SQL :延伸知识之Hive On Spark

第87讲Spark SQL :与Spark Core整合之每日top3热点搜索词统计案例实战

第88讲-Spark Streaming :大数据实时计算介绍

第89讲Spark Streaming : DStream以及基本工作原理

第90讲-Spark Streaming :与Storm的对比分析

第91讲-Spark Streaming :实时wordcount程序开发

第92讲-Spark Streaming : StreamingContext洋解

第93讲- Spark Streaming :输入DStream和Receiver详解

第94讲-Spark Streaming :输入DStream之基础数据源以及基于HDFS的实时wordcount程序

第95讲-Spark Streaming :输入DStream之Kafka数据源实战(基于Receiver的方式) 

第96讲Spark Streaming :输入DStream之Kafka数据源实战(基于Direct的方式) 

第97讲Spark Streaming : DStream的transformation操作概览,

第98讲- Spark Streaming : updateStateByKey以及基于缓存的实时wordcount程序

第99讲-Spark Streaming : transform以及广告计费日志实时名单过滤案例实战

第100讲-Spark Streaming : window滑动窗口以及热点搜索词滑动统计案例实战

第101讲-Spark Streaming : DStream的outpu操作以及foreachRDD详解

第102讲-Spark Streaming :与Spark SQL结合使用之top3热门商品实时统计案例实战

第103讲-Spark Streaming :缓存与持久化机制

第104讲-Spark Streaming : Checkpoint机制

第105讲-Spark Streaming :部署、升级和监控应用程序

第106讲-Spark Streaming :容错机制以及事务语义详解

第107讲-Spark Streaming :架构原理深度剖析

第108讲-Spark Streaming : StreamingContext初始化与Receiver启动原理剖析与源码分析

第109讲-Spark Streaming :数据接收原理剖析与源码分析

第110讲-Spark Streaming :数据处理原理剖析与源码分析( block与batch关系透彻解析) 

第111讲-Spark Streaming :性能调优:

第112讲_课程总结,

第113讲-Scala编程进阶: Scaladoc的使用

第114讲-Scala编程进阶:跳出循环语句的3种方法

第115讲-Scala编程进阶:多维数组、Java数组与Scala数组的隐式转换:

第116讲-Scala编程进阶: Tuple拉链操作. Java Map与Scala Map的隐式转换

第117讲-Scala编程进阶:扩大内部类作用域的2种方法、内部类获取外部类引用

第118讲-Scala编程进阶: package与import实战详解

第119讲-Scala编程进阶:重写field的提前定义、 Scala继承层级、 对象相等性

第120讲- Scala编程进阶:文件操作实战洋解

第121讲- Scala编程进阶:偏函数实战详解,

第122讲- Scala编程进阶:执行外部命令

第123讲- Scala编程进阶:正则表达式支持

第124讲- Scala编程进阶:提取器实战详解,

第125讲- Scala编程进阶:样例类的提取器实战详解

第126讲- Scala编程进阶:只有-个参数的提取器:

第127讲- Scala编程进阶:注解实战详解

第128讲- Scala编程进阶:常用注解介绍

第129讲- Scala编程进阶: XML基础操作实战详解. 

第130讲- Scala编程进阶: XML中嵌入scala代码

第131讲-Scala编程进阶: XML修改元素实战详解

第132讲- Scala编程进阶: XML加载和写入外部文档

第133讲-Scala编程进阶:集合元素操作

第134讲- Scala编程进阶:集合的常用操作方法

第135讲- Scala编程进阶: map. flatMap. collect. foreach实战详解,

第136讲-Scala编程进阶: reduce和fold实战详解

第137讲-环境搭建-CentOS 6.4虚拟机安装

第138讲-环境搭建Hadoop 2.5伪分布式集群搭建

第139讲-环境搭建-Spark 1.5伪分布式集群搭建

第140讲-第- -次课程升级大纲介绍以及要点说明

第141讲-Spark核心编程进阶-Spark集群架构概览

第142讲-Spark核心编程进阶-Spark集群架构的几点特别说明

第143讲-Spark核心编程进阶-Spark的核心术语讲解

第144讲-Spark核心编程进阶-Spark Standalone集群架构

第145讲- Spark核心编程进阶-单独启动master和worker脚本详解

第146讲Spark核心编程进阶-实验:单独启动master和worker进程以及启动日志查看

第147讲Spark核心编程进阶-worker节点配置以及spark-evn.sh参数详解

第148讲- Spark核心编程进阶-实验: local模式提交spark作业:

第149讲Spark核心编程进阶-实验: standalone client模式提交spark作业

第150讲- Spark核心编程进阶-实验: standalone cluster模式提交spark作业

第151讲- Spark核心编程进阶-standalone模式下的多作业资源调度

第152讲-Spark核心编程进阶-standalone模式下的作业监控与日志记录

第153讲Spark核心编程进阶-实验:运行中作业监控以及手工打印日志

第154讲Spark核心编程进阶-yarn-client模式原理讲解

第155讲- Spark核心编程进阶-yarn-cluster模式原理讲解

第156讲- Spark核心编程进阶-实验: yarn-client模式提交spark作业

第157讲- Spark核心编程进阶~yarn模式下日志查看详解,

第158讲- Spark核心编程进阶-yarn模式相关参数详解

第159讲- Spark核心编程进阶-spark工程打包以及spark-submit洋解

第160讲- Spark核心编程进阶-spark- submit示例以及基础参数讲解

第161讲-Spark核心编程进阶-实验: spark-submit最简单版本提交spark作业

第162讲- Spark核心编程进阶-实验: spark-submit给main类传递参数

第163讲Spark核心编程进阶-spark- submit多个示例以及常用参数详解,

第164讲-Spark核心编程进阶-SparkConf. spark-submit以及spark-defaults.conf

第165讲Spark核心编程进阶-spark- submit配置第三方依赖_

第166讲Spark核心编程进阶-spark算子的闭包原理详解

第167讲Spark核心编程进阶-实验:对闭包变量进行累加操作的无效现象

第168讲Spark核心编程进阶-实验:在算子内打印数据的无法看到现象

第169讲- Spark核心编程进阶-mapPartitions以及学生成绩查询案例

第170讲-Spark核心编程进阶-mapPartitionsWithIndex以开学分班案例

第171讲- Spark核心编程进阶-sample以及公司年会抽奖案例

第172讲-Spark核心编程进阶-union以及公司部门合并案例

第173讲- Spark核心编程进阶-intersection以及公司跨多项目人员查询案例

第174讲-Spark核心编程进阶-distinct以及网站uv统计案例

第175讲-Spark核心编程进阶-aggregateByKey以及单词计数案例

第176讲-Spark核心编程进阶-cartesian以及服装搭配案例

第177讲-Spark核心编程进阶-coalesce以及公司部门]整合案例

第178讲-Spark核心编程进阶-repartition以及公司新增部]案例

第179讲-Spark核心编程进阶-takeSampled以及公司年会抽奖案例

第180讲-Spark核心编程进阶-shuffle操怍原理详解. 

第181讲-Spark核心编程进阶-shuffle操作过程中进行数据排序

第182讲- Spark核心编程进阶-会触发shuffle操作的算子

第183讲-Spark核心编程进阶-shuffle操作对性能消耗的原理详解

第184讲-Spark核心编程进阶-shuffle操作所有相关参数详解以及性能调优

第185讲-Spark核心编程进阶-综合案例1 :移动端app访问流量日志分析

第186讲- Spark核心编程进阶-综合案例1 :日志文件格式分析

第187讲-Spark核心编程进阶-综合案例1 :读取日志文件并创建RDD

第188讲-Spark核心编程进阶-综合案例1 :创建自定义的可序列化类

第189讲-Spark核心编程进阶-综合案例1 :将RDD映射为key-value格式

第190讲-Spark核心编程进阶-综合案例1 :基于deviceID进行聚合操作

第191讲- Spark核心编程进阶-综合案例1 :自定义二次排序key类,

第192讲-Spark核心编程进阶-综合案例1 :将二次排序key映射为RDD的key

第193讲-Spark核心编程进阶-综合案例1 :执行二次排序以及获取top10数据

第194讲- Spark核心编程进阶-综合案例1 :程序运行测试以及代码调试

第195讲- Spark核心编程进阶-部署第二二台CentOS机器,

第196讲- Spark核心编程进阶-部署第二二个Hadoop节 点

第197讲Spark核心编程进阶-将第二二个Hadoop节 点动态加入集群，

第198讲- Spark核心编程进阶-使用yarn-client和yarn-cluster提交spark作业

第199讲- Spark内核原理进阶-union算子内部实现原理剖析

第200讲- Spark内核原理进阶-groupByKey算子内部实现原理剖析

第201讲- Spark内核原理进阶-reduceByKey算子内部实现原理剖析:

第202讲Spark内核原理进阶-distinct算子内部实现原理剖析

第203讲- Spark内核原理进阶-cogroup算子内部实现原理剖析:

第204讲Spark内核原理进阶-intersection算子内部实现原理剖析

第205讲- Spark内核原理进阶个join算子内部实现原理剖析

第206讲-Spark内核原理进阶~-sortByKey算子内部实现原理剖析

第207讲- Spark内核原理进阶-cartesian算子内部实现原理剖析

第208讲- Spark内核原理进阶-coalesce算子内部实现原理剖析:

第209讲- Spark内核原理进阶-repartition算子内部实现原理剖析

第210讲- Spark SQL实战开发进阶-Hive 0.13安装与测试,

第211讲Spark SQL实战开发进阶-Thrit JDBC. ODBC Server

第212讲-Spark SQL实战开发进阶-CL命令行使用

第213讲- Spark SQL实战开发进阶-综合案例2 :新闻网站关键指标离线统计

第214讲- Spark SQL实战开发进阶-综合案例2 :页面pv统计以及排序和企业级项目开发流程说明

第215讲- Spark SQL实战开发进阶综合案例2 :页面uv统计以及排序和count(distinct) bug说明

第216讲- Spark SQL实战开发进阶综合案例2 :新用户注册比例统计

第217讲- Spark SQL实战开发进阶综合案例2 :用户跳出率统计

第218讲- Spark SQL实战开发进阶综合案例2 :版块热度排行榜统计

第219讲- Spark SQL实战开发进阶综合案例2 :测试与调试

第220讲-Spark Streaming实战开发进阶-lume安装

第221讲-Spark Streaming实战开发进阶-接收flume实时数据流flume风格的基于push的方式

第222讲-Spark Streaming实战开发进阶接收fume实时数据流自定义sink的基于poll的方式

第223讲-Spark Streaming实战开发进阶-高阶技术之自定义Receiver

第224讲-Spark Streaming实战开发进阶-kafka安装

第225讲-Spark Streaming实战开发进阶-综合案例3 :新闻网站关键指标实时统计

第226讲-Spark Streaming实战开发进阶-综合案例3 :页面pv实时统计

第227讲-Spark Streaming实战开发进阶综合案例3 :页面uv实时统计

第228讲-Spark Streaming实战开发进阶-综合案例3 :注册用户数实时统计

第229讲-Spark Streaming实战开发进阶-综合案例3 :用户跳出量实时统计

第230讲-Spark Streaming实战开发进阶-综合案例3 :版块pv实时统计

第231讲-Spark运维管理进阶基于ZooKeeper实现HA高可用性以及自动主备切换

第232讲-Spark运维管理进阶-实验:基于ZooKeeper实现HA高可用性以及自动主备切换

第233讲-Spark运维管理进阶基于文件系统实现HA高可用性以及手动主备切换

第234讲-Spark运维管理进阶-实验:基于文件系统实现HA高可用性以及手动主备切换

第235讲-Spark运维管理进阶-作业监控-实验:通过Spark Web UI进行作业监控

第236讲-Spark运维管理进阶-作业监控-实验: standalone模式下查看历史作业的Web UI

第237讲-Spark运维管理进阶-作业监控-实验:启动HistoryServer查看历史作业的Web UI

第238讲-Spark运维管理进阶-作业监控-实验:使用curl+ REST API进行作业监控

第239讲-Spark运维管理进阶-作业监控-实验: Spark Metrics系统以及自定义Metrics Sink

第240讲-Spark运维管理进阶-作业资源调度静态资源分配原理

第241讲-Spark运维管理进阶作业资源调度动态资源分配原理

第242讲-Spark运维管理进阶作业资源调度-实验: standalone模式下使用动态资源分配

第243讲-Spark运维管理进阶-作业资源调度实验: yarn模式下使用动态资源分配

第244讲-Spark运维管理进阶-作业资源调度多个job资源调度原理

第245讲- Spark运维管理进阶-作业资源调度Fair Scheduler使用详解

第246讲- Spark 2.0-新特性介绍

第247讲Spark 2.0-新特性介绍易用性:标准化SQL支持以及更合理的APl

第248讲- Spark 2.0-新特性介绍-高性能:让Spark作为编译器来运行

第249讲- Spark 2.0-新特性介绍智能化: Structured Streaming介绍

第250讲-Spark 2.0-新特性介绍-Spark 1.x的Volcano Iterator Model技术缺陷分析

第251讲-Spark 2.0-新特性介绍-whole-stage code generation技术和vectorization技术,

第252讲-Spark 2.0-Spark 2.x与51.x对比以及分析、学习建议以及使用建议

第253讲-Spark 2.0-课程环境搭建:虚拟机、CentOS. Hadoop. Spark等. 

第254讲-Spark 2.0-开发环境搭建: Eclipse+Maven+ Scala+ Spark

第255讲- Spark 2.0-SparkSession. Dataframe. Dataset开发入门

第256讲-Spark 2.0-Dataset开发详解初步体验untypd操作案例:计算部门平均年龄与薪资,

第257讲-Spark 2.0-Dataset开发详解-action操作: collect. count. foreach. reduce等

第258讲- Spark 2.0-Dataset开发详解基础操作: 持久化、临时视图、ds与df互转换、写数据等

第259讲- Spark 2.0-Dataset开发详解-typed操作: coalesce. repartition

第260讲- Spark 2.0-Dataset开发详解-typed操作: distinct. dropDuplicates

第261讲- Spark 2.0-Dataset开发详解typed操作: except. filter. intersect

第262讲- Spark 2.0-Dataset开发详解-typed操作: map. flatMap. mapPartitions

第263讲- Spark 2.0-Dataset开发详解-typed操作: joinWith

第264讲- Spark 2.0-Dataset开发详解-typed操作: sort

第265讲-Spark 2.0-Dataset开发详解-typed操作: randomSplit. sample

第266讲- Spark 2.0-Dataset开发详解-untyped操作: select. where. groupBy. agg. col. join

第267讲-Spark 2.0-Dataset开发详解聚合函数: avg. sum. max. min. count. countDistinct

第268讲- Spark 2.0-Dataset开发详解聚合函数: collect list. collect set

第269讲- Spark 2.0-Dataset开发详解其他常用函数

第270讲-Spark 2.0-Structured Streaming :深入浅出的介绍

第271讲-Spark 2.0-Structured Streaming : wordcount入I ]案例

第272讲-Spark 2.0-Structured Streaming :编程模型

第273讲-Spark 2.0-Structured Streaming :创建流式的dataset和dataframe

第274讲-Spark 2.0-Structured Streaming :对流式的dataset和dataframe执行计算操作

第275讲-Spark 2.0-Structured Streaming : output mode. sink以及foreach sink详解

第276讲-Spark 2.0-Structured Streaming :管理streaming query

第277讲-Spark 2.0-Structured Streaming :基于checkpoint的容错机制