dmz社区

 找回密码
 立即注册

QQ登录

只需一步,快速开始

查看: 18444|回复: 19

[Spark/Scala] 2019好程序员Spark教程 [MP4] (11.2G)

[复制链接]

4436

主题

1471

帖子

1万

积分

会|员

Rank: 9Rank: 9Rank: 9

积分
12361
发表于 2019-10-9 14:44:03 | 显示全部楼层 |阅读模式

本站资源全部免费,回复即可查看下载地址!

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
课程目录:
├─day01
│  │  HelloWord.scala
│  │  Test01_01.scala
│  │  今天课程重点和任务.txt
│  │  01、Scala解释器本地安装.mp4
│  │  02、IDEA安装.mp4
│  │  03、安装IDEA的Scala插件.mp4
│  │  04、创建maven项目.mp4
│  │  05、关于IDEA中maven仓库的配置.mp4
│  │  06、安装ScalaSDK、创建类.mp4
│  │  07、Scala简介.mp4
│  │  08、Scala编译.mp4
│  │  09、注释、命名规范.mp4
│  │  10、变量的声明.mp4
│  │  11、多变量的定义.mp4
│  │  12、数据类型.mp4
│  │  13、表达式.mp4
│  │  14、关于变量的扩展内容.mp4
│  │  15、Scala的输入和输出.mp4
│  │  16、循环.mp4
│  │  17、关于循环的扩展:map、foreach.mp4
│  │  18、声明方法.mp4
│  │  19、声明函数、方法和函数的转换.mp4
│  │  笔记.txt
│               
├─day02
│  │  day01作业答案.txt
│  │  今天的重点.txt
│  │  20、回顾.mp4
│  │  21、集合简介.mp4
│  │  22、数组-定长数组和变长数组.mp4
│  │  23、Map-不可变和可变Map.mp4
│  │  24、元组.mp4
│  │  25、zip拉链.mp4
│  │  26、List列表.mp4
│  │  27、Set集合.mp4
│  │  28、lazy修饰符.mp4
│  │  29、集合练习.mp4
│  │  30、实现单词计数.mp4
│  │  31、实现单词计数.mp4
│  │  32、常用方法练习:flatMap、reduce、fold、aggregate、par.mp4
│  │  笔记.txt
│  │  练习.txt
│           
├─day03
│  │  今天的重点.txt
│  │  33、默写题.mp4
│  │  34、回顾.mp4
│  │  35、oop-类和属性.mp4
│  │  36、主构造器和辅助构造器.mp4
│  │  37、单例对象.mp4
│  │  38、伴生对象.mp4
│  │  39、apply和unapply方法.mp4
│  │  40、特质、继承、实现.mp4
│  │  41、模式匹配-String、数组、元组、集合.mp4
│  │  42、模式匹配-匹配类型.mp4
│  │  43、模式匹配-样例类.mp4
│  │  44、Option类型结合模式匹配.mp4
│  │  45、模式匹配-偏函数.mp4
│  │  46、scala的输入输出.mp4
│  │  47、高阶函数-作为值的函数.mp4
│  │  48、闭包.mp4
│  │  笔记.txt
│               
├─day04
│  │  day02作业答案.txt
│  │  Netty.docx
│  │  今天的重点.txt
│  │  49、回顾.mp4
│  │  50、private关键字.mp4
│  │  51、柯里化介绍和练习.mp4
│  │  52、隐式转换函数.mp4
│  │  53、Scala泛型的定义.mp4
│  │  54、泛型demo.mp4
│  │  55、泛型-上界.mp4
│  │  56、泛型-视界.mp4
│  │  57、泛型-上下文界定.mp4
│  │  58、创建线程池-固定线程数量和可复用线程的线程池.mp4
│  │  59、创建有返回值的线程:Future.mp4
│  │  笔记.txt
│               
├─day05
│  │  Akka.docx
│  │  Scala考试题.docx
│  │  关于Scala注解.txt
│  │  回顾Scala的重点.txt
│  │  60、回顾.mp4
│  │  61、Netty的几个重要的组件.mp4
│  │  62、实现Server.mp4
│  │  63、实现ServerHandler.mp4
│  │  64、实现Client.mp4
│  │  65、实现ClientHandler.mp4
│  │  66、本地测试运行.mp4
│  │  67、Akka简介.mp4
│  │  68、用Akka实现通信Demo.mp4
│  │  69、用Akka实现WordCount.mp4
│  │  70、Scala回顾.mp4
│  │  笔记.txt
│                  
├─day06
│  │  RDD的依赖关系和数据优先计算.png
│  │  Spark几个重要的组件.png
│  │  71、大数据架构体系介绍.mp4
│  │  72、Spark的特性和优点.mp4
│  │  73、官网介绍.mp4
│  │  74、Spark集群安装、启动.mp4
│  │  75、Spark的几个重要的组件.mp4
│  │  76、关于Hadoop客户端.mp4
│  │  77、提交任务到Spark集群.mp4
│  │  78、Spark-Shell启动(local模式和集群模式).mp4
│  │  79、Spark实现WordCount.mp4
│  │  80、Spark实现WordCount.mp4
│  │  81、打包并提交作业到集群.mp4
│  │  82、用Java api实现WordCount.mp4
│  │  83、Java Lambda表达式实现WordCount.mp4
│  │  84、关于IDEA调试.mp4
│  │  85、RDD的概念.mp4
│  │  笔记.txt
│                  
├─day07
│      groupByKey和reduceByKey.png
│      spark rdd api.txt
│      今天的重点.txt
│      86、回顾.mp4
│      87、RDD的概念增强.mp4
│      88、生成RDD的两种方式.mp4
│      89、RDD的两种算子:transformation和action.mp4
│      90、简单算子练习.mp4
│      91、groupByKey和reduceByKey的区别.mp4
│      92、算子进阶-map、mapPartitions、mapPartitionsWithIndex.mp4
│      93、算子进阶-重分区算子.mp4
│      94、算子进阶-aggregate.mp4
│      95、算子进阶-aggregate.mp4
│      96、算子进阶-aggregateByKey.mp4
│      97、算子进阶-combineByKey.mp4
│      98、算子进阶-Action算子、foreach和foreachPartition.mp4
│      99、算子进阶-其他算子.mp4
│      笔记.txt
│      
├─day08
│  │  access.log
│  │  join的宽依赖.png
│  │  今天的重点.txt
│  │  100、pvuv.mp4
│  │  101、textFile分区过程.mp4
│  │  102、统计广告点击量top3需求分析.mp4
│  │  103、统计广告点击量top3需求实现.mp4
│  │  104、统计各省各小时的广告点击量的top3.mp4
│  │  105、基站停留时间top2需求分析.mp4
│  │  106、基站停留时间top2需求实现.mp4
│  │  107、RDD对象的传递和序列化.mp4
│  │  108、RDD的宽依赖和窄依赖.mp4
│  │  109、DAG概念.mp4
│  │  笔记.txt
│               
├─day09
│  │  reduceByKey不发生shuffle的情况、shuffle的过程.png
│  │  stage划分和task的生成.png
│  │  今天的重点.txt
│  │  110、回顾.mp4
│  │  111、DAG、Application、Job、Stage、Task.mp4
│  │  112、Stage划分过程.mp4
│  │  113、任务管理器中Stage划分过程.mp4
│  │  114、task的生成过程.mp4
│  │  115、RDD分多个类型.mp4
│  │  116、shuffle、shuffle write、shuffle read.mp4
│  │  117、血统.mp4
│  │  118、学科模块访问量top3需求分析.mp4
│  │  119、学科模块访问量top3需求实现.mp4
│  │  120、缓存和缓存级别.mp4
│  │  121、缓存案例的练习.mp4
│  │  122、checkpoint.mp4
│  │  123、集群启动流程.mp4
│  │  124、任务提交流程.mp4
│  │  笔记.txt
│  │  集群启动流程和任务提交流程.png
│           
├─day10
│  │  今天的重点.txt
│  │  125、回顾.mp4
│  │  126、今天的知识点.mp4
│  │  127、自定义排序1.mp4
│  │  128、自定义排序2.mp4
│  │  130、自定义排序3.mp4
│  │  131、自定义排序4.mp4
│  │  132、自定义排序5.mp4
│  │  133、Spark的分区器.mp4
│  │  134、自定义分区器.mp4
│  │  笔记.txt
│           
├─day11
│  │  broadcast.png
│  │  今天的重点.txt
│  │  135、回顾.mp4
│  │  136、今天课程内容.mp4
│  │  137、Accumulator累加器的应用场景和简单使用.mp4
│  │  138、LongAccumulator、DoubleAccumulator累加器的使用.mp4
│  │  139、自定义Accumulator累计器实现聚合过程.mp4
│  │  140、自定义Accumulator实现单词计数.mp4
│  │  141、总结Accumulator的应用场景和使用步骤.mp4
│  │  142、广播变量的应用场景.mp4
│  │  143、广播变量的使用过程.mp4
│  │  144、广播变量总结.mp4
│  │  145、文件的输入输出.mp4
│  │  146、IP所属区域访问量需求分析.mp4
│  │  147、IP所属区域访问量需求实现.mp4
│  │  148、IP所属区域访问量需求实现.mp4
│  │  149、JdbcRDD.mp4
│  │  150、Spark作业提交的4个阶段.mp4
│  │  笔记.txt
│           
├─day12
│  │  今天的重点.txt
│  │  151、回顾.mp4
│  │  152、SparkSQL简介.mp4
│  │  153、DataFrame概念.mp4
│  │  154、DataSet概念和DataFrame的区别.mp4
│  │  155、SparkShell操作SparkSQL.mp4
│  │  156、初始化环境创建的几种方式.mp4
│  │  157、RDD转换为DataFarme的过程.mp4
│  │  158、通过反射的方式生成Schema的过程.mp4
│  │  159、通过StructType的方式生成Schema.mp4
│  │  160、RDD转换为DataSet及RDD、DataFrame、DataSet互相转换.mp4
│  │  161、用DSL语言风格操作.mp4
│  │  162、用DSL语言风格实现小需求.mp4
│  │  163、用SQL语言风格进行操作.mp4
│  │  164、创建临时表和全局表的区别和作用域.mp4
│  │  165、自定义函数-实现UDF.mp4
│  │  166、自定义函数-实现UDAF(弱类型).mp4
│  │  笔记.txt
│                  
├─day13
│  │  kafka_2.11-1.1.0.tgz
│  │  Kafka主要组件介绍.png
│  │  Kafka的应用场景.png
│  │  今天的重点.txt
│  │  167、回顾.mp4
│  │  168、实现UDAF-强类型.mp4
│  │  169、开窗函数练习.mp4
│  │  170、集成外部Hive.mp4
│  │  171、用代码操作Hive.mp4
│  │  172、用代码链接元数据库进行操作.mp4
│  │  173、输入输出api.mp4
│  │  174、jdbc-获取数据.mp4
│  │  175、jdbc-写入数据.mp4
│  │  176、Kafka简介.mp4
│  │  177、Kafka的应用场景.mp4
│  │  178、JMS规范.mp4
│  │  179、Kafka主要组件介绍.mp4
│  │  180、Kafka集群配置和启动.mp4
│  │  笔记.txt
│           
├─day14
│  │  DStream.png
│  │  NatCat.png
│  │  Streaming.png
│  │  任务.txt
│  │  181、回顾.mp4
│  │  182、kafka常用命令.mp4
│  │  183、kafka常用命令.mp4
│  │  184、kafka的存储.mp4
│  │  185、如何消费已经消费过的数据.mp4
│  │  186、kafka分区和消费者的关系和isr同步机制.mp4
│  │  187、kafka设置生存周期和动态选举.mp4
│  │  188、kafkaapi练习-实现producer.mp4
│  │  189、kafkaapi练习-实现consumer.mp4
│  │  190、本地测试.mp4
│  │  191、Streaming简介.mp4
│  │  192、DStream的概念.mp4
│  │  193、DStream的概念补充和transformations、outputoperations.mp4
│  │  194、StreamingWordCount.mp4
│  │  笔记.txt
│               
├─day15
│  │  任务.txt
│  │  195、回顾kafka.mp4
│  │  196、回顾Streaming.mp4
│  │  197、补充Kafka的同步flush过程.mp4
│  │  198、updateStateByKey实现批次累加功能.mp4
│  │  199、消费kafka数据.mp4
│  │  200、消费kafka数据.mp4
│  │  201、transform的使用.mp4
│  │  202、窗口操作的应用背景和概念.mp4
│  │  203、窗口操作的使用.mp4
│  │  窗口操作.png
│  │  笔记.txt
│                  
├─day16
│      Kafka常见问题.docx
│      spark core的几个问题.txt
│      今天的任务.txt
│      204、回顾.mp4
│      205、streaming消费kafka的两种方式.mp4
│      206、直连方式怎么维护offset.mp4
│      207、streaming清洗数据案例实现过程.mp4
│      208、生产环境中存在问题分析.mp4
│      209、streaming消费数据的语义(保证数据一致性).mp4
│      210、Spark-On-Yarn的应用场景.mp4
│      211、Cluster模式和Client模式的区别.mp4
│      212、提交应用程序到Yarn.mp4
│      213、总结Spark-On-Yarn的执行过程.mp4
│      214、总结Driver端初始化过程的内容.mp4
│      215、解压导入工程.mp4
│      216、观察脚本的调用过程.mp4
│      217、集群启动流程-Master服务启动过程.mp4
│      218、集群启动流程-Worker服务启动过程.mp4
│      笔记.txt
│      
├─day17
│  │  core.rar
│  │  SparkContext.jpg
│  │  SparkContext.uml
│  │  SparkContext、资源调度.png
│  │  spark任务提交流程.png
│  │  Spark任务生成和提交过程.png
│  │  今天的任务.txt
│  │  219、回顾.mp4
│  │  220、SparkSubmit执行过程.mp4
│  │  221、SparkContext初始化主要过程.mp4
│  │  222、后端调度器创建了两个endpoint.mp4
│  │  223、总结SparkContext和后端调度器创建了两个endpoint.mp4
│  │  224、时序图表示SparkContext初始化过程.mp4
│  │  225、Driver向Master发送(注册)任务描述过程、Master生成任务信息过程.mp4
│  │  226、资源调度的方式.mp4
│  │  227、Master通知Worker启动Executor的过程.mp4
│  │  228、Executor向Driver进行反向注册过程.mp4
│  │  229、RDD的生成过程.mp4
│  │  230、stage划分并生成TaskSet的过程.mp4
│  │  231、TaskScheduler的任务调度过程以及将task发送给Execuotr的过程.mp4
│  │  232、Executor开始执行task-ShuffleMapTask、ResultTask.mp4
│  │  233、总结任务提交流程.mp4
│               
├─day18
│  │  shuffle.png
│  │  今天的任务.txt
│  │  234、回顾.mp4
│  │  235、触发shuffle的算子.mp4
│  │  236、spark shuffle过程.mp4
│  │  237、shuffle参数调优.mp4
│  │  238、关于spark优化总结.mp4
│  │  239、Spark基础阶段总结.mp4
│  │  240、Redis介绍.mp4
│  │  241、Redis的应用场景.mp4
│  │  242、Redis安装和启动.mp4
│  │  243、Redis的客户端.mp4
│  │  244、数据结构-string.mp4
│  │  笔记.txt
│           
├─day19
│  │  listdemo需求分析.png
│  │  今天的任务.txt
│  │  245、回顾.mp4
│  │  246、数据结构-hash.mp4
│  │  247、数据机构-list.mp4
│  │  248、数据结构-set.mp4
│  │  249、jedis-string.mp4
│  │  250、jedis-hash.mp4
│  │  251、jedis-list.mp4
│  │  252、jedis-set.mp4
│  │  253、keys命令,数据的生命周期.mp4
│  │  254、两种持久化机制.mp4
│  │  255、主从复制.mp4
│  │  256、集群搭建.mp4
│  │  257、ES介绍.mp4
│  │  258、ES集群搭建和启动介绍.mp4
│  │  259、ik分词器配置过程.mp4
│  │  260、ES的检索.mp4
│  │  261、关于ES优化的重点.mp4
│  │  笔记.txt
│               
└─day20
    │  262、日志生成过程.mp4
    │  263、项目技术架构介绍.mp4
    │  264、数据对接.mp4
    │  265、需求描述.mp4
    │  266、esRDD.mp4
    │  267、其他指标.mp4
    │  数据对接.png
    │  笔记.txt
游客,如果您要查看本帖隐藏内容请回复



回复

使用道具 举报

1

主题

759

帖子

2441

积分

终身会员[B]

积分
2441

发表于 2019-10-15 19:58:45 | 显示全部楼层
啥也不说了,感谢楼主分享哇!
回复 支持 反对

使用道具 举报

0

主题

205

帖子

674

积分

终身会员[B]

积分
674

发表于 2019-10-21 21:26:04 | 显示全部楼层
啥也不说了,感谢楼主分享哇!
回复 支持 反对

使用道具 举报

0

主题

205

帖子

674

积分

终身会员[B]

积分
674

发表于 2019-10-21 21:26:54 | 显示全部楼层
啥也不说了,感谢楼主分享哇!
回复 支持 反对

使用道具 举报

发表于 2019-10-24 14:10:36 | 显示全部楼层
么有分,谁能送我点积分啊::>_<::
回复 支持 反对

使用道具 举报

2

主题

1085

帖子

3176

积分

终身会员[A]

Rank: 7Rank: 7Rank: 7

积分
3176

发表于 2019-12-6 18:49:56 | 显示全部楼层
正需要,支持楼主大人了!
回复 支持 反对

使用道具 举报

1

主题

318

帖子

1123

积分

终身会员[A]

Rank: 7Rank: 7Rank: 7

积分
1123

发表于 2019-12-17 16:23:56 | 显示全部楼层
啥也不说了,感谢楼主分享哇!
回复 支持 反对

使用道具 举报

发表于 2020-1-4 22:44:17 | 显示全部楼层
啥也不说了,感谢楼主分享哇!
回复 支持 反对

使用道具 举报

4

主题

1654

帖子

5927

积分

终身会员[A]

Rank: 7Rank: 7Rank: 7

积分
5927

发表于 2020-1-7 22:30:45 | 显示全部楼层
啥也不说了,感谢楼主分享哇!
回复 支持 反对

使用道具 举报

0

主题

6

帖子

34

积分

终身会员[A]

Rank: 7Rank: 7Rank: 7

积分
34

发表于 2020-2-14 01:58:03 | 显示全部楼层
啥也不说了,感谢楼主分享哇!
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

QQ|Archiver|小黑屋|dmz社区

GMT+8, 2026-7-29 08:16 , Processed in 0.052701 second(s), 8 queries , Redis On.

Powered by Discuz! X3.4 Licensed

Copyright © 2001-2021, Tencent Cloud.

快速回复 返回顶部 返回列表