導(dǎo)讀:現(xiàn)在大數(shù)據(jù)已經(jīng)成為這個時代非常熱門的話題。大數(shù)據(jù)運(yùn)營商以自身用戶數(shù)據(jù)為基礎(chǔ),利用云計算系統(tǒng)和數(shù)據(jù)模型解析,獲取準(zhǔn)確的用戶數(shù)據(jù)。結(jié)合運(yùn)營商大數(shù)據(jù)強(qiáng)大的用戶分析能力和數(shù)據(jù)漏斗技術(shù),對用戶數(shù)據(jù)進(jìn)行綜合分析和數(shù)據(jù)采集技術(shù)。只要是互聯(lián)網(wǎng)相關(guān)的行業(yè),都會用到大數(shù)據(jù)。好學(xué)校后臺有許多學(xué)員私聊小編表示-濟(jì)南哪里有大數(shù)據(jù)開發(fā)培訓(xùn)課程?怎么樣?小編與學(xué)員溝通過后,給學(xué)員推薦濟(jì)南黑之貓it培訓(xùn)基地。接下來讓我們一起來看看課程詳情吧~
【課程名稱】
大數(shù)據(jù)開發(fā)工程師
【課程大綱】
LINUX
基本命令
常見配置文件
文件操作命令和權(quán)限
安裝軟件
Shell腳本
AWK和sed腳本
內(nèi)核加載流程
Docker介紹和操作
服務(wù)器調(diào)優(yōu)項(xiàng)
分布式存儲
Hadoop概述
HBase背景、簡介以及系統(tǒng)架構(gòu)和原理
HBase邏輯模型:行鍵、列族、timeStamp,HBase物理模型。
HBase環(huán)境搭建:偽分布式安裝、完全分布式安裝
HBase Shell 、HBase客戶端API 、HBase表結(jié)構(gòu)設(shè)計
HBase之Mapreduce、HDFS數(shù)據(jù)導(dǎo)入HBase
HBase二級索引、WAL機(jī)制、HBase集群遷移方案、導(dǎo)入方案、協(xié)處理器
HBase性能調(diào)優(yōu):JVM優(yōu)化、查詢優(yōu)化、寫優(yōu)化、配置參數(shù)優(yōu)化
Zookeeper
Zookeeper概述
Zookeeper系統(tǒng)架構(gòu)
Zookeeper數(shù)據(jù)模型
Zookeeper寫數(shù)據(jù)流程
Zookeeper安裝部署
Zookeeper中shell操作
Zookeeper選舉機(jī)制
Zookeeper監(jiān)聽操作
Zookeeper 分布式鎖實(shí)踐
Zookeeper應(yīng)用場景
API操作
YARN
YARN介紹
YARN系統(tǒng)架構(gòu)
YARN作業(yè)提交流程
YARN三種調(diào)度策略
YARN隊(duì)列配置
YARN的Node Label機(jī)制
MapReduce
MapReduce介紹
MapReduce基礎(chǔ)案例
MapReduce分片
MapReduce運(yùn)行流程及shuftle
MapReduce案例
MapReduce相關(guān)參數(shù)
Scala
Scala介紹
Scala基礎(chǔ)語法
數(shù)組和集合
泛型
隱式轉(zhuǎn)換
IO操作
Spark
Spark概述、整體架構(gòu)、Spark vs Mapreduce 、Spark vs Hive 、Spark Streaming vs Storm等
Spark 環(huán)境搭建:hive搭建、kafka搭建、安裝apark
Spark 核心編程:基本工作原理、RDD彈性數(shù)據(jù)集
開發(fā)wordcount程序
Spark 創(chuàng)建RDD、各種算子操作(Transformation、Actions)、共享變量(廣播、累加)
復(fù)雜一些的Spark編程:排名、二次排序、TopN分析
Spark架構(gòu)分析:寬窄依賴、基于YARN的提交模式、SparkContext原理剖析、注冊機(jī)制原理、Executor原理剖析、Task原理剖析、shuffer優(yōu)化、BlockManager原理剖析、CacheManager原理剖析、Checkpoint原理剖析等
Spark Core調(diào)優(yōu):內(nèi)存、判斷耗時、優(yōu)化數(shù)據(jù)結(jié)構(gòu)、RDD與checkpoint、序列化、JVM、提高并行度、廣播共享等
SparkSql
概述、Spark SQL與DataFrame 常用操作
RDD轉(zhuǎn)換DataFrame的兩種方式:反射方式、編程方式
通用的load和save操作
數(shù)據(jù)源:Parquet數(shù)據(jù)源、JSON數(shù)據(jù)源、Hive數(shù)據(jù)源、JDBC數(shù)據(jù)源
各種復(fù)雜案例
Spark Streaming
簡介概述 與storm和spark對比、helloword
StreamingContext、DStream與Receiver
DStream基于數(shù)據(jù)源與HDFS的實(shí)時程序
DStream之Kafka數(shù)據(jù)源、Direct模式 、Transformation操作、與SparkSQL結(jié)合使用
Hive
Hive背景、介紹
Hive環(huán)境安裝:內(nèi)嵌模式、獨(dú)立模式
Hive 的DDL
Hive 的 DML
Hive常見內(nèi)置函數(shù)
Hive高級數(shù)據(jù)類型
Hive窗口函數(shù)
Hive自定義函數(shù)(UDF、UDAF、UDTF)
Hive 分區(qū)表、桶操作
Hive數(shù)據(jù)裝載與導(dǎo)出
Hive動態(tài)分區(qū)、Hive高級查詢、Hive索引、Hive視圖
Hive之IO負(fù)載策略、HIVE sql優(yōu)化、壓縮、分布式緩存
數(shù)據(jù)采集
Sqoop介紹
Sqoop導(dǎo)入和導(dǎo)出命令
Sqoop增量和全量操作
Sqoop優(yōu)化
Flume介紹
Flume離線采集、實(shí)時采集、多路采集
Flume攔截器
Flume優(yōu)化
離線數(shù)倉
某大型電商項(xiàng)目數(shù)據(jù)倉庫介紹
數(shù)據(jù)倉庫規(guī)范
數(shù)據(jù)粒度
數(shù)據(jù)倉庫模型以及分層
建模介紹
維度建模(維度建模和范式建模)
事實(shí)、星座模型
數(shù)據(jù)需求分析介紹
數(shù)據(jù)應(yīng)用操作
數(shù)據(jù)抽取
數(shù)據(jù)清洗
數(shù)據(jù)轉(zhuǎn)化
數(shù)據(jù)加載
調(diào)度
Azkaban介紹
Azkaban系統(tǒng)結(jié)構(gòu)
Azkaban定時案例
Azkaban性能優(yōu)化
【師資簡介】
大數(shù)據(jù)資深講師 張老師
8年工作經(jīng)驗(yàn)+教學(xué)經(jīng)驗(yàn),畢業(yè)于北京航空航天大學(xué),大數(shù)據(jù)培訓(xùn)講師,在工作場景當(dāng)中從開發(fā)工程師到項(xiàng)目經(jīng)理以及架構(gòu)師等等,參與過多個大型項(xiàng)目背景,關(guān)系型數(shù)據(jù)庫以及大數(shù)據(jù)有深入的研究,關(guān)系型數(shù)據(jù)庫Oracle理論體系結(jié)構(gòu)均有非常深厚的功底以及大數(shù)據(jù)Hadoop和spark有深入的研究。
教課心得:
場景教學(xué),學(xué)以致用,善于將復(fù)雜的技術(shù)簡單化,能引導(dǎo)學(xué)生更快捷的學(xué)習(xí)方式
Java大數(shù)據(jù)講師王老師
教學(xué):12年工作經(jīng)驗(yàn)+教學(xué)經(jīng)驗(yàn),畢業(yè)于山東理工大學(xué),曾在互聯(lián)網(wǎng)大廠擔(dān)任項(xiàng)目經(jīng)理,從入行開始研究的是JavaEE的工作流,擅長pringMVC、Spring、MYbatis等等框架,對前端vue、lonic更是深入研究。Hadoop大數(shù)據(jù)相關(guān)組件,如HBASE,hive,kafka,flink等等更是精通。
教課心得(特色):
條理清晰,環(huán)環(huán)相扣,邏輯鬼才,細(xì)節(jié)嚴(yán)謹(jǐn),能感染學(xué)生,知識廣博
【教學(xué)現(xiàn)場】
【行業(yè)優(yōu)勢】
1市場需求量大。
隨著信息產(chǎn)業(yè)的快速發(fā)展,行業(yè)對人才的需求也在逐年擴(kuò)大。據(jù)國之內(nèi)權(quán)威統(tǒng)計,未來五年,我國對信息技術(shù)人才的需求總量將達(dá)到1500—2000萬。以大數(shù)據(jù)分析為例,我國對大數(shù)據(jù)人才的需求正以每年20%的速度增長,每年新增人才近100萬。
2就業(yè)面廣。
一般來說,小規(guī)模的企業(yè)都有自己的IT部門。如果一個企業(yè)有比較大的信息量,數(shù)據(jù)庫管理、企業(yè)信息管理等。都是必要的。同學(xué)們除了去新興行業(yè),還可以去這些比較有規(guī)模的行業(yè)。企業(yè),作為信息化部門的重要崗位。
3高薪工作。
在市場經(jīng)濟(jì)高速發(fā)展的今天,大數(shù)據(jù)產(chǎn)業(yè)以其強(qiáng)勁的發(fā)展勢頭成為較具發(fā)展前景的高薪行業(yè)之一。大數(shù)據(jù)分析、大叔開發(fā)等大數(shù)據(jù)人才必將成為市場上的緊缺人才。工資也漲了。據(jù)相關(guān)數(shù)據(jù)顯示,大數(shù)據(jù)行業(yè)是目前平均收入較高的行業(yè)。公司員工平均年薪超過100,000元,經(jīng)驗(yàn)豐富的大數(shù)據(jù)工程師平均年薪普遍超過120,000元。
4升降速度快。
大數(shù)據(jù)人才需要一定的技術(shù)技能。但高校培養(yǎng)的人才與企業(yè)所需人才嚴(yán)重脫節(jié),導(dǎo)致大數(shù)據(jù)人才短缺。因此,一個技術(shù)精湛的大數(shù)據(jù)技術(shù)工程師尤其受到用人單位的重視。
5.漫長的職業(yè)生涯。
很多人都說大數(shù)據(jù)工程師的職業(yè)生涯短暫,但這其實(shí)是一個誤區(qū)。大數(shù)據(jù)工程師是全方位的人才,不受行業(yè)發(fā)展的限制,也不受年齡和體力的影響。醫(yī)生和律師一樣,會變老,更有經(jīng)驗(yàn),也更有價值。
6較強(qiáng)的職場適應(yīng)能力。
大數(shù)據(jù)人才不僅是核心人才,更是一般人才。他們不怕任何地方,所以他們可以去任何一個快速增長的行業(yè),這在更大程度之上增加了人才的價值,降低了職業(yè)風(fēng)險。
7優(yōu)良的工作環(huán)境。
伴隨著新一輪全球產(chǎn)業(yè)結(jié)構(gòu)調(diào)整和轉(zhuǎn)移的浪潮,我國信息產(chǎn)業(yè)發(fā)展迅速,已成為繼美國、日本后的第三大電子信息產(chǎn)業(yè)大國。北京、上海、廣州、深圳和沿岸發(fā)達(dá)城市已成為我國信息產(chǎn)業(yè)的人口密集區(qū)。一般來說,從事信息產(chǎn)業(yè)的企業(yè)大多集中在寫字樓或、省級軟件科技園區(qū)。工作環(huán)境優(yōu)越,生活設(shè)施齊全,同行業(yè)人才云集,有利于建立廣泛的人脈網(wǎng)絡(luò),為自己的職業(yè)生涯打下堅實(shí)的基礎(chǔ)。
【機(jī)構(gòu)簡介】
“黑之貓”是一種文化符號,代表著神秘和智慧,在很多文化中,黑貓也代表著好運(yùn)、幸運(yùn)以及智慧等,象征著公司追求高品質(zhì)、高效率和高智能的發(fā)展理念以及更廣闊的職業(yè)發(fā)展前景。未來,存在無限可能。
濟(jì)南黑之貓智能科技有限公司是專注于IT技術(shù)培訓(xùn)公司,公司目前在北京、濟(jì)南等地均設(shè)有校區(qū),致力于為客戶提供高品質(zhì)、高效率、更全面的培訓(xùn)數(shù)據(jù)庫開發(fā)/ETL開發(fā)/大數(shù)據(jù)開發(fā)/Java開發(fā)的培訓(xùn)課程。我們以技術(shù)為核心,以客戶為中心,不斷追求卓越的業(yè)務(wù)品質(zhì)和客戶體驗(yàn),以幫助學(xué)習(xí)者更好地了解較新的技術(shù)趨勢和市場需求。
我們擁有一支高素質(zhì)、專業(yè)的團(tuán)隊(duì),他們具備豐富的行業(yè)經(jīng)驗(yàn)和專業(yè)技能以及各大高校畢業(yè),確保了我們能夠?yàn)榭蛻籼峁┹^優(yōu)質(zhì)的服務(wù)。
企業(yè)愿景和使命:
黑之貓將堅守以下價值觀:
-創(chuàng)新:不斷創(chuàng)新,追求卓越。
-合作:互相信任、互相尊重,實(shí)現(xiàn)雙贏。
-品質(zhì):以客戶為中心,堅持高品質(zhì)。
-服務(wù):客戶至上,追求卓越的客戶體驗(yàn)。
-團(tuán)隊(duì):相信、支持、尊重和激勵團(tuán)隊(duì)成員。
【機(jī)構(gòu)環(huán)境】