【한글자막】 Apache Spark 와 Python으로 빅 데이터 다루기

【전세계 81만 수강생 보유 TOP강사!】 데스크탑 또는 Scala가 포함된 Hadoop에서 대규모 데이터 세트를 분석하는 20개 이상의 실습 예제가 포함된 Apache Spark 튜토리얼!

4.75 (91 reviews)
Udemy
platform
한국어
language
Data Science
category
【한글자막】 Apache Spark 와 Python으로 빅 데이터 다루기
823
students
7 hours
content
Jan 2024
last update
$59.99
regular price

What you will learn

Spark 3에서 DataFrames 및 구조적 스트리밍 사용하기

빅데이터 분석 문제를 Spark 문제로 프레임화

Amazon의 Elastic MapReduce 서비스를 사용하여 Hadoop YARN이 있는 클러스터에서 작업 실행하기

데스크톱 컴퓨터 또는 클러스터에 Apache Spark 설치 및 실행하기

Spark의 Resilient Distributed Datasets를 사용하여 많은 CPU에서 대규모 데이터 세트 처리 및 분석하기

Spark를 사용하여 너비 우선 검색과 같은 반복 알고리즘 구현하기

MLLib 머신 러닝 라이브러리를 사용하여 일반적인 데이터 마이닝 질문에 답하기

Spark SQL을 사용하여 구조화된 데이터로 작업하는 방법 이해하기

Spark Streaming을 통해 실시간으로 연속적인 데이터 스트림을 처리하는 방법 이해하기

클러스터에서 실행되는 대규모 작업 조정 및 문제 해결하기

브로드캐스트 변수와 어큐뮬레이터를 사용하여 Spark 클러스터의 노드 간에 정보 공유하기

GraphX 라이브러리가 네트워크 분석 문제에 어떻게 도움이 되는지 이해하기

Why take this course?


  • SparkPython을 함께 배우는 강의!

  • 20개 이상의 실제 예시 포함!

  • Spark의 기초부터 시작하여 다양한 응용까지 All in one!

  • Amazon 및 IMDb의 전 엔지니어이자 선임 관리자로부터 배우는 실습 위주 수업!

*프로그래밍을 처음 접한다면 수업을 진행하기 어려울 수 있습니다. Python 기초 강의를 먼저 수강하시는 것을 추천합니다*


Apache Spark 와 Python으로 빅 데이터 다루기 강의를 선택해야 하는 이유

데이터 분석 문제를 Spark로 프레이밍 하는 기술을 배우고, 20개 이상의 실습 예제를 통해서 완벽히 마스터 할 수 있습니다.

수강 후에는 몇 분만에 클라우드에서 GB 크기의 정보를 분석하는 코드를 실행 할 수 있게 됩니다.

이 강의는 친숙한 Python 프로그래밍 언어를 사용합니다.

(만약 Spark에서 최고의 성능을 얻기 위해 Scala를 사용하고 싶다면 다른 강의가 더 적합 할 수 있습니다.)

이 강의에는 재미있는 실습이 포함 되어 있습니다. Spark를 사용하여 영화 등급 데이터와 책의 텍스트를 분석하는 몇 가지 간단한 예로 시작해서 기본기를 배운 후에는, 더 복잡하고 흥미로운 작업을 진행합니다. 백만개의 영화 등급을 사용하여 서로 유사한 영화를 찾을 것이고, 이 과정에서 여러분들이 좋아할 만한 새로운 영화를 발견할 수도 있을 것입니다! 여러분은 슈퍼히어로의 사회적 그래프를 분석하고 가장 "인기 있는" 슈퍼히어로가 누구인지 배우고 슈퍼히어로 사이의 "Degree of Separation"를 찾는 시스템을 개발할 것입니다. 모든 마블 슈퍼히어로들은 스파이더맨과 얼마나 연결되어 있을까요?

이 강의를 통해 그 답을 찾을 수 있습니다.

또한, 이 강의는 실습 위주의 강의입니다. Amazon의 Elastic MapReduce 서비스를 사용하여 자체 시스템과 클라우드 모두에서 실제 코드를 함께 작성, 분석 및 실행할 때 강사와 함께 대부분의 시간을 보내게 됩니다. 7시간 분량의 영상 내용이 포함되어 있으며, 20개 이상의 실제 예시는 복잡성이 증가함에 따라 스스로 구축하고 실행하고 연구할 수 있습니다.



Apache Spark 와 Python으로 빅 데이터 다루기 세부 커리큘럼

  • Spark 3에서 DataFrames 및 구조적 스트리밍 사용하기

  • 빅데이터 분석 문제를 Spark 문제로 프레임화

  • Amazon의 Elastic MapReduce 서비스를 사용하여 Hadoop YARN이 있는 클러스터에서 작업 실행하기

  • 데스크톱 컴퓨터 또는 클러스터에 Apache Spark 설치 및 실행하기

  • Spark의 Resilient Distributed Datasets를 사용하여 많은 CPU에서 대규모 데이터 세트 처리 및 분석하기

  • Spark를 사용하여 너비 우선 검색과 같은 반복 알고리즘 구현하기

  • MLLib 머신 러닝 라이브러리를 사용하여 일반적인 데이터 마이닝 질문에 답하기

  • Spark SQL을 사용하여 구조화된 데이터로 작업하는 방법 이해하기

  • Spark Streaming을 통해 실시간으로 연속적인 데이터 스트림을 처리하는 방법 이해하기

  • 클러스터에서 실행되는 대규모 작업 조정 및 문제 해결하기

  • 브로드캐스트 변수와 어큐뮬레이터를 사용하여 Spark 클러스터의 노드 간에 정보 공유하기

  • GraphX 라이브러리가 네트워크 분석 문제에 어떻게 도움이 되는지 이해하기


Amazon 및 IMDb의 전 엔지니어이자 선임 관리자 Frank Kane 강사의 한마디!

완전히 업데이트 된 새로운 강의로 출시되었습니다!

Spark 3, 더 많은 실습, DataFrames 및 Structured Streaming에 대해 더 중점적으로 업데이트되었습니다.

Spark SQL, Spark Streaming과 같은 최신 Spark 기술과 Gradient Boosted Trees와 같은 고급 모델도 다룰 것입니다.

"빅 데이터" 분석은 아주 인기있고 매우 가치 있는 기술입니다. 이 강의는 빅 데이터에서 가장 인기 있는 기술을 알려줍니다. 바로 Apache Spark 입니다. 아마존, 이베이, NASA JPLYahoo를 포함한 고용주는 모두 Spark를 사용하여 내결함성 Hadoop 클러스터 전반에 걸쳐 방대한 데이터 세트에서 의미를 빠르게 추출합니다. 여러분은 앉은 자리에서 Windows 시스템을 사용하여 동일한 기술을 배우게 될 것인데, 이는 생각보다 어렵지 않습니다.


여러분의 일정에 따라 여러분의 속도로 진행하세요. 이 강의는 Spark SQL, Spark Streaming, GraphX를 비롯한 다른 Spark 기반 기술에 대한 개요로 마무리됩니다.


강의를 들으시고 강의와 관련하여 궁금하신 점은 무엇이든 Q&A에 남기실 수 있지만, 꼭 영어로 남겨주세요. 그래야 답변을 드릴 수 있습니다. :)


Apache Spark로 빅 데이터를 처리하는 것은 오늘날의 기술 세계에서 중요한 기술입니다. 지금 등록하고 이 강의를 즐겨보시기를 바랍니다!


-Frank


P.S. 제 강의에 대한 한 수강생의 리뷰를 소개해 드립니다:

" Frank Kane과 함께 "Apache Spark 및 Python으로 빅 데이터 다루기"를 공부 했습니다. 제 회사에서 서비스를 위한 빅 데이터 플랫폼을 구축하는데 큰 도움이 되었으며, 이 강의를 추천합니다! " - Cleuton Sampaio De Melo Jr.


Screenshots

【한글자막】 Apache Spark 와 Python으로 빅 데이터 다루기 - Screenshot_01【한글자막】 Apache Spark 와 Python으로 빅 데이터 다루기 - Screenshot_02【한글자막】 Apache Spark 와 Python으로 빅 데이터 다루기 - Screenshot_03【한글자막】 Apache Spark 와 Python으로 빅 데이터 다루기 - Screenshot_04

Reviews

신영훈
April 30, 2023
spark 의 기본 사용법에 대해 예제와 함께 이해하기 쉽게 설명해주셨습니다. 다만 아쉬운 것은 ppt의 포멧입니다. 파란색 배경이라 눈이 조금 피로했고, 가독성이 좋지 않은 폰트를 사용하여 아쉬웠습니다. 흰색 심플한 배경에 조금 더 가독성이 좋은 폰트를 사용하면 완벽한 강의가 될것입니다.
Park
January 20, 2023
스파크를 "시작"하기에 안성맞춤입니다! 다만 자막에 아쉬운 점이 가끔 보입니다. join operation을 직역해서 사용한다거나.. 가끔 강의 관련 개념들이 직역되어서 어리둥절할때가 있습니다. 다 듣고 나서는 그렇게 막 깊은 내용은 아니네요! 후딱 다 들으시면 감도 잡히고 플젝도 해볼까 생각 드실겁니다! 전 문서보고 하는걸 꺼려해서 강의 끊은 건데 문서보고 해도 좋을거같아요!
Hyerin
December 29, 2022
스파크를 시작하기 좋은 강의였습니다. 예제들도 재미있고 응용해서 직접 코드 작성해보는 것도 좋았습니다. 코드를 자세하게 설명해주셔서 이해하기 어렵지 않습니다. 자막이 조금 아쉽지만 영어 자막 참고하시면 문제 없을 것 같습니다.
Boram
December 1, 2022
설치에 애를 먹었는데, https://www.sundog-education.com/spark-python/ 사이트를 참고하시는 걸 추천합니다. 일부가 이미 설치된 경우 구글링은 필수네요. ㅎ; 정말 힘들었어요... 강의 부분적으로 자막이 어색하기도 합니다. 가끔은 영어 자막을 띄워 시청했습니다. 그럼에도 apache spark를 써볼 수 있어서 만족스럽습니다. AWS도 조금 쓰는데, 강의에서 언급한 것처럼 비용은 조금 청구 되었습니다. 싫으신 분은 시청만 하기를 추천합니다. 이 강사 분의 강의는 처음인데 설명 → 활동 → 연습 문제 → 정답 순으로 스스로 생각하고 풀 수 있는 시간을 주셔서 더 좋았습니다. 강의 1개 가지고는 spark를 마스터 할 수는 없고요. 강의 마지막에 책을 추천해주십니다. 일부는 원서지만 pdf 를 무료로 볼 수 있어서 남겨 놓습니다. [ Learning Spark ]는 구글 검색 시 databricks 에서 영어 원서로 그냥 볼 수 있음 [ 9가지 사례로 익히는 고급 스파크 분석(2판) ] 데이터 마이닝 위주로 한빛미디어 2018년 03월 출판 [ Data Algorithms ] 스파크보다 하둡, mapreduce 위주, 상급자용 책으로 구글 검색 시 early release version으로 완전하지 않은(?) 원서 볼 수 있음(600page 이상)
Hyangsuk
November 24, 2022
It doesn't have enough information about spark 3.x.x It just told me to do the same as what i said for spark 3.x.x
Choseongmin
September 8, 2022
윈도우에서 pyspark를 사용하기 위해서 PYSPARK_PYTHON 환경변수도 추가로 설치해줘야 하는데 이 부분에 대한 설명이 약간은 빈약했음. Eng: for using pyspark on window, I had to set PYSPARK_PYTHON env variable to python.exe but the guide for that was a little bit insufficient. It is possible that I can geuss that many people like me will be in same trouble.
재성
April 11, 2022
pyspark를 통해 spark에 입문하고자 하는 분들께 추천. 강의는 window로 진행하여 mac 초기 설정에 어려움이 있었으나 구글링을 열심히 해서 결국 성공하긴 했음. (강의 초반에 첨부된 sundog 홈페이지에 있는거로 불충분했음) 전반적인 내용을 훑는데 좋았고 아쉬운점은 예전 강의다 보니 python2 버전의 코드가 여럿 있음. 첨부파일에 python3코드가 있긴 함. 이 강의를 듣고 모든 spark 태스크에 대해 자신있게 할 수 있다 정도는 아님. 그러나 이 정도 알았으면 구글링 통해서 내가 마주치는 문제들을 해결할 수 있겠다고 생각함. 실무 적용하러 갑시다.

Charts

Price

【한글자막】 Apache Spark 와 Python으로 빅 데이터 다루기 - Price chart

Rating

【한글자막】 Apache Spark 와 Python으로 빅 데이터 다루기 - Ratings chart

Enrollment distribution

【한글자막】 Apache Spark 와 Python으로 빅 데이터 다루기 - Distribution chart

Related Topics

4278412
udemy ID
9/3/2021
course created date
11/6/2021
course indexed date
Bot
course submited by