Serverless Data Processing with Dataflow: Pipelines - 日本語版

Seize the savings! Get 40% off 3 months of Coursera Plus and full access to thousands of courses.

Serverless Data Processing with Dataflow: Pipelines - 日本語版

Instructor: Google Cloud Training

Included with

Learn more

10 modules

Gain insight into a topic and learn the fundamentals.

Advanced level

Designed for those already in the industry

2 weeks to complete

at 10 hours a week

Flexible schedule

Learn at your own pace

10 modules

Gain insight into a topic and learn the fundamentals.

Advanced level

Designed for those already in the industry

2 weeks to complete

at 10 hours a week

Flexible schedule

Learn at your own pace

What you'll learn

Beam SDK を使用したパイプラインの開発

Skills you'll gain

Tools you'll learn

Details to know

Shareable certificate

Add to your LinkedIn profile

Assessments

8 assignments

Taught in Japanese

See how employees at top companies are mastering in-demand skills

Learn more about Coursera for Business

logos of Petrobras, TATA, Danone, Capgemini, P&G and L'Oreal

There are 10 modules in this course

Dataflow コースシリーズの 2 回目である今回は、Beam SDK を使用したパイプラインの開発について詳しく説明します。まず、Apache Beam のコンセプトについて復習します。次に、ウィンドウ、ウォーターマーク、トリガーを使用したストリーミングデータの処理について説明します。さらに、パイプラインのソースとシンクのオプション、構造化データを表現するためのスキーマ、State API と Timer API を使用してステートフル変換を行う方法について説明します。続いて、パイプラインのパフォーマンスを最大化するためのベストプラクティスを再確認します。コースの終盤では、Beam でビジネスロジックを表現するための SQL と DataFrame、および Beam ノートブックを使用してパイプラインを反復的に開発する方法を説明します。

このモジュールでは、コースとその概要を紹介します

What's included

2 videos

Apache Beam の主なコンセプトと、それを独自のデータ処理パイプラインを作成するために適用する方法を復習します。

What's included

3 videos1 reading1 assignment2 app items

3 videos Total 9 minutes

Beam の基礎 3 minutes
ユーティリティ変換 2 minutes
DoFn のライフサイクル 4 minutes

1 reading Total 10 minutes

モジュールのリソース 10 minutes

1 assignment Total 6 minutes

理解度チェック 1 - Beam のコンセプトの復習 6 minutes

2 app items Total 120 minutes

ラボ: Apache Beam と Cloud Dataflow を使用して ETL パイプラインを作成する（Java） 60 minutes
ラボ: Apache Beam と Cloud Dataflow を使用して ETL パイプラインを作成する（Python） 60 minutes

このモジュールでは、Dataflow を使用してストリーミングでデータを処理する方法を学びます。そのためには、3 つの主要なコンセプトを知っておく必要があります。1 つ目はウィンドウでデータをグループ化する方法、2 つ目はウィンドウに結果を表示する準備ができたことを知らせるウォーターマークの重要性、3 つ目はウィンドウ出力のタイミングと回数を制御する方法です。

What's included

3 videos1 reading1 assignment4 app items

3 videos Total 23 minutes

ウィンドウ 6 minutes
ウォーターマーク 9 minutes
トリガー 8 minutes

1 reading Total 10 minutes

モジュールのリソース 10 minutes

1 assignment Total 8 minutes

理解度チェック 2 - ウィンドウ、ウォーターマーク、トリガー 8 minutes

4 app items Total 240 minutes

ラボ: Cloud Dataflow によるバッチ分析パイプライン（Java） 60 minutes
ラボ: Cloud Dataflow によるバッチ分析パイプライン（Python） 60 minutes
ラボ: Cloud Dataflow によるストリーミング分析パイプライン（Java） 60 minutes
ラボ: Cloud Dataflow によるストリーミング分析パイプライン（Python） 60 minutes

このモジュールでは、Google Cloud Dataflow でソースとシンクの役割を果たすシステムについて学びます。Text IO、File IO、BigQuery IO、PubSub IO、KafKa IO、BigTable IO、Avro IO、Splittable DoFn の例を紹介していきます。また、各 IO に関連する便利な機能についても説明します。

What's included

8 videos1 reading1 assignment

このモジュールでは、Beam パイプラインで構造化データを表現する方法を開発者に提供するスキーマを紹介します。

What's included

2 videos1 reading1 assignment2 app items

2 videos Total 5 minutes

Beam スキーマ 4 minutes
コードの例 2 minutes

1 reading Total 10 minutes

モジュールのリソース 10 minutes

1 assignment Total 4 minutes

理解度チェック 4 - スキーマ 4 minutes

2 app items Total 120 minutes

ラボ: 分岐するパイプラインとカスタム Dataflow Flex テンプレート（Java） 60 minutes
ラボ: 分岐するパイプラインとカスタム Dataflow Flex テンプレート（Python） 60 minutes

このモジュールでは、State と Timer について説明します。どちらも、ステートフル変換を実装するために DoFn で使用できる優れた機能です。

What's included

3 videos1 reading1 assignment

このモジュールでは、ベストプラクティスについて説明し、Dataflow パイプラインのパフォーマンスを最大化する一般的なパターンについて復習します。

What's included

7 videos1 reading1 assignment2 app items

7 videos Total 12 minutes

スキーマ 2 minutes
処理不可能なデータの処理 1 minute
エラー処理 1 minute
AutoValue コード生成ツール 2 minutes
JSON データ処理 1 minute
DoFn ライフサイクルの活用 2 minutes
パイプラインの最適化 3 minutes

1 reading Total 10 minutes

モジュールのリソース 10 minutes

1 assignment Total 6 minutes

理解度チェック 6 - ベストプラクティス 6 minutes

2 app items Total 120 minutes

ラボ: Cloud Dataflow による高度なストリーミング分析パイプライン（Java） 60 minutes
ラボ: Cloud Dataflow による高度なストリーミング分析パイプライン（Python） 60 minutes

このモジュールでは、Beam でビジネスロジックを表現するための 2 つの新しい API、SQL と DataFrame を紹介します。

What's included

3 videos1 reading1 assignment1 app item

3 videos Total 15 minutes

Dataflow と Beam SQL 10 minutes
SQL でのウィンドウ処理 1 minute
Beam DataFrame 5 minutes

1 reading Total 10 minutes

モジュールのリソース 10 minutes

1 assignment Total 4 minutes

理解度チェック 7 - Dataflow SQL と DataFrame 4 minutes

1 app item Total 60 minutes

ラボ: Cloud Dataflow による SQL バッチ分析パイプライン（Java） 60 minutes

このモジュールでは、Beam ノートブックについて説明します。これは、Python 開発者が Beam SDK にオンボードし、Jupyter ノートブック環境でパイプラインの反復的な開発を行うためのインターフェースです。

What's included

1 video1 reading1 assignment

このモジュールでは、本コースで取り上げた内容を振り返ります

What's included

1 video

Instructor

Google Cloud Training

Google Cloud

2,064 Courses 3,939,703 learners

Offered by

Google Cloud

Explore more from Software Development

Status: Free Trial
Google Cloud
Serverless Data Processing with Dataflow: Develop Pipelines
Course
Status: Free Trial
Google Cloud
Serverless Data Processing with Dataflow: Foundations
Course
Status: Free Trial
Google Cloud
Serverless Data Processing with Dataflow: Operations
Course
Status: Free Trial
Google Cloud
Serverless Data Processing with Dataflow
Specialization

Why people choose Coursera for their career

Felipe M.

Learner since 2018

"To be able to take courses at my own pace and rhythm has been an amazing experience. I can learn whenever it fits my schedule and mood."

Jennifer J.

Learner since 2020

"I directly applied the concepts and skills I learned from my courses to an exciting new project at work."

Larry W.

Learner since 2021

"When I need courses on topics that my university doesn't offer, Coursera is one of the best places to go."

Chaitanya A.

"Learning isn't just about being better at your job: it's so much more than that. Coursera allows me to learn without limits."

Open new doors with Coursera Plus

Unlimited access to 10,000+ world-class courses, hands-on projects, and job-ready certificate programs - all included in your subscription

Learn more

Advance your career with an online degree

Earn a degree from world-class universities - 100% online

Explore degrees

Join over 3,400 global companies that choose Coursera for Business

Upskill your employees to excel in the digital economy

Learn more

Frequently asked questions

To access the course materials, assignments and to earn a Certificate, you will need to purchase the Certificate experience when you enroll in a course. You can try a Free Trial instead, or apply for Financial Aid. The course may offer 'Full Course, No Certificate' instead. This option lets you see all course materials, submit required assessments, and get a final grade. This also means that you will not be able to purchase a Certificate experience.

When you purchase a Certificate you get access to all course materials, including graded assignments. Upon completing the course, your electronic Certificate will be added to your Accomplishments page - from there, you can print your Certificate or add it to your LinkedIn profile.

Yes. In select learning programs, you can apply for financial aid or a scholarship if you can’t afford the enrollment fee. If fin aid or scholarship is available for your learning program selection, you’ll find a link to apply on the description page.