PCollectionについて解説します。既に何度もでてきてその都度説明してきましたが、今回はより具体的な作成方法やPCollectionの特徴が主な内容となります。 前提 対象ドキュメント https://beam.a […]
カテゴリー: technology
APACHEBEAM公式開発ガイド解説~2.パイプラインを作成する~APACHEBEAM公式開発ガイド解説~2.パイプラインを作成する~
Pipelineの作成について解説します。パラメータの設定や、オプションの設定についても記載があります。 前提 対象ドキュメント https://beam.apache.org/documentation/program […]
APACHEBEAM公式開発ガイド解説~1.概要~APACHEBEAM公式開発ガイド解説~1.概要~
開発の概要です。 開発の中で重要になる単語の説明が主になります。 前提 対象ドキュメント https://beam.apache.org/documentation/programming-guide/#overview […]
APACHEBEAM公式ドキュメント解説~パイプラインのテスト(JAVA)~APACHEBEAM公式ドキュメント解説~パイプラインのテスト(JAVA)~
自動テストの概要に関するテスト方法です。CIなど入れない、一旦一通りの動作を確認したいのであれば、ここに記載の情報だけでテストしてもよいかと思います。 CIを入れたり、本番運用を見据えるとここに記載されているテストだけで […]
APACHEBEAM公式ドキュメント解説~パイプラインの実装(Java)~APACHEBEAM公式ドキュメント解説~パイプラインの実装(Java)~
実装方法です。ただしとても概要なので、実際にはここに書いている内容よりはゴリゴリ開発ドキュメントを読み込むことが必要になると思います。 前提 対象ドキュメント https://beam.apache.org/docume […]
APACHEBEAM公式ドキュメント解説~パイプラインの設計と基本的な動き~APACHEBEAM公式ドキュメント解説~パイプラインの設計と基本的な動き~
今回はパイプラインの設計についてです。設計時には、ApacheBeamではどのような想定が必要かについて確認します。 前提 対象ドキュメント https://beam.apache.org/documentation/p […]
ApacheBeam公式ドキュメント解説~コンセプト~ApacheBeam公式ドキュメント解説~コンセプト~
ApacheBeamフレームワークはめちゃくちゃ新しいものではないのですが、日本語情報が残念すぎるので、英語が苦手なエンジニアの方に参考にしていただければと思います。 実装部分はPythonまたはJavaで動作を確認しつ […]
Pythonでmysql-connector-pythonでDB処理+トランザクションの動作検証Pythonでmysql-connector-pythonでDB処理+トランザクションの動作検証
前提記事 環境用意 PythonからMySQLへ書き込むためのライブラリを用意します。(ApacheBeamとの関係も考えたほうがいいのだと思いますが、、、できるのかドキドキです。) Cloud9へ以下のプロジェクトディ […]
WordPressでテキストで記述したフローチャートを描画するWordPressでテキストで記述したフローチャートを描画する
今回はWordPressのプラグインでフローチャートを描画する記事です。 やりたいこと やはり技術的な文章を書くにあたってフローチャートやUMLで概要図を作りたいことがありました。簡単な設計書みたいなものですね。それもど […]
AWS Cloud9 (AmazonLinux)上にPython+Apache Beamが動作する環境を構築するAWS Cloud9 (AmazonLinux)上にPython+Apache Beamが動作する環境を構築する
今回はBatch&StreamフレームワークであるApacheBeamを動かすための環境を構築してゆきます。ようやく、アプリエンジニアっぽいことができそうです。 前提記事 今回の範囲 ApacheBeamの概要 […]