Amazon EMRとは 人気・最新記事を集めました - はてな (original) (raw)

このタグの解説についてこの解説文は、すでに終了したサービス「はてなキーワード」内で有志のユーザーが作成・編集した内容に基づいています。その正確性や網羅性をはてなが保証するものではありません。問題のある記述を発見した場合には、お問い合わせフォームよりご連絡ください。

関連ブログ

JBS Tech Blog2年前

Amazon EMR Serverlessをさわってみたはじめに 前提知識(Amazon EMR) Amazon EMR Serverlessとは? Amazon EMR Serverlessをさわってみた 事前準備 関連AWSリソースの準備 データの準備 クエリの準備 EMR ServerlessでHiveアプリケーションを作成して実行する EMRアプリケーションの作成 ジョブの実行 さいごに はじめに こんにちは!クラウドプラットフォーム部の土井です。 今年6月にAmazon EMR ServerlessがGAとなったので遅ればせながらですが、既存のAmazon EMRサービスとの違いにも簡単に触れつつ触ってみたいと思います。 前提知識(Ama…

#Amazon EMR#Amazon EMR Serverless

ネットで話題

もっと見る

129ブックマークBig Data Platform - Amazon EMR - AWSaws.amazon.com

56ブックマークAmazon EMR 2.x and 3.x AMI versions - Amazon EMRAWS is updating the TLS configuration for all AWS API endpoints to a minimum version of TLS 1.2. Amazon EMR releases 3.10 and lower only support TLS 1.0/1.1 connections. After December 4, 2023, you won't be able to create clusters with Amazon EMR 3.10 and lower. If you use Amazon EMR 3.10 or lowe...docs.aws.amazon.com

48ブックマークAmazon EMR(Hadoopなどのビッグデータフレームワークを簡単に実行)| AWSaws.amazon.com

43ブックマークAmazon Elastic MapReduce (EMR) ではじめる Presto/Trino 入門abicky.net

40ブックマークはじめてのSpark SQL!Amazon EMRを使って10分で試してみる | DevelopersIOdev.classmethod.jp

30ブックマークAmazon EMR 2.x および 3.x AMI バージョン - Amazon EMR翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。 Amazon EMR 2.x および 3.x AMI バージョン AWS は、すべての AWS API エンドポイントの TLS 設定を TLS 1.2 の最小バージョンに更新しています。Amazon EMR リリース 3.10 以前では、T...docs.aws.amazon.com

28ブックマークAmazon EMR セミナーの記録 - 急がば回れ、選ぶなら近道okachimachiorz.hatenablog.com

24ブックマークAWSのAmazon Elastic MapReduce(EMR)でHiveを使う手順 | takemikami's notetakemikami.com

24ブックマークAmazon EMR で Apache Spark アプリケーションのメモリをうまく管理するためのベストプラクティス | Amazon Web Servicesaws.amazon.com

関連ブログ

流沙河鎮19日前

Current 2024「DebeziumとKafka ConnectによってSlackは如何にしてCDCへ移行したか」まとめCurrent 2024 のセッション「Change Data Capture & Kafka How Slack Transitioned to CDC with Debezium & Kafka Connect」を日本語でまとめます。 可能な限り正確に内容を拾えるようにリスニングに努めたつもりですが、もし誤りがあればご指摘ください。 Current とは? Leveraging Iceberg Puffin Files to Accelerate Queries スピーカー セッションまとめ Viteess から Debezium, Kafka までのアーキテクチャ Debezium 運用…

サーバーワークスエンジニアブログ2ヶ月前

全リージョンのデフォルト VPC を削除する Script を AWS CloudShell から実行するマネージドサービス部 佐竹です。 本日は AWS アカウントにおけるセキュリティリスク軽減のための手法の1つとして、デフォルト VPC の全削除を Script で行う方法について記載してみます。 デフォルト VPC についてのおさらい 参考 AWS ドキュメント デフォルト VPC のセキュリティリスク AWS Security Hub への影響 Security Hub controls for Amazon EC2 合わせて知っておきたい 何故攻撃者は第三者の AWS アカウントに侵入したいのか AWS 環境における暗号通貨採掘悪用に備える コストの急激な増加を検出するには AWS Co…

idubmorganのブログ2ヶ月前

AWS Certified Solutions Architect (SAA-C03) 認定試験向けのメモサービス 分析 Amazon Athena S3 上のデータに対して 標準SQL を実行できるデータ分析サービス (サーバレス) Amazon EMR (Amazon Elastic MapReduce) ビッグデータの処理や分析 ビッグデータフレームワーク(= Hadoop, Spark, Presto)を用いて、データを複数のサーバーに分散配置して並列に処理することで、迅速かつ効率的なデータ処理を実現 Amazon Redshift DWH (ペタバイト級のストレージに対応) AWS Data Exchange AWS Data Pipeline AWS Glue ETLツール (フルマネ…

by shigemk22ヶ月前

awscli 2.17.21api-change:controlcatalog: AWS Control Towerがcontrolcatalogサービスネームスペースで新しいパブリックAPI controlcatalog:ListControlsおよびcontrolcatalog:GetControlを提供し、利用可能なコントロールのメタデータをプログラムで取得可能 api-change:sagemaker: SageMaker Studioでデータ処理ジョブを実行するためにAmazon EMR Serverlessアプリケーションのサポートを追加 api-change:memorydb: 削除APIの変更に関するドキ…

Stockmark Tech Blog3ヶ月前

Anews社内情報検索を実現する技術本記事では、Anewsの「社内情報検索機能」の裏側を紹介いたします。 本機能は複数の要素技術が組み合わさって実現されており、設計・実装において考慮すべきポイントが多数ありました。 本記事では、それらの全容についてご紹介します。 本記事の構成は次のとおりです。 社内情報検索機能とは? 設計の全体像 設計・実装のポイント 今後に向けて 社内情報検索機能とは? 調査レポートや技術報告書、実験データなど、組織に眠る様々な情報を、ビジネスニュースや論文・特許などの外部情報と同時に検索できる機能です。 これまでもAnewsでは、国内外のビジネスサイトや学術雑誌、プレプリントの論文などから情報を提供していま…

サーバーワークスエンジニアブログ4ヶ月前

【AWS Summit 2024】参加したセッションレポートアプリケーションサービス部、濱岡です! AWS Summit2024で参加したセッションのレポートです! 私はデータ分析を中心に案件に関わっているのでそれに関係するものをみてみました! Dive deep on Amazon S3 概要 Amazon S3 は、業界トップクラスのスケーラビリティ、耐久性、セキュリティ、パフォーマンスを提供するクラウドオブジェクトストレージです。このセッションでは、Amazon S3 の基盤となるアーキテクチャを掘り下げ、どのようにしてスケーリングと伸縮自在性を実現しているのかを見ていきます。データ保護方法、データの耐久性に対する考え方や文化、そして新しい Am…

APC 技術ブログ5ヶ月前

AWS Certified Data Engineer - Associate (DEA-C01) に合格したので所感を綴る目次 目次 はじめに 関連記事 試験について 点数 勉強期間 教材 試験の感想 お知らせ はじめに こんにちは、クラウド事業部の坂口です。 先月 AWS Certified Data Engineer - Associate に合格したので、ブログを書きだすまでに経っていた時間に驚きながら所感を書いていきます。 関連記事 AWS資格関連の記事は以下ぶり techblog.ap-com.co.jp techblog.ap-com.co.jp 試験について 点数 780 勉強期間 試験日は 4/30 で、試験申し込みは 4/28。勉強に時間を取れたのは 4/29 のみ。 当時開催していた『AWS …

サーバーワークスエンジニアブログ5ヶ月前

新卒がAWS認定クラウドプラクティショナーを勉強したらこういうところにつまずきました初めまして24卒の新卒の池上です。今回は初めてブログの記事を投稿するので、現在勉強しているAWS認定AWS Certified Cloud Practitioner(クラウドプラクティショナーバージョンはCLF-002)の勉強で私自身が間違えた部分やつまづいた部分、興味を持って学習した部分についてまとめてみたいと思います。 また、記載したコンテンツの補足として項目にリンクしたAWSのページやドキュメントへの参照リンクも記載しましたのでご活用ください。 需要があるかわかりませんが、意外と世の中にはプラクティショナー攻略に向けた勉強記事は少ないので需要は0ではないと思って書いていきます。 注意 こ…

Secret Ninja Blog5ヶ月前

PrestoSQL350からTrino423に移行にあたっての新しい構文勉強EMR6.14.0からTrino 422が採用されています。 Presto と Trino - Amazon EMR トレジャーデータでもPresto(SQL)3xxからTrino423への移行を行う予定です。 https://docs.treasuredata.com/articles/#!pd/april-2024-release-note/a/h2_266358463 マイグレーション担当のPMなので、自分の勉強も兼ねてPresto350からTrino423までの間に新しくサポートされたSQL構文を試してみる。 Trinoを分析用途に使うアナリスト向けのSQL変更点はTDクエリエンジンチ…

TECHSTEP6ヶ月前

Amazon CodeWhispererでCloudFormationコードを生成してみる今回はAWS製のコード生成ツールであるAmazon CodeWhispererを使ってみました。 docs.aws.amazon.com 背景 Amazon CodeWhispererは機械学習を利用したコード生成を実行するサービスであり、コードを開発しながらリアルタイムにコードをサジェストしてくれます。コード生成サービスは複数ありますが、AWS公式ドキュメントに従えば、CodeWhispererは以下のような特徴を有しています。 AWSサービスで使用するために最適化されている: AWS API向けに最適化されたコードを提案し、AWSの各種サービスの効率的な使用を支援します。Amazonのコー…

Repro Tech Blog6ヶ月前

Amazon EMR のバージョンアップ 2/3:メジャーバージョンアップで遭遇した問題前回の続きです。 EMR 5.36.1 から EMR 6.6.0 への更新について書きます。 EMR 5.36.1 から EMR 6.6.0 への更新 アプリケーション等 EMR 5.36.1 EMR 6.6.0 Tez 0.9.2 0.9.2 Hue 4.10.0 4.10.0 Hive 2.3.9 3.1.2 Hadoop 2.10.1 3.2.1 Presto 0.267 0.267 Trino N/A 367 Amazon Linux 2 2 このバージョンアップでは Hive と Hadoop のメジャーバージョンアップがあるので、Upgrade Amazon EMR Hive Me…

Repro Tech Blog6ヶ月前

Amazon EMR のバージョンアップ 1/3:メジャーバージョンアップの前にやったことDevelopment Division/Platform Team/Sys-Infra Unit で実施した Amazon EMR 1 のバージョンアップについてどのようなことをやったのか紹介します。 Repro では Presto や Hive などのセットアップに EMR を使用しており、以下の用途で活用しています。 プッシュ通知の配信対象を抽出する 管理画面で参照するデータを抽出する S3 などに貯まっているイベントデータを集計する EMR のアプリケーションとしては以下を使用していました。 Presto Tez Hadoop Hive Hue 経緯 Repro では多くのミドルウェア…

RAKSUL TechBlog7ヶ月前

ノバセルでデータエンジニアへのジョブチェンジをした話こんにちは。ノバセルのデータプロダクトチームでデータエンジニアとして働いている森田です。 現在は業務として Snowflake や dbt を用いたデータ基盤周辺システムの開発や運用に携わっています。 ノバセル以前の会社ではバックエンドエンジニアとしてソフトウェア開発に携わっていましたが、転職を機にデータエンジニアへジョブチェンジをしました。 入社してから6ヶ月間ノバセルでデータエンジニアとして働いてみて、一般的なソフトウェアエンジニアとの違いなどいろいろな気づきがありましたので紹介します。 データエンジニアに興味がある方にとってなにか参考になるものがあれば幸いです。 データエンジニアのきっか…

サーバーワークスエンジニアブログ7ヶ月前

AWS SAW(AWS Support Automation Workflows)というソリューションを知ったのでまとめてみたみなさん、こんにちは。AWS CLI が好きなテクニカルサポート課の市野です。 先日 AWS Expert Online に参加し、AWS SAW(AWS Support Automation Workflows)というソリューション(プログラム)をはじめて知りました。 普段サポート業務をしているのに知らなかったのは、まったくもってうかつだったのですが、AWS を利用していてよくあるシチュエーションのトラブルシュートに活用いただけると思いますので、以下まとめてみました。 公式ドキュメント ソリューション紹介ページ ページ中にも記載のある通り、AWS SAW は特定のサービス名称ではなく、AWS…

NRIネットコムBlog7ヶ月前

AWS Certified Data Engineer - Associate(DEA)の学習方法小西秀和です。 この記事は「AWS認定全冠を維持し続ける理由と全取得までの学習方法・資格の難易度まとめ」で説明した学習方法を「AWS Certified Data Engineer - Associate」に特化した形で紹介するものです。 重複する内容については省略していますので、併せて元記事も御覧ください。 また、現在投稿済の各AWS認定に特化した記事へのリンクを以下に掲載しましたので興味のあるAWS認定があれば読んでみてください。 ALL DevOps Developer SysOps SA Pro SA Associate DE Associate Networking Security…