Download free for 30 days
Sign in
Upload
Language (EN)
Support
Business
Mobile
Social Media
Marketing
Technology
Art & Photos
Career
Design
Education
Presentations & Public Speaking
Government & Nonprofit
Healthcare
Internet
Law
Leadership & Management
Automotive
Engineering
Software
Recruiting & HR
Retail
Sales
Services
Science
Small Business & Entrepreneurship
Food
Environment
Economy & Finance
Data & Analytics
Investor Relations
Sports
Spiritual
News & Politics
Travel
Self Improvement
Real Estate
Entertainment & Humor
Health & Medicine
Devices & Hardware
Lifestyle
Change Language
Language
English
Español
Português
Français
Deutsche
Cancel
Save
EN
Uploaded by
Masahiko Sawada
PDF, PPTX
12,653 views
PostgreSQLでスケールアウト
スケールするSQLシステム勉強会での講演資料です。 <https://connpass.com/event/64558/>
Technology
◦
Read more
5
Save
Share
Embed
Embed presentation
Download
Download as PDF, PPTX
1
/ 18
2
/ 18
3
/ 18
4
/ 18
5
/ 18
6
/ 18
7
/ 18
8
/ 18
Most read
9
/ 18
Most read
10
/ 18
11
/ 18
12
/ 18
13
/ 18
14
/ 18
Most read
15
/ 18
16
/ 18
17
/ 18
18
/ 18
More Related Content
PPTX
スケールアウトするPostgreSQLを目指して!その第一歩!(NTTデータ テクノロジーカンファレンス 2020 発表資料)
by
NTT DATA Technology & Innovation
PDF
PostgreSQLレプリケーション10周年!徹底紹介!(PostgreSQL Conference Japan 2019講演資料)
by
NTT DATA Technology & Innovation
PPTX
本当は恐ろしい分散システムの話
by
Kumazaki Hiroki
PPTX
分散システムについて語らせてくれ
by
Kumazaki Hiroki
PPTX
PostgreSQL開発コミュニティに参加しよう! ~2022年版~(Open Source Conference 2022 Online/Kyoto 発...
by
NTT DATA Technology & Innovation
PDF
PostgreSQL 15の新機能を徹底解説
by
Masahiko Sawada
PDF
PostgreSQL: XID周回問題に潜む別の問題
by
NTT DATA OSS Professional Services
PDF
YugabyteDBの実行計画を眺める(NewSQL/分散SQLデータベースよろず勉強会 #3 発表資料)
by
NTT DATA Technology & Innovation
スケールアウトするPostgreSQLを目指して!その第一歩!(NTTデータ テクノロジーカンファレンス 2020 発表資料)
by
NTT DATA Technology & Innovation
PostgreSQLレプリケーション10周年!徹底紹介!(PostgreSQL Conference Japan 2019講演資料)
by
NTT DATA Technology & Innovation
本当は恐ろしい分散システムの話
by
Kumazaki Hiroki
分散システムについて語らせてくれ
by
Kumazaki Hiroki
PostgreSQL開発コミュニティに参加しよう! ~2022年版~(Open Source Conference 2022 Online/Kyoto 発...
by
NTT DATA Technology & Innovation
PostgreSQL 15の新機能を徹底解説
by
Masahiko Sawada
PostgreSQL: XID周回問題に潜む別の問題
by
NTT DATA OSS Professional Services
YugabyteDBの実行計画を眺める(NewSQL/分散SQLデータベースよろず勉強会 #3 発表資料)
by
NTT DATA Technology & Innovation
What's hot
PDF
PGOを用いたPostgreSQL on Kubernetes入門(PostgreSQL Conference Japan 2022 発表資料)
by
NTT DATA Technology & Innovation
PPTX
オンライン物理バックアップの排他モードと非排他モードについて ~PostgreSQLバージョン15対応版~(第34回PostgreSQLアンカンファレンス...
by
NTT DATA Technology & Innovation
PDF
トランザクション処理可能な分散DB 「YugabyteDB」入門(Open Source Conference 2022 Online/Fukuoka 発...
by
NTT DATA Technology & Innovation
PDF
PostgreSQLによるデータ分析ことはじめ
by
Ohyama Masanori
PPTX
DockerコンテナでGitを使う
by
Kazuhiro Suga
PDF
統計情報のリセットによるautovacuumへの影響について(第39回PostgreSQLアンカンファレンス@オンライン 発表資料)
by
NTT DATA Technology & Innovation
PDF
YugabyteDBを使ってみよう(NewSQL/分散SQLデータベースよろず勉強会 #1 発表資料)
by
NTT DATA Technology & Innovation
PDF
アーキテクチャから理解するPostgreSQLのレプリケーション
by
Masahiko Sawada
PDF
Grafana LokiではじめるKubernetesロギングハンズオン(NTT Tech Conference #4 ハンズオン資料)
by
NTT DATA Technology & Innovation
PPTX
Redisの特徴と活用方法について
by
Yuji Otani
PPTX
CloudNativePGを動かしてみた! ~PostgreSQL on Kubernetes~(第34回PostgreSQLアンカンファレンス@オンライ...
by
NTT DATA Technology & Innovation
PDF
PostgreSQLをKubernetes上で活用するためのOperator紹介!(Cloud Native Database Meetup #3 発表資料)
by
NTT DATA Technology & Innovation
PDF
DockerとPodmanの比較
by
Akihiro Suda
PDF
マネージドPostgreSQLの実現に向けたPostgreSQL機能向上(PostgreSQL Conference Japan 2023 発表資料)
by
NTT DATA Technology & Innovation
PDF
例外設計における大罪
by
Takuto Wada
PPTX
iostat await svctm の 見かた、考え方
by
歩 柴田
PDF
PG-REXで学ぶPacemaker運用の実例
by
kazuhcurry
PDF
超実践 Cloud Spanner 設計講座
by
Samir Hammoudi
PDF
MySQLアーキテクチャ図解講座
by
Mikiya Okuno
PDF
pg_hint_planを知る(第37回PostgreSQLアンカンファレンス@オンライン 発表資料)
by
NTT DATA Technology & Innovation
PGOを用いたPostgreSQL on Kubernetes入門(PostgreSQL Conference Japan 2022 発表資料)
by
NTT DATA Technology & Innovation
オンライン物理バックアップの排他モードと非排他モードについて ~PostgreSQLバージョン15対応版~(第34回PostgreSQLアンカンファレンス...
by
NTT DATA Technology & Innovation
トランザクション処理可能な分散DB 「YugabyteDB」入門(Open Source Conference 2022 Online/Fukuoka 発...
by
NTT DATA Technology & Innovation
PostgreSQLによるデータ分析ことはじめ
by
Ohyama Masanori
DockerコンテナでGitを使う
by
Kazuhiro Suga
統計情報のリセットによるautovacuumへの影響について(第39回PostgreSQLアンカンファレンス@オンライン 発表資料)
by
NTT DATA Technology & Innovation
YugabyteDBを使ってみよう(NewSQL/分散SQLデータベースよろず勉強会 #1 発表資料)
by
NTT DATA Technology & Innovation
アーキテクチャから理解するPostgreSQLのレプリケーション
by
Masahiko Sawada
Grafana LokiではじめるKubernetesロギングハンズオン(NTT Tech Conference #4 ハンズオン資料)
by
NTT DATA Technology & Innovation
Redisの特徴と活用方法について
by
Yuji Otani
CloudNativePGを動かしてみた! ~PostgreSQL on Kubernetes~(第34回PostgreSQLアンカンファレンス@オンライ...
by
NTT DATA Technology & Innovation
PostgreSQLをKubernetes上で活用するためのOperator紹介!(Cloud Native Database Meetup #3 発表資料)
by
NTT DATA Technology & Innovation
DockerとPodmanの比較
by
Akihiro Suda
マネージドPostgreSQLの実現に向けたPostgreSQL機能向上(PostgreSQL Conference Japan 2023 発表資料)
by
NTT DATA Technology & Innovation
例外設計における大罪
by
Takuto Wada
iostat await svctm の 見かた、考え方
by
歩 柴田
PG-REXで学ぶPacemaker運用の実例
by
kazuhcurry
超実践 Cloud Spanner 設計講座
by
Samir Hammoudi
MySQLアーキテクチャ図解講座
by
Mikiya Okuno
pg_hint_planを知る(第37回PostgreSQLアンカンファレンス@オンライン 発表資料)
by
NTT DATA Technology & Innovation
Similar to PostgreSQLでスケールアウト
PDF
PostgreSQL9.3新機能紹介
by
NTT DATA OSS Professional Services
PDF
PostgreSQL10徹底解説
by
Masahiko Sawada
PDF
Let's scale-out PostgreSQL using Citus (Japanese)
by
Noriyoshi Shinoda
PDF
PostgreSQLとpython
by
Soudai Sone
PDF
Postgre sqlから見るnosql
by
Soudai Sone
PDF
外部データラッパによる PostgreSQL の拡張
by
Shigeru Hanada
PDF
Db2 Warehouse セッション資料 db tech showcase
by
IBM Analytics Japan
PDF
[db tech showcase Tokyo 2017] E34: データベース・サービスを好きなところで動かそう Db2 Warehouse by 日...
by
Insight Technology, Inc.
PDF
20150520 lt-neo4j勉強会-neofj fdw
by
Toshi Harada
PDF
Hackers Champloo 2016 postgresql-9.6
by
Toshi Harada
PDF
PostgreSQL 12の話
by
Masahiko Sawada
PDF
つくって壊して直して学ぶ Database on Kubernetes (CloudNative Days Summer 2025 発表資料)
by
NTT DATA Technology & Innovation
PDF
PostgreSQL 10 新機能 @OSC 2017 Fukuoka
by
Shigeru Hanada
PDF
【de:code 2020】 PostgreSQL もスケールさせよう! - Hyperscale (Citus) -
by
日本マイクロソフト株式会社
PDF
[D31] PostgreSQLでスケールアウト構成を構築しよう by Yugo Nagata
by
Insight Technology, Inc.
PDF
JTF2021w F3 postgresql frontline
by
Haruka Takatsuka
PDF
20190314 PGStrom Arrow_Fdw
by
Kohei KaiGai
PDF
20190119 aws-study-pg-extension
by
Toshi Harada
PDF
"Global Distcloud File System" ~インタークラウド広域分散ファイルシステム 大陸間横断ライブマイグレーションを実現する技術
by
Tech Circle
PDF
PostgreSQLアーキテクチャ入門(PostgreSQL Conference 2012)
by
Uptime Technologies LLC (JP)
PostgreSQL9.3新機能紹介
by
NTT DATA OSS Professional Services
PostgreSQL10徹底解説
by
Masahiko Sawada
Let's scale-out PostgreSQL using Citus (Japanese)
by
Noriyoshi Shinoda
PostgreSQLとpython
by
Soudai Sone
Postgre sqlから見るnosql
by
Soudai Sone
外部データラッパによる PostgreSQL の拡張
by
Shigeru Hanada
Db2 Warehouse セッション資料 db tech showcase
by
IBM Analytics Japan
[db tech showcase Tokyo 2017] E34: データベース・サービスを好きなところで動かそう Db2 Warehouse by 日...
by
Insight Technology, Inc.
20150520 lt-neo4j勉強会-neofj fdw
by
Toshi Harada
Hackers Champloo 2016 postgresql-9.6
by
Toshi Harada
PostgreSQL 12の話
by
Masahiko Sawada
つくって壊して直して学ぶ Database on Kubernetes (CloudNative Days Summer 2025 発表資料)
by
NTT DATA Technology & Innovation
PostgreSQL 10 新機能 @OSC 2017 Fukuoka
by
Shigeru Hanada
【de:code 2020】 PostgreSQL もスケールさせよう! - Hyperscale (Citus) -
by
日本マイクロソフト株式会社
[D31] PostgreSQLでスケールアウト構成を構築しよう by Yugo Nagata
by
Insight Technology, Inc.
JTF2021w F3 postgresql frontline
by
Haruka Takatsuka
20190314 PGStrom Arrow_Fdw
by
Kohei KaiGai
20190119 aws-study-pg-extension
by
Toshi Harada
"Global Distcloud File System" ~インタークラウド広域分散ファイルシステム 大陸間横断ライブマイグレーションを実現する技術
by
Tech Circle
PostgreSQLアーキテクチャ入門(PostgreSQL Conference 2012)
by
Uptime Technologies LLC (JP)
More from Masahiko Sawada
PDF
行ロックと「LOG: process 12345 still waiting for ShareLock on transaction 710 afte...
by
Masahiko Sawada
PDF
PostgreSQL 15 開発最新情報
by
Masahiko Sawada
PDF
Vacuum徹底解説
by
Masahiko Sawada
PDF
Transparent Data Encryption in PostgreSQL
by
Masahiko Sawada
PDF
OSS活動のやりがいとそれから得たもの - PostgreSQLコミュニティにて -
by
Masahiko Sawada
PDF
Transparent Data Encryption in PostgreSQL and Integration with Key Management...
by
Masahiko Sawada
PDF
Bloat and Fragmentation in PostgreSQL
by
Masahiko Sawada
PDF
Database Encryption and Key Management for PostgreSQL - Principles and Consid...
by
Masahiko Sawada
PDF
今秋リリース予定のPostgreSQL11を徹底解説
by
Masahiko Sawada
PDF
Vacuum more efficient than ever
by
Masahiko Sawada
PDF
Vacuumとzheap
by
Masahiko Sawada
PDF
Parallel Vacuum
by
Masahiko Sawada
PDF
OSS 開発ってどうやっているの? ~ PostgreSQL の現場から~
by
Masahiko Sawada
PDF
FDW-based Sharding Update and Future
by
Masahiko Sawada
PDF
What’s new in 9.6, by PostgreSQL contributor
by
Masahiko Sawada
PDF
PostgreSQL 9.6 新機能紹介
by
Masahiko Sawada
PDF
pg_bigmと類似度検索
by
Masahiko Sawada
PDF
pg_bigmを触り始めた人に伝えたいこと
by
Masahiko Sawada
PDF
Introduction VAUUM, Freezing, XID wraparound
by
Masahiko Sawada
PDF
XID周回問題に潜む別の問題
by
Masahiko Sawada
行ロックと「LOG: process 12345 still waiting for ShareLock on transaction 710 afte...
by
Masahiko Sawada
PostgreSQL 15 開発最新情報
by
Masahiko Sawada
Vacuum徹底解説
by
Masahiko Sawada
Transparent Data Encryption in PostgreSQL
by
Masahiko Sawada
OSS活動のやりがいとそれから得たもの - PostgreSQLコミュニティにて -
by
Masahiko Sawada
Transparent Data Encryption in PostgreSQL and Integration with Key Management...
by
Masahiko Sawada
Bloat and Fragmentation in PostgreSQL
by
Masahiko Sawada
Database Encryption and Key Management for PostgreSQL - Principles and Consid...
by
Masahiko Sawada
今秋リリース予定のPostgreSQL11を徹底解説
by
Masahiko Sawada
Vacuum more efficient than ever
by
Masahiko Sawada
Vacuumとzheap
by
Masahiko Sawada
Parallel Vacuum
by
Masahiko Sawada
OSS 開発ってどうやっているの? ~ PostgreSQL の現場から~
by
Masahiko Sawada
FDW-based Sharding Update and Future
by
Masahiko Sawada
What’s new in 9.6, by PostgreSQL contributor
by
Masahiko Sawada
PostgreSQL 9.6 新機能紹介
by
Masahiko Sawada
pg_bigmと類似度検索
by
Masahiko Sawada
pg_bigmを触り始めた人に伝えたいこと
by
Masahiko Sawada
Introduction VAUUM, Freezing, XID wraparound
by
Masahiko Sawada
XID周回問題に潜む別の問題
by
Masahiko Sawada
Recently uploaded
PDF
LoRaWAN小売業DXソリューション ~天候データと人流カウンターを利用して売り上げアップに貢献!
by
CRI Japan, Inc.
PDF
論文紹介:Simultaneous Detection and Interaction Reasoning for Object-Centric Acti...
by
Toru Tamaki
PDF
How We Operated Ticket-Driven Development in JIRA.pdf
by
akipii ogaoga
PDF
論文紹介:"Reflexion: language agents with verbal reinforcement learning", "MA-LMM...
by
Toru Tamaki
PDF
手軽に広範囲でプライバシーを守りながら人数カウントできる ~ LoRaWAN AI人流カウンター PF52 日本語カタログ
by
CRI Japan, Inc.
PDF
論文紹介:"MM-Tracker: Motion Mamba for UAV-platform Multiple Object Tracking", "M...
by
Toru Tamaki
PDF
歴史好きのスクラム話 JBUG名古屋#5 AI時代のデータドリブンなプロジェクト管理
by
Tatsuya Naiki
LoRaWAN小売業DXソリューション ~天候データと人流カウンターを利用して売り上げアップに貢献!
by
CRI Japan, Inc.
論文紹介:Simultaneous Detection and Interaction Reasoning for Object-Centric Acti...
by
Toru Tamaki
How We Operated Ticket-Driven Development in JIRA.pdf
by
akipii ogaoga
論文紹介:"Reflexion: language agents with verbal reinforcement learning", "MA-LMM...
by
Toru Tamaki
手軽に広範囲でプライバシーを守りながら人数カウントできる ~ LoRaWAN AI人流カウンター PF52 日本語カタログ
by
CRI Japan, Inc.
論文紹介:"MM-Tracker: Motion Mamba for UAV-platform Multiple Object Tracking", "M...
by
Toru Tamaki
歴史好きのスクラム話 JBUG名古屋#5 AI時代のデータドリブンなプロジェクト管理
by
Tatsuya Naiki
PostgreSQLでスケールアウト
1.
Copyright©2017 NTT corp.
All Rights Reserved. PostgreSQLでスケールアウト NTT OSSセンタ 澤田 雅彦 スケールアウトするSQLシステム (8/22)
2.
2Copyright©2017 NTT corp.
All Rights Reserved. 自己紹介 澤田 雅彦 Twitter : @sawada_masahiko GitHub: MasahikoSawada NTT OSSセンタ勤務 PostgreSQL Contributor Freeze Map(PG9.6) Multiple Synchronous Replication(PG9.6) Quorum-based Synchronous Replication(PG10) 本日紹介する機能も開発中 PostgreSQL技術サポート PostgreSQL周辺ツールの開発
3.
3Copyright©2017 NTT corp.
All Rights Reserved. 様々な方法がある • PostgreSQLのフォーク版 • Amazon Redshift (Amazon Web Service) • Greenplum Database (Pivotal社) • Postgres Pro (Postgres Professional社) • Postgres-XL (2nd Quadrant社) • PostgreSQL+拡張モジュール • Citus (Citus data社) • PostgreSQLのみ • FDW-based Sharding スケールアウトするために
4.
4Copyright©2017 NTT corp.
All Rights Reserved. Postgres-XL https://www.postgres-xl.org/overview/
5.
5Copyright©2017 NTT corp.
All Rights Reserved. Citus https://docs.citusdata.com/en/v6.1/performance/query_processing.html
6.
6Copyright©2017 NTT corp.
All Rights Reserved. • FDW(Foreign Data Wrapper)とは? • PostgreSQLを”ハブ”のようにして、外部データ(他のDBMS、 NoSQL、ファイル、Webサービス等)と連携できる機能 FDW-based Sharding Oracle PostgreSQL CSV ファイル SELECT * FROM oracle_tbl WHERE amount < 100; oracle_tbl pg_tbl file_tbl PostgreSQL postgres_fdw oracle_fdw fdw_fdw
7.
7Copyright©2017 NTT corp.
All Rights Reserved. 商用 DBMS 異種DB間連携 FDWの使い方の例 ○○部署 △△部署 △△部署のデータ も見れるようした いけど、向こうは 商用DBを使って る。データを二重 でも持つのは避け たいし・・ oracle_fdw
8.
8Copyright©2017 NTT corp.
All Rights Reserved. • FDW-based Shardingとは? • FDW機能とテーブルパーティショニングを組み合わせてデータ ベースシャーディングを行うというアイディア FDW-based Sharding SELECT * FROM oracle_tbl WHERE amount < 100; PostgreSQL PostgreSQL postgres_fdw postgres_fdw PostgreSQL PostgreSQL postgres_fdw
9.
9Copyright©2017 NTT corp.
All Rights Reserved. • FDW機能の特性上、連携先はPostgreSQLでなくても良い • どちらの機能もPostgreSQLが標準機能として提供 • シャードノードを増やすことでスケールアウト可能 FDW-based Shardingの特徴① PostgreSQL PostgreSQL PostgreSQL PostgreSQL postgres_fdw PostgreSQL・・・
10.
10Copyright©2017 NTT corp.
All Rights Reserved. • クライアントは一つのサーバにのみアクセスするだけで良い • アプリケーションの変更がいらない • WHERE句、JOIN、SORT等はシャードサーバへプッシュダウンされる FDW-based Shardingの特徴② PostgreSQL PostgreSQL PostgreSQL PostgreSQL postgres_fdw PostgreSQL・・・
11.
11Copyright©2017 NTT corp.
All Rights Reserved. FDW-based Shardingの仕組み PostgreSQL 親テーブル 子 外部テーブル 子 外部テーブル PostgreSQLテーブル PostgreSQLテーブル postgres_fdw テーブル パーティショニン グ機能 子テーブル FDW機能
12.
12Copyright©2017 NTT corp.
All Rights Reserved. FDW-based Shardingの仕組み PostgreSQL 親テーブル 子 外部テーブル 子 外部テーブル PostgreSQLテーブル PostgreSQLテーブル postgres_fdw 子テーブル テーブルパーティショニング機能によっ て、SELECTでは振り分けられる
13.
13Copyright©2017 NTT corp.
All Rights Reserved. FDW-based Shardingの仕組み PostgreSQL 親テーブル 子 外部テーブル 子 外部テーブル PostgreSQLテーブル PostgreSQLテーブル postgres_fdw 子テーブル 振り分けられた先が外部テーブルなら、 外部のサーバへ処理を依頼。 ローカルにあるテーブルなら、自分で処 理する。
14.
14Copyright©2017 NTT corp.
All Rights Reserved. • 現在PostgreSQLコミュニティにて鋭意開発中なため、い くつか制約がある(PostgreSQL 9.6現在) • パーティションテーブルの運用が面倒※ • 集約処理はプッシュダウンされない※ • クラスタリング機能(高可用性)はコミュニティから提供 されていない • 分散トランザクション機能がない など ※PostgreSQL 10で一部改善 FDW-based Shardingは鋭意開発中
15.
15Copyright©2017 NTT corp.
All Rights Reserved. FDW-based Shardingは鋭意開発中 PostgreSQL PostgreSQL PostgreSQL PostgreSQL postgres_fdw • マルチマスター構成も組もうと思えば組める • が、一貫性のある結果が返ってくる保証はない(更新が混ざった場合) • また、耐障害性について別途作り込む必要がある PostgreSQL postgres_fdw
16.
16Copyright©2017 NTT corp.
All Rights Reserved. • PostgreSQLもスケールアウトできる • 商用製品、OSS製品など様々 • PostgreSQLのみを使ったスケールアウト構成も可能 • 開発中でもあるので制約をよく把握して使うこと まとめ
17.
17Copyright©2017 NTT corp.
All Rights Reserved. ご清聴ありがとうございました
18.
18Copyright©2017 NTT corp.
All Rights Reserved. Sort Push Down -- 9.5 Sort Output: p.col Sort Key: p.col -> Append -> Seq Scan on public.p Output: p.col -> Foreign Scan on public.s1 Output: s1.col Remote SQL: SELECT col FROM public.s1 -> Foreign Scan on public.s2 Output: s2.col Remote SQL: SELECT col FROM public.s2 -- 9.6 Merge Append Sort Key: p.col -> Sort Output: p.col Sort Key: p.col -> Seq Scan on public.p Output: p.col -> Foreign Scan on public.s1 Output: s1.col Remote SQL: SELECT col FROM public.s1 ORDER BY col ASC NULLS LAST -> Foreign Scan on public.s2 Output: s2.col Remote SQL: SELECT col FROM public.s2 ORDER BY col ASC NULLS LAST =# EXPLAIN (verbose on, costs off) SELECT * FROM p ORDER BY col;
Download