データ基盤
データベース
SQL
BIツール
データエンジニアリング
snowflake
データ分析基盤とは?基盤を構築するための5つのステップ
https://data-viz-lab.com/data-analysis-foundation
https://scrapbox.io/files/65614f879015f0001c205a2a.jpeg
https://scrapbox.io/files/65614f936ece5c001c576375.jpeghttps://scrapbox.io/files/65614f9b130c48001ca32c15.jpeg
https://scrapbox.io/files/65614fa8dfd428001ce316b0.png
人気BIツール8つを詳細に比較【2022最新】
https://data-viz-lab.com/bitool-comparison
データ分析基盤の基本と構築のポイント
https://www.softbank.jp/biz/blog/business/articles/202007/data-analysis/
カンムの機械学習インフラの今 2023 年版
https://tech.kanmu.co.jp/entry/2023/12/08/000000
データ分析基盤まとめ
https://zenn.dev/yuichi_dev/articles/4b8677827fbc88
「鮮度」と「精度」を両立させる広告データ基盤のつくり方
https://inside.pixiv.blog/2023/01/27/110000
query engine 「trino」
https://trino.io/
Hive
https://www.idcf.jp/words/hive.html
HDFS
https://www.databricks.com/jp/glossary/hadoop-distributed-file-system-hdfs#:~:text=HDFS%20は%E3%80%81%20Hadoop%20Distributed%20File,に設計されています%E3%80%82
クラウドデータレイク
https://www.oreilly.co.jp/books/9784814400676/
大量のデータを効率的に管理し、ビッグデータ分析、機械学習、AIなどの高度なデータ分析を実現するためのデータ基盤として、クラウドデータレイクが注目されています。スケーラビリティと多様なデータ管理機能を兼ね備えたクラウドデータレイクは、現代のデータ分析ニーズにマッチする技術として、データの重要性が増す昨今、多くの企業の関心を集めています。本書は、クラウドデータレイクのセットアップ、管理、ガバナンスについて、包括的に解説した実践的なガイドです。設計におけるポイントやベストプラクティス、データフォーマットとパフォーマンスの最適化、コスト管理、セキュリティなど、クラウドデータレイクの構築方法を、架空の組織をモデルにわかりやすく解説します。クラウドデータレイクの構築とデータアーキテクチャの実践的なノウハウをコンパクトにまとめた1冊です。
大規模データ管理
https://www.oreilly.co.jp/books/9784814400089/
データ管理と統合が急速に進化する中、複雑で緊密に結合したアーキテクチャから、現代のビジネスに対応できる、より柔軟なデータアーキテクチャへの移行が求められます。
本書は、変化が激しい時代でも長期的に持続可能な方法で大規模なデータ管理を行い、さまざまなユースケースに対応できる統合アーキテクチャを紹介します。この統合アーキテクチャを構成する、膨大なデータ利用に向けた「読み出し専用データストアアーキテクチャ」、リアルタイムなアプリケーションのための「APIアーキテクチャ」、大容量のスループットを実現する「ストリーミングアーキテクチャ」を詳述します。また技術開発、法規制、プライバシーに関する懸念など、データ管理全体を説明し、データガバナンスとセキュリティ、マスターデータ管理、セルフサービスとデータマーケットプレイス、メタデータの重要性について解説します。
企業のデータ戦略にかかわる本書は、アーキテクトはもちろん、経営者、ガバナンスチーム、データ分析・エンジニアリングチーム必携の一冊です。
データ基盤Visionの進化の軌跡-事業の成長と共に歩んだ道のり
https://techblog.cartaholdings.co.jp/entry/data-driven-vision-evolution-journey
使われないものを作るな!出口から作るデータ分析基盤
https://speakerdeck.com/amaotone/data-platform-development-starting-from-the-user-needs
データ分析基盤のはじめかた - オープンセミナー2022@広島
https://www.youtube.com/watch?v=81frXIr5HCI
データ基盤を支える技術
https://speakerdeck.com/chanyou0311/tetaji-pan-wozhi-eruji-shu
snowflake
databricks
treasure data
LLM時代のデータ基盤 : 非構造化データを扱うETLプロセスの重要性
https://tech.layerx.co.jp/entry/data-platform-with-llm
みんなの考えた最強のデータ基盤アーキテクチャ2024前半
https://datatech-jp.connpass.com/event/319827/presentation/?utm_campaign=new_event_links_to_group_member&utm_source=notifications&utm_medium=email&utm_content=detail_btn
データプラットフォーム統合プロジェクトの紹介
https://engineering.kdx.co.jp/entry/2021/10/22/164604
dataiku
https://www.dataiku.com/ja/