Hurtownia danych – co to jest, jak działa i kiedy jest potrzebna firmie

W skrócie: hurtownia danych to uporządkowana baza, w której gromadzisz dane z różnych systemów firmy – ERP, CRM, sklepu, magazynu, arkuszy – w jednym, spójnym i historycznym układzie. Nie służy do obsługi bieżących operacji, tylko do analizy: raportów, wskaźników i porównań w czasie. Dzięki niej raport nie liczy się z kilku plików, ale z jednego źródła, w którym marża, sprzedaż czy rotacja mają jedną definicję.

Czym jest hurtownia danych

Hurtownia danych (ang. data warehouse) to centralne miejsce, w którym dane z systemów operacyjnych są regularnie gromadzone, oczyszczane i układane pod kątem analiz. Kluczowe są trzy cechy, które odróżniają ją od zwykłej bazy:

  • Integruje dane z wielu źródeł – sprzedaż z ERP, dane klientów z CRM, zamówienia ze sklepu, koszty z arkuszy – i sprowadza je do wspólnych słowników (jeden klient, jeden indeks towarowy, jeden kalendarz).
  • Przechowuje historię – system operacyjny pokazuje stan „na teraz”, hurtownia pamięta też, jak było rok temu, łącznie ze zmianami w danych słownikowych (na przykład zmianą przypisania klienta do handlowca).
  • Jest zaprojektowana pod czytanie danych – model jest uproszczony i zoptymalizowany pod zapytania analityczne, dlatego raport na hurtowni liczy się szybciej niż na bazie produkcyjnej i jej nie obciąża.

Hurtownia danych a baza danych, data lake i lakehouse

RozwiązanieDo czego służyTypowe dane
Baza operacyjna (np. baza ERP)obsługa bieżących procesów: faktury, zamówienia, stanyaktualny stan, dane pojedynczych transakcji
Hurtownia danychraportowanie i analiza, porównania w czasiedane uporządkowane, historyczne, z wspólnymi słownikami
Data laketanie składowanie dużych wolumenów danych w oryginalnej postacipliki, logi, dane półstrukturalne, dane z urządzeń
Lakehousepołączenie obu podejść: tanie składowanie plus tabele analitycznedane surowe i przetworzone w jednym środowisku

W praktyce w średniej firmie najczęściej wystarcza hurtownia danych lub lakehouse. Data lake bez warstwy uporządkowanej bywa pułapką: dane są, ale nikt nie potrafi na nich policzyć wskaźników. Szerzej piszemy o tym na stronie usługi: hurtownia danych i data lake.

Jak zbudowana jest hurtownia danych

Typowa hurtownia ma kilka warstw. Taki podział wygląda na nadmiarowy, dopóki nie trzeba czegoś zmienić – wtedy okazuje się, że oszczędza tygodnie pracy.

  1. Warstwa pobrania danych (staging) – surowe dane ze źródeł, wgrywane bez przekształceń. Pozwala odtworzyć, co dokładnie przyszło z systemu danego dnia.
  2. Warstwa integracji – tu dane są czyszczone, ujednolicane i łączone: jeden klient z ERP i z CRM staje się jednym rekordem, daty trafiają na wspólny kalendarz, waluty na wspólną walutę raportową.
  3. Warstwa analityczna – tabele faktów (sprzedaż, zamówienia, koszty) i wymiarów (klient, produkt, czas, handlowiec), zwykle w modelu gwiazdy. To z niej korzystają raporty.
  4. Warstwa prezentacji – model semantyczny i raporty, na przykład w Power BI, z definicjami wskaźników zrozumiałymi dla biznesu.

Dane wędrują między warstwami procesami ETL lub ELT, uruchamianymi według harmonogramu – najczęściej nocnego, czasem częściej, jeśli biznes tego potrzebuje. Zobacz: integracja danych.

Kiedy firma potrzebuje hurtowni danych

  • Raport miesięczny powstaje z kilku plików i zajmuje kilka dni pracy.
  • Dane są w co najmniej dwóch–trzech systemach i trzeba je zestawiać ręcznie.
  • Potrzebujesz porównań rok do roku, a system źródłowy nadpisuje dane historyczne.
  • Raporty w Power BI odświeżają się coraz dłużej, bo pobierają całe tabele z ERP.
  • Dwa działy podają zarządowi różne liczby dla tego samego wskaźnika.
  • Dział IT blokuje raporty, bo zapytania analityczne obciążają system produkcyjny.

Kiedy hurtownia nie jest potrzebna

Jeżeli firma korzysta z jednego systemu, dane mieszczą się w kilkuset tysiącach wierszy, a raporty dotyczą bieżącego okresu – wystarczy dobrze zbudowany model danych w Power BI. Hurtownia zaczyna się opłacać, gdy pojawia się druga i trzecia dziedzina danych, potrzeba historii i rośnie liczba odbiorców. Dobrą praktyką jest zacząć od wdrożenia Power BI i dobudować warstwę danych wtedy, gdy model przestaje wystarczać.

Na czym zbudować hurtownię danych

Najczęstsze wybory w polskich firmach średniej wielkości:

  • SQL Server (lokalnie lub w chmurze) – sprawdzone i tanie w utrzymaniu rozwiązanie, gdy dane są głównie relacyjne, a zespół zna SQL.
  • Azure SQL / Azure Synapse – gdy firma jest już w chmurze Microsoft i chce uniknąć utrzymywania serwerów.
  • Microsoft Fabric – gdy oprócz hurtowni potrzebne są procesy ładowania danych, lakehouse i raportowanie w jednym środowisku. Opisaliśmy to tutaj: wdrożenie Microsoft Fabric.
  • Rozwiązania chmurowe innych dostawców – wybierane, gdy firma ma już standard technologiczny inny niż Microsoft.

Wybór technologii jest wtórny wobec modelu danych. Źle zaprojektowany model będzie problemem na każdej platformie, dobry model przeniesiesz między platformami bez przepisywania raportów od zera.

Od czego zacząć budowę hurtowni danych

  1. Wypisz pytania biznesowe, na które raport ma odpowiadać – od nich zależy zakres danych, a nie odwrotnie.
  2. Zrób inwentaryzację źródeł: systemy, sposób dostępu, właściciele, jakość danych.
  3. Uzgodnij definicje wskaźników i słowniki (klient, produkt, kanał sprzedaży).
  4. Zbuduj pierwszy obszar tematyczny, na przykład sprzedaż, i pokaż na nim raport.
  5. Dołóż kolejne obszary etapami, zamiast projektować całość na papierze przez pół roku.

Powiązane poradniki

Najczęstsze błędy przy budowie hurtowni danych

  • Kopiowanie struktury ERP jeden do jednego – hurtownia staje się drugą bazą operacyjną, tyle że wolniejszą.
  • Brak warstwy surowej – po błędzie w przetwarzaniu nie da się odtworzyć danych źródłowych.
  • Pominięcie historii zmian w wymiarach – raporty sprzed roku przestają się zgadzać po zmianie w słowniku.
  • Brak kontroli jakości danych – nikt nie wie, że plik z magazynu nie przyszedł, dopóki zarząd nie zauważy dziwnej liczby.
  • Brak właściciela po stronie biznesu – po zakończeniu projektu definicje wskaźników przestają być aktualizowane.

Jeżeli hurtownia już działa, ale raporty liczą się wolno albo dane bywają niespójne, punktem wyjścia jest audyt systemu BI i optymalizacja wydajności.

Najczęstsze pytania o hurtownię danych

Czym różni się hurtownia danych od bazy danych?

Baza operacyjna obsługuje bieżące procesy i pokazuje aktualny stan. Hurtownia gromadzi dane z wielu systemów, przechowuje ich historię i jest zaprojektowana pod analizę, a nie pod zapis pojedynczych transakcji.

Czy mała firma potrzebuje hurtowni danych?

Zwykle nie na starcie. Przy jednym systemie i niedużej ilości danych wystarczy model w narzędziu BI. Hurtownia ma sens, gdy pojawia się kilka źródeł, potrzeba historii i rośnie liczba odbiorców raportów.

Ile trwa budowa hurtowni danych?

Zależy od liczby źródeł i stanu danych. Praktyczne podejście to etapy: pierwszy obszar tematyczny z działającym raportem powstaje wcześniej niż całość, a kolejne dziedziny dokładane są stopniowo.

Czy hurtownia danych musi być w chmurze?

Nie. Hurtownia może działać lokalnie, w chmurze lub w modelu mieszanym. Chmura upraszcza skalowanie i utrzymanie, rozwiązanie lokalne bywa wybierane ze względu na politykę bezpieczeństwa lub istniejącą infrastrukturę.

Czym jest model gwiazdy?

To sposób organizacji danych, w którym w środku znajduje się tabela faktów (na przykład sprzedaż), a wokół niej tabele wymiarów (klient, produkt, czas). Ułatwia budowę raportów i przyspiesza zapytania.

Potrzebujesz hurtowni danych? Sprawdźmy to razem

Od 2017 roku projektujemy hurtownie danych i systemy raportowania dla firm z handlu, e-commerce, logistyki i sprzedaży B2B. Na bezpłatnej konsultacji przejdziemy przez wasze źródła danych i powiemy, czy hurtownia jest potrzebna, czy wystarczy poprawić model raportowy. Umów konsultację.

Udostępnij: