Reverse ETL (以下內文稱: 反向ETL) 的概念出現,代表著數據治理的一個關鍵轉變。ETL 是數據整合的程序,而「反向 ETL」是傳統 ETL 過程的逆向操作。在過去,數據僅限於數據團隊能夠訪問使用,但隨著反向 ETL 的應用,現在即使是非數據部門的其他團隊也能夠輕鬆地訪問和使用數據倉庫。
傳統 ETL 專注於將數據從來源系統移動到數據倉儲或數據湖的過程。而反向 ETL 剛好相反,專注於將數據從數據倉儲同步到 B2C 的業務或行銷工具,例如: CRM、或行銷自動化的 SaaS 工具。而數據提取方式的不同,也會大大改變了企業處理和利用數據的應用。
接下來,我們將探討反向 ETL將如何改變企業處理數據的方式和所帶來的優勢,及相關應用案例。在探討之前,讓我們先了解一些 ETL 的相關概念。
Table of Contents
什麼是傳統 ETL?
傳統 ETL 不是一個新概念,自 1970 年代以來就存在。它是一個數據整合過程,將數據從各種來源系統(如資料庫、文件、SaaS 應用程式和應用程式事件)移動到目標系統(通常是集中式數據倉儲或數據湖)。
基本上,這是一個使用預定義的數據結構,將所有數據移動到中央存儲的過程。以下是簡單的流程說明:
首先,使用 SQL 查詢從伺服器提取數據,也就是先從資料來源中「擷取」數據。接下來,數據被「轉換」成可被存儲在數據倉儲中的特定格式,再「載入」到數據倉儲。在此過程中,數據會被正確的對應指定格式,以確保最後能呈現所需的資訊。這也是大家所熟悉的 ETL(擷取、轉換、載入)數據處理流程。
最後,使用 API 插入或批次處理將數據加載到新工具中。數據在數據倉儲中整理好後,即可進行數據分析和可視化。
經過處理過後的數據,就能夠讓各團隊利用和獲取洞察已開發潛在的商機。然而,我們發現企業的痛點是 : 當數據源不斷的更新時,數據就需要不斷維護及同步,並且需要數據專家來幫助提取、管理和分析數據,是一個相當繁瑣的流程。此時,反向 ETL 的應用便是的關鍵所在。
Reverse ETL 的運行原理
簡單來說,反向 ETL 的核心功能是:即時處理數據倉儲中的數據,並將其同步於業務或行銷應用端的工具。以前,使用傳統 ETL 的企業需要數據團隊,將數據從各種數據源系統移動到中央數據倉儲。這同時也意味著:數據需要不斷地由數據專家提取和管理。而「反向 ETL 」可幫助 IT 團隊以更主動的方式,讓數據可被用於組織中其他部門的業務工具。
利用反向 ETL,數據直接提取到中央數據倉儲後,將處理完的數據傳回行銷工具,組織中的其他部門可以在更易於訪問的介面中獲取數據,如客戶關係管理(CRM)系統、ERP、CDP、行銷平台或其他 SaaS 產品等。
讓我們來看看以下的例子:
假設行銷團隊有使用儀表板軟體(如: Looker Studio)追蹤指定的 KPI。而在查看 KPI 後,業務團隊希望更深入地了解數據,則可以使用反向 ETL,CRM 將直接與數據倉儲連線,獲取業務團隊所需要的相關資訊,利於後續進行更深度的報告和預測。
這樣一來,不管是行銷或業務團隊就能更輕鬆、靈活甚至自動化地取用數據,無需受限於各部門的數據孤島,確保組織中的每個人都能同步即時資訊。他們可以直接存取統一管理的中央數據倉儲,更有效率地進行分析和決策。這不僅提高了數據可用性,也減少了部門間數據交換的障礙,促進了整個組織的協作效率。
Reverse ETL 的基礎組成架構
反向 ETL 透過向數據倉儲發送查詢,並將查詢結果寫入已串接的各種行銷工具來工作。有四個基本組成部分需要考慮:來源、模型、同步和目的地。
來源: 數據的來源。通常是雲端環境中央數據倉儲,如 BigQuery 或 Snowflake。然而,它也可能指的是網站或雲端儲存。
模型: 希望添加到目的地的特定數據集。這包括可以用來定義數據將如何表示,以及希望從來源提取哪些數據的 SQL 語句。
同步: 這是定義模型數據並聲明數據產出的格式,以符合最終選擇的行銷自動化軟體工具中所需的欄位的一種過程。
目的地: 將數據傳送到的 SaaS 軟體或工具,可能是 CRM、ERP 、 SMS 、行銷平台等。
採用反向 ETL 的好處:解決 CDP 的痛點所在
讓我們來看看為什麼企業需要採用反向ETL的理由及優勢所在。
避免數據孤島
數據在您的企業中應該是寶貴的。獲取商機、保留客戶、發現待改善之處等等。雖說如此,您可能會驚訝地發現,平均有 73% 的企業數據未被使用。但採用反向 ETL 後可以改變這一點。
這與數據孤島有關,因為每個部門通常只考慮自己團隊所生成的數據,而這樣的情境很常發生,例:客戶服務部看到的是某個產品的投訴案例增加、而財務部門注意到的是購買商品的顧客拒絕支付。因為數據孤島的關係,他們很可能被視為兩個獨立的問題。而反向 ETL,則可以使這些資訊在跨部門之間共享,將整個公司的數據串聯起來,共同提出解決方案。
最重要的是,這些數據都可以在原本熟悉的工具中操作,不需要浪費時間重新培訓銷售團隊使用新的會計軟體。
深入挖掘數據
許多公司需要追蹤 KPI,但往往發現要取得更深度的資訊很困難。反向 ETL 與可組合式 CDP 的結合,透過控制層使得數據的取得變得容易。以可組合式CDP 作為一站式數據管理平台,可以更深入地分析數據,並且提出如何改進業務的新洞察。同時降低跨部門資訊不流通所衍伸的問題,有效提升部門協作的運營效率。例如: 從上述的案例中,在取得更完整全面的資訊後,可利用行銷來改善顧客體驗並減少業務流失。
助力數據團隊集中資源
如果所有數據都存儲在中央數據庫中,數據團隊可能每天需要處理多個 ETL 請求。收集相關數據看似簡單,但需要時間。反向 ETL 將可協助數據團隊釋放更多的時間,將資源排程集中在更重要的事情上,這也有助於為將來的業務發展提前做好準備。
增進自動化
反向 ETL 可以幫助 IT 團隊,自動化一些任務以節省時間。如:減少提取 CSV 文件並將其輸入軟體的需求。當花在瑣碎任務上的時間越少,可被專注業務發展的時間就越多。
反向 ETL 在可組合顧客數據平台(Composable CDP) 的重要性
可組合式的顧客數據平台 (Composable CDP),透過反向ETL連結CDP控制層與數據倉儲,把數據同步至串接的行銷工具。企業利用這種方式建立數據基礎架構,不僅能夠有效率地進行數據管理也能將維運的成本降到最低。
不同於一般套裝式的 CDP,可組合式 CDP 與 反向 ETL 結合的應用,使企業能更深入地了解顧客的輪廓並精準地細分受眾。企業更能自由地使用第一方數據,同時將反饋及時回傳更新於中央的數據倉儲,確保團隊中的每個人都可以獲取和查看最新數據。
ETL+可組合式CDP導入實務與優勢
如同上述的介紹和說明,有很多的情境適用反向 ETL。首先,這個技術非常適合作數據的移轉:將數據從一個軟體工具連接到另一個軟體工具。雖然現在許多工具都有 API 整合,使這一過程變得更加容易,但並不是每次總是可行。反向 ETL 可以協助企業克服這個問題,使軟體移轉程序能夠無縫地交換數據。
接下來讓我們用以下例子說明,可組合式CDP結合反向ETL如何為企業收集到更全面受眾的數據且帶來業績增長。假設今天設定了一檔Meta上的廣告活動,在廣告平台上可以看到有多少人觀看了廣告,但是透過反向ETL將平台數據及時傳回中央數據倉儲後,還可以同步看到的是:有多少人基於該廣告活動購買了產品。可更深入地認識與廣告受眾的互動,並以此為基礎優化下一檔的廣告活動的客戶體驗。
舉例:假設您的銷售團隊使用 Salesforce,您的行銷團隊使用 HubSpot,而 Zoho Inventory 追蹤您手頭的庫存量。反向 ETL 可以將這些應用程式中的所有數據整合在同一個可組合式CDP平台,讓每個團隊對業務有更全面的了解。如此一來,行銷團隊可以看到哪些產品銷售得好,哪些產品銷售得不好。
另一個日常使用情境是:數據存儲在雲端中央伺服器上,透過反向 ETL 將數據載入到組織所使用的軟體工具,使每個軟體然後可以與雲端中央伺服器同步,創建一個不斷更新的數據循環。
結論 : 現代行銷技術整合與可組合式顧客數據平台
現代行銷工具多元,如: 電子郵件、社交媒體、App、廣告平台、問券調查工具等,然而在數據的收集卻也產生碎片化的問題。在數位時代,快速且有效地利用數據是成功的關鍵,收集數據不應該是一件困難的事情。傳統的 ETL 需要大量的技術知識,並且在數據管理方面效率不高,導致數據無法有效整合和利用,企業中的其他部門難以獲得全面的數據視圖,導致策略上出現漏洞。然而,隨著反向 ETL 和可組合式的 CDP 導入,組織中的每個部門都可以輕鬆訪問所有數據,並利用所有相關數據,而不必擔心數據技術方面的問題。
Vpon 可組合式 CDP 模組化框架 – 彈性自選一站式數據平台
作為現代主流的顧客數據管理平台,Vpon CCDP 特色如下:
無需鎖定供應商
CCDP 可與任何數據庫搭配使用。 讓企業可以根據業務需求的變化輕鬆切換選項。
能夠使用第一方數據
可以更好地客製化 CCDP,讓企業能夠整合寶貴的第一方數據來源以滿足需求。
模組化方法
企業可以選擇所需的數據收集、儲存和啟動工具。 一切以客製化的方式選擇所需的模組,無需負擔那些用不到模組的費用。
無需了解編碼
任何人都可以輕鬆設定和使用 CCDP,大大減輕 IT 團隊的壓力。
可組合式(Composable)的顧客數據平台(CDP),為企業帶來一個更彈性、更符合需求的新選擇。可解決企業在實務操作面上所遇到的挑戰與困境,可做為現有數據收集和儲存系統與第一線工具之間的管道。(延伸閱讀: 可組合式顧客數據平台-讓數據自主權還給品牌主)
Vpon 提供的可組合式 CDP 解決方案,遵從數據治理和 AI 治理的原則,根據企業在數位轉型的不同階段,建立了對應的模組化框架,從數據收集、數據分析、到 AI 應用,分別有不同的區塊模組,協助企業建置專屬於自身的顧客數據平台,串接多來源數據與不同的行銷工具,讓 CCDP 的導入與建置推動數位轉型的計畫。透過七大模組: 數位軌跡追蹤、雲端數據建模、預測型分析、數據賦能、團隊賦能、個人化溝通體驗、智慧數位行銷,幫助團隊更靈活高效地實現受眾分群的精準行銷。
Vpon 威朋 AI 大數據擁有 15 年以上的數據及數位廣告經驗,我們的數據專家可協助您進行 CCDP 部署,也能提供相關的諮詢服務,讓活用數據從此變得十分簡單。如果您想了解更多,歡迎隨時聯絡我們。