Đừng bỏ lỡ những thay đổi về cơ sở tỷ lệ kèo cá cược
Cộng tác theo thời gian thực do CDC (Change Data Capture) và Debezium thực hiện

1 Giới thiệu: Lời chào

Xin chào mọi người

Tên tôi là Uemura, tôi phụ trách công nghệ Kafka cho "Hybrid Cloud di"
Trong bài viết trước, chúng tôi đã giới thiệu tổng quan và các trường hợp sử dụng của Apache Kafka Lần này, chúng tôi sẽ giải thích về ``CDC (Thu thập tỷ lệ kèo cá cược thay đổi)'', một công nghệ đang thu hút sự chú ý đặc biệt trong hệ sinh thái Kafka và `` Debezium '', cách triển khai tiêu biểu của nó

Bản thân Debezium không phải là một tính năng của Kafka, nhưng khi kết hợp với Kafka, nó sẽ trở thành một thành phần quan trọng đóng vai trò là cửa ngõ dẫn đến các đường dẫn tỷ lệ kèo cá cược thời gian thực Nó cũng là một công nghệ đóng vai trò quan trọng cùng với Kafka trong Tổ chức Ứng dụng Red Hat mà chúng tôi đang quảng bá
``Truy xuất các thay đổi cơ sở tỷ lệ kèo cá cược dưới dạng sự kiện trong thời gian thực và liên kết chúng ngay lập tức với các hệ thống cần thiết'' - Trong bài viết này, chúng tôi sẽ giải thích lý do tại sao cơ chế này lại mạnh mẽ đến vậy, từ khái niệm cơ bản về CDC đến kiến trúc kết hợp nó với Kafka và nội dung xác minh mà chúng tôi đang tiến hành với Đám mây lai di

2 Hạn chế của việc phối hợp hàng loạt - Tại sao cần phải "phát hiện ngay các thay đổi"?

Nhiều hệ thống công ty sử dụng các phương pháp sau khi liên kết các thay đổi cơ sở tỷ lệ kèo cá cược với các hệ thống khác

Hợp tác hàng loạt truyền thống

  • Trích xuất tỷ lệ kèo cá cược theo đợt thông thường (hàng ngày/hàng giờ), so sánh sự khác biệt và gửi cho đối tác
  • Phương pháp thăm dò phát hiện các hàng đã thay đổi bằng cách sử dụng cột ngày giờ cập nhật và cột cờ
  • Phương pháp phát hiện các thay đổi bằng cách sử dụng trình kích hoạt DB và quy trình được lưu trữ

Mặc dù các phương pháp này đã được sử dụng trong nhiều năm nhưng vẫn có một số thách thức trong việc sử dụng tỷ lệ kèo cá cược thời gian thực Đầu tiên là vấn đề “độ trễ thời gian” Xử lý hàng loạt luôn dẫn đến độ trễ bằng khoảng thời gian của đợt Điều này tạo ra hạn chế trong việc phân tích tỷ lệ kèo cá cược và ra quyết định mà không thể giải quyết được “sự kiện vừa xảy ra”

Tiếp theo là "tải cơ sở tỷ lệ kèo cá cược" Việc thăm dò và kích hoạt thêm quá trình xử lý vào DB tách biệt với các giao dịch kinh doanh và quy mô hệ thống càng lớn thì càng không thể bỏ qua tác động đến hiệu suất
Ngoài ra, "khó phát hiện DELETE" là một vấn đề phổ biến Vì phương pháp thăm dò không thể phát hiện các hàng đã xóa nên nó sẽ ảnh hưởng đến thiết kế của ứng dụng, chẳng hạn như đặt cờ xóa logic
Hơn nữa, "khả năng theo dõi các thay đổi của lược đồ" cũng là một vấn đề Mỗi khi cấu trúc bảng thay đổi, ETL và logic phối hợp sẽ cần được sửa đổi, làm tăng chi phí vận hành

CDC (Thu thập tỷ lệ kèo cá cược thay đổi) là một phương pháp giải quyết cơ bản những vấn đề này

3 CDC (Thu thập tỷ lệ kèo cá cược thay đổi)

CDC (Thu thập tỷ lệ kèo cá cược thay đổi) là thuật ngữ chung chỉ công nghệ phát hiện và ghi lại các thay đổi được thực hiện đối với cơ sở tỷ lệ kèo cá cược (CHÈN/CẬP NHẬT/XÓA) trong thời gian thực

Tính năng lớn nhất của CDC là đọc trực tiếp nhật ký giao dịch cơ sở tỷ lệ kèo cá cược thay vì bảng ứng dụng

Cộng tác CDC

Nhật ký giao dịch điển hình bao gồm:

  • MySQL:Binlog
  • PostgreSQL:WAL
  • Oracle:Làm lại nhật ký
  • Máy chủ SQL:Nhật ký giao dịch

Nhật ký giao dịch là nhật ký nội bộ luôn được cơ sở tỷ lệ kèo cá cược ghi lại để duy trì tính nhất quán và các công cụ của CDC có thể phát hiện các thay đổi trong cơ sở tỷ lệ kèo cá cược với độ chính xác cao bằng cách đọc nhật ký này

Phương pháp này mang lại những lợi ích sau:

  • Thời gian thực: có thể nhận được dưới dạng sự kiện ngay sau khi thực hiện thay đổi
  • Tải thấp: Không có truy vấn bổ sung vào bảng ứng dụng, tải DB thấp
  • Theo dõi thay đổi hoàn chỉnh: Nhận mọi CHÈN/CẬP NHẬT/XÓA

Truy xuất các giá trị trước và sau thay đổi: Có thể truy xuất tỷ lệ kèo cá cược trước/sau trong quá trình CẬP NHẬT Nói cách khác, CDC là một cơ chế để ``nắm bắt tất cả các thay đổi xảy ra trong cơ sở tỷ lệ kèo cá cược vào thời điểm chúng xảy ra''

4 Debezium là gì - Mã nguồn mở được yêu thích để hiện thực hóa CDC

Debezium là một nền tảng nguồn mở hỗ trợ CDC và hoạt động như một trình kết nối cho Apache Kafka Connect Đọc nhật ký giao dịch từ nhiều cơ sở tỷ lệ kèo cá cược khác nhau và các luồng thay đổi sự kiện theo chủ đề Kafka

Các tính năng chính của Debezium như sau

Kiến trúc Debesium: Đường dẫn tỷ lệ kèo cá cược thời gian thực

  • Hỗ trợ DB đa dạng: Hỗ trợ các cơ sở tỷ lệ kèo cá cược chính như MySQL, PostgreSQL, SQL Server, Oracle, MongoDB, Db2, vv
  • Dựa trên Kafka Connect: Chạy trên khung Kafka Connect, giúp dễ dàng triển khai, quản lý và mở rộng quy mô
  • Chức năng chụp nhanh: Thu thập tỷ lệ kèo cá cược hiện có khi kết nối lần đầu tiên và sau đó chỉ phân phối những khác biệt
  • Theo dõi thay đổi lược đồ: Phát hiện các thay đổi DDL chẳng hạn như ALTER TABLE và phản ánh chúng trong lược đồ sự kiện
  • Độ tin cậy cao: Đạt được đảm bảo phân phối cao khi kết hợp với quản lý bù đắp của Kafka

Debezium ban đầu được ra đời trong Red Hat và hiện được điều hành như một dự án của Commonhaus Foundation Red Hat vẫn tham gia với tư cách là nhà tài trợ chính và hỗ trợ thương mại cũng được cung cấp dưới dạng bản dựng Debezium của Red Hat

Trong môi trường doanh nghiệp, hỗ trợ thương mại luôn sẵn có mặc dù đó là OSS, đây là một lợi thế lớn

5 Đường dẫn tỷ lệ kèo cá cược thời gian thực được tạo bởi Kafka × Debezium

Bằng cách kết hợp cơ sở hạ tầng phát trực tuyến của Kafka và CDC của Debezium, bạn có thể xây dựng đường dẫn tỷ lệ kèo cá cược theo thời gian thực

Kafka phân phối trực tuyến các thay đổi cơ sở tỷ lệ kèo cá cược bằng Debezium

Hãy tóm tắt những gì có thể đạt được với sự kết hợp này

  • Cộng tác theo hướng sự kiện: Cộng tác trong thời gian thực được kích hoạt bởi các thay đổi trong cơ sở tỷ lệ kèo cá cược
  • Phân phối tỷ lệ kèo cá cược ghép kênh: phân phối đồng thời một sự kiện tới nhiều hệ thống
  • Không xâm lấn vào hệ thống hiện có: Không cần sửa đổi ứng dụng hoặc cơ sở tỷ lệ kèo cá cược hiện có
  • Khả năng chịu lỗi cao: Giữ an toàn cho các sự kiện bằng bản sao Kafka

Nếu Kafka là ``đường cao tốc tỷ lệ kèo cá cược'' thì Debezium là cổng để trích xuất các sự kiện từ nguồn cơ sở tỷ lệ kèo cá cược

6 Các trường hợp sử dụng điển hình

Các trường hợp sử dụng Kafka và Debezium

  • Tự động cập nhật bộ nhớ đệm và chỉ mục tìm kiếm: Tự động cập nhật Redis và Elaticsearch cùng với các thay đổi của RDB Không cần logic loại bỏ bộ đệm ở phía ứng dụng
  • Tuân thủ nhật ký kiểm tra: Ghi nhật ký tất cả các thay đổi tỷ lệ kèo cá cược dưới dạng sự kiện với các giá trị trước và sau thay đổi Được duy trì dưới dạng nhật ký Kafka bất biến, khó giả mạo
  • Dần dần hiện đại hóa các hệ thống cũ: Cơ sở tỷ lệ kèo cá cược nguyên khối hiện tại vẫn được giữ nguyên, trích xuất các sự kiện thay đổi bằng CDC và kết nối với các dịch vụ vi mô và dịch vụ đám mây mới
  • Đồng bộ hóa tỷ lệ kèo cá cược giữa các vi dịch vụ: Trong kiến trúc vi dịch vụ trong đó mỗi dịch vụ có một cơ sở tỷ lệ kèo cá cược khác nhau, hãy phát hiện các thay đổi với CDC và đồng bộ hóa kho tỷ lệ kèo cá cược của các dịch vụ khác trong thời gian thực
  • Sao chép thời gian thực giữa các cơ sở tỷ lệ kèo cá cược không đồng nhất: Giảm thiểu thời gian ngừng hoạt động bằng cách luôn đồng bộ hóa các thay đổi với CDC trong quá trình di chuyển Oracle sang PostgreSQL

Tại Hybrid Cloud di, chúng tôi đặc biệt quan tâm đến việc xây dựng cơ sở hạ tầng tỷ lệ kèo cá cược thời gian thực bằng cách kết hợp Debezium x Kafka x Databricks

7 [Xác minh] Nhập tỷ lệ kèo cá cược theo thời gian thực bằng Debezium × Kafka × Databricks

Hybrid Cloud di hiện đang xác minh kiến trúc sau đây làm cấu hình để nhập các thay đổi trong cơ sở tỷ lệ kèo cá cược lõi vào kho tỷ lệ kèo cá cược trong thời gian thực

Sơ đồ cấu hình xác minh

  • Phát hiện thay đổi (Debezium): Debezium đọc nhật ký giao dịch của DB hệ thống lõi (MySQL / PostgreSQL, vv) và lấy INSERT / UPDATE / DELETE dưới dạng sự kiện
  • Phân phối sự kiện (Kafka): Cung cấp các sự kiện thay đổi cho chủ đề Kafka Khả năng mở rộng và khả năng chịu lỗi của Kafka chuyển tiếp số lượng lớn các sự kiện thay đổi một cách đáng tin cậy
  • Nhập theo thời gian thực (Databricks): Đăng ký các chủ đề của Kafka bằng Truyền phát có cấu trúc Databricks và viết thư cho Delta Lake trong thời gian thực Thuộc tính ACID của Delta Lake cũng cho phép nhập và phân tích đồng thời một cách an toàn

Đặc điểm của cấu hình này là có thể đạt được sự cộng tác trong thời gian thực mà không cần thực hiện bất kỳ thay đổi nào đối với cơ sở tỷ lệ kèo cá cược cốt lõi Trong ETL truyền thống, tỷ lệ kèo cá cược được nhập theo lô hàng ngày sẽ được phản ánh trong lake house ngay sau khi giao dịch được thực hiện

Như vậy,

  • BI thời gian thực
  • Phát hiện cảnh báo ngay lập tức
  • Cập nhật mô hình AI/ML theo thời gian thực

có thể được thực hiện

Hybrid Cloud di đang xác minh cấu hình Debezium × Kafka × Databricks này như một kiến trúc mạnh mẽ cho cơ sở hạ tầng tỷ lệ kèo cá cược thời gian thực

7 Tóm tắt

Mọi chuyện thế nào?

Lần này, chúng tôi đã giới thiệu khái niệm CDC (Thu thập tỷ lệ kèo cá cược thay đổi) và Debezium để biến điều đó thành hiện thực

Các điểm được tóm tắt như sau

  • CDC là công nghệ nắm bắt các thay đổi của cơ sở tỷ lệ kèo cá cược theo thời gian thực
  • Debezium là công cụ CDC hàng đầu dựa trên Kafka Connect
  • Kafka × Debezium triển khai cộng tác tỷ lệ kèo cá cược theo sự kiện
  • Có thể xây dựng đường dẫn tỷ lệ kèo cá cược theo thời gian thực mà không cần sửa đổi cơ sở tỷ lệ kèo cá cược

Kafka's "Không dừng lại, phán xét, kết nối", nhưng với việc bổ sung Debezium, "Đừng bỏ lỡ'' cơ sở hạ tầng liên kết tỷ lệ kèo cá cược có thể được hiện thực hóa

Nắm bắt tất cả các thay đổi xảy ra trong cơ sở tỷ lệ kèo cá cược ngay khi chúng xuất hiện và phân phối chúng đến nơi cần thiết Cơ chế này cực kỳ mạnh mẽ khi là bước đầu tiên hướng tới việc sử dụng tỷ lệ kèo cá cược thời gian thực

Nếu bạn thấy mình muốn đạt được sự cộng tác trong thời gian thực trong khi sử dụng cơ sở tỷ lệ kèo cá cược hiện có của mình, vui lòng cân nhắc sử dụng CDC x Kafka

Chúng tôi sẽ tiếp tục cung cấp các chủ đề kỹ thuật liên quan đến hệ sinh thái Kafka từ lần tiếp theo trở đi Tôi sẽ rất vui nếu bạn có thể xem qua

Dịch vụ triển khai cơ sở hạ tầng Nhắn tin trên Đám mây lai

Hồ sơ

Daiki Uemura, Phòng phần mềm trung gian tỷ lệ kèo cá cược, Trụ sở kinh doanh phần mềm và cơ sở hạ tầng CNTT, tỷ lệ cá cược
Người phụ trách
Daiki Uemura
Chi nhánh
tỷ lệ cá cược
Trụ sở kinh doanh cơ sở hạ tầng CNTT/Phần mềm
Bộ phận phần mềm trung gian dữ liệu
Bình luận
Phụ trách nhiều công nghệ liên quan đến sản phẩm liên kết tỷ lệ kèo cá cược (ASTERIA, HULFT Square, Kafka, vv)

Tên sản phẩm/dịch vụ, tên công ty, logo, vv được đề cập là nhãn hiệu hoặc nhãn hiệu đã đăng ký của các công ty tương ứng

Chúng tôi không đảm bảo tính chính xác của bài viết trên blog này và chúng tôi không chịu bất kỳ trách nhiệm nào về hậu quả của nội dung bài viết

Bài viết liên quan

PAGETOP