Truyền trực tuyến dữ liệu trên nhiều đám mây

1. Giới thiệu

b412875666fceda8.png

Lần cập nhật gần đây nhất: ngày 8 tháng 2 năm 2022

Tại sao cần có tính năng Phát trực tiếp trên nhiều đám mây?

Các doanh nghiệp đang tích cực tìm cách phân phối khối lượng công việc của họ trên nhiều nền tảng đám mây vì việc áp dụng nhiều nhà cung cấp dịch vụ đám mây vào quy trình hoạt động của doanh nghiệp mang lại một số lợi ích như:

  • Lệ thuộc vào nhà cung cấp
  • Giảm thiểu rủi ro về tính liên tục trong kinh doanh
  • Phụ thuộc và dựa vào một hệ thống công nghệ

Sản phẩm bạn sẽ tạo ra

Trong lớp học lập trình này, bạn sẽ thiết lập một luồng dữ liệu đa đám mây giữa AWS và GCP bằng cách tận dụng Confluent Cloud. Bạn sẽ:

  • Thiết lập một Cụm Kafka chuyên dụng trong Confluent Cloud trên GCP.
  • Thiết lập một mối quan hệ kết nối ngang hàng VPC giữa Confluent Cloud và Dự án GCP của bạn để có thể truy cập vào một mạng riêng tư.
  • Thiết lập một đường hầm VPN giữa dự án AWS và dự án GCP để các tài nguyên trên cả hai siêu máy chủ có thể kết nối.
  • Truy cập vào Confluent Kafka từ AWS và thiết lập một quy trình truyền phát trực tiếp từ AWS sang GCP bằng cách tận dụng Confluent Kafka Cloud.

Kiến thức bạn sẽ học được

  • Cách thiết lập tính năng kết nối VPC ngang hàng giữa Confluent Cloud Kafka và dự án GCP của bạn.
  • Cách thiết lập đường hầm VPN giữa các dự án trên AWS và GCP.
  • Cách truy cập vào Confluent Cloud được lưu trữ trên GCP từ dự án trên AWS.

Lớp học lập trình này tập trung vào việc tạo tính năng truyền phát dữ liệu trên nhiều đám mây. Các khái niệm và khối mã không liên quan được tinh chỉnh và cung cấp cho bạn, chỉ cần sao chép và dán.

Bạn cần có

  • Quyền truy cập vào dự án AWS.
  • Quyền truy cập vào dự án GCP.
  • Có kinh nghiệm sử dụng Đám mây GCP và AWS.
  • Gói thuê bao Confluent Kafka trên GCP Marketplace.

2. Thiết lập

Thiết lập kết nối VPN giữa AWS và GCP

  • Bản minh hoạ này sử dụng VPC mặc định (asia-southeast1) trong GCP và ng-vpc-103-mum (ap-south1) trong AWS.

eac371e8af07fc0c.png

c76e9c670e4f8cca.png

  • Trên AWS, hãy tạo Cổng khách hàng và Cổng riêng ảo (VPG). Đính kèm VPG vào AWS VPC.

55a075a6b951b5df.png

fe23f4315e9369ec.png

  • Tạo kết nối VPN từ trang web đến trang web trên AWS.

4c59066457f3ff9.png a2dde7c3e7cf82e9.png

  • Tải tệp cấu hình xuống cho đường hầm được tạo trong AWS. Chọn
  • Nhà cung cấp : Chung
  • Nền tảng : Chung
  • Phần mềm : Không phụ thuộc vào nhà cung cấp
  • Phiên bản Ike : Ikev2
  • Tạo Cổng VPN và Đường hầm VPN trên GCP.

8d167a30913a46e1.png

Cung cấp địa chỉ IP và khoá Ikev2 từ tệp Cấu hình AWS đã tải xuống cho cả hai đường hầm.

  • Sau khi hoàn tất, đường hầm sẽ hoạt động trên AWS và GCP.

baca51d151d7c40.png

ceefee82994ef2d4.png

Quá trình thiết lập đường hầm hiện đã hoàn tất.

  • Chọn một khối CIDR sẽ được dùng để định cấu hình Confluent Cloud. Thêm thông tin này vào đường hầm VPN dưới dạng một tuyến tĩnh trên AWS.

219fa91dc84bd751.png

Confluent Kafka trên GCP Marketplace

  • Đăng ký Confluent Kafka trên GCP Marketplace.

380b8221724e91d7.png

  • Đăng nhập vào Confluent Cloud rồi tạo một Cụm chuyên dụng

54611bb3ba91a867.png

7e3b9fec07478fc5.png

  • Cung cấp Mã dự án trên Google Cloud Platform cùng với thông tin chi tiết về Mạng VPC để thiết lập quan hệ ngang hàng.

544ea2152de6d447.png

  • Hoàn tất VPC Peering ở phía GCP bằng thông tin chi tiết về mạng cụm Confluent Cloud được cung cấp.

a791c93028f46a10.png

  • Cụm Confluent Cloud hiện đang hoạt động và được kết nối ngang hàng với GCP.

c9ebd43fab4a8db6.png

  • Kiểm tra khả năng kết nối với Cụm Confluent từ GCP.
  • Cung cấp một phiên bản GCE và cài đặt Python3.
  • Tạo khoá ứng dụng Python trong Confluent Cloud

969ce69a57fda7db.png

  • Chạy tập lệnh kiểm thử "producer.py" từ phiên bản GCP:

aaede917f462b5b9.png

  • Bây giờ, hãy tải cơ sở mã ví dụ xuống phiên bản AWS và thực thi tập lệnh "producer.py" để kiểm thử khả năng kết nối kết hợp với Confluent Cloud từ GCP.

94da3d8c20f8b234.png

3. Xin chúc mừng

Xin chúc mừng! Bạn đã xây dựng thành công nền tảng truyền phát trực tuyến Confluent Kafka đa đám mây, đa khu vực giữa AWS và GCP.

Lớp học lập trình hữu ích**?**

Hãy xem một số lớp học lập trình này...

Tài liệu đọc thêm