Giải quyết các thách thức về quản lý dữ liệu IoT với Apache Cassandra

Trang chủ » Technology » Giải quyết các thách thức về quản lý dữ liệu IoT với Apache Cassandra
17/03/2022 Technology 84 viewed

Trong thế giới kinh doanh, với sự gia tăng của các thiết bị IoT, đặt ra một loạt thách thức mới về quản lý dữ liệu. Doanh nghiệp cần có khả năng phân tích khối lượng dữ liệu ngày càng gia tăng đến nhanh chóng — và tiến hành phân tích đó trong thời gian thực.

Dữ liệu IoT ở khắp mọi nơi. Để thực sự hiểu phạm vi, tất cả những gì bạn cần làm là xem xét một người sử dụng một điện thoại thông minh. Có dữ liệu cuộc gọi, tin nhắn văn bản, cuộc trò chuyện, lịch sử duyệt web, dữ liệu sức khỏe và hơn thế nữa — chưa kể đến thực tế là mọi tương tác thường có yếu tố thời gian, đó là lý do tại sao tập dữ liệu chuỗi thời gian ngày càng trở nên quan trọng. Khi bạn nghĩ về tất cả những người có điện thoại thông minh – và sau đó bạn nghĩ về những thứ như ô tô thông minh, cảm biến thông minh và thậm chí cả thành phố thông minh – tổng quy mô dữ liệu IoT bắt đầu được chú trọng.

Thật vậy, các tương tác IoT là vô tận. Chúng ở khắp mọi nơi. Theo thời gian, các tổ chức có thể dễ dàng tích lũy hàng trăm terabyte dữ liệu — hoặc thậm chí là petabyte. Chỉ cần nói rằng các hệ thống kế thừa không thể bắt kịp với những tập dữ liệu khổng lồ, chuyển động nhanh này. Để phát triển mạnh mẽ trong một thế giới được hỗ trợ bởi IoT, các doanh nghiệp cần có cách tiếp cận hiện đại để quản lý dữ liệu.

3 loại dữ liệu IoT

Nói chung, có ba loại dữ liệu IoT:

  • Dữ liệu nóng , là dữ liệu mới nhất được cung cấp ngữ cảnh
  • Dữ liệu ấm , bao gồm những thứ như tóm tắt và thống kê
  • Dữ liệu lạnh , là dữ liệu cũ hơn được sử dụng cho những thứ như bảo trì dự đoán

Các yêu cầu về độ trễ đối với từng loại dữ liệu này khác nhau. Ví dụ: trong khi dữ liệu gần đây thường cần được truy xuất nhanh hơn, dữ liệu cũ hơn thường không có các yêu cầu tương tự. Trong trường hợp đó, dữ liệu nóng, ấm và lạnh đều có xu hướng có các yêu cầu SLA (Service Level Agreement) khác nhau.

Ngoài những yêu cầu này, các ứng dụng cần có khả năng mở rộng quy mô theo cách có thể dự đoán được và nhất quán. Bằng cách đó, các nhà phát triển có thể dễ dàng thêm các phiên bản để phù hợp với các nút trong tương lai và hiện tại, bất kể chúng có thể là gì.

Để hoàn thành tất cả những điều này, cần phải có một cơ sở dữ liệu linh hoạt, mạnh mẽ được thiết kế cho thế giới hiện đại. Chúng tôi tin rằng cơ sở dữ liệu đó là Apache Cassandra.

Apache Cassandra database

Cassandra là NoSQL, được phát triển bởi Facebook vào năm 2007. Sau đó nó được tặng cho quỹ Apache vào 2/2010 và nâng cấp lên thành dự án hàng đầu của Apache.

Cassandra là hệ cơ sở dữ liệu phân tán, kết hợp những gì tinh tuý nhất của Google Bigtable và Amazon DynamoDB. Ngôn ngữ phát triển Cassandra là Java.

Cassandra được thiết kế có thể chạy trong phần cứng giá rẻ, và cung cấp write throughput khá là cao (latency tầm 0.5ms), trong khi read throughput thì thấp hơn (latency tầm 2.5ms).

Nếu nói đến NoSQL thì chắc ai cũng đều có chút liên tưởng nó hoạt động thế nào rồi. Cassandra cũng vậy, dữ liệu được lưu vào table, sau đó dùng 1 ngôn ngữ query như SQL để thực hiện thao tác với dữ liệu.

Cassandra là hệ cơ sở dữ liệu phân tán, dữ liệu được lưu trữ trên nhiều node của nhiều máy khác nhau, theo cơ chế P2P. Hiệu năng xử lý của hệ thống cũng tăng theo số node (nếu càng nhiều node thì càng xử lý được nhiều request). Điều đó sẽ giúp cho Cassandra dễ dàng scale theo chiều ngang.

Về hiệu năng thì Netflix cũng đã thực hiện đo benchmark, kết quả ngoài mong đợi. Với 288 nodes, Casandra đã đạt được throughput lên đến 1 triệu write/s. Khá kinh khủng.

Lịch sử của Cassandra

Lợi ích của Apache Cassandra database

Các tính năng ưu việt của Cassandra bao gồm 9 điểm sau:

① Thích hợp để sử dụng thực tế

② Khả năng chịu lỗi cao

③ Kiến trúc không có SPOF (một điểm gây tổn hại)

④ Mức độ tự do kiểm soát nhất quán

⑤ Mô hình dữ liệu phong phú

⑥ Có thể tăng cường cải thiện thông lượng cho tuyến tính

⑦ Tính khả dụng cao

⑧ Hỗ trợ các ngôn ngữ khác nhau dưới dạng client code

⑨ Dễ dàng nắm bắt trạng thái bên trong của máy chủ bằng JMX/Dễ giám sát

Các công ty sử dụng Cassandra

dưới đây là một số công ty đang sử dụng Cassandra

S. No. Company/Organization Purpose
1. Urban Airship Host for 160 million users
2. Sound Cloud Store the dashboard of their users
3. RockYou Record every single click of Users in real time
4. Reddit Storage
5. Rackspace Internal Usage
6. OpenX Storage and replication over 130 nodes
7. Openwave Distributed database and storage mechanism
8. OOyala Built Flexible, a real-time analytics engine
9. Netflix Back-end database
10. Nutanix Storage of meta-data and stats
11. Mahalo.com Recording user activity logs
12. Globo.com Back-end database
13. Formspring Count responses and Storage of social graph data
14. Digg Storage
15. Constant Contact Over 200 nodes deployed in their email and social media applications
16. Cisco’s WebEx Storage of user feed and activity
17. CERN Archive online DAQ system’s monitoring information
18. BlackRock Used in Aladdin investment management platform
19. AppScale Back-end for Google App Engine Applications
20. Apple Uses 100000 nodes

Giải quyết các thách thức quản lý dữ liệu IoT với Cassandra

Cassandra giúp quản lý dữ liệu nóng, ấm và lạnh cần thiết để cung cấp năng lượng cho các ứng dụng IoT. Với hỗ trợ phân tầng dữ liệu tích hợp, bạn có thể đảm bảo rằng dữ liệu nóng được lưu trữ ở trạng thái hiện tại và nhanh nhất (nhưng đắt nhất) để truy xuất. Hơn nữa, dữ liệu ấm có thể được lưu trữ ở trạng thái cô đặc (truy xuất chậm hơn và rẻ hơn), và dữ liệu lạnh có thể được lưu trữ trong kho dữ liệu (truy xuất thậm chí chậm hơn và rẻ nhất).

Nhưng lợi ích của Cassandra không dừng lại ở đó. Nhờ kiến ​​trúc không có chủ của Cassandra, có thể thêm và các nút phụ mà không cần phải dừng cơ sở dữ liệu. Do đó, việc mở rộng cơ sở dữ liệu để phù hợp với khối lượng và thông lượng dữ liệu tăng lên trở thành một quá trình dễ dàng mà không có bất kỳ thời gian chết nào.

Hơn nữa, Cassandra được xây dựng để luôn sẵn sàng 100%; không có một điểm thất bại nào. Bởi vì chúng ta đang nói về công nghệ, chỉ là vấn đề thời gian trước khi một thứ gì đó ngừng hoạt động bình thường. Tuy nhiên, bằng cách xây dựng một ứng dụng trên Cassandra, dữ liệu được tự động sao chép qua các trung tâm dữ liệu và đám mây — trên quy mô toàn cầu, để khởi động. Trong trường hợp một nút, một giá đỡ, một trung tâm dữ liệu hoặc thậm chí toàn bộ một khu vực bị lỗi, thì bản thân cơ sở dữ liệu sẽ xuất hiện mà không bị tổn hại.

Do tính linh hoạt của nó, Cassandra cũng có thể được triển khai trong mọi môi trường.

Giả sử Azure là ứng dụng phù hợp cho ứng dụng của bạn hiện nay. Nhưng có lẽ Google Cloud Platform sẽ có ý nghĩa hơn trong 12 tháng nữa. Với Cassandra, bạn có được sự linh hoạt cần thiết để di chuyển dữ liệu của mình đến bất cứ đâu bạn muốn. Nếu không, bạn sẽ chỉ tạo ra độ trễ khi di chuyển từ đám mây sang đám mây. Trong thời đại ứng dụng phát triển nhanh chóng của Docker, và Kubernetes, Đây là một vấn đề lớn.

Thêm tất cả và Cassandra cho phép các tổ chức mở khóa toàn bộ sức mạnh của dữ liệu IoT trong bất kỳ môi trường nào, đảm bảo trải nghiệm thú vị cho người dùng của họ trong suốt quá trình sử dụng.

Khác biệt giữa Cassandra và MongoDB

Cassandra là một cơ sở dữ liệu hướng cột. MongoDB lưu trữ các bản ghi ở định dạng JSON. Các trình bao MongoDB cũng hỗ trợ JavaScript để bạn có thể xây dựng các truy vấn, chuyển đổi dữ liệu và thao tác theo từng bước, lưu từng thao tác trong một biến JavaScript.

Cassandra: Một trong những điểm mạnh nhất của Cassandra là có thể xử lý một lượng lớn dữ liệu phi cấu trúc. Trong trường hợp cơ sở dữ liệu của bạn cần mở rộng nhanh chóng với sự gia tăng tối thiểu của công việc hành chính, Cassandra có thể là một lựa chọn tốt.

Nó có thể mở rộng quy mô như thế nào? Cassandra có thể xử lý tải các ứng dụng như Instagram có khoảng 80 triệu bức ảnh được tải lên cơ sở dữ liệu mỗi ngày.

Cassandra sử dụng kho lưu trữ cột rộng sử dụng các hàng và cột nhưng cho phép tên và định dạng của các cột đó thay đổi. Nó sử dụng sự pha trộn của một bảng và khóa-giá trị. Không giống như một hệ quản trị cơ sở dữ liệu quan hệ điển hình (RDBMS), các bảng có thể được tạo, thay đổi và loại bỏ trong khi cơ sở dữ liệu đang chạy và xử lý các truy vấn.

Họ cột tương tự như bảng trong RDBMS và chứa các hàng và cột, với mỗi hàng có một khóa duy nhất. Không giống như RDBMS truyền thống, tất cả các hàng trong một bảng không bị buộc phải có các cột giống nhau. Các cột này cũng có thể được thêm nhanh chóng và được truy cập bằng Ngôn ngữ truy vấn Cassandra (CQL). Trong khi CQL tương tự như SQL về cú pháp, Cassandra không quan hệ, vì vậy nó có các cách khác nhau để lưu trữ và truy xuất dữ liệu.

MongoDB: MongoDB sử dụng các tài liệu giống JSON có thể có các cấu trúc khác nhau. Nó sử dụng ngôn ngữ truy vấn MongoDB để cho phép truy cập vào dữ liệu được lưu trữ. Vì nó không có giản đồ nên bạn có thể tạo tài liệu mà không cần phải tạo cấu trúc cho tài liệu trước.

Phân cấp cơ sở dữ liệu:

Một so sánh hữu ích với hệ thống quản lý cơ sở dữ liệu quan hệ (RDBMS), trong đó bạn có: Table | Column | Value | Records. Trong khi đó, trong MongoDB, bạn có: Collection | Key | Value | Document. Điều này có nghĩa là các bộ sưu tập trong MongoDB giống như các bảng trong RDBMS.

Các tài liệu giống như các bản ghi trong RDBMS. Tài liệu có thể dễ dàng được sửa đổi bằng cách thêm hoặc xóa các trường mà không cần phải cấu trúc lại toàn bộ tài liệu.

Cassandra và MongoDB trong lĩnh vực IoT

Cassandra: Một trong những điểm mạnh nhất của Cassandra là khả năng mở rộng quy mô trong khi vẫn đáng tin cậy. Có thể triển khai Cassandra trên nhiều máy chủ được tích hợp sẵn mà không cần thực hiện thêm nhiều thao tác. Một phần là do Cassandra xử lý sao chép với cấu hình tối thiểu, giúp dễ dàng thiết lập.

Nếu bạn cần một cơ sở dữ liệu dễ thiết lập và duy trì bất kể cơ sở dữ liệu của bạn phát triển đến mức nào, thì Cassandra có thể là một lựa chọn tốt. Nếu bạn làm việc trong một ngành mà bạn cần cơ sở dữ liệu của mình phát triển nhanh chóng, thì Cassandra cung cấp tốc độ tăng trưởng nhanh dễ dàng hơn MongoDB.

MongoDB:MongoDB có thể là một lựa chọn tuyệt vời nếu bạn cần khả năng mở rộng và bộ nhớ đệm để phân tích thời gian thực; tuy nhiên, nó không được xây dựng cho dữ liệu giao dịch (hệ thống kế toán, v.v.). MongoDB thường được sử dụng cho các ứng dụng di động, quản lý nội dung, phân tích thời gian thực và các ứng dụng liên quan đến Internet of Things. Nếu bạn gặp trường hợp không có định nghĩa lược đồ rõ ràng, MongoDB có thể là một lựa chọn tốt.

Chia sẻ:
Tags:
TOP HOME