Zerodha xây Blobasaur: lưu blob phân tán trên SQLite

Công nghệ19 tháng 11, 2026·7 phút đọc

Zerodha, công ty môi giới chứng khoán Ấn Độ, đã xây dựng Blobasaur, một máy chủ lưu trữ blob (đối tượng dữ liệu nhị phân) phân tán viết bằng Rust trên nền SQLite, dùng giao thức Redis. Hệ thống xử lý hàng nghìn lượt đọc/ghi JSON mỗi giây với độ trễ dưới 10 mili giây và đã thay thế SSDB trong môi trường thực tế của nền tảng giao dịch Kite.

Zerodha xây Blobasaur: lưu blob phân tán trên SQLite

Sơ đồ kiến trúc lưu trữ blob phân mảnhSơ đồ kiến trúc lưu trữ blob phân mảnh

Nền tảng giao dịch Kite của Zerodha phục vụ khoảng 20 triệu khách hàng. Mỗi người có thể tùy biến màn hình đầu tư rất sâu: bố cục nhiều biểu đồ, mẫu chỉ báo tài chính, hình vẽ vector, cùng nhiều tùy chọn giao diện khác. Chế độ Terminal còn cho phép tự sắp xếp không gian làm việc bằng cách kéo thả các widget.

Phía máy chủ, những tùy chọn này được lưu dưới dạng blob (khối dữ liệu không định dạng) từ vài kilobyte đến vài megabyte, phần lớn là JSON. Để chịu được tần suất đọc ghi lớn như vậy, Zerodha đã dựng Blobasaur.

Từ CouchDB và SSDB đến SQLite

Trước đây Zerodha dùng CouchDB để lưu blob nhưng không đáp ứng được lưu lượng. Họ chuyển sang SSDB, một kho dữ liệu trên đĩa viết bằng C++, nói giao thức Redis. SSDB giải quyết bài toán hiệu năng và chạy ổn định nhiều năm.

Thời gian sau, hai vấn đề buộc họ phải tìm giải pháp thay thế. Đội ngũ chọn cách xây dựng một máy chủ blob trên nền SQLite, sau khi nhận thấy SQLite có thể nhanh hơn hệ thống tệp tới 35%.

Blobasaur là phần mềm mã nguồn mở viết bằng Rust, chia dữ liệu thành nhiều mảnh (shard), nói giao thức Redis và dùng SQLite làm động cơ lưu trữ. Toàn bộ chạy trong một tệp thực thi duy nhất, dễ triển khai và bảo trì.

Vì sao chọn SQLite thay vì hệ thống tệp

Lưu mỗi blob thành một tệp trên hệ thống tệp có nghĩa phải tự làm lại nhiều thứ. SQLite mang sẵn giao dịch ACID (nguyên tử, nhất quán, cô lập, bền vững), cơ chế phục hồi sau sự cố và bộ công cụ quen thuộc. Mỗi mảnh dữ liệu trên đĩa đều mở được bằng dòng lệnh sqlite3 hoặc truy vấn SQL thông thường để phân tích.

Với blob nhỏ, SQLite nhanh hơn đọc ghi tệp thô. Tệp thô chỉ vượt lên khi kích thước trên khoảng 100 KiB. Blobasaur nén dữ liệu trước khi ghi, và 99% giá trị sau nén nằm dưới ngưỡng đó.

Nhóm phát triển chọn Rust thay vì Go. Trình điều khiển SQLite chuẩn của Go cần CGo, gây khó cho việc build tĩnh và tạo áp lực thu gom rác khi cấp phát bộ đệm nhiều megabyte. Với Rust, họ gọi thẳng API C của SQLite, bộ nhớ dự đoán được và đóng gói thành một tệp nhị phân tĩnh.

Phân mảnh để tăng khả năng ghi song song

Ở chế độ WAL (Write-Ahead Logging, ghi nhật ký trước khi ghi dữ liệu), một tệp SQLite cho phép nhiều tiến trình đọc cùng lúc nhưng chỉ một tiến trình ghi. Ghi chiếm khoảng 50% lưu lượng thực tế, nên một tệp duy nhất sẽ nhanh chóng thành nút thắt.

Blobasaur chia dữ liệu trên mỗi máy thành nhiều tệp SQLite gọi là mảnh. Khi đo với 64 kết nối đồng thời và payload JSON 64 KiB, so sánh 1 mảnh với 16 mảnh cho kết quả rõ rệt.

  • Thông lượng ghi tăng 3,3 lần.
  • Độ trễ ghi trung vị giảm từ 8,2 ms xuống 2,1 ms.
  • Thông lượng đọc gần như không đổi, vì WAL vốn đã cho đọc song song.

Biểu đồ so sánh hiệu năng một mảnh và mười sáu mảnhBiểu đồ so sánh hiệu năng một mảnh và mười sáu mảnh

Ở mức 25.324 lệnh HSET mỗi giây, mỗi lệnh mang payload 64 KiB, Blobasaur xử lý khoảng 1,66 GB/s JSON chưa nén qua zstd. Cả máy chủ và công cụ tạo tải chạy chung trên một máy tính xách tay 16 nhân.

Cách lưu khóa và hết hạn

Dịch vụ của Zerodha dùng cả khóa đơn (SET/GET) và hash Redis (HSET/HGET) để nhóm blob theo dịch vụ hoặc tính năng.

Khóa đơn nằm trong bảng blobs. HSET ghi vào bảng riêng của từng không gian tên, ví dụ HSET prefs user42 lưu user42 vào bảng blobs_prefs. Thời hạn được lưu ở cột expires_at cùng dòng. Truy vấn đọc loại bỏ dòng hết hạn ngay khi đọc, còn một tiến trình nền dọn dẹp bất đồng bộ. Chỉ mục trên expires_at là chỉ mục một phần, nên dòng không có TTL không tốn chỗ trong chỉ mục hết hạn.

Blobasaur hỗ trợ zstd, lz4, gzip và brotli; môi trường thực tế dùng zstd. Một payload 63,6 KiB sau nén còn khoảng 5,5 KiB, giảm dung lượng từ khoảng 16 trang xuống 2 trang dữ liệu. Ít trang hơn nghĩa là ít áp lực lên bộ đệm trang và ít dữ liệu phải ghi qua WAL.

Vì tùy chọn giao diện không cần bền vững tuyệt đối, các mảnh chạy với PRAGMA synchronous = NORMAL. SQLite không fsync mỗi lần giao dịch, nên mất điện có thể mất các giao dịch gần nhất, nhưng tính nhất quán của cơ sở dữ liệu vẫn được giữ.

Mở rộng thành cụm nhiều máy

Blobasaur cài đặt giao thức Redis Cluster, tương thích với các thư viện Redis biết cụm. Không gian khóa chia thành 16.384 khe băm (hash slot) bằng CRC16. Mỗi nút giữ một dải khe, các nút tìm nhau qua giao thức gossip. Gửi khóa sai nút sẽ nhận về chuyển hướng MOVED trỏ tới nút sở hữu.

Hiện tại việc gán khe là tĩnh trong tệp cấu hình. Cân bằng lại khe khi hệ thống đang chạy và chuyển đổi dự phòng tự động chưa được hỗ trợ.

Việc chia lại dữ liệu dùng băm nhất quán đa điểm dò (multi-probe consistent hashing). Cách này giúp khi thêm nút chỉ phải di chuyển một phần nhỏ dữ liệu. Với phép chia lấy dư đơn giản, tăng từ 4 lên 5 mảnh sẽ xáo trộn khoảng 80% khóa; băm nhất quán chỉ di chuyển khoảng 20%. Chia lại dữ liệu hiện là thao tác ngoại tuyến qua dòng lệnh có sẵn.

Mô hình phân mảnh và định tuyến khóa trong BlobasaurMô hình phân mảnh và định tuyến khóa trong Blobasaur

Bài học từ vận hành thực tế

Zerodha triển khai theo từng giai đoạn, chạy ghi song song hai hệ thống trong một tháng không lệch dữ liệu rồi mới tắt SSDB.

Một vấn đề sớm xuất hiện: dung lượng đĩa chỉ tăng, kể cả sau khi hàng triệu khóa hết hạn. Nguyên nhân là SQLite giữ các trang đã giải phóng trong danh sách tự do nội bộ thay vì trả lại hệ điều hành. Nhóm khắc phục bằng PRAGMA auto_vacuum = INCREMENTAL và thêm lệnh dọn dẹp theo lô 128 MB, kèm checkpoint WAL để thu nhỏ tệp.

Ở chế độ ghi bất đồng bộ tùy chọn, lệnh ghi trả về OK khi còn nằm trong hàng đợi bộ nhớ. Để đọc được ngay giá trị vừa ghi, Blobasaur giữ một bảng chờ trong bộ nhớ và cho mọi lệnh đọc đi qua đó trước. Nhóm đã gặp lỗi xóa rồi đọc ngay lại trả về giá trị cũ, và sửa bằng cách lưu dấu xóa (tombstone) trong bảng chờ.

Độ trễ ghi p99 thực tế thường dưới 5 ms, nhưng thỉnh thoảng vọt lên 30 đến 50 ms. Nguyên nhân là tác vụ dọn dẹp TTL chạy một lệnh DELETE lớn, tranh khóa ghi với luồng chính. Nhóm chuyển việc dọn dẹp qua kết nối ghi sẵn có và giới hạn mỗi lượt 1.000 dòng. Các đợt tăng vọt biến mất.

Cụm hiện tại gồm ba nút, mỗi nút 4 vCPU và 8 GB RAM. Trong cả phiên giao dịch từ 09:00 đến 15:30, p99 của mọi lệnh giữ quanh 2 ms, p50 từ 250 đến 550 micro giây. Riêng HSET p99 khoảng 2 ms, HGET khoảng 1,4 ms, HDEL phần lớn dưới 1 ms.

Blobasaur phát hành theo giấy phép AGPLv3, mã nguồn mở trên GitHub.

Góc nhìn

Blobasaur cho thấy một cơ sở dữ liệu nhúng như SQLite hoàn toàn đủ sức làm nền lưu trữ cho dịch vụ có lưu lượng cao, miễn là biết chia mảnh để tránh giới hạn một tiến trình ghi. Với đội kỹ thuật ở Việt Nam, đây là hướng đáng cân nhắc khi cần lưu dữ liệu cấu hình, tùy chọn người dùng hoặc bộ nhớ đệm: ít thành phần hơn, vận hành đơn giản hơn so với một cụm cơ sở dữ liệu phân tán đầy đủ.

Cần lưu ý rằng họ chỉ chấp nhận mất dữ liệu gần nhất khi có sự cố, đổi lại tốc độ ghi. Những dữ liệu không thể mất như giao dịch hay thanh toán vẫn cần cấu hình đồng bộ chặt hơn hoặc một hệ thống khác. Mã nguồn mở theo AGPLv3 cũng là điều nên xem xét trước khi dùng trong sản phẩm thương mại.

Nguồn: zerodha.tech · Quy trình biên tập

Chia sẻ:FacebookX