Chủ đề
Mô hình ngôn ngữ mã nguồn mở
Các mô hình LLM công bố trọng số mở như Llama, Qwen, DeepSeek, Mistral, Gemma; chạy mô hình cục bộ, tinh chỉnh và so sánh hiệu năng.
16 bài viết, sắp theo độ sát với chủ đề, cập nhật hằng ngày
Phần cứng
Xây dựng hạ tầng tối ưu cho tác nhân LLM cục bộ: Bài học từ thực tế
Bài viết chia sẻ kinh nghiệm xây dựng một tác nhân khoa học nhanh chóng và đáng tin cậy sử dụng các mô hình mã nguồn mở cục bộ, vLLM và hạ tầng ngữ cảnh dài. Tác giả đi sâu vào các tối ưu hóa phần cứng và phần mềm để giải quyết vấn đề tốc độ và quản lý bộ nhớ.
Công nghệ
Strands Decider 2B: Mô hình ra quyết định nhỏ gọn, mã nguồn mở
AI & Machine Learning
Tổng hợp các mô hình AI bảo mật mã nguồn mở không bị kiểm duyệt
- 📰
Công nghệ
MeMo của MIT cho phép nâng cấp LLM tốt hơn mà không cần huấn luyện lại, hiệu suất tăng 26%
- 📰
MicroLLM Lab: Thử nghiệm 7 mô hình ngôn ngữ nhỏ ngay trên trình duyệt
Công nghệ
Xu hướng kiến trúc LLM mới: KV Sharing, mHC và Compressed Attention giúp giảm chi phí ngữ cảnh dài
Công nghệ
So sánh bảy mô hình ra quyết định mã nguồn mở với LLM tạo sinh: Bài học từ routing ngân hàng
- 📰
Công nghệ
Các mô hình ngôn ngữ lớn cũng cần "ngủ" để giải quyết vấn đề bộ nhớ dài hạn
Công nghệ
Trọng số mở không phải là mã nguồn mở: Vì sao nhãn dán được AI ưa chuộng đang gây tranh cãi
- 📰
Công nghệ
LLM Đa Luồng: Nghiên cứu mới về việc song song hóa các tác vụ Tư duy, Đầu vào và Đầu ra
- 📰
Phần mềm
Nghiên cứu mới giúp nén ngữ cảnh LLM 16 lần mà không làm giảm độ chính xác
Phần mềm
Tối ưu hóa hệ thống gợi ý bằng LLM và Python: Cách cân bằng giữa tốc độ và độ chính xác
- 📰
Công nghệ
LLM vô hạn tham số: Khi mô hình tự sinh trọng số từ dữ liệu trực tiếp
- 📰
Công nghệ
MeMo: Mô hình bộ nhớ mới giúp nâng cấp LLM mà không cần huấn luyện lại, tăng hiệu suất 26%
Công nghệ
LLMs không còn là một "hộp đen" bí ẩn như bạn từng nghĩ
Công nghệ
Mô hình Ngôn ngữ Đệ quy (RLM): Khám phá kiến trúc AI mới vượt trội hơn ReAct và CodeAct