Ứng Dụng Chat AI Offline Trên Thiết Bị
Ứng dụng Android chạy mô hình ngôn ngữ lớn (LLM) trực tiếp trên chip xử lý của điện thoại, hoàn toàn không cần kết nối mạng. Đảm bảo bảo mật dữ liệu tuyệt đối và không phát sinh chi phí API đám mây.
Tổng quan sản phẩm
Halo là ứng dụng chat và trợ lý giọng nói AI hoạt động hoàn toàn offline trên Android, xây dựng bằng Flutter. Nhờ tích hợp mô hình Qwen3.5-2B (lượng tử hóa Q4_K_M) qua llama.cpp (llamadart) và nhận diện giọng nói tiếng Việt sherpa-onnx Zipformer, toàn bộ quá trình đàm thoại diễn ra 100% trên thiết bị mà không cần server hay quyền truy cập Internet.
Video demo & Trải nghiệm
Video trải nghiệm sắp được cập nhật — vui lòng liên hệ để xem demo trực tiếp.
Tính năng nổi bật
- Chạy mô hình ngôn ngữ lớn 100% trên thiết bị bằng llama.cpp và Qwen3.5-2B (bản phát hành không xin quyền Internet)
- Nhận dạng giọng nói tiếng Việt offline với sherpa-onnx và mô hình Zipformer
- Tối ưu hóa tốc độ: cache trạng thái system prompt và 4 luồng prefill giúp giảm thời gian phản hồi đầu tiên xuống 0.93 giây
- Hỗ trợ import tệp mô hình trực tiếp trong app với kiểm tra mã SHA-256 và cài đặt an toàn
- Xử lý chuẩn xác câu hỏi ngày tháng và phép tính bằng code Dart bổ trợ
- Lưu trữ lịch sử hội thoại cục bộ bằng SQLite và quản lý trạng thái bằng Riverpod
Phù hợp với
Người dùng đề cao bảo mật & quyền riêng tư
Mọi dữ liệu trò chuyện và giọng nói được xử lý 100% trên chip thiết bị, không gửi lên đám mây.
Học tập, dịch thuật & tra cứu khi không có mạng
Hỏi đáp kiến thức, giải thích thuật ngữ và dịch văn bản mượt mà ngay cả khi ở chế độ máy bay.
Trợ lý nội bộ không dùng API đám mây
Giải pháp trợ lý ảo bảo mật tuyệt đối cho dữ liệu nghiệp vụ, không tốn chi phí thuê bao API bên ngoài.
Đơn vị hoạt động tại khu vực kết nối hạn chế
Hỗ trợ công việc thực địa tại hầm mỏ, công trường, hải đảo, tàu thuyền hoặc vùng sâu vùng xa.
Công nghệ sử dụng
Công nghệ sử dụng
Nền tảng hỗ trợ
Khả năng tùy biến & Bàn giao
- Tích hợp các mô hình lượng tử hóa GGUF tùy biến theo chuyên ngành (Qwen, Gemma, Phi)
- Thiết lập prompt chuyên sâu cho các tác vụ nghiệp vụ hiện trường không có mạng
- Tùy biến mô hình nhận dạng giọng nói theo từ khóa hoặc thuật ngữ chuyên ngành
- Tùy biến giao diện thương hiệu và đóng gói ứng dụng nội bộ bảo mật
Quan tâm đến Ứng Dụng Chat AI Offline Trên Thiết Bị?
Hãy gửi yêu cầu nếu bạn muốn tùy biến theo nghiệp vụ riêng, tích hợp hệ thống hoặc nhận bản demo chi tiết.
Liên hệ về sản phẩm này