Hầu hết mọi người dùng AI qua các dịch vụ trên mạng (ChatGPT, Gemini...) — tiện, mạnh, nhưng có hai điểm khiến nhiều chủ doanh nghiệp e ngại: dữ liệu phải gửi lên máy chủ của người khác, và tốn phí khi dùng nhiều. Với những việc nhạy cảm (dữ liệu khách hàng, hợp đồng, số liệu nội bộ), có một lựa chọn ít người biết: chạy AI ngay trên máy tính của mình.
Mình giới thiệu cách làm, đủ đơn giản cho người không chuyên công nghệ hiểu và thử.
"AI chạy local" nghĩa là gì?
Thay vì gửi câu hỏi lên internet, bạn tải một mô hình AI mã nguồn mở về máy và chạy trực tiếp. Mọi thứ diễn ra trong máy bạn:
- Dữ liệu không rời khỏi máy → riêng tư tuyệt đối.
- Không cần internet khi đã cài xong.
- Miễn phí, không tính theo lượt dùng → xài bao nhiêu tuỳ thích.
Đổi lại: mô hình chạy local thường "nhẹ" hơn các mô hình khủng trên mạng, và cần máy tương đối khoẻ.
Ollama — cách dễ nhất để bắt đầu
Ollama là công cụ miễn phí giúp cài và chạy mô hình AI trên máy chỉ với vài bước, có cho Windows và Mac:
- Tải Ollama từ trang chủ và cài như một phần mềm bình thường.
- Tải một mô hình: mở cửa sổ dòng lệnh, gõ lệnh tải (ví dụ một mô hình cỡ vừa hỗ trợ tiếng Việt tốt). Ollama tự tải về.
- Bắt đầu chat: gõ lệnh chạy mô hình là bạn trò chuyện được ngay, hoặc cài thêm giao diện chat cho dễ dùng.
Nghe "dòng lệnh" có vẻ đáng sợ, nhưng thực ra chỉ là copy vài dòng — bạn có thể nhờ chính AI hướng dẫn từng bước theo đúng máy của mình.
Khi nào nên dùng AI local (và khi nào không)?
Nên dùng local khi:
- Xử lý dữ liệu nhạy cảm: thông tin khách hàng, hợp đồng, số liệu tài chính.
- Cần dùng số lượng cực lớn, muốn khỏi lo phí.
- Nơi mạng yếu/không ổn định.
Vẫn nên dùng AI trên mạng khi:
- Cần "sức mạnh" tối đa cho việc khó (phân tích phức tạp, viết sáng tạo cao).
- Cần tính năng mới nhất, xử lý ảnh/giọng nói chất lượng cao.
Nhiều người dùng cả hai: việc nhạy cảm chạy local, việc cần mạnh thì dùng dịch vụ mạng.
Máy cần khoẻ cỡ nào?
- Mô hình nhỏ chạy được trên laptop phổ thông (đủ RAM).
- Mô hình lớn hơn, chạy mượt thì cần card đồ hoạ (GPU) tốt.
- Nếu máy yếu, chọn mô hình cỡ nhỏ hoặc bản "distilled" (rút gọn). Cứ bắt đầu nhỏ, thấy hợp thì nâng.
Câu hỏi thường gặp
Chạy local có tốn tiền không? Bản thân mô hình mã nguồn mở miễn phí; bạn chỉ "trả" bằng tài nguyên máy và điện.
AI local có thông minh bằng ChatGPT không? Thường không mạnh bằng các mô hình khủng nhất, nhưng đủ tốt cho nhiều việc văn phòng, và đang cải thiện rất nhanh.
Có cần biết lập trình không? Không cần để dùng cơ bản. Cài Ollama và chạy vài lệnh là được; nhờ AI hướng dẫn nếu bí.
Dữ liệu có thật sự không bị gửi đi đâu không? Khi chạy hoàn toàn local và không kết nối dịch vụ ngoài, dữ liệu ở trong máy bạn. Đây là điểm mạnh lớn nhất.
Chạy AI local là một "vũ khí" ít người khai thác — vừa tiết kiệm, vừa an toàn cho dữ liệu. Ở 7ainow.com, tụi mình hướng dẫn cả cách dùng AI trên mạng lẫn dựng AI local cho việc nhạy cảm. Nhắn 7ainow nhận hướng dẫn cài Ollama từng bước miễn phí.
Bài viết mang tính hướng dẫn ứng dụng; tên và cấu hình mô hình có thể thay đổi theo thời gian.
