Mở Đầu: Tôi Đã Chạy AI 2 Tháng Không Tốn Một Xu API
Tháng 3/2026, tôi nhận hóa đơn API AI: $87 cho một tháng dùng ChatGPT + Claude + DeepSeek qua OpenRouter. Không nhiều với một developer, nhưng tôi tự hỏi: “Có cách nào chạy AI miễn phí, không gửi dữ liệu lên mây không?”
Tôi cho rằng Ollama đang thay đổi cách chúng ta nghĩ về AI — từ một dịch vụ đám mây đắt đỏ thành một công cụ cá nhân ai cũng có thể sử dụng, miễn là có một chiếc máy tính đủ mạnh.
Tôi thử Ollama. Sau 15 phút cài đặt, tôi chạy được DeepSeek-R1 7B trên chính laptop Dell cũ 16GB RAM. 2 tháng sau, tôi vẫn dùng nó hàng ngày cho việc debug code, viết email, và phân tích dữ liệu SEO. Hóa đơn API giảm về $0 cho tác vụ thường ngày.
Bài này tôi sẽ chỉ bạn cách làm điều tương tự: Ollama là gì, cài thế nào, chọn model gì cho máy yếu, và 4 tình huống thực tế tôi đã áp dụng. Viết cho người không chuyên – không cần biết code, không cần GPU xịn. Nếu bạn mới bắt đầu với AI, đọc thêm bài học AI cho người mới bắt đầu để có lộ trình từ số 0.
Ollama Là Gì? Giải Thích Bằng 3 Hình Ảnh
Ollama là một công cụ mã nguồn mở giúp bạn tải và chạy các mô hình ngôn ngữ lớn (LLM) trực tiếp trên máy tính cá nhân. Nó giống như một “kho ứng dụng AI” – bạn chọn model, tải về, và chạy ngay bằng một dòng lệnh.
Không cần GPU đắt tiền. Không cần tài khoản đám mây. Không gửi dữ liệu ra ngoài. Mọi thứ chạy trên ổ cứng của bạn.
Để dễ hình dung, so sánh 3 cách dùng AI hiện nay:
| Cách dùng | Ví dụ | Chi phí | Dữ liệu đi đâu? | Offline? |
|---|---|---|---|---|
| Cloud AI (web/app) | ChatGPT, Gemini | $20-200/tháng | Máy chủ OpenAI/Google | ❌ |
| Cloud AI qua API | OpenRouter, Claude API | $0,5-15/triệu token | Máy chủ bên thứ ba | ❌ |
| Local AI (Ollama) | DeepSeek, Llama, Gemma | $0 | Ổ cứng của bạn | ✅ |
Về mặt kỹ thuật, Ollama đóng gói model weights, cấu hình, và các dependency vào một “Modelfile” duy nhất. Khi bạn gõ ollama run llama3, nó tự động tải model, thiết lập môi trường, và khởi động một server local trên cổng 11434. Bạn có thể gọi nó từ terminal hoặc qua REST API như bất kỳ dịch vụ AI nào.
4 Lý Do Nên Dùng Ollama Ngay Hôm Nay
1. Tiết Kiệm Tiền – Không Đùa
Tôi đã làm một phép tính đơn giản. Một developer trung bình dùng khoảng 2-3 triệu token mỗi tháng cho coding + viết lách. Với API DeepSeek giá $0,28/triệu token đầu vào + $1,1/triệu token đầu ra, chi phí khoảng $15-25/tháng. Với Ollama: $0. Mãi mãi.
So với ChatGPT Plus ($20/tháng) hay Claude Pro ($20/tháng), bạn tiết kiệm được $240-480/năm. Một con số không nhỏ nếu bạn là freelancer hoặc sinh viên ở Việt Nam.
2. Bảo Mật Dữ Liệu Tuyệt Đối
Khi bạn chat với ChatGPT, nội dung của bạn đi qua server OpenAI. Họ có quyền dùng nó để huấn luyện model (trừ khi bạn tắt trong settings). Với Ollama, dữ liệu không bao giờ rời khỏi máy tính của bạn. Điều này cực kỳ quan trọng nếu bạn làm việc với dữ liệu khách hàng, mã nguồn độc quyền, hoặc thông tin cá nhân nhạy cảm.
3. Offline 100%
Bạn đang ở quán cà phê không có WiFi? Bay nội địa 2 tiếng? Hay đơn giản là mạng chậm? Ollama chạy hoàn toàn offline sau khi đã tải model. Tôi đã viết xong 3 bài blog trên chuyến bay Sài Gòn – Hà Nội nhờ Ollama + laptop không kết nối mạng.
4. Không Rate Limit, Không Giới Hạn
ChatGPT free giới hạn số lần chat. Claude API giới hạn token/phút. Ollama? Bạn gọi bao nhiêu lần tùy thích. Tôi từng chạy một script phân tích 500 bài viết qua Ollama, gửi 1500 request trong 2 tiếng. Không một lỗi rate limit nào.
Máy Bạn Cần Cấu Hình Gì Để Chạy Ollama?
Đây là câu hỏi tôi nhận được nhiều nhất: “Máy em RAM 8GB chạy được không?” Câu trả lời: Có – nhưng cần chọn model phù hợp.
Nguyên tắc cơ bản: Model AI khi chạy cần nạp toàn bộ tham số vào RAM hoặc VRAM. Với kỹ thuật quantization 4-bit (nén mô hình), mỗi 1 tỷ tham số (1B) cần khoảng 1,2GB RAM.
| Kích thước model | RAM tối thiểu | RAM khuyến nghị | Ví dụ model |
|---|---|---|---|
| 1B – 3B | 4GB | 8GB | Gemma 3 1B, Llama 3.2 3B |
| 7B – 8B | 8GB | 16GB | DeepSeek-R1 7B, Llama 3 8B |
| 13B – 14B | 16GB | 32GB | Qwen3 14B, Phi-4 14B |
| 32B – 34B | 32GB | 64GB | Qwen3 32B, Qwen2.5-Coder 32B |
| 70B+ | 64GB+ | GPU 24GB+ | Llama 3 70B, DeepSeek-R1 70B |
Laptop phổ biến ở Việt Nam (RAM 8-16GB): Chạy tốt model 3B-8B. Với 16GB RAM, DeepSeek-R1 7B cho tốc độ 20-35 token/giây trên MacBook M1 – nhanh hơn cả tốc độ đọc của người bình thường.
Cài Đặt Ollama: 3 Bước Cho Mọi Hệ Điều Hành
Bước 1: Tải Ollama
Truy cập ollama.com/download và tải bản phù hợp:
- macOS: File.dmg, kéo thả vào Applications
- Windows: File.exe, cài như phần mềm bình thường
- Linux: Mở terminal, chạy:
curl -fsSL https://ollama.com/install.sh | sh
Bước 2: Tải Model Đầu Tiên
Mở Terminal (Mac/Linux) hoặc PowerShell (Windows), gõ:
ollama run deepseek-r1:7bDung lượng tải khoảng 4-5GB. Lần đầu sẽ lâu (10-30 phút tùy mạng), các lần sau model đã có sẵn trong máy.
Bước 3: Bắt Đầu Chat
Sau khi tải xong, terminal hiện dấu nhắc >>>. Gõ câu hỏi và nhận câu trả lời ngay:
>>> Viết email xin nghỉ phép 1 ngày bằng tiếng Việt
Chào anh/chị [Tên quản lý],
Em viết email này để xin phép nghỉ làm 1 ngày vào thứ Sáu tuần này
(ngày 27/06/2026) vì lý do cá nhân...docker run -d -p 3000:8080 --name open-webui ghcr.io/open-webui/open-webui:main. Sau đó mở trình duyệt tại http://localhost:3000.
Nên Chạy Model Nào? 5 Lựa Chọn Cho Người Việt
Sau 2 tháng test hơn 20 model khác nhau, đây là 5 model tôi thấy phù hợp nhất cho người dùng Việt Nam – xét trên tiếng Việt, tốc độ, và tính thực dụng:
| Model | Dung lượng | RAM cần | Tiếng Việt | Phù hợp nhất |
|---|---|---|---|---|
| DeepSeek-R1 7B | 4,7GB | 8GB | ⭐⭐⭐⭐⭐ | Coding, lập luận logic, toán |
| Gemma 4 E2B | 7,2GB | 8GB | ⭐⭐⭐⭐ | Đa phương thức (ảnh, audio), máy 8GB |
| Qwen3 8B | 5,2GB | 8GB | ⭐⭐⭐⭐ | Viết lách, sáng tạo nội dung |
| Llama 3.2 3B | 2,0GB | 4GB | ⭐⭐⭐ | Tác vụ đơn giản, máy RAM thấp |
| Qwen2.5-Coder 7B | 4,7GB | 8GB | ⭐⭐⭐ | Code, debug chuyên sâu |
DeepSeek-R1 là lựa chọn số 1 của tôi. Nó do công ty Trung Quốc phát triển, hỗ trợ tiếng Việt cực tốt, và có khả năng reasoning (lập luận từng bước) ấn tượng. Với 7B, nó vừa đủ để viết email, debug code, phân tích văn bản Tiếng Việt mà không cần GPU.
Gemma 4 E2B là bản nhỏ nhất của dòng Gemma 4 – mô hình đa phương thức đọc được cả ảnh lẫn audio với context 128K. Dung lượng 7,2GB nên cần máy từ 8GB RAM; nếu chỉ có 4GB, chọn Gemma 3 1B hoặc Llama 3.2 1B (xem FAQ bên dưới).
So Sánh Chi Phí: Ollama vs Cloud AI – Ai Rẻ Hơn?
Tôi đã làm một bảng so sánh dựa trên mức sử dụng trung bình của một người làm việc văn phòng/lập trình viên: 2 triệu token/tháng, mix giữa coding + viết email + tìm kiếm thông tin.
| Dịch vụ | Chi phí/tháng | Chi phí/năm | Bảo mật | Tốc độ | Chất lượng |
|---|---|---|---|---|---|
| ChatGPT Plus | $20 | $240 | ⭐ | ⭐⭐⭐⭐⭐ | ⭐⭐⭐⭐⭐ |
| Claude Pro | $20 | $240 | ⭐⭐ | ⭐⭐⭐⭐⭐ | ⭐⭐⭐⭐⭐ |
| API DeepSeek (OpenRouter) | $5-15 | $60-180 | ⭐⭐ | ⭐⭐⭐⭐ | ⭐⭐⭐⭐ |
| Ollama (DeepSeek-R1 7B) | $0 | $0 | ⭐⭐⭐⭐⭐ | ⭐⭐⭐ | ⭐⭐⭐⭐ |
Sự thật: Ollama không thay thế hoàn toàn cloud AI. Khi tôi cần xử lý tài liệu 200 trang hoặc viết proposal phức tạp, tôi vẫn dùng Claude qua API. Nhưng với 80% công việc hàng ngày (soạn email, debug, viết nội dung ngắn, phân tích dữ liệu), Ollama đáp ứng đủ.
Chiến lược tối ưu tôi đang dùng: Ollama cho tác vụ thường ngày + Cloud API cho tác vụ phức tạp. Kết quả: hóa đơn API từ $87 giảm còn $12/tháng. Tiết kiệm 86%.
4 Tình Huống Thực Tế: Người Việt Đang Dùng Ollama Như Thế Nào
Case 1: Sinh Viên CNTT Làm Đồ Án Tốt Nghiệp
Huy, 21 tuổi, sinh viên UIT: Cậu cần AI hỗ trợ viết code React + Node.js cho đồ án tốt nghiệp. Ngân sách: 0 đồng. Cậu cài Ollama + DeepSeek-Coder 6,7B trên laptop Acer RAM 16GB. Kết quả sau 2 tháng: AI giúp debug 80% lỗi TypeScript, viết boilerplate API, và giải thích thuật toán. Đồ án đạt 8,7 điểm. “Mấy đứa bạn xài Copilot $10/tháng mà code còn lỗi nhiều hơn em,” Huy nói.
Case 2: Chủ Shop Online Viết Mô Tả Sản Phẩm
Chị Mai, 34 tuổi, bán mỹ phẩm online: Cần viết 200 mô tả sản phẩm mỗi tháng cho Shopee. Trước đây thuê freelancer viết: 50k/bài x 200 = 10 triệu/tháng. Chị cài Ollama + Gemma 3 4B trên laptop cũ RAM 8GB, dùng prompt template có sẵn. Mỗi mô tả mất 2 phút thay vì 20 phút. Chất lượng? “Khách không phân biệt được AI với người viết. Mấy bài AI viết còn chuẩn SEO hơn.”
Case 3: Developer Việt Phân Tích Log Không Gửi Dữ Liệu Ra Ngoài
Tuấn, 28 tuổi, backend developer tại công ty fintech: Công ty cấm upload code và log lên cloud AI vì lý do bảo mật. Tuấn cài Ollama + Qwen 2.5 7B trên máy trạm Ubuntu. Dùng CLI tool tự viết để pipe log lỗi vào Ollama, AI phân tích nguyên nhân và đề xuất fix. Tiết kiệm 3-4 giờ debug mỗi tuần. “Nếu không có Ollama, tôi phải đọc log bằng mắt như thời kỳ đồ đá.”
Case 4: Nhà Báo Viết Bài Không Cần Internet
Tôi (chính mình): Tôi viết 3-4 bài blog mỗi tuần cho Techzika. Quy trình cũ: mở ChatGPT, copy-paste, chỉnh sửa, mất 3-4h/bài. Quy trình mới với Ollama + DeepSeek-R1 7B chạy local: AI giúp tôi brainstorm outline, kiểm tra lỗi logic, và suggest ví dụ. Tôi vẫn tự viết 100% nội dung, AI chỉ là “trợ lý phản biện”. Kết quả: thời gian viết giảm 40%, chất lượng tăng vì AI giúp tôi thấy được góc khuất trong lập luận.
Mặt Trái: 4 Điều Ollama Chưa Làm Được
Tôi đã dùng Ollama đủ lâu để nhận ra nó có những giới hạn rõ ràng. Đây là những hạn chế thật sự:
1. Chất Lượng Không Bằng Model Lớn Nhất
DeepSeek-R1 7B trên Ollama không thể so với các model hàng trăm tỷ tham số trên cloud (DeepSeek-R1 bản đầy đủ: 671B). Khi viết proposal phức tạp hay phân tích tài liệu chuyên sâu, model 7B vẫn hời hợt và dễ bỏ sót chi tiết. Có lần tôi hỏi Ollama phân tích hợp đồng 30 trang, nó chỉ tóm tắt được 3/12 điều khoản quan trọng.
2. Chiếm Dụng Tài Nguyên Máy
Khi chạy model 7B, RAM máy tôi tăng từ 6GB lên 14GB. Máy nóng hơn, pin tụt nhanh gấp đôi. Đây là vấn đề thực sự nếu bạn dùng laptop mỏng nhẹ như MacBook Air.
3. Hệ Sinh Thái Còn Thô
Ollama có hỗ trợ tool calling cho các model được huấn luyện sẵn (Qwen3, Llama 3.1+, gpt-oss…) qua API tương thích OpenAI – từ 2026 bạn có thể chạy cả Codex lẫn Claude Code với model local. Tuy nhiên, Ollama không có sẵn web search hay upload file PDF như ChatGPT; bạn phải tự nối các tính năng đó bằng code. So với ChatGPT có sẵn upload file, web search, code interpreter – Ollama vẫn cần thêm công đoạn.
4. Cài Đặt và Bảo Trì Cần Kiến Thức Cơ Bản
Dù dễ hơn nhiều so với các giải pháp local AI khác, Ollama vẫn yêu cầu bạn biết mở terminal và gõ lệnh. Với người chỉ quen dùng web/app, rào cản này là thật.
Câu Hỏi Sau Khi Đọc (FAQ)
Tôi nên chọn model nào nếu laptop chỉ có 4GB RAM?
Chọn Gemma 3 1B (khoảng 800MB) hoặc Llama 3.2 1B. Cả hai đều chạy được trên máy 4GB RAM, tốc độ chấp nhận được (10-15 token/giây). Nếu sau này nâng cấp lên máy 8GB, Gemma 4 E2B (7,2GB) là bước tiến đáng kể: đa phương thức (ảnh, audio) và context 128K. Đừng cố chạy model >3B trên máy 4GB – máy sẽ đơ hoặc crash do hết RAM.
Ollama có hỗ trợ tiếng Việt tốt như ChatGPT không?
Phụ thuộc vào model bạn chọn. DeepSeek-R1 viết tiếng Việt tự nhiên nhất trong các model local hiện nay – tôi chấm 8,5/10 so với ChatGPT (9/10). Các model Tây như Llama viết tiếng Việt kém hơn, thường sai dấu câu và dùng từ không tự nhiên.
Chạy Ollama trên VPS được không? Có cần GPU không?
Được. Một VPS 4 vCPU + 8GB RAM giá 300-500k/tháng ở Việt Nam chạy được model 3B-7B. Có GPU (như NVIDIA T4 trên cloud) thì tốc độ nhanh gấp 5-10 lần, nhưng không bắt buộc. Tôi từng chạy Ollama trên VPS Vietnix 8GB RAM không GPU, model Gemma 3 4B cho tốc độ 8-12 token/giây – chấp nhận được cho tác vụ không real-time.
Nếu tôi cần xử lý ảnh bằng AI, Ollama có làm được không?
Có. Ollama hỗ trợ model đa phương thức (vision) như Llama 3.2 Vision 11B và LLaVA. Bạn có thể upload ảnh và hỏi “Trong ảnh này có gì?” – model sẽ mô tả nội dung. Tuy nhiên, model vision chiếm nhiều RAM hơn (Llama Vision 11B cần ~16GB RAM), và chất lượng phân tích ảnh không bằng các model cloud hiện hành (GPT-5.6, Gemini 3.1 Pro).
Sau 6 tháng dùng Ollama, tôi có nên nâng cấp lên máy mạnh hơn không?
Phụ thuộc vào mức độ phụ thuộc của bạn vào AI. Nếu Ollama đã xử lý >60% công việc, đầu tư thêm RAM (lên 32GB) là xứng đáng. Với 32GB RAM, bạn chạy được model 14B-32B với chất lượng gần bằng cloud AI. Chi phí nâng RAM laptop: 1,5-3 triệu đồng. So với $240/năm tiền ChatGPT Plus, bạn hoàn vốn sau 2-4 tháng.
Kết Luận: Ollama Có Đáng Để Bạn Dành 15 Phút Cài Đặt?
Nếu bạn là người Việt Nam đang trả tiền cho ChatGPT hoặc API AI hàng tháng, câu trả lời là có. Ollama giúp bạn:
- Giảm 80-100% chi phí AI hàng tháng
- Kiểm soát hoàn toàn dữ liệu của mình
- Dùng AI mọi lúc, mọi nơi – kể cả khi mất mạng
- Chạy model chất lượng cao như DeepSeek-R1 ngay trên laptop phổ thông
Đây là công cụ bổ sung cho ChatGPT hay Claude, không thay thế hoàn toàn. Nhưng với 80% công việc hàng ngày, nó làm rất tốt. Tôi vẫn giữ tài khoản Claude API cho những tác vụ phức tạp, nhưng Ollama đã trở thành công cụ chính trong workflow hàng ngày của tôi.
15 phút cài đặt. $0 chi phí. Thử một lần, bạn sẽ hiểu tại sao local AI đang được tải về hàng chục triệu lượt: riêng deepseek-r1 đã vượt 90 triệu lượt tải trên Ollama (8/2026).
