ChatGPT עולה $20 לחודש. Claude Pro עולה $20 לחודש. אבל מה אם תוכלו לקבל חוויה דומה — בחינם לחלוטין, עם פרטיות מלאה, ומבלי לשלוח נתונים לאף שרת? Ollama הופך את זה לאפשרי.
למה להריץ AI מקומי?
שלוש סיבות עיקריות:
- פרטיות: מסמכים רגישים, נתוני לקוחות, קוד פרטי — הכל נשאר אצלכם
- חינם לגמרי: לאחר הורדה, כל שיחה חינמית ללא הגבלה
- אופליין: עובד במטוס, ביערות, בכל מקום
מה זה Ollama?
Ollama הוא כלי קוד פתוח שמאפשר להוריד ולהריץ מודלי AI גדולים (LLMs) על המחשב האישי. הוא מנהל את ההורדה, האחסון, ומספק ממשק פשוט להרצת מודלים.
בשונה מהרצת מודלים "ידנית" עם Python, Ollama:
- פשוט להתקנה (כמו כל תוכנה רגילה)
- מנהל אוטומטית את ה-VRAM / RAM
- מספק API תואם ל-OpenAI API
- תומך ב-50+ מודלים מובילים
שלבי התקנה — Mac
- היכנסו ל-ollama.com ולחצו "Download for Mac"
- גררו את Ollama.app לתיקיית Applications
- פתחו — תראו אייקון בשורת התפריט
- פתחו Terminal והריצו את הפקודה הראשונה:
ollama pull llama3.2שלבי התקנה — Windows
- הורידו מ-ollama.com את installer ל-Windows
- הריצו כמנהל מערכת
- Ollama מותקן כ-Windows Service
- פתחו PowerShell והריצו:
ollama pull llama3.2המודלים הטובים ביותר
| מודל | גודל | מצוין ב | מחשבים נתמכים |
|---|---|---|---|
| llama3.2:3b | 2GB | שיחות מהירות | כל Mac, כל PC |
| llama3.2:8b | 5GB | הכל-תכליתי | 16GB RAM |
| mistral:7b | 4.1GB | הוראות, קוד | 8GB RAM |
| codellama:13b | 7.4GB | כתיבת קוד | 16GB RAM |
| gemma2:9b | 5.4GB | שפות רבות | 16GB RAM |
ביצועים מה לצפות?
הציפיות חשובות — Ollama מהיר, אבל לא תמיד במהירות ChatGPT:
- Apple M3 Pro (18GB RAM): ~40 tokens/שנייה — מהיר מאוד לקריאה
- MacBook Air M2 (8GB): ~15 tokens/שנייה — בסדר גמור
- PC עם NVIDIA 3080: ~50+ tokens/שנייה — מצוין
- PC ללא GPU ייעודי: 3-8 tokens/שנייה — איטי אך שמיש
ממשק גרפי — Open WebUI
הריצו את הפקודה (דורש Docker):
docker run -d -p 3000:8080 \
--add-host=host.docker.internal:host-gateway \
-v open-webui:/app/backend/data \
--name open-webui \
ghcr.io/open-webui/open-webui:mainגשו ל-localhost:3000 — ממשק ChatGPT מלא לחלוטין, מקומי.
Ollama עם n8n — אוטומציה מקומית
אחד השימושים המגניבים: חיבור Ollama ל-n8n (כלי אוטומציה). תוכלו לבנות workflows AI שרצים לגמרי מקומית — ללא API, ללא תשלום.