اگر از هزینه‌های API، محدودیت اینترنت یا نگرانی حریم خصوصی خسته شده‌اید، Ollama دقیقا همان ابزاری است که مدل‌های بزرگ زبانی مثل Llama 3.2 و Mistral را مستقیم روی لپ‌تاپ خودتان اجرا می‌کند؛ بدون نیاز به سرور ابری، بدون ارسال داده به بیرون و با سرعت آفلاین. در این راهنما یاد می‌گیرید چطور در کمتر از ۱۰ دقیقه Ollama را نصب کنید، اولین چت لوکال را بسازید و حتی آن را به کد پایتون خود متصل کنید.

آموزش Ollama چیست و چرا اجرای لوکال مدل هوش مصنوعی می‌صرفه؟

Ollama یک ابزار متن‌باز و سبک است که اجرای مدل‌های LLM مثل Llama، Gemma و Qwen را روی ویندوز، مک و لینوکس ممکن می‌کند. به جای پرداخت دلاری برای هر درخواست API، مدل را یک‌بار دانلود می‌کنید و برای همیشه آفلاین، سریع و خصوصی با آن کار می‌کنید. در ادامه نصب قدم‌به‌قدم، کار با ترمینال و API پایتون را کامل یاد می‌گیریم.

فهرست مطالب

Ollama چیست و چه فرقی با ChatGPT ابری دارد؟
پیش‌نیازها و سخت‌افزار مورد نیاز برای اجرای روان
نصب Ollama روی ویندوز، مک و لینوکس
اولین اجرا؛ دانلود مدل و چت در ترمینال
اتصال Ollama به پایتون با API سازگار با OpenAI
مقایسه Ollama با LM Studio و vLLM
کاربردهای واقعی؛ از دستیار کدنویسی تا چت‌بات آفلاین
خطاهای رایج و اشتباهات پرتکرار
سوالات متداول
جمع‌بندی

Ollama چیست و چه فرقی با ChatGPT ابری دارد؟

Ollama یک ران‌تایم بهینه برای اجرای مدل‌های open-source است که همه چیز را ساده کرده: یک دستور ollama run، یک فایل مدل و تمام. برخلاف سرویس‌های ابری که هر توکن را حساب می‌کنند، Ollama همه پردازش را روی CPU/GPU خودتان انجام می‌دهد.

مزیت‌های کلیدی:

حریم خصوصی کامل: هیچ پرامپتی به سرور خارجی نمی‌رود؛ برای کدهای سازمانی یا داده‌های حساس ایده‌آل است.
آفلاین و رایگان: بعد از دانلود مدل، بدون اینترنت و بدون هزینه کار می‌کنید.
قابل شخصی‌سازی: می‌توانید مدل را با Modelfile خودتان fine-tune یا system prompt اختصاصی بسازید.
سبک و سریع: حجم نصب کمتر از ۲۰۰ مگابایت و پشتیبانی خودکار از شتاب‌دهی Metal روی مک و CUDA روی ویندوز/لینوکس.

تفاوت Ollama با API ابری

در API ابری مثل OpenAI شما همیشه به اینترنت، کلید API و پرداخت ارزی نیاز دارید و مدل را نمی‌توانید تغییر دهید. در Ollama برعکس، کنترل کامل دارید اما مسئولیت RAM و قدرت پردازش با خودتان است. برای نمونه اگر ابزار ویرایش تصویر ابری مثل معرفی Nano Banana Pro گوگل را دیده باشید، می‌دانید وابستگی به سرور چه محدودیت‌هایی می‌آورد؛ Ollama همین منطق را برای متن، برعکس و به صورت لوکال حل می‌کند.

پیش‌نیازها و سخت‌افزار مورد نیاز برای اجرای روان

خبر خوب این است که برای مدل‌های ۳ تا ۸ میلیارد پارامتری نیازی به سیستم غول‌پیکر ندارید. Ollama به‌صورت خودکار مدل را کوانتیزه (GGUF 4-bit) می‌کند تا روی RAM معمولی هم اجرا شود.

حداقل سیستم: ۸ گیگ RAM، ۴ گیگ فضای خالی، CPU چهار هسته‌ای — مناسب مدل‌های 3B مثل llama3.2:3b یا qwen2.5:3b
پیشنهادی برای 7B-8B: ۱۶ گیگ RAM، گرافیک ۶ گیگ (یا M1/M2 به بالا در مک) — اجرای روان llama3.1:8b و mistral:7b
برای 13B به بالا: ۳۲ گیگ RAM و GPU شانزده گیگ — برای مدل‌های بزرگ‌تر مثل llama3.1:70b بهتر است نسخه کوانتیزه Q4 را بگیرید.
سیستم‌عامل: ویندوز ۱۰/۱۱، macOS 12 به بالا، یا هر توزیع لینوکس با systemd

کدام مدل را اول امتحان کنیم؟

اگر تازه‌کارید، از llama3.2:3b شروع کنید؛ کم‌حجم، سریع و فارسی را نسبتا خوب می‌فهمد. برای کدنویسی qwen2.5-coder:7b و deepseek-coder:6.7b دقت بالاتری دارند. برای چت عمومی و خلاقیت mistral:7b یا gemma2:9b انتخاب بهتری هستند.

نصب Ollama روی ویندوز، مک و لینوکس

نصب در هر سه سیستم‌عامل کمتر از دو دقیقه طول می‌کشد. فقط کافی است نسخه مناسب را بگیرید.

نصب روی ویندوز

به سایت رسمی ollama.com بروید، فایل OllamaSetup.exe را دانلود و اجرا کنید. بعد از نصب، آیکون Ollama در system tray می‌نشیند و پورت 11434 فعال می‌شود. ترمینال PowerShell را باز کنید و تست کنید:

ollama --version
ollama list

نصب روی مک

brew install ollama
brew services start ollama

یا فایل dmg را از سایت دانلود کنید. روی مک‌های اپل سیلیکون، شتاب Metal به‌صورت خودکار فعال است.

نصب روی لینوکس

curl -fsSL https://ollama.com/install.sh | sh
systemctl status ollama

برای اینکه بدون sudo بتوانید از ollama استفاده کنید، کاربر را به گروه ollama اضافه کنید و یک‌بار لاگ‌اوت کنید.

بعد از نصب، اگر می‌خواهید مدل‌ها را در مسیر دیگری ذخیره کنید، متغیر OLLAMA_MODELS را تنظیم کنید. این کار وقتی SSD اصلی پر است خیلی به کار می‌آید.

اولین اجرا؛ دانلود مدل و چت در ترمینال

ساده‌ترین تجربه همین یک خط است:

ollama run llama3.2:3b

اولین بار مدل حدود ۲ گیگ دانلود می‌شود، سپس وارد محیط چت تعاملی می‌شوید. بنویسید «سلام، خودت را معرفی کن» و پاسخ فارسی مدل را ببینید. خروج با /bye است.

دستورات پرکاربرد ترمینال:

ollama list — لیست مدل‌های دانلود شده
ollama pull mistral:7b — دانلود بدون اجرای چت
ollama rm llama3.2:3b — حذف مدل برای آزاد کردن فضا
ollama show llama3.2 --modelfile — دیدن تنظیمات مدل

ساخت مدل سفارشی با Modelfile

یک فایل به نام Modelfile بسازید:

FROM llama3.2:3b
SYSTEM "تو یک دستیار برنامه‌نویسی پایتون هستی. همیشه پاسخ را با مثال کد کوتاه بده."

سپس:

ollama create python-helper -f Modelfile
ollama run python-helper

حالا هر سوالی درباره پایتون بپرسید، مدل با لحن تخصصی و همراه با کد جواب می‌دهد.

اتصال Ollama به پایتون با API سازگار با OpenAI

Ollama یک سرور HTTP روی http://localhost:11434 بالا می‌آورد که هم API اختصاصی دارد و هم endpoint سازگار با OpenAI به آدرس /v1/chat/completions. این یعنی می‌توانید بدون تغییر زیاد کد، کلاینت OpenAI را به لوکال وصل کنید.

روش اول؛ با کتابخانه openai

from openai import OpenAI

client = OpenAI(
    base_url="http://localhost:11434/v1",
    api_key="ollama"  # مقدارش مهم نیست، فقط پر باشد
)

res = client.chat.completions.create(
    model="llama3.2:3b",
    messages=[{"role": "user", "content": "یک تابع پایتون برای محاسبه فیبوناچی بنویس"}],
    temperature=0.2
)
print(res.choices[0].message.content)

خروجی دقیقا مثل OpenAI است، اما همه‌چیز لوکال اجرا می‌شود. برای استریم کردن پاسخ، stream=True بگذارید و حلقه بزنید.

روش دوم؛ با requests خام

import requests, json

payload = {
    "model": "llama3.2:3b",
    "prompt": "فرق list و tuple در پایتون چیست؟",
    "stream": False
}
r = requests.post("http://localhost:11434/api/generate", json=payload, timeout=60)
print(r.json()["response"])

این endpoint برای تولید تک‌پرامپت ساده‌تر است. برای چت چندمرحله‌ای از /api/chat استفاده کنید.

نکته امنیتی: به‌صورت پیش‌فرض Ollama فقط روی localhost گوش می‌دهد. اگر OLLAMA_HOST=0.0.0.0 بگذارید، از شبکه هم قابل دسترسی می‌شود؛ حتما فایروال را ببندید و احراز هویت اضافه کنید.

مقایسه Ollama با LM Studio و vLLM

هر سه ابزار اجرای لوکال را ممکن می‌کنند، اما مخاطب متفاوتی دارند.

ابزار	نقطه قوت	محدودیت	بهترین برای
Ollama	نصب تک‌خطی، API آماده، کم‌مصرف	رابط گرافیکی minimal	برنامه‌نویس‌ها و سرور
LM Studio	UI گرافیکی زیبا، جستجوی مدل داخلی	مصرف رم بیشتر، فقط دسکتاپ	کاربران غیرترمینالی
vLLM	توان عملیاتی بسیار بالا، مناسب پروداکشن	نصب پیچیده، نیاز به GPU قوی	سرویس‌های سازمانی پرترافیک
Jan	متن‌باز، افزونه‌محور	کامیونیتی کوچک‌تر	علاقه‌مندان به سفارشی‌سازی

اگر هدفتان ساخت یک پروژه واقعی است، ترکیب Ollama + پایتون سریع‌ترین مسیر است. دنیای ویدیوی هوش مصنوعی هم مشابه همین رقابت را دارد؛ مثلا معرفی Sora 2 از OpenAI نشان می‌دهد ابزارها چقدر سریع عوض می‌شوند، پس انتخاب ابزار سبک و قابل تعویض مثل Ollama منطقی‌تر است.

کاربردهای واقعی؛ از دستیار کدنویسی تا چت‌بات آفلاین

دستیار کدنویسی آفلاین در VS Code: با افزونه Continue یا Cody، آدرس Ollama را به‌عنوان provider بدهید تا qwen2.5-coder بدون اینترنت تکمیل کد را انجام دهد.
چت‌بات سازمانی بدون ارسال داده: مستندات داخلی را به مدل بدهید (RAG ساده با LangChain) و همه‌چیز را روی سرور داخلی نگه دارید.
تولید داده مصنوعی برای تست: از مدل بخواهید هزار رکورد JSON فیک ولی واقعی‌نما بسازد؛ سریع‌تر از نوشتن اسکریپت دستی.
خلاصه‌سازی مقالات آفلاین: یک اسکریپت پایتون بنویسید که هر شب مقالات را از RSS بخواند و با llama3.2 خلاصه کند، بدون هزینه API.

برای شروع، سناریوی RAG را امتحان کنید: متن‌های خود را chunk کنید، با ollama embedding بگیرید و در Chroma ذخیره کنید؛ سپس سوال کاربر را با همان مدل جواب دهید.

خطاهای رایج و اشتباهات پرتکرار

بخش زیادی از مشکلات تازه‌کارها تکراری است:

خطای out of memory: مدل 7B را روی سیستم ۸ گیگ اجرا می‌کنید. راه حل: مدل 3B را بگیرید یا نسخه Q4_K_M را انتخاب کنید.
کندی شدید روی CPU قدیمی: بدون GPU، توکن‌ها کند تولید می‌شوند. تنظیم OLLAMA_NUM_PARALLEL=1 و بستن برنامه‌های سنگین کمک می‌کند.
پورت 11434 اشغال است: سرویس دیگری روی همین پورت است. با netstat -ano | findstr 11434 در ویندوز یا lsof -i :11434 در مک/لینوکس، پردازش مزاحم را ببندید.
پاسخ‌های بی‌کیفیت به فارسی: مدل پایه انگلیسی است. system prompt فارسی بدهید و temperature را روی 0.2 تا 0.4 نگه دارید.
فراموش کردن ollama serve: در لینوکس اگر سرویس فعال نباشد، هر دستور fail می‌شود. ollama serve را در یک ترمینال جدا اجرا کنید.

سوالات متداول

آیا Ollama واقعا کاملا رایگان و بدون نیاز به اینترنت است؟

بله. خود Ollama و بیشتر مدل‌های پیشنهادی مثل Llama و Mistral متن‌باز و رایگان هستند. فقط برای دانلود اول مدل به اینترنت نیاز دارید؛ بعد از آن همه درخواست‌ها آفلاین و بدون هزینه انجام می‌شود.

برای اجرای روان Llama 3.1 8B چقدر RAM لازم است؟

نسخه کوانتیزه 4-bit حدود ۶ گیگ RAM می‌خواهد، اما برای راحتی ۱۶ گیگ توصیه می‌شود. اگر RAM کمتر از ۱۲ گیگ دارید، سراغ llama3.2:3b بروید که با ۸ گیگ هم روان است.

آیا می‌توانم Ollama را به جای API اپن‌ای‌آی در پروژه فعلی جایگزین کنم؟

بله، کافی است base_url کلاینت OpenAI را به http://localhost:11434/v1 تغییر دهید و نام مدل را مثلا llama3.2:3b بگذارید. بیشتر کدها بدون تغییر منطق کار می‌کنند؛ فقط قابلیت‌های پیشرفته مثل function calling را همه مدل‌ها پشتیبانی نمی‌کنند.

چطور مدل فارسی بهتری داشته باشم؟

مدل‌های چندزبانه مثل Qwen2.5 یا Gemma2 فارسی را بهتر می‌فهمند. همچنین می‌توانید با Modelfile یک system prompt فارسی دقیق بنویسید و چند نمونه few-shot به پرامپت اضافه کنید تا لحن و اصطلاحات فارسی طبیعی‌تر شود.

آیا Ollama روی گوشی یا Raspberry Pi هم اجرا می‌شود؟

روی Raspberry Pi 5 با ۸ گیگ RAM مدل‌های 3B به کندی ولی شدنی است. روی گوشی اندروید به‌صورت مستقیم نه، اما می‌توانید Ollama را روی لپ‌تاپ اجرا و از طریق Termux یا اپ کلاینت به API آن وصل شوید.

Ollama با Docker هم قابل نصب است؟

بله. ایمیج رسمی دارد:

docker run -d --gpus all -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama
docker exec -it ollama ollama run llama3.2:3b

برای سیستم بدون GPU، فلگ --gpus all را حذف کنید.

جمع‌بندی

Ollama اجرای مدل‌های هوش مصنوعی را از یک سرویس گران ابری به یک ابزار دم‌دستی روی سیستم خودتان تبدیل کرده. برای شروع حرفه‌ای همین چک‌لیست را طی کنید:

۱. Ollama را نصب و با ollama run llama3.2:3b تست کنید
۲. با Modelfile یک دستیار مخصوص (مثلا python-helper) بسازید
۳. اتصال پایتون را با کلاینت OpenAI روی localhost تست کنید
۴. برای پروژه واقعی، مدل qwen2.5-coder یا mistral را امتحان و مصرف RAM را مانیتور کنید
۵. اگر به UI نیاز دارید، Open WebUI را روی Docker بالا بیاورید و به Ollama وصل کنید

حالا نوبت شماست؛ همین امروز یک مدل 3B را دانلود کنید و اولین اسکریپت آفلاین‌تان را بنویسید. وقتی دیدید بدون اینترنت و بدون هزینه، کد و متن تولید می‌کنید، دیگر برگشت به APIهای گران برایتان سخت می‌شود.

آموزش Ollama؛ اجرای لوکال مدل‌های هوش مصنوعی بدون اینترنت