اگر می‌خواهید مدل‌های زبانی بزرگ مثل Llama 3.2 یا Mistral را بدون وابستگی به اینترنت، بدون هزینه API و با حفظ کامل حریم خصوصی روی لپ‌تاپ خود اجرا کنید، Ollama ساده‌ترین و پایدارترین راه است. این ابزار متن‌باز مدل‌ها را بهینه دانلود، مدیریت و از طریق یک API محلی در اختیار شما می‌گذارد؛ در این آموزش از نصب تا اولین چت و اتصال به پایتون را گام‌به‌گام می‌بینید.

Ollama چیست و چگونه مدل‌های زبانی را آفلاین اجرا می‌کند؟

Ollama یک موتور اجرای محلی مدل‌های زبانی است که مدل‌های متن‌باز را به صورت کوانتایز شده روی CPU و GPU شما اجرا می‌کند، آن‌ها را با یک دستور ollama run دانلود و آماده می‌سازد و یک سرور محلی روی localhost:11434 برای چت و API فراهم می‌کند. بدون نیاز به اینترنت پس از دانلود، می‌توانید چت، تولید متن و حتی اتصال به کد پایتون را تجربه کنید؛ ادامه مقاله نصب و دستورات را کامل توضیح می‌دهد.

فهرست مطالب

پیش‌نیازها و سخت‌افزار مورد نیاز
نصب Ollama روی ویندوز، مک و لینوکس
اولین اجرای مدل: دستور ollama run
کار با دستورات اصلی Ollama
استفاده از API محلی و اتصال به پایتون
مقایسه Ollama با ابزارهای مشابه
کاربردهای واقعی اجرای محلی
نکات امنیتی و حریم خصوصی
اشتباهات رایج هنگام کار با Ollama
سوالات متداول
جمع‌بندی

پیش‌نیازها و سخت‌افزار مورد نیاز

برای شروع به سیستم خیلی خاصی نیاز ندارید، اما انتخاب مدل باید متناسب با رم و کارت گرافیک شما باشد. Ollama روی ویندوز 10/11، مک‌اواس 12 به بالا و اغلب توزیع‌های لینوکس اجرا می‌شود و به صورت خودکار از شتاب‌دهنده‌های Apple Silicon، NVIDIA CUDA و AMD ROCm استفاده می‌کند.

حداقل سیستم برای Ollama

رم: برای مدل 3B حداقل 8 گیگ، برای 7B حداقل 16 گیگ پیشنهاد می‌شود.
حافظه دیسک: هر مدل 2 تا 6 گیگ فضا می‌گیرد؛ 20 گیگ فضای خالی نگه دارید.
GPU اختیاری: بدون GPU هم کار می‌کند اما با GPU سرعت تولید توکن 3 تا 5 برابر می‌شود.
نرم‌افزار: دسترسی ترمینال و در لینوکس curl نصب باشد.

اگر مطمئن نیستید سیستم‌تان چه مدلی را تحمل می‌کند، از مدل کوچک llama3.2:3b یا phi3:mini شروع کنید و سپس به سراغ 7B و 8B بروید.

نصب Ollama روی ویندوز، مک و لینوکس

نصب Ollama در حد چند کلیک است و بعد از نصب، سرویس آن در پس‌زمینه اجرا می‌شود.

نصب در لینوکس

سریع‌ترین روش اسکریپت رسمی است:

curl -fsSL https://ollama.com/install.sh | sh
ollama --version

پس از نصب، سرویس با systemctl فعال می‌شود. برای به‌روزرسانی همین دستور را دوباره اجرا کنید.

نصب در ویندوز و مک

به ollama.com بروید و نصب‌کننده ویندوز (.exe) یا مک (.dmg) را دانلود کنید.
فایل را اجرا کنید و مراحل پیش‌فرض را تایید کنید؛ آیکون Ollama در system tray ظاهر می‌شود.
ترمینال (PowerShell یا Terminal) را باز کنید و دستور زیر را تست کنید:

ollama --version
ollama list

اگر خروجی نسخه را دیدید نصب موفق بوده است. در مک‌های M1/M2 بهینه‌سازی Metal به صورت خودکار فعال است.

برای آشنایی با ابزارهای مکمل می‌توانید مقاله بهترین ابزارهای هوش مصنوعی برای برنامه‌نویسان را هم ببینید.

اولین اجرای مدل: دستور ollama run

قلب Ollama همین یک دستور است: اگر مدل وجود نداشته باشد دانلود می‌کند و اگر باشد فوراً چت را شروع می‌کند.

اجرای Llama 3.2

ollama run llama3.2:3b

پس از دانلود، یک چت تعاملی باز می‌شود. پیام خود را بنویسید و با /bye خارج شوید. نمونه تعامل:

>>> سلام، یک تابع پایتون برای محاسبه فیبوناچی بنویس

Ollama پاسخ را به صورت استریم تولید می‌کند. برای خروج از چت /bye و برای مشاهده مدل‌های نصب‌شده ollama list را اجرا کنید.

نکته: نام مدل‌ها نسخه‌بندی دارد؛ مثلا llama3.2:1b بسیار سبک برای تست، mistral:7b قوی‌تر برای متن حرفه‌ای و qwen2.5:7b مناسب چندزبانه است.

کار با دستورات اصلی Ollama

چهار دستور 90 درصد نیاز شما را پوشش می‌دهد:

ollama pull mistral:7b     # دانلود بدون اجرا
ollama list                # لیست مدل‌های نصب‌شده
ollama show mistral        # اطلاعات مدل، پارامترها و قالب پرامپت
ollama rm llama3.2:3b      # حذف مدل برای آزادسازی فضا

pull: وقتی می‌خواهید مدل را از قبل آماده کنید بدون ورود به چت.
show: جزئیات کوانتایز، اندازه فایل و system prompt پیش‌فرض را نشان می‌دهد.
run با گزینه‌ها: می‌توانید دما را تنظیم کنید: ollama run mistral --temp 0.7

برای مدیریت بهتر می‌توانید مدل‌ها را تگ‌گذاری کنید و نسخه‌های مختلف یک خانواده را کنار هم نگه دارید.

استفاده از API محلی و اتصال به پایتون

پس از اجرای هر مدل، یک سرور روی http://localhost:11434 بالا می‌آید که با API سازگار با OpenAI کار می‌کند.

تست سریع با curl

curl http://localhost:11434/api/generate -d '{
  "model": "llama3.2:3b",
  "prompt": "یک شعر کوتاه درباره تهران بنویس",
  "stream": false
}'

پاسخ به صورت JSON با فیلد response برمی‌گردد.

اتصال به پایتون

import requests

url = "http://localhost:11434/api/generate"
payload = {
    "model": "llama3.2:3b",
    "prompt": "یک تابع پایتون برای مرتب‌سازی حبابی بنویس و خط به خط توضیح بده",
    "stream": False
}
r = requests.post(url, json=payload, timeout=120)
print(r.json()["response"])

این روش برای ساخت چت‌بات آفلاین، افزونه ویرایشگر یا اتوماسیون تولید محتوا ایده‌آل است. اگر به پرامپت‌نویسی علاقه دارید، راهنمای مهندسی پرامپت برای مدل‌های زبانی را مطالعه کنید.

مقایسه Ollama با ابزارهای مشابه

سه گزینه محبوب اجرای محلی را کنار هم ببینید:

ابزار	نصب	مصرف رم	API محلی	مناسب برای
Ollama	بسیار ساده (یک دستور)	بهینه، کوانتایز خودکار	دارد (11434)	توسعه‌دهندگان و کاربران عادی
LM Studio	رابط گرافیکی	متوسط	دارد	کاربران ویندوز با UI
GPT4All	نصب‌کننده گرافیکی	متوسط	محدود	چت ساده بدون کدنویسی

Ollama به دلیل سادگی ترمینال، پشتیبانی از GGUF و به‌روزرسانی مداوم مدل‌ها، برای برنامه‌نویسان انتخاب اول است. LM Studio اگر رابط گرافیکی می‌خواهید گزینه خوبی است.

کاربردهای واقعی اجرای محلی

چت‌بات خصوصی سازمانی: بدون ارسال داده به سرور خارجی، اسناد داخلی را خلاصه کنید.
کدنویسی آفلاین: توضیح کد، تولید تست و ریفکتور را بدون اینترنت انجام دهید.
تولید محتوای چندزبانه: با مدل Qwen یا Llama ترجمه و بازنویسی را محلی کنید.
آموزش و پژوهش: دانشجویان می‌توانند با خیال راحت پارامترها را تغییر دهند و خروجی‌ها را مقایسه کنند.

مزیت کلیدی: هزینه صفر پس از دانلود و تاخیر بسیار کم چون درخواست به اینترنت نمی‌رود.

نکات امنیتی و حریم خصوصی

داده محلی می‌ماند: پرامپت‌ها به سرور خارجی ارسال نمی‌شود؛ برای داده حساس عالی است.
پورت محلی را نبندید به اینترنت: به صورت پیش‌فرض فقط روی localhost است؛ آن را روی 0.0.0.0 باز نکنید مگر با فایروال.
مدل‌ها را از منبع رسمی بکشید: فقط از ollama.com/library استفاده کنید تا مدل دست‌کاری‌شده نگیرید.
به‌روزرسانی منظم: با ollama pull نسخه‌های جدید را بگیرید تا باگ‌های امنیتی رفع شود.

اشتباهات رایج هنگام کار با Ollama

انتخاب مدل سنگین‌تر از توان سیستم: مدل 13B روی 8 گیگ رم باعث کرش یا کندی شدید می‌شود؛ از 3B شروع کنید.
فراموشی دستور ollama serve: اگر سرویس اجرا نیست، قبل از API دستور ollama serve را در یک ترمینال جداگانه اجرا کنید.
پر کردن دیسک: هر مدل چند گیگ است؛ با ollama list و ollama rm فضا را مدیریت کنید.
تنظیم دمای نامناسب: دمای بالای 1.5 خروجی را بی‌ربط می‌کند؛ برای کدنویسی 0.2 تا 0.4 و برای خلاقیت 0.7 تا 0.9 بگذارید.
نادیده گرفتن کوانتایز: نسخه Q4_K_M تعادل خوبی بین کیفیت و حجم دارد؛ نسخه‌های Q2 کیفیت را افت می‌دهند.

سوالات متداول

آیا Ollama بدون اینترنت کار می‌کند؟

بله. پس از دانلود اولیه مدل، برای چت و API نیازی به اینترنت نیست. فقط برای pull یا به‌روزرسانی مدل به اینترنت نیاز دارید.

کدام مدل برای فارسی بهتر است؟

در حال حاضر Qwen2.5:7b و Llama 3.2:3b فارسی قابل قبولی دارند. Qwen برای ترجمه و Llama برای کدنویسی کمی بهتر عمل می‌کند؛ هر دو را تست و مقایسه کنید.

آیا می‌توانم Ollama را با VS Code استفاده کنم؟

بله. افزونه‌هایی مثل Continue یا Ollama Autocompletion به API محلی متصل می‌شوند و پیشنهاد کد آفلاین می‌دهند. کافی است آدرس http://localhost:11434 را در تنظیمات افزونه بگذارید.

چطور مدل را به نسخه جدید به‌روزرسانی کنم؟

دستور ollama pull llama3.2:3b را دوباره اجرا کنید؛ Ollama فقط لایه‌های تغییر کرده را دانلود می‌کند.

تفاوت Ollama و LM Studio چیست؟

Ollama سبک، ترمینال‌محور و مناسب اتوماسیون و API است. LM Studio رابط گرافیکی دارد و برای کاربرانی که ترجیح می‌دهند بدون ترمینال مدل را تست کنند راحت‌تر است. هر دو از فرمت GGUF پشتیبانی می‌کنند.

جمع‌بندی

Ollama را از ollama.com نصب و با ollama --version صحت نصب را چک کنید.
با ollama run llama3.2:3b اولین چت را بسازید و با /bye خارج شوید.
مدل‌ها را با pull / list / show / rm مدیریت و دیسک را کنترل کنید.
برای اتوماسیون از API روی localhost:11434 و کد پایتون با requests استفاده کنید.
مدل متناسب با رم (3B برای 8 گیگ، 7B برای 16 گیگ) انتخاب و دما را برای کدنویسی پایین نگه دارید.
داده حساس را محلی نگه دارید و پورت را به اینترنت باز نکنید.

حالا نوبت شماست: یک مدل 3B نصب کنید، یک پرامپت فارسی تست کنید و تجربه‌تان را با ما به اشتراک بگذارید.

آموزش نصب Ollama و اجرای مدل‌های زبانی آفلاین