دانلود نرم افزار Ollama + نصب و اجرای مدل‌های هوش مصنوعی بصورت آفلاین

در دنیای پرشتاب تکنولوژی، هوش مصنوعی مولد (Generative AI) دیگر یک رویا نیست؛ بلکه ابزاری است که روزانه با آن سر و کار داریم. اما وابستگی به سرویس‌های ابری مثل ChatGPT همیشه مطلوب نیست. نگرانی‌های امنیتی، نیاز به اینترنت پرسرعت و هزینه‌های اشتراک دلاری باعث شده تا بسیاری از توسعه‌دهندگان و کاربران حرفه‌ای به دنبال راهی برای اجرای این مدل‌ها روی سیستم شخصی خود باشند.

امروز در وب‌سایت آی لرن قصد داریم ابزاری را معرفی کنیم که این فرایند پیچیده را به یک تجربه لذت‌بخش و ساده تبدیل کرده است: نرم افزار Ollama.

نرم افزار Ollama چیست و چرا انقلابی است؟

اگر تا به حال سعی کرده‌اید مدل‌های زبانی بزرگ (LLM) متن‌باز را روی کامپیوتر خود اجرا کنید، احتمالاً با دردسرهای نصب پایتون، تنظیمات محیط مجازی (Virtual Environment)، درگیری با درایورهای کارت گرافیک و خطاهای عجیب و غریب آشنا هستید.

Ollama آمد تا تمام این پیچیدگی‌ها را حذف کند. این نرم‌افزار یک فریم‌ورک سبک و قدرتمند است که به شما اجازه می‌دهد تنها با چند خط دستور ساده در ترمینال، پیشرفته‌ترین مدل‌های هوش مصنوعی دنیا را دانلود و اجرا کنید. اولاما مانند یک موتور محرک عمل می‌کند که فایل‌های سنگین مدل‌ها را مدیریت کرده و آن‌ها را با سخت‌افزار سیستم شما (CPU یا GPU) هماهنگ می‌سازد.

تصویری از محیط نرم افزار Ollama

ویژگی‌های کلیدی که باید بدانید

پیش از آنکه به سراغ دانلود نرم افزار Ollama برویم، بیایید ببینیم چرا این ابزار اینقدر محبوب است:

1. حریم خصوصی کامل: تمام پردازش‌ها روی سیستم شما انجام می‌شود. هیچ داده‌ای از چت‌های شما به سرورهای خارجی ارسال نمی‌گردد. این ویژگی برای شرکت‌ها و افرادی که با داده‌های حساس کار می‌کنند حیاتی است.
2. رایگان و متن‌باز: شما برای استفاده از خود نرم‌افزار و اکثر مدل‌های موجود در کتابخانه آن، هزینه‌ای پرداخت نمی‌کنید.
3. پشتیبانی از مدل‌های متنوع: از مدل معروف Llama 3 کمپانی متا گرفته تا مدل‌های سبک‌تر مثل Gemma گوگل و Mistral، همه در دسترس هستند.
4. سازگاری با سخت‌افزارهای مختلف: اولاما به گونه‌ای بهینه شده که حتی اگر کارت گرافیک قدرتمند نداشته باشید، می‌تواند با استفاده از RAM سیستم، مدل‌های سبک‌تر را اجرا کند.

سیستم مورد نیاز برای اجرای Ollama

برای داشتن تجربه‌ای روان، سیستم شما باید حداقل مشخصات زیر را داشته باشد:

• سیستم عامل: ویندوز ۱۰/۱۱، مک او‌اس (macOS 11 Big Sur یا بالاتر) یا لینوکس.
• حافظه رم: حداقل ۸ گیگابایت برای مدل‌های ۷ میلیارد پارامتری (7B)، ۱۶ گیگابایت برای مدل‌های ۱۳ میلیارد پارامتری و ۳۲ گیگابایت برای مدل‌های ۳۳ میلیارد پارامتری.
• کارت گرافیک (GPU): داشتن کارت گرافیک NVIDIA برای سرعت بالاتر توصیه می‌شود، اما روی CPU هم قابل اجراست (با سرعت کمتر).

آموزش گام‌به‌گام دانلود و نصب Ollama

برای نصب Ollama مراحل زیر را دنبال کنید:

نسخه ویندوز Ollama در حال حاضر به صورت “Preview” در دسترس است و عملکرد بسیار خوبی دارد.

• به وب‌سایت رسمی مراجعه کنید و روی دکمه Download for Windows کلیک کنید.
• فایل نصبی .exe را اجرا کنید.
• نصب بسیار سریع انجام می‌شود و آیکون برنامه در نوار وظیفه (Taskbar) ظاهر می‌شود.

اگر از مک‌بوک‌های دارای چیپ سیلیکون اپل (M1, M2, M3) استفاده می‌کنید، خوش‌شانس هستید! Ollama روی این پردازنده‌ها عملکرد فوق‌العاده‌ای دارد.

• فایل .zip مخصوص مک را دانلود کنید.
• آن را از حالت فشرده خارج کرده و به پوشه Applications منتقل کنید.
• برنامه را اجرا کنید. در اولین اجرا، از شما می‌خواهد که خط فرمان (Command Line) را نصب کنید که باید تأیید کنید.

کاربران لینوکس می‌توانند با یک دستور ساده در ترمینال، :curl -fsSL https://ollama.com/install.sh | sh این نرم افزار را نصب کنند، اگر از کارت‌های گرافیک AMD یا NVIDIA استفاده می‌کنید، درایورهای مربوطه به صورت خودکار شناسایی خواهند شد.

شروع کار: اولین مدل خود را اجرا کنید!

پس از دانلود نرم افزار Ollama و نصب موفقیت‌آمیز آن، محیط گرافیکی خاصی نخواهید دید. جادوی اولاما در ترمینال (Terminal) یا Command Prompt اتفاق می‌افتد.

برای اجرای مدل محبوب Llama 3 (نسخه ۸ میلیاردی)، کافیست دستور زیر را وارد کنید:

ollama run llama3

چه اتفاقی می‌افتد؟

1. نرم‌افزار ابتدا بررسی می‌کند که آیا مدل روی سیستم شما وجود دارد یا خیر.
2. اگر نباشد، شروع به دانلود آن می‌کند (حجم حدود ۴.۷ گیگابایت).
3. پس از دانلود، بلافاصله محیط چت باز می‌شود و می‌توانید با هوش مصنوعی صحبت کنید!

سایر مدل‌های پیشنهادی آی لرن:

• Mistral: مدلی بسیار قدرتمند و بهینه برای کارهای عمومی. (ollama run mistral)
• Gemma: مدل‌های باز گوگل که بسیار سبک و سریع هستند. (ollama run gemma)
• Phi3: مدل کوچک مایکروسافت که برای سیستم‌های ضعیف‌تر عالی است. (ollama run phi3)

استفاده از Ollama در برنامه‌نویسی و رابط‌های گرافیکی

یکی از جذابیت‌های اولاما این است که یک API محلی در اختیار شما قرار می‌دهد. این یعنی شما می‌توانید ابزارهای دیگری را به آن متصل کنید.
برای مثال، می‌توانید افزونه‌های “Ollama” را روی مرورگر کروم یا نرم‌افزار VS Code نصب کنید و یک دستیار هوشمند شخصی در محیط کار خود داشته باشید، بدون اینکه کدهای محرمانه شما به اینترنت ارسال شود.

همچنین پروژه‌های متن‌باز زیادی مثل Open WebUI وجود دارند که ظاهری شبیه به ChatGPT را روی سیستم شما ایجاد می‌کنند و در پشت صحنه از قدرت Ollama استفاده می‌کنند.

جمع‌بندی

دانلود نرم افزار Ollama دروازه ورود شما به دنیای هوش مصنوعی خصوصی و آفلاین است. چه یک برنامه‌نویس باشید که می‌خواهد کدها را دیباگ کند، چه نویسنده‌ای که به ایده نیاز دارد و چه دانشجویی که می‌خواهد با تکنولوژی روز آشنا شود، این ابزار برای شما ضروری است.

با ما در آی لرن همراه باشید.