Ollama ابزاری برای اجرای محلی مدل‌های هوش مصنوعی روی لپ‌تاپ یا سرور است و به تیم‌ها کمک می‌کند بخشی از کارهای کدنویسی، تحلیل و Agentها را با کنترل بیشتر روی زیرساخت خود اجرا کنند.

Ollama در نسخهٔ 0.40.15 چند قابلیت مهم برای اجرای محلی مدل‌های هوش مصنوعی، Agentهای کدنویسی و مدل‌های تصمیم‌یار اضافه کرده است. مهم‌ترین تغییرها شامل پشتیبانی از مدل ۹ میلیارد پارامتری MiMo V2.۶، خانوادهٔ AutoTrust و پاسخ‌گویی هم‌زمان مدل‌های vision و recurrent با فرمت GGUF است. اگر تیم شما می‌خواهد بخشی از گردش‌کار هوش مصنوعی را روی زیرساخت خودش اجرا کند، این نسخه ارزش بررسی دارد. برای آشنایی با خدمات توسعه و اتوماسیون، وب‌سایت تکتاز را نیز ببینید.

Ollama چیست و این نسخه چه مسئله‌ای را حل می‌کند؟

Ollama ابزار اجرای مدل‌های زبانی و چندرسانه‌ای روی سیستم شخصی یا سرور است. این ابزار دریافت مدل، مدیریت اجرای محلی و ساختن یک رابط ساده برای استفاده از مدل‌ها را آسان می‌کند. مزیت اجرای محلی برای بسیاری از تیم‌ها، کنترل بیشتر روی داده، امکان آزمایش سریع و کاهش وابستگی به ارسال همهٔ درخواست‌ها به سرویس‌های بیرونی است؛ البته هزینهٔ سخت‌افزار، حافظه و نگهداری همچنان باید در نظر گرفته شود.

نسخهٔ Ollama ۰.۴۰.۱۵ بیشتر روی کاربردهای توسعه و Agent تمرکز دارد. در Ollama ۰.۴۰.۱۵ پشتیبانی از مدل‌های جدید، اتصال بهتر به ابزارهای خط فرمان و پردازش هم‌زمان باعث می‌شود این نسخه برای محیط‌های آزمایشی و برخی سرویس‌های داخلی کاربردی‌تر باشد. این تغییرها به‌تنهایی به معنی آماده‌بودن هر مدل برای production نیستند؛ باید مصرف حافظه، سرعت، کیفیت پاسخ و سیاست داده را در محیط واقعی اندازه‌گیری کرد.

پشتیبانی از MiMo V2.۶ برای کدنویسی و Agentها

در این release، مدل MiMo V2.6 از Ollama ۰.۴۰.۱۵ قابل اجراست. توضیح رسمی Ollama آن را مدلی ۹ میلیارد پارامتری برای کد و گردش‌کارهای Agent معرفی می‌کند. برای شروع می‌توان دستور زیر را اجرا کرد:

ollama run mimo-v2.6

مدل‌های کوچک‌تر معمولاً برای آزمایش روی لپ‌تاپ یا سرورهای محدود مناسب‌ترند، اما انتخاب مدل فقط با تعداد پارامتر انجام نمی‌شود. طول context، سرعت تولید، میزان حافظهٔ آزاد و نوع وظیفهٔ Agent روی نتیجه اثر مستقیم دارند. قبل از استفاده در پروژه، چند سناریوی واقعی کدنویسی و ابزارخوانی را با معیارهای ثابت مقایسه کنید.

AutoTrust؛ مدل‌هایی که احتمال تصمیم را برمی‌گردانند

قابلیت مهم دیگر در Ollama ۰.۴۰.۱۵، پشتیبانی از مدل‌های تصمیم‌یار AutoTrust است. این مدل‌ها می‌توانند برای پرسش ورودی، انتخاب‌هایی مانند بله یا خیر، احتمال گزینه‌ها و rating ارائه کنند. بعضی اعضای این خانواده، از جمله مدل‌های 35b و 27b-vl، ورودی تصویری را نیز می‌خوانند. نمونهٔ رسمی Ollama برای پرسش دربارهٔ یک مسئلهٔ صورتحساب از مدل AutoTrust استفاده می‌کند.

این خروجی برای ساختن لایهٔ تصمیم‌یار در یک workflow مفید است؛ برای مثال می‌توان پیام‌های پشتیبانی را ابتدا طبقه‌بندی کرد و سپس تصمیم نهایی را به کارشناس سپرد. با این حال، probability مدل را نباید معادل اطمینان قطعی دانست. برای تصمیم‌های حساس، آستانه، نمونه‌برداری انسانی، ثبت توضیح و مسیر بازگشت تعریف کنید.

اتصال بهتر به ابزارهای توسعه

در Ollama ۰.۴۰.۱۵، دستور ollama launch از Kimi Code CLI، جانشین kimi-cli، پشتیبانی می‌کند و می‌تواند تنظیمات موجود را برای مهاجرت پیشنهاد دهد. فهرست مدل در Pi نیز خودکارتر شده و انتخاب مدل‌های واقعی Ollama در Claude Desktop واضح‌تر است. این تغییرها فاصلهٔ بین مدل محلی و ابزارهای روزمرهٔ توسعه را کمتر می‌کنند.

همچنین در Ollama ۰.۴۰.۱۵، مدل‌های vision و recurrent با فرمت GGUF می‌توانند بیش از یک درخواست را هم‌زمان پاسخ دهند. این قابلیت برای سرویس‌های داخلی که چند کاربر یا چند job موازی دارند مهم است، اما میزان parallelism مناسب به GPU، RAM، اندازهٔ مدل و طول ورودی بستگی دارد. افزایش هم‌زمانی بدون اندازه‌گیری می‌تواند latency و مصرف حافظه را بالا ببرد.

Qwen3، Qwen3.۵ و context طولانی

این release پشتیبانی از مدل‌های Qwen3 و Qwen3.۵ با مقیاس‌دهی context طولانی YaRN را نیز بهبود می‌دهد. context طولانی برای خلاصه‌سازی اسناد، بررسی کد یا تحلیل مجموعه‌ای از فایل‌ها جذاب است، اما هرچه ورودی بزرگ‌تر شود هزینهٔ محاسبات و احتمال افت تمرکز مدل هم بیشتر می‌شود. بهتر است اسناد را بخش‌بندی کنید، بازیابی اطلاعات را بسنجید و فقط در جایی context طولانی را فعال کنید که واقعاً به آن نیاز دارید.

چک‌لیست به‌روزرسانی و آزمایش

قبل از rollout، نسخهٔ فعلی Ollama و مدل‌های موجود را ثبت کنید. سپس ۰.۴۰.۱۵ را روی یک محیط نماینده نصب و این موارد را بررسی کنید:

۱. اجرای مدل MiMo V2.۶ و کیفیت پاسخ در سناریوهای واقعی کدنویسی. ۲. شکل خروجی AutoTrust و نحوهٔ اعمال آستانهٔ تصمیم. ۳. مصرف RAM/VRAM و latency در یک درخواست و چند درخواست هم‌زمان. ۴. سازگاری ollama launch با ابزارهای توسعهٔ تیم. ۵. رفتار مدل‌های vision، recurrent و context طولانی در workload واقعی.

اگر نتیجه قابل قبول بود، rollout را مرحله‌ای انجام دهید و برای خطاهای مدل، کمبود حافظه و افت کیفیت مسیر rollback داشته باشید. برای سرویس‌های حساس، لاگ‌ها و دادهٔ ورودی را با سیاست حریم خصوصی سازمان تطبیق دهید.

جمع‌بندی

Ollama ۰.۴۰.۱۵ اجرای محلی مدل‌ها را برای Agentهای کدنویسی و تصمیم‌یارها کاربردی‌تر می‌کند. MiMo V2.۶ برای کد و workflowهای Agent، AutoTrust برای تصمیم‌های ساختاریافته، پشتیبانی بهتر از اجرای هم‌زمان و context طولانی، مهم‌ترین محورهای این release هستند. بهترین روش استفاده، آزمایش کنترل‌شده و اندازه‌گیری روی workload واقعی است؛ نه فعال‌کردن همهٔ قابلیت‌ها بدون benchmark.

منبع: یادداشت رسمی انتشار Ollama ۰.۴۰.۱۵ در GitHub