زد ارز
زد ارز
هوش مصنوعی

هوش مصنوعی آفلاین روی لپ‌تاپ؛ برای اجرای Inkling 2 Mini چقدر حافظه لازم است؟

برای اجرای Inkling 2 Mini روی لپ‌تاپ، اگر مک‌بوک با تراشه اپل دارید، سازنده ۳۲ گیگابایت حافظه یکپارچه یا بیشتر را پشتیبانی می‌کند. فایل اصلی مدل حدود ۲۰ گیگابایت حجم دارد. اگر لپ‌تاپ ویندوزی با کارت گرافیک مجزا دارید، راهنمای مدل برای مسیر اجرای مبتنی بر کارت گرافیک، ۳۲ گیگابایت حافظه گرافیکی یا بیشتر را توصیه می‌کند. عددی که در مشخصات ویندوز جلوی RAM نوشته شده، به‌تنهایی جواب این سؤال را نمی‌دهد. مشخصات سخت‌افزاری منتشرشده توسط سازنده

این تفاوت را موقع دانلود می‌بینید. یک مک‌بوک ۱۶ گیگابایتی با ۲۰۰ گیگابایت فضای خالی می‌تواند فایل مدل را ذخیره کند، اما حافظه‌اش برای اجرای نسخه اصلی پایین‌تر از حد پشتیبانی‌شده است. در طرف دیگر، مک‌بوک ۳۲ گیگابایتی در محدوده پشتیبانی قرار دارد. اینکه روی همین دستگاه یک سؤال کوتاه می‌پرسید یا ده‌ها صفحه گزارش را یک‌جا به مدل می‌دهید، روی حافظه موردنیاز هنگام کار اثر می‌گذارد.


از مک‌بوک ۱۶ گیگابایتی تا لپ‌تاپ گیمینگ؛ دستگاه شما در کدام ردیف است؟

این جدول برای نسخه اصلی منتشرشده است. اگر نسخه فشرده دیگری دانلود کنید، اندازه فایل، کیفیت پاسخ و نرم‌افزار سازگار با آن می‌تواند متفاوت باشد.

دستگاه شما کدام عدد مهم است؟ نتیجه برای نسخه اصلی
مک‌بوک با تراشه اپل و ۱۶ یا ۲۴ گیگابایت حافظه حافظه یکپارچه پایین‌تر از محدوده پشتیبانی اعلام‌شده است.
مک‌بوک با تراشه اپل و ۳۲ گیگابایت حافظه حافظه یکپارچه در محدوده پشتیبانی است. برای شروع، متن کوتاه را امتحان کنید.
مک‌بوک پرو با تراشه M5 Pro و ۴۸ گیگابایت حافظه حافظه یکپارچه همان پیکربندی‌ای است که سازنده در نمایش آفلاین خود استفاده کرد.
لپ‌تاپ ویندوزی با ۳۲ گیگابایت رم و کارت گرافیک ۸ گیگابایتی ۸ گیگابایت حافظه اختصاصی گرافیک حافظه کارت از مقدار پیشنهادی برای اجرای کامل روی گرافیک کمتر است.
رایانه‌ای با کارت گرافیک دارای ۳۲ گیگابایت حافظه یا بیشتر حافظه اختصاصی گرافیک و سازگاری نرم‌افزار از نظر ظرفیت به توصیه سازنده می‌رسد. پشتیبانی ابزار اجرا از همان کارت را هم بررسی کنید.

چرا یک مدل ۲۰ گیگابایتی به حافظه بیشتری احتیاج دارد؟

وقتی مدل را دانلود می‌کنید، فایل روی حافظه ذخیره‌سازی یا همان SSD می‌ماند. هنگام پاسخ‌دادن، نرم‌افزار باید وزن‌های مدل، یعنی اعدادی را که مدل در زمان آموزش یاد گرفته، در حافظه کاری در دسترس داشته باشد. خود برنامه و اطلاعات گفت‌وگوی شما هم فضا می‌گیرند. به همین دلیل، عدد روی دکمه دانلود معیار مناسبی برای خرید لپ‌تاپ نیست.

نمای نزدیک تراشه و قطعات حافظه روی برد لپ‌تاپ

فرض کنید از مدل می‌خواهید سه معامله را از روی یک جدول بخواند. بار دوم، گزارش معاملات یک سال کامل را به همان گفت‌وگو اضافه می‌کنید. مدل همان مدل قبلی است، اما حالا باید متن بیشتری را هنگام پاسخ‌دادن در دسترس نگه دارد. به این محدوده «پنجره زمینه» می‌گویند. سقف اعلام‌شده برای Inkling 2 Mini تا یک میلیون توکن است. توکن واحدی از متن است و ممکن است فقط بخشی از یک کلمه باشد. ظرفیت اسمی مدل به این معنی نیست که روی هر دستگاه ۳۲ گیگابایتی می‌توانید کل آن را پر کنید. راهنمای طول زمینه و مصرف حافظه در Ollama


چطور حافظه درست را روی مک یا ویندوز پیدا کنیم؟

روی مک، منوی اپل را باز کنید و About This Mac را بزنید. دو سطر مهم‌اند. در سطر Chip باید نام یکی از تراشه‌های سری M اپل را ببینید. در سطر Memory ظرفیت حافظه دستگاه نوشته شده است. پردازنده اصلی و گرافیکی این مک‌ها از یک حافظه مشترک استفاده می‌کنند. اگر مک شما تراشه اینتل دارد، توصیه ۳۲ گیگابایتی مخصوص Apple silicon را نمی‌توان به آن تعمیم داد.

روی ویندوز، کلیدهای Ctrl + Shift + Esc را بزنید. در Task Manager → Performance کارت گرافیک مجزا را انتخاب کنید. مقابل Dedicated GPU memory ظرفیت اختصاصی را بخوانید. اگر مثلاً «۲ از ۸ گیگابایت» می‌بینید، ظرفیت کارت ۸ گیگابایت است. عدد Shared GPU memory بخشی از رمِ قابل‌اشتراک سیستم است. جمع‌زدن این دو عدد برای مقایسه با توصیه ۳۲ گیگابایتی سازنده، تصویر اشتباهی می‌دهد.

لپ‌تاپ کنار رایانه‌ای با کارت گرافیک مجزا برای مقایسه دو نوع حافظه

اجرای آفلاین Inkling 2 Mini روی مک با Ollama

اگر مک سازگار دارید، دانلود را زمانی انجام دهید که اینترنت در دسترس است. برای فایل حدود ۲۰ گیگابایتی مدل جا باز کنید و مقداری فضای اضافه برای برنامه و فایل‌های موقت در نظر بگیرید. سپس این سه مرحله را انجام دهید.

  1. نسخه به‌روز Ollama را از صفحه دانلود رسمی برای مک نصب و باز کنید.
  2. در برنامه Terminal فرمان زیر را اجرا کنید. در اولین اجرا، Ollama فایل‌های مدل را دریافت می‌کند. صبر کنید تا پیام آماده‌بودن برای گفت‌وگو را ببینید.
ollama run inkling-2-mini
  1. پس از پایان دانلود، وای‌فای را قطع کنید و یک سؤال تازه با جوابی قابل بررسی بپرسید. برای مثال بنویسید «سه هزینه ۱۲۰، ۸۰ و ۵۰ هزار تومانی دارم. جمع را با واحد تومان بنویس.» جواب درست ۲۵۰ هزار تومان است. با این نمونه می‌توانید هم اجرای محلی را بررسی کنید و هم ببینید مدل دستور فارسی و واحد پول را چگونه می‌خواند.

اگر مدل را از طریق سرویس Tinker در مرورگر امتحان کنید، پردازش روی سرور انجام می‌شود و به اینترنت نیاز دارید. برای کار در سفر و نگه‌داشتن فایل روی دستگاه، مدل دانلودشده را در برنامه محلی انتخاب کنید. جست‌وجوی وب یا ابزارهای آنلاین را هم برای این آزمون خاموش نگه دارید. توضیح Ollama درباره اجرای محلی و امکانات ابری

در یک پنجره دیگر ترمینال می‌توانید با دستور ollama ps ببینید چه مدلی در حال اجراست و چه مقدار از کار روی پردازنده گرافیکی انجام می‌شود. اگر با فایل طولانی مک کند شد، در Activity Monitor → Memory نمودار Memory Pressure را نگاه کنید. زرد یا قرمز شدن آن سرنخی است که گفت‌وگوی تازه‌ای با متن کوتاه‌تر باز کنید یا برنامه‌های سنگین دیگر را ببندید. صفحه رسمی مدل در Ollama و راهنمای فشار حافظه اپل


مک‌بوک ۴۸ گیگابایتی در پرواز چه کاری انجام داد؟

آزمایشگاه Thinking Machines در جمعه ۲۹ آبان ۱۴۰۵ این مدل را معرفی کرد. پژوهشگران در هواپیما یک مک‌بوک پرو با تراشه M5 Pro و ۴۸ گیگابایت حافظه را در حالت پرواز قرار دادند و با مدل یک شبیه‌ساز پرواز قابل‌بازی ساختند. بیشتر ویدیوی منتشرشده با سرعت ۱۵ برابر پخش می‌شود و زمان‌سنج داخل تصویر، زمان واقعی را نشان می‌دهد. بنابراین برای قضاوت درباره سرعت، به زمان‌سنج نگاه کنید. نمایش آفلاین سازنده و مشخصات مک‌بوک آزمایش

تصویرسازی لپ‌تاپ روی میز هواپیما برای نمایش کاربرد آفلاین هوش مصنوعی

برای استفاده روزمره، یک مثال نزدیک‌تر به کار کاربران زد ارز خواندن دفتر معاملات است. چند ردیف بی‌نام را به مدل بدهید و بخواهید تاریخ، مقدار، واحد و کارمزد را به جدول تبدیل کند. حاصل را با فایل اصلی مقایسه کنید. اگر اینترنت قطع باشد، مدل همچنان می‌تواند با اعدادی که شما داده‌اید کار کند. برای اعلام قیمت همین لحظه بیت‌کوین به داده تازه نیاز دارد. راهنمای زد ارز برای بررسی فایل معاملات با هوش مصنوعی


با رم کمتر از ۳۲ گیگابایت چه انتخابی داریم؟

اگر مک‌بوک ۱۶ یا ۲۴ گیگابایتی دارید، پیش از دانلود نسخه اصلی، اندازه نسخه‌ای را که واقعاً قصد اجرای آن را دارید بررسی کنید. کارت رسمی مدل به نسخه‌های فشرده با فرمت GGUF نیز اشاره می‌کند. هر نسخه اندازه و نیاز حافظه خودش را دارد. تا وقتی برای همان نسخه و همان دستگاه نتیجه معتبری ندیده‌اید، روی سرعت یا کیفیت معینی حساب نکنید. برای یک لپ‌تاپ کم‌حافظه، انتخاب مدلی کوچک‌تر هم می‌تواند راه ساده‌تری برای شروع کار آفلاین باشد.

اگر دستگاه ۳۲ گیگابایتی سازگار دارید، ارزشمندترین آزمون همان کاری است که هر روز انجام می‌دهید. یک فایل نمونه، یک سؤال مشخص و یک جواب معلوم انتخاب کنید. اگر کیفیت پاسخ و زمان انتظار برای کار شما مناسب بود، سراغ فایل بزرگ‌تر بروید. این آزمایش برای تصمیم بین ۳۲ و ۴۸ گیگابایت از تماشای یک ویدیوی نمایشی اطلاعات بیشتری به شما می‌دهد.

تیم زد ارز

تیم زد ، نام تیمی از علاقمندان حوزه رمز ارز ها می باشد ، در تیم زد سعی می کنیم آخرین دانسنه های خود را برای فارسی زبانان به رایگان به اشتراک بگذاریم، کلیه خدمات تیم زد رایگان است و تنها این آرزو را داریم که چراغ آگاهی را در ذهنی جست و جو گر روشن کنیم ، محتوای انتشار شده از تیم زد شکر گذاری کوچکی می باشد از دانشی که فراگرفته ایم.

نوشته های مشابه

0 0 رای ها
امتیاز مقاله
اشتراک در
اطلاع از
0 نظرات
قدیمی‌ترین
تازه‌ترین بیشترین رأی
دکمه بازگشت به بالا