مدل هوش مصنوعی چینی DeepSeek R1 موجی در صنعت هوش مصنوعی ایجاد کرده است. این مدل که ادعا می‌کند عملکردی بهتر از مدل o1 شرکت OpenAI دارد، به‌صورت رایگان از طریق وب‌سایت آن‌ها قابل دسترسی است. بااین‌حال، نگرانی‌های زیادی در مورد حفظ حریم خصوصی در رابطه با این مدل وجود دارد. اگر شما نیز چنین نگرانی‌هایی دارید، می‌توانید به‌جای استفاده از نسخه آنلاین، آن را به‌صورت محلی روی دستگاه خود اجرا کنید.
چندین نسخه مختلف از DeepSeek R1 موجود است، از جمله مدل‌های تقطیرشده (Distilled) با ۱.۵ میلیارد، ۷ میلیارد، ۱۴ میلیارد، ۳۲ میلیارد و ۷۰ میلیارد پارامتر، و مدل اصلی پرچم‌دار با ۶۷۱ میلیارد پارامتر. برای اجرای مدل‌های بزرگ‌تر مانند نسخه‌های ۱۴B و بالاتر، به سیستمی با حافظه بیشتر، پردازنده (CPU) سریع‌تر، پردازنده گرافیکی (GPU) قدرتمندتر و احتمالاً یک واحد پردازش عصبی (NPU) اختصاصی نیاز خواهید داشت. اما حتی برای اجرای کوچک‌ترین مدل‌ها، یعنی نسخه‌های ۱.۵B و ۷B، حداقل ۸ گیگابایت رم موردنیاز است.
اجرای DeepSeek R1 به‌صورت محلی روی کامپیوتر با LM Studio
LM Studio یکی از ساده‌ترین روش‌ها برای اجرای DeepSeek R1 به‌صورت محلی روی کامپیوترهای ویندوز، مک، یا لینوکس است.
پیش‌نیازهای سیستم:
- مک: تراشه‌های Apple Silicon (M1، M2، M3، M4) با macOS 13.4 یا بالاتر
- ویندوز: پشتیبانی از هر دو نسخه x64 و ARM (Snapdragon X Elite)
- لینوکس: نسخه Ubuntu 20.04 یا جدیدتر، با پردازنده x64
نکته: اگرچه رم پیشنهادی ۱۶ گیگابایت است، اما می‌توان مدل‌های کوچک‌تر را با ۸ گیگابایت رم اجرا کرد، ولی ممکن است مشکلاتی ایجاد شود. اگر بیش از ۱۹۲ گیگابایت رم داشته باشید، حتی می‌توانید مدل ۶۷۱B پرچم‌دار را اجرا کنید.
مراحل نصب و اجرا:
۱- به وب‌سایت lmstudio.ai بروید و روی دکمه “Download” متناسب با سیستم‌عامل خود کلیک کنید.
۲- طبق دستورالعمل‌های مربوط به سیستم‌عامل خود، برنامه را نصب کنید.
۳- برنامه LM Studio را اجرا کرده و روی “Skip onboarding” کلیک کنید.
۴- از نوار کناری سمت چپ، روی آیکون جستجو (Search) کلیک کنید.
نکته: اگر گزینه Search را مشاهده نمی‌کنید نوع کاربری خود را به “Power User” از پایین صفحه تغییر دهید یا به “App Settings” در گوشه پایین سمت راست بروید، سپس در “Mission Control” روی “Model Search” کلیک کنید.
۵- سپس، مدل موردنظر خود را برای دانلود جستجو کنید. به‌عنوان مثال، اگر می‌خواهید از مدل ۷B استفاده کنید، می‌توانید “DeepSeek R1 Distill (Qwen 7B)” را نصب کنید، یا مدل “DeepSeek R1 Distill Qwen 1.5B” با ۱.۵B پارامتر را انتخاب کنید.
تمامی مدل‌های DeepSeek R1 تا زمانی که فضای کافی در سیستم شما وجود داشته باشد قابل دانلود هستند. روی دکمه “Download” کلیک کنید تا فرآیند دانلود آغاز شود.
۶- پس از اتمام دانلود، روی دکمه “Load Model” کلیک کنید تا پنجره چت باز شود.
۷- در پنجره چت، پیام خود را تایپ کرده و با مدل به‌صورت محلی گفتگو کنید. می‌توانید میزان مصرف منابع مدل را از گوشه پایین سمت راست نوار وضعیت مشاهده کنید
۸- برای تغییر تنظیمات مدل، روی آیکون “Settings” در کنار نام مدل در بالای صفحه کلیک کنید.
LM Studio یکی از ساده ترین راه ها برای استفاده از DeepSeek R1 به صورت محلی در کامپیوتر است که در آن حتی نیازی به استفاده از ترمینال نیست. روش‌های دیگری مانند Ollama نیز موجود هستند، اما برای اجرای آن‌ها نیاز به استفاده از ترمینال خواهید داشت.
اجرای DeepSeek R1 به‌صورت محلی روی موبایل با PocketPal AI
چندین اپلیکیشن وجود دارند که امکان اجرای مدل‌های LLM را به‌صورت محلی روی گوشی‌های هوشمند فراهم می‌کنند. PocketPal AI یک اپلیکیشن ساده برای اجرای مدل‌های LLM به‌صورت محلی روی دستگاه‌های iOS و اندروید است.
۱- برنامه را از App Store یا Play Store دانلود و نصب کنید.
۲- برنامه را باز کرده و روی “Go to Models” ضربه بزنید.
۳- در پایین سمت راست صفحه، روی آیکون ‘+’ ضربه بزنید.
۴- گزینه “Add from Hugging Face” را انتخاب کنید.
۵- در نوار جستجو، “DeepSeek R1” را تایپ کرده و مدل موردنظر را پیدا کنید.
۶- روی آیکون دانلود یکی از فایل‌های GGU موجود ضربه بزنید.
۷- پس از اتمام دانلود، به صفحه اصلی برگردید و روی آیکون “Load” مدل دانلود‌شده ضربه بزنید.
۸- مدل بارگیری خواهد شد و می‌توانید بلافاصله شروع به چت با آن کنید. شما می توانید سابقه چت خود را پیدا کنید یا تنظیمات مدل را از منوی سمت چپ تغییر دهید.
فرقی نمی‌کند که از چه دستگاهی استفاده می‌کنید؛ با استفاده از LM Studio روی کامپیوتر یا PocketPal AI روی موبایل، می‌توانید به‌راحتی مدل‌های DeepSeek R1 را دانلود، نصب و به‌صورت محلی اجرا کنید.
بیشتر بخوانید:
چگونه از هوش مصنوعی گراک (Grok) در X (توییتر) استفاده کنیم؟
بهترین مرورگرهای مبتنی بر هوش مصنوعی در سال ۲۰۲۴
نحوه استفاده از هوش مصنوعی Ideogram Ai
