چطور می‌توانید یک چت‌بات هوش مصنوعی را به‌صورت آفلاین روی گوشی اندرویدی اجرا کنید

تا حالا به این فکر افتاده‌اید که یک چت‌بات هوش مصنوعی داشته باشید که آفلاین کار کند، اطلاعات‌تان را به سرور نفرستد، هزینه‌ی اشتراک ماهانه نخواهد و کاملاً روی گوشی‌تان اجرا شود؟ با اپلیکیشن‌های جدید اندروید این کار ممکن شده است.

چت‌بات‌های ابری مثل ChatGPT، Claude و Gemini بسیار قدرتمندند و در گوگل‌پلی هم در دسترس‌اند، اما نقاط ضعف خودشان را دارند:

نیاز به اینترنت دارند، داده‌های شما در سرورهای شرکت‌ها ذخیره می‌شود، محدودیت درخواست دارند، گاهی به‌دلیل شلوغی قطع می‌شوند و برای بهترین امکانات باید ماهی حدود ۲۰ دلار اشتراک بگیرید.

اجرای چت‌بات روی گوشی (به‌صورت محلی / Local) همه‌ی این مشکلات را حل می‌کند.

این‌ها مدل‌های فشرده‌شده‌ای هستند که فقط با پردازنده و RAM گوشی اجرا می‌شوند و آفلاین کار می‌کنند؛ یعنی داده‌های شما از گوشی خارج نمی‌شود.

اگر گوشی نسبتاً جدید یا میان‌رده‌ی خوب با حداقل ۶ گیگ رم داشته باشید، می‌توانید از این مدل‌ها برای کارهایی مثل کدنویسی، نوشتن متن، ترجمه و تحقیق استفاده کنید. اگر حفظ حریم خصوصی، دسترسی آفلاین یا صرفه‌جویی در هزینه برایتان مهم است، اجرای هوش مصنوعی محلی گزینه‌ی خوبی است. (برای آیفون هم امکانش هست.)

پیش از اجرای هوش مصنوعی محلی روی اندروید، چه باید بدانید؟

چت‌بات‌های محلی در اصل نسخه‌های کوچک‌شده‌ی مدل‌های معروف مثل Phi-3 ،Gemma ،Llama 3.2 هستند. این مدل‌ها برای سخت‌افزار موبایل بهینه می‌شوند تا سریع‌تر لود شوند و حافظه‌ی کمتری مصرف کنند.

البته توانایی آن‌ها از مدل‌هایی مثل GPT-4 کمتر است، اما برای کارهای مشخص مثل نوشتن ایمیل، کدنویسی و تحقیق کاملاً مناسب‌اند.

اشتراک ChatGPT Plus ماهی ۲۰ دلار هزینه دارد، اما اکثر اپ‌های اجرای محلی یا رایگان‌اند یا فقط یک‌بار هزینه می‌گیرند.

نیازمندی‌های سخت‌افزاری:

مدل‌های کوچک‌تر (۳ تا ۴ میلیارد پارامتر) → حداقل ۶ گیگ رم

مدل‌های بزرگ‌تر (۷ میلیارد پارامتر) → ۸ تا ۱۲ گیگ رم

برای نگهداری چند مدل باید فضای ذخیره‌سازی خالی داشته باشید (حجم هر مدل از چند مگابایت تا حدود ۴–۵ گیگ)

بهترین اپ‌ها برای اجرای هوش مصنوعی محلی روی اندروید

راه‌اندازی یک چت‌بات محلی روی اندروید معمولاً ۱۰ تا ۲۰ دقیقه زمان می‌برد.

۱. اپ Maid

مخصوص اندروید طراحی شده

مدل‌های سبک و مناسب مبتدی‌ها دارد

مدل Phi-3 Mini (3.8B) گزینه‌ی قوی و نسبتاً کوچک است (حجم حدود ۲.۲ گیگ)

کاملاً آفلاین کار می‌کند

مناسب کدنویسی، کمک‌نوشتن و استدلال‌های ساده

می‌توانید از داخل برنامه مدل‌های دیگری مثل Llama 3.2 یا Gemma 2B را هم دانلود و بین آن‌ها جابه‌جا شوید

هر مدل برای یک نوع کار بهتر است (مثلاً Phi-3 برای کدنویسی بهتر است، Gemma سریع‌تر است اما توانایی کمتر دارد)

۲. Google AI Edge Gallery

اپ رسمی گوگل برای یافتن و اجرای مدل‌های آفلاین

مدل‌ها کاملاً روی دستگاه اجرا می‌شوند و به اینترنت وابسته نیستند

قابل اعتمادتر از بعضی اپ‌های گوگل‌پلی که ادعا می‌کنند «آفلاین» هستند اما در واقع بخشی از پردازش را روی سرور انجام می‌دهند.