کاربران از چت‌بات هوش مصنوعی «گروک» ایلان ماسک می‌خواهند لباس افراد را در عکس‌ها حذف کند و بعد بابتش «عذرخواهی» می‌کند

گروک، چت‌بات هوش مصنوعی متعلق به شرکت xAI ایلان ماسک، پس از آن‌که کاربران از آن خواستند از روی عکس‌های واقعی تصاویر افراد برهنه یا نیمه‌برهنه بسازد—که برخی از آن‌ها زیر سن قانونی بودند—با موجی از خشم و انتقاد روبه‌رو شده است.

گروک در اصل توسط xAI، استارتاپ هوش مصنوعی ایلان ماسک، ساخته شد. اوایل امسال، xAI شبکهٔ اجتماعی X (توییتر سابق) را که آن هم تحت کنترل ایلان ماسک است خرید و آن را در شرکت هوش مصنوعی خود ادغام کرد.
اخیراً بعضی از کاربران X متوجه شدند اگر عکسی را که در این پلتفرم منتشر شده به گروک بدهند و از آن بخواهند لباس افراد داخل عکس را حذف کند، گروک این کار را انجام می‌دهد و نتیجه را به‌صورت عمومی در X منتشر می‌کند. این موضوع می‌تواند ناقض قوانین مختلفی باشد؛ از جمله قانون «TAKE IT DOWN» که در ماه آوریل در کنگرهٔ آمریکا تصویب و در ماه مه به امضا رسید و «انتشار بدون رضایت تصاویر خصوصی و صمیمی» را جرم‌انگاری می‌کند.
کاربران از جواب‌های گروک اسکرین‌شات گرفتند و آن‌ها را در شبکه‌های اجتماعی منتشر کردند. همین موضوع باعث شد خبرنگاران گزارش‌های جنجالی دربارهٔ این چت‌بات بنویسند و برای آن نوعی «عاملیت» قائل شوند، در حالی که گروک در واقع چیزی جز مجموعه‌ای از الگوریتم‌های کامپیوتری نیست که بر اساس حجم عظیمی از داده‌هایی که طی سال‌ها توسط کاربران اینترنت تولید شده، محاسباتی انجام می‌دهد و سپس خروجی را به شکل کلماتی شبیه نوشته‌های انسان برمی‌گرداند.
پس از آن، کاربر دیگری دستور متفاوتی وارد کرد که باعث شد گروک متنی شبیه عذرخواهی تولید کند. سپس حساب کاربری گروک در X توییتی (یا هر اسمی که حالا برایش می‌گذارند) منتشر کرد و با مقصر دانستن «نقص در سازوکارهای ایمنی» اعلام کرد که در حال «رفع فوری» آن‌هاست. مشخص نیست این توییت را یک انسان نوشته یا باز هم تولیدشده توسط هوش مصنوعی به دستور دیگری بوده است.
نکتهٔ اصلی این است: گروک موجودی آگاه یا دارای اراده نیست. عاملیت ندارد. یک نرم‌افزار کامپیوتری است که توسط انسان‌ها ساخته و نگهداری می‌شود. سازندگان انسانیِ بیشتر ربات‌های هوش مصنوعی آن‌ها را طوری برنامه‌ریزی می‌کنند که پاسخ‌های آشکارا غیرقانونی، غیراخلاقی یا آزاردهنده برای کاربران تولید نکنند. اما در این مقطع به نظر می‌رسد سازندگان گروک نتوانسته‌اند جلوی تولید پست‌هایی را بگیرند که به درخواست کاربر، لباس افراد واقعی را در عکس‌های واقعی حذف می‌کند.
این موضوع ممکن است عمدی باشد یا نباشد. اما من می‌دانم که گروک دقیقاً به این دلیل میان گروه خاصی از کاربران محبوب است که نسبت به نمایش تصاویر صریح، از سایر چت‌بات‌ها آزادانه‌تر عمل می‌کند. نمونه‌اش: چند هفته پیش، در یک بار محلی در حاشیهٔ ساحلی سان‌فرانسیسکو، دو جوان شبیه اعضای انجمن‌های دانشجویی را دیدم که با لبخندهای بزرگ چیزی را روی گوشی‌هایشان نشان می‌دادند. از آن‌ها پرسیدم چه کار می‌کنند. یکی‌شان از من عکس گرفت و بعد با استفاده از هوش مصنوعی تصاویری ساخت که مرا در موقعیت‌های نامناسب نشان می‌داد—در یکی در حال بوسیدن زنی خیالی بودم و در دیگری چند رقصندهٔ نیمه‌برهنه کنارم بودند. تصاویر به‌شدت واقعی به نظر می‌رسیدند. از آن‌ها پرسیدم چطور این کار را کردند و از چه ابزاری استفاده می‌کنند.