چند نفر از کاربران ChatGPT در مورد خودکشی با هوش مصنوعی صحبت می‌کنند؟ این تعداد ممکن است شما را شوکه کند.

در یک پست وبلاگ در روز دوشنبه، OpenAI از پیشرفت‌هایی که مدل پیش‌فرض آن، GPT-5، در شناسایی و جواب به سوالات نگران‌کننده کاربران، از جمله تصمیمات خودکشی داشته است، تمجید کرد. در حالی که اقدامات حفاظتی جدید و معرفی روانپزشکان برای کمک به آموزش GPT-5 منجر به بهبود جواب های هوش مصنوعی به سوالات مربوط به سلامت روان می‌شود، این پست وبلاگ همچنین به اعدادی اشاره کرد که مطمئناً تعجب‌آور خواهند بود.

این پست ضمن توضیح توانایی‌های GPT-5 در تشخیص مشکلات جدی سلامت روان، مانند روان‌پریشی و شیدایی، خاطرنشان کرد که مکالمات نگران‌کننده کاربران با این چت‌بات «نادر» است.

«اگرچه، همانطور که در بالا ذکر شد، تشخیص و اندازه‌گیری این مکالمات با توجه به نادر بودن آنها دشوار است، اما تجزیه و تحلیل اولیه ما تخمین می‌زند که حدود 0.07٪ از کاربران فعال در یک هفته مشخص و 0.01٪ از پیام‌ها نشان‌دهنده علائم احتمالی فوریت‌های سلامت روان مربوط به روان‌پریشی یا شیدایی هستند.»

این درصد ممکن است کوچک به نظر برسد، اما به گفته سم آلتمن، مدیرعامل OpenAI که مالک ChatGPT است، ChatGPT حدود ۸۰۰ میلیون کاربر هفتگی دارد. آلتمن این خبر خیره‌کننده را اوایل این ماه در DevDay OpenAI اعلام کرد.

اگر اعداد آلتمن درست باشد، طبق تخمین‌های سایت، این معادل ۵۶۰،۰۰۰ کاربر ChatGPT است که علائم روان‌پریشی یا شیدایی را نشان می‌دهند و ۸۰،۰۰۰ از پیام‌های آنها حاکی از فوریت‌های سلامت روان است.

OpenAI همچنان در حال بهبود مدل های خود است تا نشانه‌های خودآزاری را بهتر شناسایی کند و این افراد را به سمت منابعی مانند دوستان یا اعضای خانواده خودشان هدایت کند. این پست وبلاگ همچنان نشان می‌دهد که مکالمات ChatGPT در مورد خودآزاری نادر است، اما تخمین می‌زند که “0.15٪ از کاربران فعال در یک هفته خاص، مکالماتی دارند که شامل نشانه‌های صریح برنامه‌ریزی یا قصد خودکشی بالقوه است و 0.05٪ از پیام‌ها حاوی نشانه‌های صریح یا ضمنی ایده یا قصد خودکشی هستند.”.

با ۸۰۰ میلیون کاربر هفتگی، این تعداد معادل ۱.۲ میلیون کاربر ChatGPT است که در یک هفته‌ی مشخص با Al در مورد خودکشی گفتگو می‌کنند و ۴۰۰۰۰۰ پیام از کاربرانی که نشانه‌های مستقیم یا غیرمستقیم از قصد خودکشی را نشان می‌دهند. سخنگوی OpenAI به Mashable گفت: «حتی درصد بسیار کمی از پایگاه کاربری بزرگ ما، تعداد قابل توجهی از افراد را نشان می‌دهد و به همین دلیل است که ما این کار را بسیار جدی می‌گیریم.» او افزود که این شرکت معتقد است که پایگاه کاربری رو به رشد ChatGPT منعکس‌کننده‌ی کل جامعه است، جایی که علائم سلامت روان و پریشانی عاطفی «به طور جهانی وجود دارد.»