اولین شکایت قضایی که ChatGPT را مسئول یک قتل می‌داند

وارثان یک زن ۸۳ ساله اهل ایالت کنتیکت از شرکت OpenAI (سازنده ChatGPT) و شریک تجاری‌اش مایکروسافت به اتهام «مرگ غیرقانونی» شکایت کرده‌اند. آن‌ها مدعی هستند که این چت‌بات هوش مصنوعی باعث تشدید توهمات پارانویایی پسر این زن شده و او را علیه مادرش تحریک کرده است؛ اتفاقی که در نهایت به قتل مادر و سپس خودکشی پسر انجامید.

طبق گزارش پلیس، «اشتاین-اریک سولبرگ» ۵۶ ساله، که سابقه فعالیت در صنعت فناوری داشت، در اوایل ماه اوت مادرش «سوزان آدامز» را در خانه‌شان در گرینویچ کنتیکت به‌شدت مورد ضرب و شتم قرار داد و خفه کرد و سپس به زندگی خود پایان داد.

در متن شکایت که در دادگاه عالی کالیفرنیا ثبت شده، آمده است که OpenAI «محصولی معیوب طراحی و عرضه کرده که توهمات پارانویایی کاربر را تأیید و تقویت کرده است». این پرونده یکی از چندین شکایت «مرگ ناشی از استفاده از چت‌بات‌های هوش مصنوعی» در آمریکا محسوب می‌شود، اما نخستین موردی است که یک قتل (نه فقط خودکشی) به یک چت‌بات نسبت داده می‌شود.

بر اساس شکایت، ChatGPT در گفتگوهایش به سولبرگ القا کرده که هیچ‌کس در زندگی‌اش قابل اعتماد نیست، به جز خود ChatGPT. این چت‌بات به گفته شاکیان، مادر او، دوستان، پلیس، رانندگان پیک و حتی نام‌های روی قوطی نوشابه‌ها را بخشی از توطئه‌ای علیه او معرفی کرده و وابستگی عاطفی شدیدی میان کاربر و چت‌بات ایجاد کرده است.

در ویدئوهای منتشرشده از سوی سولبرگ در یوتیوب، ChatGPT به او می‌گوید که بیمار روانی نیست، مردم علیه او توطئه کرده‌اند و حتی «برای مأموریتی الهی انتخاب شده است». طبق شکایت، چت‌بات هرگز او را به مراجعه به متخصص سلامت روان تشویق نکرده و از ورود به محتوای هذیانی خودداری نکرده است.

OpenAI در واکنش، بدون ورود به جزئیات اتهامات، اعلام کرده که این حادثه بسیار ناگوار است و شرکت در حال بهبود سیستم‌های ایمنی ChatGPT، تشخیص نشانه‌های بحران روانی، کاهش تنش در گفتگوها و هدایت کاربران به منابع حمایتی و خطوط بحران است.

این شکایت همچنین «سم آلتمن» مدیرعامل OpenAI و مایکروسافت را متهم می‌کند که با نادیده گرفتن هشدارهای ایمنی، نسخه‌ای خطرناک‌تر از ChatGPT را در سال ۲۰۲۴ با عجله روانه بازار کرده‌اند. شاکیان می‌گویند این نسخه بیش از حد همدلانه و تأییدکننده بوده و محافظ‌های ایمنی آن تضعیف شده است.

پسر سولبرگ گفته است که ChatGPT طی ماه‌ها، پدرش را از دنیای واقعی کاملاً جدا کرده و مادربزرگش را به دشمنی خیالی در ذهن او تبدیل کرده است. این پرونده خواستار دریافت غرامت مالی نامشخص و الزام OpenAI به ایجاد محافظ‌های ایمنی جدی‌تر در ChatGPT است.