برای جلوگیری از سوءاستفاده از Sora، از هوش مصنوعی برای مبارزه با هوش مصنوعی می شود

پس از آنکه سوءاستفاده از تصویر مارتین لوتر کینگ جونیور و رابین ویلیامز جنجال‌هایی را پیرامون OpenAl برانگیخت، سایر شرکت‌های Al با شرکت‌های مدیریت استعداد برای مبارزه با استفاده‌های غیرمجاز همکاری می‌کنند.

هنوز یک ماه هم از عرضه جدیدترین مدل تولید ویدیوی هوش مصنوعی خود، سورا 2، توسط OpenAI نگذشته است و مشکلاتی که از تصاویر بیش از حد واقع‌گرایانه آن از شخصیت‌های دارای حق چاپ و چهره‌های عمومی واقعی ناشی شده، سریع‌تر از آن که مردم بتوانند آنها را مدیریت کنند.

صبح جمعه، ۱۷ اکتبر، OpenAI به طور مشترک با بنیاد مارتین لوتر کینگ جونیور بیانیه‌ای صادر کرد و اعلام کرد که پس از «توهین به تصویر دکتر کینگ» توسط کاربران، پخش سورا از دکتر کینگ را «متوقف» کرده است و این کار «حفاظت» از چهره‌های تاریخی را تقویت خواهد کرد. ما فقط می‌توانیم تصور کنیم که چه چیزهای زننده‌ای باید وجود داشته باشد تا OpenAI اقدامی انجام دهد.

OpenAI در بیانیه خود تأکید کرد که معتقد است هنوز «منافع آزادی بیان قوی» پیرامون به تصویر کشیدن چهره‌های تاریخی وجود دارد. ما ویدیویی از سورا دیدیم که در آن تصویر دکتر کینگ دیده می‌شد که می‌گفت خواب دیده روزی بتواند کاری کند که «آن چراغ لعنتی» بالای تختش دیگر چشمک نزند، پس بله، با وکلای متمم اول قانون اساسی تماس بگیرید.

اما مشکلات هوش مصنوعی از بین نمی‌روند. شخص دیگری همین الان در زمانی که شما صرف خواندن این چند پاراگراف آخر کردید، یک ویدیوی Sora تولید کرد. اوایل این هفته، شرکت مدیریت استعداد CMG Worldwide با یک شرکت هوش مصنوعی به نام Loti AI همکاری کرد که از هوش مصنوعی برای اسکن وب برای محتوای سوءاستفاده‌شده و حذف محتوا استفاده می‌کند و این شرکت هم با چهره‌های عمومی و هم با افراد عادی کار می‌کند. گزارش‌های این شرکت می‌گوید که ۹۵ درصد در یافتن ویدیوها، تصاویر یا صداهای تولید شده توسط هوش مصنوعی و حذف آنها در عرض یک روز مؤثر است.