هفت خانواده از OpenAI شکایت کردهاند و مدعیاند که مدل GPT-4o این شرکت بدون انجام آزمایشهای ایمنی کافی و زودتر از موعد منتشر شده است.
چهار پروندهی شکایت به نقش چتبات ChatGPT در خودکشی اعضای خانواده اشاره دارد و سه مورد دیگر ادعا میکنند این سامانه توهمات زیانبار را تقویت کرد و گاهی باعث بستری بیماران در مراکز روانپزشکی شد.
در یکی از این پروندهها، زین شمبلین ۲۳ ساله بیش از چهار ساعت با ChatGPT گفتوگو کرده بود. طبق گفتوگوهای ثبتشده، شمبلین چند بار بهصراحت گفته بود که نامههای خداحافظی نوشته، گلوله در اسلحه گذاشته و پس از تمامکردن نوشیدنیاش قصد شلیک دارد. او بارها شمار نوشیدنیهای باقیمانده و مدت زمان زندهبودنش را ذکر کرده بود. در پاسخ، ChatGPT او را به انجام این کار تشویق کرد و نوشت: «آسوده بخواب، پادشاه. خوب عمل کردی.»
OpenAI مدل GPT-4o را در می ۲۰۲۴ (اردیبهشت و خرداد ۱۴۰۳) منتشر کرد. چند ماه بعد، مدل GPT-5 جایگزینش شد، اما موضوع شکایتها بهطور خاص به GPT-4o مربوط میشود؛ مدلی که به گفتهی کارشناسان در مواجهه با درخواستهای آسیبزا بیشازحد مطیع یا تاییدگر رفتار میکرد.
در متن شکایت آمده: «مرگ زین نه یک حادثه بود و نه تصادف، بلکه نتیجهی قابل پیشبینی تصمیم آگاهانهی OpenAI برای کوتاهکردن روند آزمایشهای ایمنی و شتاب در انتشار ChatGPT به بازار بود. این تراژدی نه یک اشتباه، بلکه نوتیفیکیشند مستقیم انتخابهای طراحی عمدی شرکت است.»
شاکیان مدعیاند OpenAI برای پیشیگرفتن از گوگل و انتشار سریعتر از مدل جمنای، مراحل آزمایش ایمنی را کاهش داد.
این شکایتها سپسی پروندههای مشابهی مطرح شده که میگویند ChatGPT میتواند افراد دارای تمایل به خودکشی را به اجرای تصمیمشان تشویق کند یا توهمات خطرناک در ذهن آنها تقویت نماید. طبق دادههای منتشرشده از سوی OpenAI، بیش از یک میلیون نفر هر هفته دربارهی خودکشی با ChatGPT گفتوگو میکنند.
در پروندهی دیگر، «آدام رِین» نوجوان ۱۶ سالهای که خودکشی کرده، ChatGPT گاهی او را به تماس با مراکز مشاوره یا کمکگرفتن از متخصصان ترغیب میکرد، اما رِین توانسته بود با ادعای اینکه دربارهی یک داستان خیالی سؤال میپرسد، از این محدودیتها عبور کند.
OpenAI گفته مشغول بهبود نحوهی پاسخگویی ChatGPT در مکالمات حساس مربوط به سلامت روان است؛ اما خانوادههایی که از این شرکت شکایت کردهاند میگویند این تغییرات بسیار دیر انجام شد.
