OpenAI اعلام کرده که چند حساب یوزری مرتبط با چین را که از ChatGPT برای طراحی تبلیغات و پروژه‌ای مربوط به یک ابزار رصد شبکه‌های اجتماعی استفاده می‌کردند، مسدود کرده است.
براساس اعلام این شرکت، این حساب‌ها با VPN از چین به ChatGPT متصل می‌شدند و ظاهراً برای یک مشتری دولتی درحال کار بودند. ابزاری که این حساب‌ها روی آن کار می‌کردند، به‌عنوان رصدکننده شبکه‌های اجتماعی توصیف شده است که به اپراتورها کمک می‌کند سکوی نرم‌افزاری‌هایی مانند ایکس، فیسبوک، اینستاگرام، ردیت، تیک‌تاک و یوتوب را از نظر محتوای مرتبط با قومیت، مذهب یا سیاست پایش کنند.
اکانت‌های مسدودشده ChatGPT احتمالاً به نهادی دولتی در چین وابسته بوده‌اند
OpenAI تأکید کرده که حساب‌های مسدودشده از مدل‌های هوش مصنوعی این شرکت برای رصد شبکه‌های اجتماعی استفاده نکرده‌اند و نیز شرکت قادر نیست به‌طور مستقل تایید کند که آیا این ابزار واقعاً توسط نهادهای دولتی چین مورد استفاده قرار گرفته است یا خیر.
OpenAI نیز یک حساب دیگر را مسدود کرده که از ChatGPT برای تهیه پیشنهادی در مورد یک پروژه مرتبط با رصد تحرکات مسلمانان اویغور استفاده می‌کرده است. گفته می‌شود این سیستم برای ردیابی جابه‌جایی اویغورها، تطبیق اطلاعات با سوابق پلیس و صدور هشدارهای زودهنگام بابت جابه‌جایی‌های آنها طراحی شده بود. در سال‌های اخیر، گروه‌های مدافع حقوق بشر بارها دولت چین را به نقض حقوق مسلمانان اویغور متهم کرده‌اند.
ریپورت منتشرشده توسط OpenAI نیز جزئیات بیشتری درباره گروه‌های چینی، روسی و کره‌ای ارائه می‌دهد که ظاهراً در تلاش بوده‌اند از ChatGPT برای توسعه و بهبود بدافزارها از جمله تروجان‌های اجازه دسترسی از راه دور، ابزارهای سرقت اطلاعات و نرم‌افزارهایی برای دورزدن فرایندهای شناسایی در سیستم‌ها استفاده کنند.
OpenAI نیز شبکه‌های کلاهبرداری مستقر در کامبوج، میانمار و نیجریه را که سعی در سوءاستفاده از مدل‌های این شرکت داشتند، شناسایی و مختل کرده است.
