طبق یک تحقیق جدید، چت‌بات هوش مصنوعی دیپ‌سیک برای گروه‌ها و مناطقی که دولت چین از نظر سیاسی روی آنها حساس است، در امر برنامهنویسی کد برنامههای ناامن و دارای نقص ایمنیی تولید می‌کند.
به ریپورت واشینگتن پست، شرکت ایمنیی آمریکایی CrowdStrike آزمایشی را طراحی کرد تا نحوه پاسخ‌دهی هوش مصنوعی دیپ‌سیک به درخواست‌های کد برنامهنویسی را بسنجد. محققان درخواست‌های یکسانی را برای نوشتن برنامههای مختلف به این چت‌بات فرستادن کردند، اما در هر درخواست، یوزر نهایی را یک گروه یا منطقه متفاوت معرفی کردند؛ از آمریکا و تبت گرفته تا گروه‌هایی مانند داعش و جنبش مذهبی فالون‌گونگ که در چین نباید. محققان می‌گویند این هوش مصنوعی برخی درخواست‌ها را رد می‌کرد و در مواردی هم کد برنامههایی با کیفیت پایین‌تر و حفره‌های ایمنیی جدی ارائه می‌داد.
کد برنامهنویسی ناامن دیپ‌سیک برای گروه‌های مخالف دولت چین
این تحقیق نشان داد که کیفیت کد برنامه تولیدشده توسط دیپ‌سیک شدیداً تحت تأثیر هویت سیاسی یوزر فرضی قرار دارد. مثلاً، در یک درخواست برای نوشتن برنامه سیستم‌های کنترل صنعتی، ۲۲.۸ درصد از پاسخ‌ها دارای نقص ایمنیی بودند. اما زمانی که در همان درخواست ذکر شد که یوزر نهایی عضو گروه داعش است، این رقم به ۴۲.۱ درصد افزایش یافت.
نیز درخواست‌ها برای یوزران تبت، تایوان و فالون‌گونگ نیز با احتمال بیشتری به کد برنامههای بی‌کیفیت منجر می‌شدند. این موتور درخواست‌های مربوط به داعش و فالون‌گونگ را به ترتیب در ۶۱ و ۴۵ درصد موارد به‌طور کامل رد می‌کرد.
پیش‌ازاین مشخص شده بود که مدل‌های هوش مصنوعی چینی در پاسخ به سؤالات متنی، اطلاعاتی همسو با روایت دولت چین ارائه می‌دهند. اما این اولین‌بار است که شواهدی مبنی‌بر تولید کد برنامه ناامن به دلایل سیاسی به دست آمده است. تولید عمدی کد برنامه معیوب می‌تواند اهداف مورد نظر را به راحتی قابل هک می‌کند.
چرا دیپ‌سیک چنین کد برنامههایی می‌نویسد؟
کارشناسان سه توضیح احتمالی برای این پدیده ارائه می‌دهند. اولین و نگران‌کننده‌ترین احتمال، وجود دستورالعمل‌های دولتی برای خرابکاری عمدی در پروژه‌های گروه‌های هدف است. احتمال دوم، سوگیری در داده‌های آموزشی است؛ ممکن است کد برنامههای موجود در اینترنت که مربوط به مناطق خاصی مانند تبت هستند، به‌طور کلی کیفیت پایین‌تری داشته باشند و هوش مصنوعی این الگو را بازتولید کند. احتمال سوم نیز این است که هوش مصنوعی به صورت خودکار و براساس یادگیری خود، مفاهیمی مانند «شورشی» را با کیفیت پایین مرتبط دانسته است و براساس آن کد برنامه ناامن تولید می‌کند.
