ایده عجیب سونی برای شکار کاربران خطرناک با هوش مصنوعی

بخش سرگرمی‌های تعاملی سونی پتنت جدیدی را برای یک سیستم یکپارچه‌سازی اجتماعی مبتنی بر مدل‌های زبانی بزرگ ثبت کرده است. این فناوری با ایجاد حساب‌های یوزری شبه‌واقعی، یوزران مخرب و آسیب‌رسان را در شبکه‌ی پلی استیشن شناسایی و نشانه‌گذاری می‌کند.

به‌ریپورت وب‌سایت گیمینگ‌بولت، این سیستم به‌گونه‌ای طراحی شده است تا رفتار نوتیفیکیشن‌رسانی یک قربانی احتمالی را شبیه‌سازی کند و برای یوزران متخلف کاملا واقعی به نظر برسد.

این حساب‌های جعلی که توسط مدل‌های زبانی بزرگ مانند جی‌پی‌تی کنترل می‌شوند، می‌توانند رفتار کودکان را شبیه‌سازی کنند تا افراد بیمار یا کلاهبردار را به سمت خود بکشند.

در توضیحات این پتنت آمده است که پس از برقراری ارتباط یوزر متخلف با حساب جعلی، سیستم رفتار او را زیر نظر می‌گیرد. طراحان این فناوری در سند ثبت اختراع شماره‌ی ۱۸/۳۱۴۷۷۵ توضیح داده‌اند:

«حساب یوزری متخلف ممکن است به عنوان حساب مشکوک نشانه‌گذاری شود. سیستم می‌تواند منتظر بماند تا یوزر متخلف اولین حرکت خود را به سمت یک حساب یوزری واقعی انجام دهد و پیش از وقوع هرگونه ارتباط نامناسب، آن را ریپورت کند. این حساب شبه‌واقعی می‌تواند توسط یک مدل زبانی بزرگ کنترل شود.»

فعالیت‌های مشکوک در این سیستم شامل مواردی مانند فرستادن اسپم، درخواست اطلاعات شخصی، نوتیفیکیشن‌های نامناسب، تقلب در بازی‌ها، کلاهبرداری و تلاش برای ارتباط با افراد زیر سن قانونی می‌شود. یوزرانی که این شرایط را داشته باشند مسدود نمی‌شوند؛ اما نشانه‌گذاری خواهند شد و سایر افرادی که با آن‌ها تعامل دارند، نوتیفیکیشن هشدار دریافت می‌کنند. به نظر شما استفاده از هوش مصنوعی و حساب‌های جعلی برای افزایش دادن ایمنی بازی‌های آنلاین ایده مناسبی است؟ لطفا دیدگاه و کامنت‌ها خود را با ما و سایر یوزران سایت به اشتراک بگذارید و برای دریافت اطلاعات رسمی و تکمیلی همچنان همراه زومجی باشید.