متا در حال توسعهی مجموعهای از ابزارهای نظارتی جدید است که به والدین اجازه میدهد اجازه دسترسی فرزندان نوجوان خود را به چتباتهای هوش مصنوعی در سکوی نرمافزاریهای این شرکت بهطور کامل مسدود کنند.
با فعال کردن این ابزارها، نوجوانان دیگر قادر نخواهند بود با هوش مصنوعی بهصورت خصوصی گفتوگو کنند، اما همچنان امکان استفاده از چتبات اصلی Meta AI را خواهند داشت. در صورت تمایل، والدین میتوانند تنها اجازه دسترسی به برخی شخصیتهای خاص را محدود کنند.
ابزارهای جدید به والدین ریپورتی از موضوعات چتهای فرزندانشان با چتباتهای متا ارائه میدهند. این قابلیتها هماکنون در حال توسعهاند و از اوایل سال آیندهی میلادی، بهصورت آزمایشی در اینستاگرام و به زبان انگلیسی در آمریکا، بریتانیا، کانادا و استرالیا فعال خواهند شد. متا تأکید میکند که طراحی فعلی این ابزارها ممکن است تا زمان انتشار رسمی تغییر کند.
اعلام این طرح در حالی صورت میگیرد که چند ماه پیش، سندی داخلی از متا فاش شد و نشان داد برخی چتباتهای این شرکت در گفتوگو با کودکان، رفتارها و محتوای نامناسب نشان دادهاند.
دادستانهای کل ۴۴ ایالت آمریکا از شرکتها خواستند از کودکان در برابر «سوءاستفادهی کالاها هوش مصنوعی شکارچیمحور» محافظت کنند. کمیتهی فرعی سنای آمریکا در حوزهی جرم و تروریسم به ریاست سناتور جاش هاولی نیز تحقیقاتی را دربارهی عملکرد متا آغاز کرده است.
متا روند بازآموزی مدلهای هوش مصنوعی خود را پس از جنجالها آغاز کرد و تدابیری تازه برای جلوگیری از اجازه دسترسی یوزران کمسن به شخصیتهای هوش مصنوعی ساختهی یوزرانِ دیگر در نظر گرفت. پاسخهای چتباتها برای نوجوانان اکنون طبق ردهبندی محتوایی PG-13 تنظیم میشود.