تیکتاک پس از انتشار خلاصههای متنی نادرست و عجیب برای برخی ویدیوها، استفاده از این قابلیت هوش مصنوعی را برای توصیف محتوا محدود کرده است. این قابلیت که با عنوان «AI Overviews» شناخته میشود، زیر برخی ویدیوهای این سکوی نرمافزاری ظاهر میشد و تلاش میکرد محتوای ویدیو یا زمینه مرتبط با آن را توضیح دهد.
این قابلیت فقط برای بخشی از یوزران در آمریکا و فیلیپین فعال شده بود، اما خلاصههای اشتباه و گاه بسیار عجیب آن، بهویژه زیر ویدیوهای مربوط به چهرههایی مانند «چارلی دامیلیو» (Charli D’Amelio)، ستاره تیکتاک، بهطور گسترده در فضای آنلاین با بحث همراه بوده است.
قابلیت AI Overviews تیکتاک، مشابه خلاصههای هوش مصنوعی گوگل در بالای نتایج کشف، زمانی نشان دادن داده میشد که یوزر برای دیدن توضیحات بیشتر یک ویدیو اقدام میکرد. برخی نمونههای ثبتشده توسط یوزران نشان میدهد که این قابلیت در مواردی ویدیوها را درست توصیف کرده، اما Business Insider چند نمونه از خلاصههای «بهشدت نادرست» را نیز شناسایی کرده است.
اشتباهات هوش مصنوعی تیکتاک
در یکی از این موارد، ویدیویی از رقص چارلی دامیلیو بهعنوان «مجموعهای از بلوبریهای مختلف با تاپینگهای متفاوت» توصیف شده بود. این رسانه نیز خلاصههای مبهم، نادرست و عجیب دیگری را زیر ویدیوهای مربوط به چهرههایی مانند «شکیرا» و «اولیویا رودریگو» دیدن کرده است.
در یکی از نمونههای دیگر که در ردیت منتشر شده، ویدیویی از اجرای رقص باله توسط هوش مصنوعی تیکتاک با عبارت «فردی که بهطور مکرر با یک مرغ لاستیکی به سر خود ضربه میزند» توصیف شده است. نمونههای عجیب دیگری نیز ریپورت شده است. برای مثال، خلاصههای هوش مصنوعی زیر دو ویدیوی جداگانه که هیچکد برنامهام شامل خشونت یا ابزار خاصی نبودهاند، ادعا کرده بودند که در آنها «فردی بهطور مکرر با چکش به سر خود ضربه میزند».
به گفته تیکتاک، این خلاصههای آزمایشی اکنون فقط برای پیشنهاد کالاهای مشابه با کالاهای نشان دادندادهشده در ویدیوها استفاده میشوند. تیکتاک نیز میگوید علت اشتباهها و ناهماهنگیهای AI Overview را شناسایی کرده، اما توضیحی درباره جزئیات آن ارائه نکرده است.
گوگل نیز در سال ۲۰۲۴ بهدلیل نتایج عجیب AI Overviews مورد تمسخر یوزران قرار گرفته بود. در آن زمان این هوش مصنوعی به یوزران توصیه کرده بود سنگ بخورند یا برای درستکردن پیتزا از چسب استفاده کنند. اپل هم بعدتر بهدلیل عملکرد بد ابزار هوش مصنوعی خلاصهسازی نوتیفیکیشنها با انتقاد روبهرو شد؛ چراکه این ابزار تیترهای نادرستی برای اخبار BBC News و New York Times تولید میکرد.
