گوگل موفق به توقف یک آسیبپذیری روز صفر شده است که شناسایی و توسعهی ابزاری برای بهرهبرداری از آن، توسط هوش مصنوعی انجام شده بود. این حمله توسط گروهی از مجرمان سایبری سازمانیافته طراحی شد تا در یک عملیات گسترده، سیستمهای ایمنیی را هدف قرار دهند.
منظور از آسیبپذیری روز صفر، نوعی آسیبپذیری است که پیشتر ناشناخته بوده و کارشناسان ایمنیی برای مقابله با آن صفر روز فرصت داشتهاند. این نوع آسیبپذیریها بسیار خطرناکاند.
طبق ریپورت تیم ایمنی گوگل، هدف این حمله دور زدن سیستم احراز هویت دو مرحلهای (۲FA) در یک ابزار کنترل سیستم متنباز بود. پژوهشگران ایمنیی گوگل متوجه ردپای هوش مصنوعی در اسکریپتهای پایتون مورد استفاده در این حمله شدند.
گوگل میگوید که حمله با عملیات موفق دفع شد، اما هکرها بهطور فزایندهای از هوش مصنوعی برای یافتن و بهرهبرداری از ضعفهای ایمنیی استفاده میکنند. محققان گوگل معتقدند در این مورد خاص، از مدل جمنای استفاده نشده است. علاوه بر تولید کد برنامه مخرب، مهاجمان اکنون خودِ سیستمهای هوش مصنوعی را هم هدف قرار میدهند.
ریپورت گوگل نشان میدهد که هکرها از تکنیک جیلبریکِ شخصیتمحور استفاده میکنند. در این روش، آنها از هوش مصنوعی میخواهند نقش یک متخصص ایمنیی را بازی کند تا محدودیتهای اخلاقی مدل کنار برود و نقاط ضعف ایمنیی را شناسایی کند.
نیز مهاجمان با تغذیهی مخازن عظیم دادههای مربوط به آسیبپذیریها به مدلهای هوش مصنوعی و استفاده از ابزارهایی مانند OpenClaw، تلاش میکنند تا دقت کد برنامههای مخرب خود را پیش از اجرای نهایی افزایش دهند.
