گوگل یک برنامه جدید اهدای پاداش بابت شناسایی باگ‌ها در کالاها هوش مصنوعی خود شروع کردن کرده است.
به ریپورت ورج، در فهرست انواع باگ‌هایی که گوگل برای این برنامه در نظر گرفته، نمونه‌هایی از اقدامات غیرمجاز یا خطرناک احتمالی هوش مصنوعی دیده می‌شود، از جمله تزریق غیرمستقیم پرامپت که باعث شود Google Home در خانه را باز کند یا تزریق پرامپت برای استخراج داده‌ها که تمام ایمیل‌های فرد را خلاصه کرده و آن خلاصه را به حساب یوزری مهاجم فرستادن می‌کند.
باگ بانتی هوش مصنوعی گوگل تا ۳۰ هزار دلار جایزه می‌پردازد
برنامه جدید گوگل می‌گوید چیزی به‌عنوان باگ هوش مصنوعی تعریف می‌شود که در آن از یک مدل زبانی بزرگ یا سیستم هوش مصنوعی مولد برای ایجاد آسیب یا سوءاستفاده از یک حفره ایمنیی بهره گرفته شده باشد.
این موارد شامل اقداماتی مانند تغییر داده‌ها یا حساب یوزری یک فرد برای تضعیف ایمنی او یا انجام کارهای ناخواسته است. برای مثال، یکی از آسیب‌پذیری‌های کشف‌شده می‌توانست با استفاده از رویدادی آلوده در Google Calendar، پرده‌های هوشمند را باز و چراغ‌ها را خاموش کند.
گوگل اعلام کرده که از زمان آغاز رسمی دعوت از محققان برای شناسایی مسیرهای احتمالی سوءاستفاده از قابلیت‌های هوش مصنوعی در کالاهاش، این افراد تاکنون بیش از ۴۳۰ هزار دلار پاداش دریافت کرده‌اند.
در این برنامه، برای شناسایی اقدامات مخرب در کالاها اصلی گوگل، شامل کشف، اپلیکیشن‌های جمینای و برنامه‌های کلیدی مجموعه Workspace مانند جیمیل و Drive جایزه حداکثر ۲۰ هزار دلاری در نظر گرفته شده است.
نیز گوگل برای ریپورت‌های باکیفیت‌تر و کشفیات جدید ضریب پاداش در نظر گرفته است، یعنی مبلغ کل پاداش می‌تواند تا ۳۰ هزار دلار افزایش یابد.
در مقابل، مبلغ پاداش برای ریپورت باگ‌های کشف‌شده در کالاها دیگر گوگل مانند Jules یا NotebookLM و موارد سوءاستفاده در سطوح پایین‌تر مانند سرقت پارامترهای محرمانه مدل‌های هوش مصنوعی کمتر است.
