دانشمندان در هفتهای که گذشت از بهکارگیری هوش مصنوعی مولد برای طراحی و ساخت یک خانوادهی کاملا جدید از ویروسها خبر دادند. پژوهشگران مدعی هستند این ویروسهای نوظهور توانایی آلوده کردن انسان را ندارند و در نهایت میتوانند برای مقابله با باکتریهای مقاوم به دارو مفید باشند. با این حال، کارشناسان هشدار میدهند که ممکن است در آینده از روشهای مشابه برای تروریسم زیستی استفاده شود.
به روایت وبسایت والاستریت ژورنال، پتانسیل هوش مصنوعی در کمک به توسعهی عوامل بیماریزای مرگبار یا دیگر خطرات زیستی، مدتها است که موجب نگرانی متخصصان ایمنی فناوری شده. سال گذشته و پس از انتشار ورژنی ارتقاءیافتهی چتجیپیتی (ChatGPT)، صدها یوزر از این دستیار مجازی دربارهی روشهای تولید سلاحهای زیستی و سموم سوال کردند و این ابزار نیز پاسخهایی با جزئیات دقیق ارائه داد. در پی این اتفاق، شرکت OpenAI حسابهای یوزری متخلف را مسدود کرد.
در هفتههای گذشته، مدلهای هوش مصنوعی در آزمایشهای مختلف محدودیتها را دور ردند و رفتارهای غیرمنتظرهای نشان دادند. شرکتهای اوپنایآی و آنتروپیک در کنار متا ریپورتهای نگرانکنندهای از فرار مدلهای خود از محیطهای قرنطینهشده، اجازه دسترسی به اینترنت و هک کردن سایر شرکتها منتشر کردند. مدل هوش مصنوعی میتوس متعلق به شرکت آنتروپیک رفتارهای فریبکارانه از خود نشان داده و مدلهای اوپنایآی نیز در یک تالار گفتگوی مخفی، راهکارهایی را برای نفوذهای آینده به اشتراک گذاشتهاند.
جورجیا ولز، خبرنگبندیار سرشناس والاستریت ژورنال، میگوید: «شرکتهای فعال در حوزهی هوش مصنوعی اعلام کردهاند که این حوادث نشاندهندهی نیاز مبرم به استانداردهای قویتر برای سیستمهای ارزیابی مدلها است. روز جمعه اوپنایآی فعالیت روی یکی از مدلهای در حال توسعهی خود را متوقف کرد تا تدابیر ایمنیی داخلی را تقویت کند. با این حال، منتقدان نگران هستند که شتاب پیشرفت این فناوری بسیار فراتر از تلاشها برای ایمنسازی آن باشد.»
ظهور هوش مصنوعی مولد نیز بازار شرکتهای ارائهدهندهی نرمافزار به عنوان خدمت (SaaS) را با بحران جدی روبهرو کرده است. این ابزارها با خودکارسازی وظایفی مانند نگارش متون حقوقی و کارهای تکراری، بقای نرمافزارهای سنتی را تهدید میکنند.
