هشدار آنتروپیک درباره مرحله بعدی AI؛ وقتی ماشین، جانشین خودش را می‌سازد

یکی از محققان آنتروپیک پس‌از تجربه‌ی کار با ایجنت‌های خودمختار در پروژه‌ی پیچیده‌ی شرکت می‌نویسد: «کلاد این کار را با کمترین کمک من طی یکی دو روز انجام داد. آینده همین حالا فرارسیده است.»

به‌عبارتی با سرازیرشدن حجم انبوهی از کد برنامههای جدید، «بررسی کردن و تایید نهایی کد برنامه توسط انسان» تبدیل به گلوگاه و مانع شتاب توسعه شده است. مدل‌ها اکنون آن‌قدر ایده، ابزار و شبیه‌سازی‌های جدید در ثانیه تولید می‌کنند که نیروی انسانی در هدایت و بررسی کردن آن‌ها به مشکل برمی‌خورد.

فکر می‌کنید باتوجه‌به شتاب حیرت‌انگیز اتوماسیون، گام بعدی صنعت هوش‌مصنوعی چه است؟ آیا این روند صعودی ادامه دادن پیدا می‌کند و اگر چنین اتفاقی بیفتد، ما چه واکنش نشان می‌دهیم؟ نویسندگان ریپورت آنتروپیک، سه سناریوی محتمل را برای آینده ترسیم می‌کنند:

مسیر اول؛ توقف روند و برخورد با محدودیت‌های فیزیکی: شاید نمودارهای نمایی پیشرفت، در واقع منحنی‌هایی به‌شکل حرف S باشند که به‌زودی افقی و مسطح می‌شوند. در این سناریو، ممکن است معماری‌های فعلی مانند ترانسفورمرها به نهایت ظرفیت خود برسند و عبور از بن‌بست، مستلزم کشفی جدید و بنیادین باشد.

شاید هم محدودیت‌های زنجیره‌ی تأمین مانند کمبود تراشه، ظرفیت شبکه‌های برق و شتاب اینترنت پیش از رسیدن به مرزهای هوشمندی، ترمز توسعه را بکشند.

در چنین سطحی از بلوغ، یک استارتاپ ۱۰۰ نفره می‌تواند لاگ‌آوتی یک سازمان ۱۰۰۰ نفره را داشته باشد؛ زیرا هر کارمند، در رأس هرمی از ایجنت‌های خودمختار قرار می‌گیرد؛ اما هنوز شواهدی از کندشدن شیب رشد دیده نشده است و همین امر وقوع سناریوی اول را تقریبا منتفی می‌کند.

مسیر دوم؛ شتاب مرکب و بهره‌وری بی‌نهایت: سناریویی که انگار همین حالا واردش شده‌ایم، یعنی وقتی توسعه‌ی سیستم‌ها تا حد زیادی خودکار می‌شود؛ اما انسان‌ها همچنان جهت‌گیری تحقیقات را تعیین و نتایج را ارزیابی می‌کنند.

در چنین دنیایی، شرکت‌های ۱۰۰نفره می‌توانند کارهایی را انجام دهند که پیش‌تر نیازمند ۱۰هزار یا حتی ۱۰۰هزار نیروی انسانی بود. در وهله‌ی نخست، خدمات دولتی و کارهای دانشی در مقیاس وسیع دگرگون می‌شوند.

در نهایت نقش انسان در شرکت‌های پیشرو، عمدتا به تلاش برای اعتبارسنجی لاگ‌آوتی ماشین‌ها تقلیل می‌یابد.

مسیر سوم؛ خودبهبودی برگشتی و پاک کردن انسان: افراطی‌ترین و درعین‌حال نگران‌کننده‌ترین سناریوی ریپورت آنتروپیک از دورانی می‌گوید که سیستم‌ها قادر می‌شوند با به‌کارگیری قابلیتی معادل نبوغ انسانی، مدل‌های جانشین خود را طراحی و اصلاح کنند و توسعه دهند. ماشین‌ها خود به طراح و توسعه‌دهنده‌ی ماشین‌های بعدی تبدیل می‌شوند.

در جهانی که با طی‌شدن مسیر سوم شکل می‌گیرد، شتاب پیشرفت هوش مصنوعی فقط و فقط به میزان توان پردازشی گره می‌خورد. انسان‌ها از چرخه‌ی توسعه خارج می‌شوند و صرفا نقش ناظرانی را در یک آزمایشگاه مجازی بی‌نهایت بزرگ به‌عهده دارند. پیشرفت‌هایی که از این مسیر حاصل می‌شود به‌شتاب به سایر حوزه‌های علوم سرایت می‌کند و نرخ تولید دانش و کشف‌های علمی را به‌شکلی بی‌سابقه افزایش می‌دهد.

به‌زعم محققان ریپورت آنتروپیک، پیش‌بینی اقتصاد و سازوکارهای چنین جهانی عملا غیرممکن است؛ چراکه با قدرت‌گرفتن ماشینی که خودش را بهتر می‌کند، کار انسانی دیگر هیچ توان رقابتی در بازار نخواهد داشت.

ریپورت آنتروپیک با نگاهی واقع‌بینانه یادآوری می‌کند که حتی اگر ماشین‌ها در آزمایشگاه‌های دیجیتال به سطح خودبهبودی برگشتی برسند و هوش خود را در کسری از ثانیه ارتقا دهند، برخورد آن‌ها با دنیای فیزیکی و جوامع انسانی، شتابشان را به‌شدت مهار خواهد کرد. در واقع اینجا نیز با تأثیر «قانون امداهل» مواجهیم؛ این بار نه در کد برنامههای برنامه‌نویسی؛ بلکه در ساختارهای بیولوژیک و اجتماعیِ بشر.