شرکت OpenAI با انتشار مطلبی در وبلاگ خود، خواستار تشکیل یک سازمان بینالمللی برای نظارت بر توسعه هوش مصنوعی و در صورت لزوم، کاهش شتاب پیشرفت آن شده است.
«سم آلتمن»، مدیرعامل OpenAI، و «یاکوب پاچوکی»، دانشمند ارشد این شرکت، در یادداشتی مشترک اعلام کردهاند یکی از اهداف این سازمان باید فراهم کردن امکان اقدام هماهنگ جهانی، از جمله کاهش شتاب توسعه هوش مصنوعی پیشرو در مواقع ضروری باشد تا انعطافپذیری، ایمنی و همگامسازی جامعه با این فناوری حفظ شود.
این موضعگیری پس از بیانیه مشابه رقیب اصلی آنها، یعنی شرکت آنتروپیک، مطرح میشود. آنتروپیک هفته گذشته اعلام کرده بود توقف توسعه جهانی هوش مصنوعی، در صورت امکان، احتمالاً اتفاق خوبی است. استدلال آنتروپیک بر پایه شواهد داخلی از پدیدهای موسوم به «خودبهبودی برگشتی» مطرح شده بود؛ یعنی مدلهای هوش مصنوعی که میتوانند ورژنهای پیشرفتهتر بعدی خود را آموزش دهند و ریسک از دست رفتن کنترل انسان را با داشته باشند.
پیش از این نیز در سال ۲۰۲۳ میلادی نامهای سرگشاده برای توقف ۶ ماهه توسعه مدلهای پیشرو توسط افرادی چون «ایلان ماسک» و «یاشوا بنجیو» پدرخوانده هوش مصنوعی و برنده جایزه تورینگ، امضا شده بود.
جزئیات یادداشت OpenAI درباره اهمیت نظارت بر هوش مصنوعی
شرکت OpenAI در یادداشت جدید خود به پتانسیل «خودبهبودی هوش مصنوعی» (یعنی سیستمی که میتواند خودش را ارتقا دهد) اشاره کرده است. به باور این شرکت، اینکه خود هوش مصنوعی بتواند کارهای تحقیقاتی انجام دهد، عامل اصلی تعیینکننده شتاب پیشرفت فناوری در چند سال آینده است. در همین راستا، آلتمن و پاچوکی پیشبینی کردهاند که تا مارس ۲۰۲۸، بخش زیادی از تحقیقات OpenAI بهطور مشترک توسط سیستمهای هوش مصنوعی و محققان انسانی پیش خواهد رفت.
در بخشی از یادداشت OpenAI نوشته شده است:
«خودکارسازی کاملِ همهچیز، آیندهای نیست که ما میخواهیم. چنین آیندهای هم ناامیدکننده است و هم خطرناک. با افزایش توانمندی سیستمهای هوش مصنوعی، نقش انسان نهتنها کمرنگبندی نمیشود، بلکه حیاتیتر خواهد شد؛ نقشی که شامل جهتدهی، ایجاد تعادل، اعمال قضاوت و تزریق ارزشها، سلیقه، مراقبت و مسئولیتپذیری در قبال کارها میشود. در بلندمدت، کلیدیترین نقش انسان این است که تصمیم بگیرد چه کاری ارزش کردن دارد.»
نیز OpenAI در این یادداشت به توسعه ورژنای از AGI یا هوش جامع مصنوعی اشاره کرده که میتواند برای همه انسانها مفید باشد. صنعت هوش مصنوعی هنوز تعریف واحدی برای AGI ندارد، اما عموماً به سیستمی اطلاق میشود که بتواند هر کار شناختی را حداقل همسطح مغز انسان انجام دهد؛ هرچند امکانپذیری آن با ساختار مدلهای زبانی بزرگ همچنان محل بحث است. این وعده مبهم سالها استراتژی مالی موفقی برای OpenAI بوده و آنها را به ارزشمندترین استارتاپ جهان تبدیل کرده بود، تا اینکه ماه گذشته آنتروپیک این جایگاه را تصاحب کرد.
این درخواستها در شرایطی مطرح میشوند که هر دو شرکت در آستانه لاگین به بازار بورس هستند.
