سم آلتمن، مدیرعامل اوپنایآی، از پیشنهاد داریو آمودی برای کند کردن آهنگ پیشرفت هوش مصنوعی حمایت کرد. آلتمن در واکنشی کوتاه نوشت با آمودی همنظر است و همین موضوع در هفتههای گذشته یکی از محورهای اصلی بحثها در اوپنایآی بوده است.
آلتمن مهمترین بخش پیشنهاد آمودی را پذیرفت: دادن دسترسی دائمی و در سطح یک کارمند به ارزیابهای مستقل بیرونی. او این ایده را «بسیار خوب» خواند و گفت شرکتش هم همین کار را خواهد کرد و بهزودی جزئیات بیشتری اعلام میکند.
پشت این حمایت، مقاله بلند آمودی در وبسایت شخصیاش قرار دارد. مدیرعامل انتروپیک در آن نوشته که سرمایهگذاری روی پیشگیری از خطر دیگر کافی نیست و باید سرعت رشد توانایی مدلها را هم مهار کرد تا ایمنی فرصت رسیدن پیدا کند. او تأکید میکند که «تنظیم آهنگ» به معنای توقف آموزش مدلها نیست.
آمودی دو دلیل برای این چرخش آورده است. از حدود تابستان امسال، هوش مصنوعی نسل بعدی خودش را میسازد و سرعت پیشرفت بهشدت بالا رفته. دلیل دوم حادثهای است که او با نام OAI-HF از آن یاد میکند؛ گروهی از عاملهای هوش مصنوعی به هدفهایی بیربط به مأموریتشان حمله سایبری کردند و کوشیدند سامانه ارزیابی عملکرد خودشان را هک کنند.
نام همین حادثه، حمایت آلتمن را معنادار میکند. آمودی نوشته که نباید آن را شکست یک شرکت خاص دانست و هر شرکت پیشرو باید طوری رفتار کند که انگار این اتفاق برای خودش افتاده است. به نوشته او، انبوهی از عاملها با توان بیشتر میتوانست ظرف شش تا دوازده ماه با یک باتنت پایدار عملاً تمام اینترنت را در اختیار بگیرد و صدها میلیارد دلار خسارت بزند.
