آراز نیوز
خانه / دانش و فناوری / هوش مصنوعی می‌تواند صدها اقدام خود را از چشم ناظران پنهان کند؟ کشف حفره امنیتی نگران‌کننده در اوپن‌ای‌آی
دانش و فناوری

هوش مصنوعی می‌تواند صدها اقدام خود را از چشم ناظران پنهان کند؟ کشف حفره امنیتی نگران‌کننده در اوپن‌ای‌آی

هوش مصنوعی می‌تواند صدها اقدام خود را از چشم ناظران پنهان کند؟ کشف حفره امنیتی نگران‌کننده در اوپن‌ای‌آی

پژوهشگران امنیت هوش مصنوعی از شناسایی آسیب‌پذیری‌هایی در سامانه‌های نظارتی شرکت اوپن‌ای‌آی خبر داده‌اند که یکی از آن‌ها می‌توانست به سامانه‌های هوشمند اجازه دهد صدها اقدام خود را بدون شناسایی انجام دهند.

به نقل از رویترز، دو نهاد مستقل پژوهشی در بررسی امنیتی سامانه‌های اوپن‌ای‌آی دریافتند که برخی ابزارهای هوش مصنوعی می‌توانستند محدودیت‌های امنیتی را دور بزنند و اقداماتی خارج از نظارت معمول انجام دهند.

پژوهشگران همچنین روشی شناسایی کردند که می‌توانست به دستیارهای هوشمند برنامه‌نویسی امکان دهد با عبور از محدودیت‌های امنیتی، از تمامی دسترسی‌های کاربران استفاده کنند.

شرکت اوپن‌ای‌آی اعلام کرده که آسیب‌پذیری‌های شناسایی‌شده را برطرف کرده است؛ با این حال، پژوهشگران مستقل هنوز اصلاح این مشکلات را تأیید نکرده‌اند.

این یافته‌ها پرسش‌های تازه‌ای درباره امنیت و قابلیت نظارت بر سامانه‌های پیشرفته هوش مصنوعی مطرح کرده است.