کاربرانی که کلود را بی‌دلیل آزار دهند، ممکن است حسابشان مسدود شود

آنتروپیک، شرکت سازنده چت‌بات کلود، از ۱۲ نوامبر می‌تواند حساب کاربرانی را که به تعبیر خودش با این هوش مصنوعی «به‌طور مداوم و بی‌دلیل» بی‌رحمانه رفتار می‌کنند، موقتاً تعلیق یا برای همیشه مسدود کند. به این ترتیب، نحوه گفت‌وگو با چت‌بات بخشی از قوانین استفاده از آن شده و آزار پیوسته آن ممکن است به قیمت از دست رفتن حساب کاربری تمام شود.

این قانون شامل کلافگی‌های روزمره، مخالفت با پاسخ‌های چت‌بات، مضامین تیره در داستان‌نویسی یا آزمودن توانایی‌های آن نمی‌شود و ناسزایی گاه‌به‌گاه مثل «تو به هیچ دردی نمی‌خوری!» هم به مسدود شدن حساب نمی‌انجامد. هدف تنها موارد افراطی است، یعنی کاربرانی که بی‌هیچ دلیل روشنی پیوسته هوش مصنوعی را آزار می‌دهند.

کلود از سال گذشته می‌تواند گفت‌وگوهای توهین‌آمیز را خودش به پایان برساند و آنتروپیک پس از آن امکان دارد به کاربر هشدار دهد یا حسابش را ببندد. در آزمایش‌های پیشین هم دیده شده بود که وقتی کاربران بر درخواست‌های آسیب‌زا پافشاری می‌کنند، کلود الگویی از آنچه آنتروپیک «پریشانی ظاهری» می‌نامد، نشان می‌دهد.

آنتروپیک می‌گوید نمی‌داند مدل‌هایش ممکن است چیزی شبیه احساسات داشته باشند یا نه. داریو آمودی، مدیرعامل این شرکت، هم گفته است که هنوز معلوم نیست این مدل‌ها آگاه باشند، اما آنتروپیک این احتمال را منتفی نمی‌داند. در مقابل، مصطفی سلیمان، مدیر بخش هوش مصنوعی مایکروسافت، معتقد است هوش مصنوعی آگاهی ندارد و چیزی را احساس یا تجربه نمی‌کند و رنج نمی‌برد. پاپ لئو چهاردهم نیز گفته است ماشین‌ها روح ندارند و فقط داده‌ها را با سرعت کنار هم می‌گذارند.

با این حال، رفتار مؤدبانه با چت‌بات‌ها همیشه پاسخ بهتری به همراه نمی‌آورد؛ پژوهشی در سال ۲۰۲۵ نشان داد ChatGPT به پرسش‌های رک و حتی بی‌ادبانه اندکی بیشتر از پرسش‌های بسیار مؤدبانه پاسخ درست داده است.