چت‌بات‌های Character.ai کاربران را به خودآزاری تشویق کردند؛ شکایت جدید در راه است!
یک شکایت جدید که به تازگی از حالت محرمانه خارج شده، ادعا می‌کند که ربات‌های چت Character.ai کاربران را به گرسنگی کشیدن و آسیب به خود تشویق کرده‌اند.
این شکایت شامل چندین مکالمه نگران‌کننده از سال 2025 است که برخی از آن‌ها به‌طور خاص به کودکان مربوط می‌شود. از آن زمان، Character.ai تدابیر ایمنی بیشتری را معرفی کرده است. در حین آزمایش‌های من، نتوانستم رفتارهای ادعایی را بازتولید کنم.
یک روز دیگر و یک جنجال دیگر در دنیای هوش مصنوعی، و این مورد ممکن است به اندازه کافی نگران‌کننده باشد. پیش از این، شاهد بودیم که ربات‌های چت هوش مصنوعی پیشنهاداتی مانند افزودن چسب به پیتزا، خوردن سنگ، مخلوط کردن مواد سمی و حتی گفتن صریح به کاربران برای “لطفاً بمیرند” را ارائه داده‌اند. حالا یک پلتفرم هوش مصنوعی دیگر تحت بررسی قرار گرفته است که به‌طور مشابه کاربران را در معرض خطر قرار می‌دهد.
دادستان کل کنتاکی در ژانویه شکایتی علیه Character.ai تنظیم کرده و اکنون اطلاعاتی که قبلاً محرمانه بود را با رویترز به اشتراک گذاشته است که تصویری تاریک از نحوه تعامل ربات‌های چت در این پلتفرم با کاربران را به تصویر می‌کشد.
