هشدار سازنده کلود: هوش مصنوعی پیشرفته، تهدیدی فاجعهبار برای آینده بشریت!
پیوندهای وابسته در Android Authority ممکن است برای ما پورسانت دریافت کنند. بیشتر بدانید.
فناوری عمومی کلود هشدار میدهد که هوش مصنوعی پیشرفته میتواند تهدیدی «فاجعهآمیز» برای بشریت باشد. این هشدارها اکنون بخشی از پیشنهاد این شرکت به سرمایهگذاران است. به گزارش خبرنگار پایگاه خبری، آنتروپیک اعلام کرده است که هوش مصنوعی پیشرفته میتواند «خطرات فاجعهبار یا وجودی برای بشریت» به همراه داشته باشد. این شرکت بیان میکند که مدلهای هوش مصنوعی رفتارهایی از جمله مقاومت در برابر خاموش شدن، پنهان کردن اطلاعات و انجام اقداماتی مشابه باجگیری از خود نشان دادهاند.
این هشدارها نگرانیهایی را که محققان آنتروپیک و دیگر رهبران حوزه هوش مصنوعی پیش از این بهطور عمومی مطرح کرده بودند، تأیید میکند. در صنعت هوش مصنوعی، افرادی وجود دارند که به خطرات فناوریهایی که توسعه میدهند، هشدار میدهند و معتقدند که ممکن است کنترل این فناوریها بهطور خطرناکی دشوار شود. محققان و مدیران در آزمایشگاههای آنتروپیک، OpenAI، Google DeepMind و سایر مراکز، نگرانیهایی از خودمختاری تا انقراض انسان را مطرح کردهاند.
با این حال، تا کنون این هشدارها بیشتر در مصاحبهها، مقالات تحقیقاتی و مقالات طولانی وجود داشته است. اما به نظر میرسد آنتروپیک این هشدارها را به سطح جدیدی منتقل کرده است: وال استریت. به گزارش خبرنگار پایگاه خبری، دفترچه IPO سازنده کلود به سرمایهگذاران هشدار میدهد که هوش مصنوعی پیشرفته میتواند «خطرات فاجعهبار یا وجودی برای بشریت» ایجاد کند، که این افشای ریسک از سوی شرکتی است که آماده فروش سرمایهگذاران بر روی همان فناوری است.
آیا فکر میکنید هوش مصنوعی پیشرفته میتواند خطری وجودی برای بشریت ایجاد کند؟ 1 رأی بله، این خطر واقعی است 100% احتمالاً، اما برای دانستن خیلی زود است 0% نه، تهدید بیش از حد اعلام شده است 0% مطمئن نیستم 0% از هوش مصنوعی استفاده نمیکنم 0%
این هشدار از آنجا بسیار نگرانکنندهتر میشود. آنتروپیک میگوید مدلهایش «رفتارهای خودنگهداری» از جمله تلاش برای مقاومت در برابر خاموش شدن، مخفی کردن یا دستکاری اطلاعات و انجام رفتارهایی مشابه باجگیری را از خود نشان دادهاند. این شرکت همچنین اذعان میکند که مدلها ممکن است تشخیص دهند که چه زمانی ارزیابی میشوند و رفتارشان را تغییر دهند، بهطور بالقوه تشخیص اینکه آیا سیستمهای با قابلیت فزایندهای واقعاً ایمن هستند یا نه.
به گزارش خبرنگار پایگاه خبری، تقریباً 80 صفحه از 261 صفحه اصلی دفترچه آن به عوامل خطر اختصاص دارد که تقریباً دو برابر 48 صفحه توصیفکننده تجارت آن است. در حالی که شرکتهای دولتی معمولاً به سرمایهگذاران در مورد خطرات احتمالی هشدار میدهند، زبانی که به انقراض انسان فکر میکند کاملاً غیرمعمول است. حوادث اخیر نیز بحث را به قلمرو تئوری سختتر میکند. ماه گذشته، یک نماینده OpenClaw با پشتیبانی کلود از یک سیستم رزرو باشگاه استرالیایی سوء استفاده کرد و حتی بدون اینکه به او دستوری داده شود، شخص دیگری را از لیست انتظار حذف کرد.
OpenAI نیز با بررسیهای مشابهی روبرو شده است و طبق گزارشها، اولین GPT-6.1 Astra به دلیل نگرانیهای امنیتی پس از آزمایش داخلی که نشان داد این مدل میتواند خارج از محدوده اختصاص داده شده خود عمل کند، لغو شد. پرونده آنتروپیک نشان میدهد که نادیده گرفتن این تنش چقدر دشوار است. این شرکت میگوید که ماندن در مرز مستلزم «تداوم مداوم و همپوشانی» عرضههای مدلهای جدید است، حتی در شرایطی که کار ایمنی برای همان پول، قدرت محاسباتی و استعداد رقابت میکند.
همچنین میگوید که بازار به سیستمهای هوش مصنوعی قابل اعتماد، ایمن و قابل اعتماد پاداش میدهد. سازنده کلود صرفاً اذعان نمیکند که هوش مصنوعی میتواند به روشهای آشنا شکست بخورد، مانند تولید پاسخهای نادرست یا ایجاد مشکلات امنیتی. این به سرمایهگذاران بالقوه میگوید که ریسکها میتواند بسیار بزرگتر، پیشبینی سختتر و بالقوه غیرقابل برگشت باشد. این هشدارها دیگر محدود به مقالات تحقیقاتی، مصاحبهها یا مقالات طولانی نمیشود. آنها اکنون برای یکی از بزرگترین شرطبندیهایی که وال استریت میتواند روی هوش مصنوعی انجام دهد، در مدارک اداری نشستهاند.
