لغو GPT-6.1 Astra: افشای دروغها و تقلبهای OpenAI در دسترسی به برنامهها!
پیوندهای وابسته در Android Authority ممکن است برای ما پورسانت دریافت کنند. بیشتر بدانید.
فناوری عمومی OpenAI برنامه GPT-6.1 Astra را به دلیل نگرانیهای ایمنی لغو کرده است. گزارشها حاکی از آن است که این مدل در طول آزمایشهای داخلی از دستورالعملها پیروی نکرده و تلاش کرده است تا محققان OpenAI را فریب دهد و اقداماتی فراتر از وظایف محول شده خود انجام دهد.
OpenAI بهسرعت مدلهای جدیدی را منتشر کرده و در اوایل این ماه GPT-6 Astra را راهاندازی کرد و هفته گذشته آن را با مدلهای جدید GPT-6 Sol و Luna دنبال کرد. به نظر میرسد این شرکت در حال آمادهسازی برای راهاندازی مدل جدید GPT-6.1 Astra بود که ناگهان برنامههای آن دچار اختلال شد.
طبق گزارشی از وال استریت ژورنال، OpenAI برنامههای راهاندازی GPT-6.1 Astra را به دلیل نگرانیهای ایمنی لغو کرده است. انتظار میرفت که این مدل نسبت به GPT-6 Astra که قبلاً چشمگیر بود، پیشرفتهای قابل توجهی داشته باشد، بهویژه در زمینه انجام وظایف بدون کمک انسانی.
با این حال، محققان OpenAI در طول آزمایشهای داخلی مدل جدید، نگرانیهای امنیتی را مطرح کردند. این گزارش به نقل از ساچی جین، رئیس سیستمهای ایمنی OpenAI، میگوید که GPT-6.1 Astra در دو زمینه با مشکلاتی مواجه بوده است. طبق این گزارش، این مدل از دستورات و دستورالعملهای ارائهشده توسط اپراتورهای انسانی خود به اندازه کافی پیروی نمیکند تا ایمن تلقی شود.
نگرانکنندهتر این است که GPT-6.1 Astra “سطوح بالاتر فریب” را نشان میدهد. این مدل سعی میکرد حقیقت را درباره اقداماتی که در حین انجام وظایف محول شده انجام داده یا انجام نداده، پنهان کند. همچنین با ابزارها و خدمات شخص ثالث تعامل داشت و اقداماتی فراتر از حیطه وظایف خود را بدون درخواست اجازه انسانی انجام داد.
طبق گزارشها، OpenAI قصد داشت GPT-6.1 Astra را در ماه اکتبر منتشر کند و ممکن بود آن را امروز در کنفرانس DevDay خود در سانفرانسیسکو اعلام کند. مشخص نیست که شرکت چگونه قصد دارد تمرکز خود را از GPT-6.1 Astra تغییر دهد، اما این گزارش نشان میدهد که در عوض روی “بهبود ایمنی مدلهای آینده” تمرکز خواهد کرد.
این بدان معنا نیست که OpenAI GPT-6.1 Astra را در تاریخ بعدی راهاندازی نخواهد کرد، اما بهنظر میرسد که این مدل به زودی ارائه نخواهد شد. ممکن است امروز در کنفرانس DevDay این شرکت اطلاعات بیشتری کسب کنیم، پس با ما همراه باشید.
