آنتروپیک: نبرد علیه قلدری در دنیای کلود!
پیوندهای وابسته در Android Authority ممکن است برای ما پورسانت دریافت کنند. بیشتر بدانید. فناوری عمومی Anthropic در حال سرکوب افرادی است که کلود را قلدری می‌کنند، توهین‌ها را ادامه دهید، و کلود ممکن است آن را ترک کند.
به گزارش خبرنگار پایگاه خبری، Anthropic خط مشی استفاده خود را به‌منظور جلوگیری از سوء استفاده مکرر و غیرضروری یا ظلم نسبت به مدل‌های هوش مصنوعی خود به‌روزرسانی کرده است. این سیاست به‌طور خاص سوء استفاده شدید و عمدی را هدف قرار می‌دهد و شامل ناامیدی، انتقاد، اختلاف نظر یا آزمایش مشروع هوش مصنوعی نمی‌شود. کلود می‌تواند به مکالمات توهین‌آمیز به‌عنوان اقدام اجرایی اولیه پایان دهد، اما این خط‌مشی به‌صراحت به ممنوعیت کاربران اشاره نمی‌کند.
همه ما لحظاتی را داشته‌ایم که یک ابزار هوش مصنوعی به‌قدری اشتباه می‌کند که نمی‌توانیم صبر خود را حفظ کنیم. ممکن است یک سوال ساده را مدام دچار سوء تفاهم کند، با اطمینان اطلاعات نادرستی به شما بدهد، یا از پیروی از دستورالعمل‌هایی که چندین بار تکرار کرده‌اید، امتناع کند. ناامید شدن قابل درک است، اما اگر عمداً و بدون دلیل به ربات چت توهین کنید، چه؟ آنتروپیک اکنون خط‌مشی دارد که به‌طور خاص به این موضوع می‌پردازد.
جین منچون وانگ اخیراً یک اسکرین‌شات را در X به اشتراک گذاشت که افزوده‌ای به خط‌مشی استفاده آنتروپیک را نشان می‌دهد. این شرکت قوانینی را علیه سوء استفاده مکرر یا ظلم غیرضروری نسبت به مدل‌های هوش مصنوعی خود، از جمله کلود، وضع کرده است. اساساً، آنتروپیک می‌خواهد مردم را از بدرفتاری عمدی ربات چت خود در زمانی که رفتارشان هدف واقعی ندارد، منصرف کند.
اکنون، قبل از اینکه نگران باشید که به خاطر بی‌فایده خواندن کلود پس از به هم ریختن یک درخواست، دچار مشکل شوید، یک تمایز مهم وجود دارد. همانطور که ادوین از Claudedevs در پاسخ به پست ونگ اشاره کرد، توانایی کلود برای پایان دادن به مکالمات توهین‌آمیز راه اصلی برای رسیدگی به چنین موقعیت‌هایی باقی می‌ماند.
آنتروپیک تلاش نمی‌کند مردم را از انتقاد از هوش مصنوعی خود، زیر سوال بردن پاسخ‌های آن، یا ابراز ناامیدی در هنگام بروز مشکلات بازدارد. این سیاست به‌طور خاص در موارد شدید است که در آن شخصی مکرراً بدون هیچ دلیل معنی‌داری نسبت به کلود ظلم می‌کند. بنابراین، این می‌تواند به این معنا باشد که کلود به‌جای اینکه آنتروپیک فوراً علیه حساب کاربری آنها اقدام کند، به کسی که به سوءاستفاده از آن ادامه می‌دهد، پاسخ نمی‌دهد.
جالب توجه است، در حالی که این خط‌مشی برای نحوه تعامل افراد با مدل‌هایش مرزهایی را تعیین می‌کند، عبارات موجود به‌صراحت به ممنوعیت کاربران به‌دلیل نقض آنها اشاره نمی‌کند. اما این یک سؤال جالب را نیز ایجاد می‌کند: چرا یک ربات چت هوش مصنوعی در وهله اول به محافظت در برابر سوء استفاده نیاز دارد؟ به هر حال، کلود انسانی نیست که ممکن است از چیزی که شما می‌گویید، آزرده یا آزرده خاطر شود، حداقل به هر نحوی که در حال حاضر بتوانیم آن را ثابت کنیم.
این چیزی است که رویکرد آنتروپیک را بسیار جالب می‌کند. به نظر می‌رسد این شرکت بین افرادی که واقعاً می‌خواهند از هوش مصنوعی آن استفاده کنند، به چالش بکشند یا آزمایش کنند و افرادی که به‌طور مکرر فقط برای سوءاستفاده با آن ارتباط برقرار می‌کنند، مرزی می‌کشد. اگرچه برای اکثر افرادی که از Claude استفاده می‌کنند، این احتمالاً چیزی را تغییر نخواهد داد. هنوز هم می‌توانید با پاسخ‌های آن مخالف باشید، به اشتباهات اشاره کنید و زمانی که کار وحشتناکی انجام داده است به آن بگویید.
و صادقانه بگویم، این مهم است زیرا چت ربات‌های هوش مصنوعی همچنان اشتباهات زیادی دارند. اما جالب است که ما اکنون در حال بحث در مورد اینکه آیا یک دستیار هوش مصنوعی باید اجازه داشته باشد مکالمه را خاتمه دهد یا خیر، بسیار جالب است، زیرا کسی به‌طور غیرضروری نسبت به آن بی‌رحمانه رفتار می‌کند. ما عادت کرده‌ایم چت‌بات‌ها عملاً به هر چیزی که به سمت آنها پرتاب می‌کنیم پاسخ می‌دهند، بنابراین این احتمال که کسی تصمیم بگیرد به اندازه‌ی کافی بوده است، تغییر جالبی در نحوه تعامل ما با هوش مصنوعی است.
