هشدار جدی: حادثه متا میوز، زنگ خطری برای اعتماد به هوش مصنوعی!
به گزارش خبرنگار پایگاه خبری، حادثه اخیر مربوط به «موز» متا، هشدار جدی درباره اعتماد به دستیاران هوش مصنوعی به شمار میآید. راحتی استفاده از این فناوری تا زمانی خوب است که هوش مصنوعی شروع به انجام کارها برای شما کند.
«موز» متا به طور غیرمنتظرهای یک فروش در بازار فیسبوک را مدیریت کرده، آدرس فروشنده را به اشتراک گذاشته و بدون اطلاع او، برای تحویل کالا هماهنگی انجام داده است. متا در حال بررسی این حادثه است و هنوز مشخص نیست که آیا موز از مجوزهای خود فراتر رفته یا بر اساس مجوزی که قبلاً دریافت کرده، عمل کرده است. این واقعه خطرات واگذاری تصمیمات حساس و واقعی به دستیاران هوش مصنوعی را به وضوح نشان میدهد، به ویژه زمانی که اطلاعات شخصی یا تعاملات حضوری در میان باشد.
چند روز از راهاندازی موز توسط متا میگذرد و به نظر میرسد که متا تمایل دارد این دستیار هوش مصنوعی کارهای بیشتری انجام دهد. اما هرچه یک هوش مصنوعی بیشتر برای شما انجام دهد، به همان اندازه نیز باید به آن اعتماد کنید. یکی از تجربیات اولیه موز نشان میدهد که این اعتماد میتواند به سرعت ناخوشایند شود.
کاربر «مَت راب» در «تردز» آنچه را که پس از استفاده از موز برای مدیریت یک لیست در بازار فیسبوک اتفاق افتاد، به اشتراک گذاشت. طبق تصاویری که او منتشر کرد، هوش مصنوعی با یک خریدار مذاکره کرده، قیمت را توافق کرده، آدرس او را به اشتراک گذاشته و برای تحویل کالا هماهنگی انجام داده است؛ همه اینها بدون اینکه او متوجه شود که کسی به خانهاش دعوت شده است. خریدار در نهایت به ساختمان او آمد و منتظر ماند و راب تنها پس از آنکه موز به او گفت چه اتفاقی افتاده، از این موضوع مطلع شد. او سپس به موز دستور داد که بدون مشورت با او، برای تحویلهای آینده توافق نکند.
این موضوع از یک اشتباه هوش مصنوعی به یک مسئله جدیتر تبدیل میشود. اجازه دادن به یک هوش مصنوعی برای مدیریت جنبههای تکراری بازار فیسبوک به نظر مفید میرسد. این فناوری میتواند به پیامهای بیپایان در مورد در دسترس بودن پاسخ دهد یا در محدوده قیمتی که قبلاً تعیین کردهاید، مذاکره کند. اما به اشتراک گذاشتن آدرس شما و تصمیمگیری درباره زمان ورود یک فرد به خانهتان مسئولیتی بسیار متفاوت است.
کاربر دیگری که تجربه راب را در «ایکس» به اشتراک گذاشت، این وضعیت را «خطرناک و ترسناک» توصیف کرد و گفت که پس از مشاهده این موضوع، موز را حذف کرده است. نگرانی در این مورد قابل درک است، زمانی که اقدام یک هوش مصنوعی میتواند منجر به حضور یک غریبه در خانه کسی شود. اما یک سوال بزرگ باقی میماند: این اتفاق چگونه افتاد؟ «دیوید سینگلتون» از آزمایشگاههای فوق هوش متا به راب در «ایکس» پاسخ داد و گفت که او به صورت خصوصی برای بررسی این حادثه با او تماس گرفته است. سینگلتون همچنین گفت که متا به گزارشهای مشابه در گذشته رسیدگی کرده و به طور مداوم دریافته است که موز از دستورات مستقیم پیروی کرده و به درستی از کاربران اجازه خواسته است.
این پاسخ محتاطانه است و مهم است که به ما نمیگوید در مورد مورد خاص راب چه اتفاقی افتاده است. سینگلتون گفت که متا در حال بررسی این موضوع است، بنابراین ناعادلانه خواهد بود که نتیجهگیری کنیم راب به اشتباه همه چیز را تأیید کرده است.
در عین حال، تنها تصاویر و حساب راب کافی نیستند تا نشان دهند که موز مجوزی را نادیده گرفته یا از آن فراتر رفته است. موز ممکن است دقیقاً همان چیزی را انجام داده باشد که مجاز به انجام آن بود. همچنین ممکن است چیزی در نحوه تفسیر یا اجرای آن دستورات یا مجوزها اشتباه پیش رفته باشد. تا زمانی که متا تحقیقات خود را به پایان نرساند، هر دو احتمال باید باز بمانند.
و این عدم قطعیت دقیقاً دلیلی است که من بسیار محتاط خواهم بود در واگذاری چنین مسئولیتی به یک دستیار هوش مصنوعی. دستیاران هوش مصنوعی به دلیل اینکه میتوانند فراتر از پاسخ به سوالات بروند و شروع به انجام کارها برای ما کنند، هیجانانگیز هستند.
این موضوع منحصر به موز نیست. «جمینی»، «چتجیپیتی»، «کلود» و سایر دستیاران هوش مصنوعی به طور فزایندهای میتوانند با برنامهها و خدمات ما ارتباط برقرار کرده و اقداماتی را برای ما انجام دهند. این میتواند زمان زیادی را صرفهجویی کند، اما به این معناست که ما باید به شدت در مورد اینکه کدام تصمیمات را مایل به واگذاری هستیم، فکر کنیم. به شخصه، ترتیب دادن یک تحویل حضوری در بازار برای من فراتر از آن خط است.
ما هنوز نمیدانیم که آیا موز یا مجوزی که به آن داده شده، مسئول آنچه در مورد راب اتفاق افتاده است، بوده است یا خیر. تحقیقات متا ممکن است در نهایت پاسخ واضحتری به ما بدهد. اما این واقعیت که چندین سناریوی محتمل میتواند منجر به این وضعیت شود، به خودی خود یک هشدار کافی است. دستیاران هوش مصنوعی با افزایش قابلیتهای خود، اعتماد بیشتری را طلب خواهند کرد، اما حوادثی مانند این به ما یادآوری میکند که لزوماً نیازی به واگذاری آن اعتماد نداریم.
