متن‌های تولیدی شما با ChatGPT به زودی دارای نشانه‌گذاری مخفی خواهند بود!
متن تولید شده توسط ChatGPT به زودی دارای یک واترمارک نامرئی خواهد بود که از اروپا آغاز می‌شود. به گزارش خبرنگار پایگاه خبری، ابزار تشخیص OpenAI قادر به شناسایی این واترمارک است، اما ویرایش و متن‌های کوتاه‌تر می‌توانند شناسایی آن را دشوارتر کنند. اگر از ChatGPT برای نوشتن استفاده می‌کنید، متن تولید شده توسط هوش مصنوعی شما ممکن است به زودی قابل شناسایی باشد.
برای سال‌ها، ابزارهای هوش مصنوعی تولید هر چیزی از تصاویر و صداها تا متون شبیه به انسان را آسان کرده‌اند. در حالی که تصاویر، ویدیوها و صداهای تولید شده توسط هوش مصنوعی معمولاً با استفاده از ابزارهای تشخیص خاص قابل شناسایی هستند، متن‌های نوشته شده توسط هوش مصنوعی به طور کلی از این سطح نظارت دور مانده‌اند. ChatGPT به ویژه به یکی از پرکاربردترین ابزارها برای تولید متنی تبدیل شده است که می‌تواند به طور نزدیک به نوشتار انسانی شبیه باشد.
اکنون، OpenAI اعلام کرده است که قصد دارد با معرفی واترمارک‌ها برای متون تولید شده توسط ChatGPT و Codex، این وضعیت را تغییر دهد. این شرکت می‌گوید برنامه واترمارک‌گذاری متن خود را ابتدا در اروپا به دلیل قانون هوش مصنوعی اتحادیه اروپا که از ارائه‌دهندگان هوش مصنوعی می‌خواهد متون تولید شده را به‌صورت قابل شناسایی در ماشین ارائه دهند، آغاز خواهد کرد. در چند هفته آینده، OpenAI واترمارک نامرئی را به خروجی متون واجد شرایط ChatGPT و Codex در اتحادیه اروپا اضافه خواهد کرد و مشتریان API در سطح جهانی نیز قادر خواهند بود برای واترمارک‌گذاری متن در مدل‌های خاص ثبت‌نام کنند.
OpenAI همچنین درخواست‌هایی برای ابزار تشخیص واترمارک متن خود می‌پذیرد که دسترسی اولیه به آن محدود به محققان و سازمان‌های معتبر برای کمک به آزمایش این فناوری خواهد بود.
OpenAI توضیح می‌دهد که فناوری واترمارک‌گذاری آن، “textGrain”، یک سیگنال آماری به انتخاب‌های کلمات مدل اضافه می‌کند. سپس، ابزار تشخیص به دنبال آن سیگنال می‌گردد تا تأیید کند که آیا متن با استفاده از ChatGPT یا Codex تولید شده است یا خیر. در حالی که این شرکت می‌گوید textGrain عملکردی برابر یا حتی بهتر از تمام رویکردهایی که آزمایش کرده، دارد، اما همیشه به طور مطلوب عمل نمی‌کند.
OpenAI در وبلاگ خود اشاره کرده است که “ابزارهای تشخیص می‌توانند دو نوع خطا داشته باشند: آنها می‌توانند یک واترمارک را در جایی که وجود ندارد گزارش دهند — مثبت کاذب — یا یک واترمارک موجود را از دست بدهند — منفی کاذب.” این شرکت همچنین اعلام کرده است که متن‌های کوتاه‌تر شناسایی‌شان دشوارتر است و ویرایش می‌تواند واترمارک را تضعیف کند.
علاوه بر این، سیستم تشخیص واترمارک نمی‌تواند تعیین کند که یک انسان چقدر در تولید متن نقش داشته، مالک آن کیست، چه کسی آن را ایجاد کرده یا آیا اطلاعات موجود در آن دقیق است یا خیر.
در حال حاضر، OpenAI واترمارک‌گذاری متن را برای تمام کاربران در تمام طرح‌ها در اروپا معرفی خواهد کرد. این سیستم هنوز به سطح جهانی گسترش نخواهد یافت. این شرکت می‌گوید رویکرد منطقه‌ای به آن این امکان را می‌دهد که از بازخوردهای دنیای واقعی یاد بگیرد.
