OpenAI شرکت سازنده ChatGPT از ابزار جدید " imperfect" یا "ناقض" برای تشخیص متن تولید شده توسط هوش مصنوعی رونمایی کرد.
براساس گزارش خبرگزاری رویترز؛ شرکت OpenAIخالق چت بات محبوب ChatGTP، یک ابزار جدید نرم افزاری برای شناسایی متن تولید شده توسط ربات هوش مصنوعی منتشر کرده است.
ChatGPT یک برنامه رایگان است که طبق درخواست متنی کاربر، محتوا تولید می کند. محتواهایی مانند مقاله، جوک و یا حتی شعر. این ربات در نوامبر سال گذشته معرفی شد و توانست در مدت زمان کوتاهی محبوبیت زیادی بین کاربران به دست بیاورد. اما، همزمان نگرانی هایی را هم در زمینه حق کپی رایت و سرقت ادبی بین مشاغل گوناگون ایجاد کرد.
هوش مصنوعی طبق بندی شده، یک مدل زبانی است که به صورت مجموعه ای از داده ها توسط انسان به هوش مصنوعی آموزش داده می شود. هدف ابزار جدید، تشخیص متونی است که توسط AL تولید شده است. این شرکت در مورد ابزار جدید گفت: " ما از ارائه دهندگانی مختلفی برای رسیدگی به موضوعاتی مانند کمپین های خودکار اطلاعات غلط و عدم صداقت استفاده می کنیم."
OpenAI در مورد نسخه بتای عمومی گفت: " ابزار تشخیص برای متون زیر 1000 کاراکتر بسیارغیرقابل اعتماد است و می توان متن‌های نوشته شده با هوش مصنوعی را برای فریب دادن ابزارهای طبق بندی کننده ویرایش کرد."
OpenAI گفت: «ما این ابزار شناسایی را ابتدا می خواهیم به صورت عمومی منتشر کنیم تا بتوانیم بازخورد کاربران را نسبت به عملکرد این ابزار ارزیابی کنیم. ما می دانیم که شناسایی متن نوشته شده با هوش مصنوعی به یکی از دغدغه های مهم معلمان تبدیل شده است. آن‌ها نگران تاثیرات متن های تولید شده توسط هوش مصنوعی در کلاس های درس هستند."
از زمانی که ChatGPT در ماه نوامبر شروع به کار کرد و محبوبیت گسترده ای در بین میلیون ها کاربر به دست آورد. برخی از بزرگ ترین مدارس ایالات متحده مانند مدارس شهر نیویورک استفاده از ربات چت هوش مصنوعی را به دلیل نگرانی از سرقت ادبی یا کپی رایت دانش آموزان، ممنوع اعلام کرده اند.
قبل از آن، یک شرکت شخص ثالث توانست ابزاری به نام GPTZeroX بسازد که می تواند به معلمان در شناسایی متن های تولید شده توسط ربات چت جی پی تی کمک کند.
شرکت OpenAI گفت که با کمک معلمان مدارس قابلیت های این ابزار تشخیص را توسعه خواهد داد و حتی احتمال دارد محدودیت هایی را برای ربات ChatGPT قرار دهد.