دانشمندان دانشگاه کالیفرنیا UCSD تکنیکی را ایجاد کردند که سیستم های تشخیص فیلم‌های جعلی (دیپ فیک) را سخت‌تر کند.
همزمان با تکامل فناوری deepfake ، تشخیص اینکه چه زمان یک ویدیو دستکاری شده دشوارتر می شود. خوشبختانه ، گروه های مختلفی شبکه های عصبی پیچیده ای برای شناسایی چهره های جعلی ایجاد کرده اند. با این حال ، دانشمندان کامپیوتر هفته گذشته فاش کردند که راهی برای فریب حتی قوی ترین مدل های تشخیص در مورد واقعی بودن ویدئو پیدا کرده اند
محققان دانشگاه کالیفرنیا ، سن دیگو ، تکنیکی را ایجاد کرده اند که می تواند الگوریتم های آموزش دیده برای کشف فیلم های جعلی عمیق (دیپ فیک)را فریب دهد. با استفاده از یک روش دو مرحله ای، می‌توان جعلی بودن ویدئوی دیپ فیک قابل تشخیص را با اضافه کردن لایه‌‌هایی خاص به هر فریم، کاملا پنهان کرد.
لایه های اضافه شده به سادگی تصاویری دستکاری شده هستند که باعث بی نظمی سیستم یادگیری ماشین می شوند و باعث می شوند تصویری را به اشتباه تشخیص دهد. یک نمونه از این موارد که در گذشته مشاهده کرده ایم ، برچسب های خصمانه یا حتی نوار برقی است که برای فریب وسایل نقلیه خودران در خواندن اشتباه علائم راهنمایی و رانندگی استفاده می شود این ویژگی از آن جهت مهم است که ویدئوهای دیپ فیک قرار است انسان‌ها و دستگاه‌ها را فریب بدهند و اگر با چشم انسان جعلی بودن آن‌ها قابل تشخیص باشد، دیگر نیازی به استفاده از سیستم خاص برای بررسی کردن این مسئله نیست.
محققان دو نوع حمله را نشان دادند - "جعبه سفید" و "جعبه سیاه". با استفاده جعبه سفید، بازیگر بد همه چیز را در مورد مدل تشخیص هدفمند می داند. حملات Black Box زمانی است که مهاجم از معماری طبقه بندی استفاده شده بی اطلاع باشد. هر دو روش نسبت به رمزگذارهای فشرده سازی فیلم و تصویر قوی هستند و حتی می توانند پیشرفته ترین سیستم های تشخیص را گول بزنند.
Deepfakes از چند سال پیش که در اینترنت ظاهر شد ، بحث و جدال زیادی ایجاد کرده است. ابتدا بسیاری از سلبریتی‌ها به دلیل شباهت بسیار بالای مدل‌های تقلبی در ویدئوهای دیپ فیک به آنان خشمگین شدند.. با این حال ، با پیشرفت فن آوری ، مشخص شد که بازیگران بد یا ملتهای سرکش می توانند از آن برای تبلیغات یا اهداف پلیدتر استفاده کنند.
دانشگاه ها اولین کسانی بودند که الگوریتم هایی را برای شناسایی تقلب های عمیق ایجاد کردند و به دنبال آن وزارت دفاع ایالات متحده به سرعت ان را دنبال کرد. چندین غول فناوری از جمله توییتر ، فیس بوک و مایکروسافت نیز در حال توسعه روش هایی برای شناسایی جعل عمیق در سیستم عامل خود هستند. محققان می گویند بهترین روش برای مبارزه با این تکنیک انجام آموزش سیستم‌های هوش مصنوعی که برای اینکار طراحی شده‌اند.
به نظر شما زمانی میرسد که بتوان ویدیوهای جعلی را تشخیص داد؟ نظرات خود را با HiFanTech به اشتراک بگذارید.