فرانسه قصد دارد برای برقراری امنیت در المپیک 2024 از هوش مصنوعی استفاده کند.
فرانسه هفته جاری، فناوری نظارتی تصویری مبتنی بر هوش مصنوعی را در کنسرت گروه Depeche Mode با موفقیت آزمایش کرد. این فناوری قرار است در طول برگزاری بازی های المپیک 2024 به حفظ امنیت کمک کند. طبق قانون جدید فرانسه که در سال 2023 به تصویب رسید، دولت می تواند از سیستم نظارتی تصویری مبتنی بر هوش مصنوعی با هدف شناسایی رفتارهای خطرناک در طول بازی های المپیک به صورت آزمایشی استفاده کند. مقامات کاخ الیزه معتقدند که این فناوری قادر است عملیات انتحاری مانند اتفاقی که در سال 1996 آتلانتا رخ داد را به راحتی خنثی کند. 27 جولای 1996 در پارک المپیک سنتنیال ایالات متحده حین برگزاری مسابقات المپیک تابستانی براثر انفجار بمب حدود 11 نفر زخمی و یک نفر کشته شد. سال 2016 هم یک کامیون 19 تنی به سمت مردم شرکت کننده در جشنواره باسیل رفت و باعث کشته شدن 86 نفر و زخمی شدن 400 نفر شد.
طرفداران حقوق بشر معتقدند استفاده از این فناوری برخلاف آزادی های مدنی است. اما سئوال اینجاست: سیستم نظارتی مبتنی بر هوش مصنوعی چگونه کار می کند؟ سیستم نظارتی تصویری از نرم افزارهای کامپیوتری برای تجزیه و تحلیل تصاویر دوربین های نظارتی به صورت آنلاین استفاده می کند. این نرم افزار مبتنی بر هوش مصنوعی توسط چهار شرکت Videtics، Orange Business، ChapsVision و Winticsتوسعه داده شده است. این نرم افزار جدید از الگوریتم های یادگیری عمیق برای تجزیه وتحلیل تصاویر ویدئویی دوربین های امنیتی موجود در فضاهای عمومی استفاده می کند.
این الگوریتم ها از یک الگوی استاندارد برای تشخیص رفتارهای غیرعادی استفاده می کنند که به آنها آموزش داده می شود. با تجزیه و تحلیل این رویدادها آنها تصمیم گیری می کنند که این رفتار انسانی خطرناک است یا خیر! اما سئوال اینجاست: الگوریتم ها باید به دنبال چه چیزی در رفتار انسان ها باشند؟ خب این مطلب به قانون بر می گردد. طبق قانون " هشت" خط قرمز برای رفتارهای انسانی وجود دارد: افزایش ناگهانی جمعیت، هجوم غیرعادی جمعیت، پرتاب اشیاء، وجود یا استفاده از سلاح های گرم و سرد، افتادن شخصی روی زمین، وقوع آتش سوزی و زیر پاگذاشتن قوانین راهنمایی و رانندگی. سیستم های نظارتی با تشخیص یکی از این موارد اعلام هشدار صادر می کنند.
البته برای دسته بندی های بالا یک حد استانداردی تعیین شده است مانند تعداد افراد، ، نوع وسیله نقلیه، زمان‌بندی و غیره. همگی این موارد به صورت دستی قابل تنظیم هستند تا پاسخگوی رویدادها، مکان ها یا تهدیدهای مختلف باشند. سئوال بعدی: چه کسی مسئولیت کنترل این سیستم های نظارتی مبتنی بر هوش مصنوعی را دارد؟ پلیس امنیت و محلی، آتش نشانان، مسئولان امنیتی اداره عمل و نقل های عمومی می توانند به این سیستم های امنیتی دسترسی داشته باشند. نرم افزاری که توسط شرکت Wintics ارائه شد و در کنسرت Depeche Mode مورد آزمایش قرار گرفت در مناطق مختلف شهر پاریس و مراکز حمل و نقل های عمومی مستقر خواهد شد.
لوران نونز، رئیس پلیس شهر پاریس نتایج علمکرد این سیستم ها را موفقیت آمیز دانست و گفت:"همه چیز طبق برنامه ریزی خوب پیش رفت." آیا در این سیستم های هوشمند از فناوری از تشخیص چهره استفاده خواهد شد؟ قانون جدید فرانسه این اجازه را نمی دهد. مسئولان امنیتی در بیشتر موارد مجوز انجام این کار را ندارند. مقامات دولت فرانسه اعلام کردند این خط قرمزی است که قانون مشخص کرد و هیچ کسی نمی تواند از آن عبور کند. با این حال فعالان حقوق بشر نگران نحوه اجرای آن هستند. Roux عضو سازمان عفو بین‌الملل فرانسه گفت: «نرم‌افزاری که نظارت تصویری مبتنی بر هوش مصنوعی را انجام می دهد، می‌تواند به راحتی تشخیص چهره را فعال کند. این کار به تنظیمات نرم افزاری بر می گردد.»
به گفته سازمان عفو بین‌الملل، چارچوب قانونی تنظیم‌کننده تشخیص چهره خیلی مشخص نیست و تنظیمات فنی و قانونی آن کافی به نظر نمی رسد. ماتیاس هولیه، یکی از بنیانگذاران Wintics در این مورد گفت:" الگوریتم های نرم افزار ما برای تشخیص چهره آموزش داده نشده اند. هیچ تنظیمات خاصی در الگوریتم‌های ما وجود ندارد. بنابراین، از نظر فنی انجام چنین کاری غیر ممکن است.»
چگونه از حریم خصوصی افراد محافظت می شود؟ وزارت کشور فرانسه یک کمیته ارزیابی راه اندازی کرد تا آزادی های مدنی را در طول یک دوره آزمایشی مشخص کنند. این کمیته که توسط یک مقام عالی رتبه دیوان عدالت اداری فرانسه رهبری می‌شود چندین عضو دارد که عبارتند از: رئیس سازمان دیده‌بان حریم خصوصی کشور، CNIL، چهار قانونگذار و یک شهردار