تست سیستم هوش مصنوعی برای تشخیص جرم در متروی لندن

تست سیستم هوش مصنوعی برای تشخیص جرم در متروی لندن

با توجه به اسناد جدید ارائه شده توسط مجله WIRED، مشخص شده که در متروی لندن از سیستم هوش مصنوعی برای نظارت بر رفتار و حرکات افراد استفاده می‌شود. این سیستم قادر است حرکات، رفتارها و زبان بدن افراد را بررسی کند. با استفاده از این سیستم، می‌توان تشخیص داد که آیا افراد در موقعیت‌های ناامن قرار دارند یا آیا ممکن است در جرم یا تخلفی دست داشته باشند.

WIRED در گزارش خود اظهار کرده که از اکتبر 2022 تا پایان سپتامبر 2023، شرکت حمل و نقل لندن (TFL)، که مدیریت شبکه حمل و نقل در لندن و حومه شهر را بر عهده دارد، 11 الگوریتم را در ایستگاه متروی «ویلسدن گرین» آزمایش کرده است. این ایستگاه که پیش از شیوع کرونا روزانه به 25 هزار نفر خدمات ارائه می‌داد، برای آزمایش انتخاب شد.

تست سیستم هوش مصنوعی برای تشخیص جرم در متروی لندن

در این آزمایش، دانشمندان برای اولین بار از یک سیستم هوش مصنوعی همراه با ویدیو دوربین‌های مداربسته استفاده کرده‌اند تا بتوانند به کارکنان مترو هشدارهایی را ارسال کنند. طبق ادعاهای آن‌ها، این سیستم بیش از ۴۴ هزار هشدار صادر کرده است، که ۱۹ هزار مورد از آن‌ها به کارکنان ایستگاه ارسال شده است.

در اسنادی که به دست آمده، اشاره شده که سیستم نظارت مبتنی بر هوش مصنوعی متروی لندن می‌تواند مواردی از جمله ویلچر، کالسکه، بخار، حضور افراد در مناطق غیرمجاز یا قرارگیری آن‌ها در لبه سکو را تشخیص دهد. همچنین، در طول آزمایش، هوش مصنوعی اشتباهاتی نیز داشته است. به‌عنوان مثال، برخی کودکان که با والدین خود از گیت وارد می‌شوند، به‌عنوان افرادی تشخیص داده شده‌اند که هزینه سفر خود را پرداخت نکرده‌اند.

کارشناسان حوزه حریم خصوصی همانند همیشه نگرانی‌های خود را درباره این فناوری بیان کرده‌اند. آن‌ها معتقدند که استفاده از چنین سیستم‌های نظارتی می‌تواند در آینده پیشرفت کند و به تولید سیستم‌ها یا نرم‌افزارهای تشخیص چهره پیچیده‌تری کمک کند که افراد خاص را شناسایی کنند.

رئیس سیاست و ایمنی جامعه TFL، مندی مک‌گرگور، اظهار داشته که نتایج این کارآزمایی هنوز در حال تجزیه و تحلیل است و هیچ دلیلی برای نشان دادن سوگیری در داده‌های جمع‌آوری شده وجود ندارد. او افزوده که هیچ نشانه‌ای در ایستگاه‌ها نیز وجود ندارد که استفاده از سیستم نظارت هوش مصنوعی را به اطلاع عموم برساند.