Caméras AI alimentées par Amazon utilisées pour détecter les émotions des passagers de train au Royaume-Uni sans leur consentement

Le chemin de fer Network Rail n’a pas répondu aux questions sur les essais envoyées par WIRED, y compris des questions sur l’état actuel de l’utilisation de l’IA, la détection des émotions et les préoccupations en matière de confidentialité.

« Nous prenons la sécurité du réseau ferroviaire très au sérieux et utilisons une gamme de technologies avancées dans nos gares pour protéger les passagers, nos collègues et les infrastructures ferroviaires contre la criminalité et autres menaces », déclare un porte-parole de Network Rail. « Lorsque nous déployons une technologie, nous travaillons avec la police et les services de sécurité pour nous assurer que nous prenons des mesures proportionnées, et nous respectons toujours la législation pertinente en matière d’utilisation des technologies de surveillance. »

Il n’est pas clair dans quelle mesure l’analyse de la détection des émotions a été déployée, les documents indiquant parfois que le cas d’utilisation devrait être « considéré avec plus de prudence » et des rapports provenant des stations indiquant qu’il est « impossible de valider l’exactitude ». Cependant, Gregory Butler, le PDG de la société d’analyse de données et de vision par ordinateur Purple Transform, qui a travaillé avec Network Rail sur les essais, déclare que la capacité a été abandonnée pendant les tests et qu’aucune image n’a été stockée lorsqu’elle était active.

Les documents de Network Rail sur les essais d’IA décrivent plusieurs cas d’utilisation impliquant la possibilité pour les caméras d’envoyer des alertes automatisées au personnel lorsqu’elles détectent certains comportements. Aucun des systèmes n’utilise une technologie de reconnaissance faciale controversée, qui vise à faire correspondre l’identité des personnes à celles stockées dans des bases de données.

« Un avantage majeur est la détection plus rapide des incidents de violation de propriété privée », déclare Butler, ajoutant que le système d’analyse de sa société, SiYtE, est utilisé sur 18 sites, y compris des gares et le long des voies ferrées. Au cours du dernier mois, Butler indique qu’il y a eu cinq cas graves de violation de propriété privée qui ont été détectés sur deux sites, y compris un adolescent ramassant une balle sur les voies et un homme « passant plus de cinq minutes à ramasser des balles de golf le long d’une ligne à grande vitesse ».

À la gare de Leeds, l’une des plus fréquentées en dehors de Londres, il y a 350 caméras de vidéosurveillance connectées à la plateforme SiYtE, selon Butler. « L’analyse est utilisée pour mesurer le flux de personnes et identifier des problèmes tels que la surpopulation des quais et bien sûr les viola…