Le personnel de l'organisme de transport a effectué des « simulations approfondies » à la gare de Willesden Green pendant l'essai pour recueillir davantage de données de formation, selon les documents. Il s'agissait notamment de membres du personnel tombant au sol, et certains de ces tests ont eu lieu lorsque la station était fermée. « Vous verrez l'officier du BTP (British Transport Police) tenant une machette et une arme de poing à différents endroits du commissariat », indique une légende des documents, bien que les images soient expurgées. Au cours du procès, selon les dossiers, il n'y a eu aucune alerte concernant des incidents liés aux armes à feu à la station.
La plupart des alertes ont été émises pour des personnes qui évitaient potentiellement de payer leur voyage en sautant par-dessus ou en rampant sous des barrières fermées, en ouvrant les barrières, en franchissant les barrières ouvertes ou en talonnant quelqu'un qui avait payé. L'évasion tarifaire coûte jusqu'à 130 millions de livres sterling par an, TfL ditet il y a eu 26 000 alertes pour fraude tarifaire au cours du procès.
Durant tous les tests, les images des visages des personnes étaient floues et les données étaient conservées pendant 14 jours maximum. Cependant, six mois après le début du procès, le TfL a décidé de supprimer le flou des images des visages lorsque les gens étaient soupçonnés de ne pas payer, et a conservé ces données plus longtemps. Il était initialement prévu, selon les documents, que le personnel réponde aux alertes d'esquive tarifaire. « Cependant, en raison du grand nombre d'alertes quotidiennes (plus de 300 certains jours) et de la grande précision des détections, nous avons configuré le système pour qu'il reconnaisse automatiquement les alertes », indiquent les documents.
Birtwistle, de l'Institut Ada Lovelace, affirme que les gens s'attendent à « une surveillance et une gouvernance robustes » lorsque de telles technologies sont mises en place. « Si ces technologies doivent être utilisées, elles ne devraient l’être qu’avec la confiance, le consentement et le soutien du public », déclare Birtwistle.
Une grande partie du procès visait à aider le personnel à comprendre ce qui se passait à la gare et à réagir aux incidents. Les 59 alertes de fauteuils roulants ont permis au personnel de la gare de Willesden Green, qui ne dispose pas d'installations d'accès pour les fauteuils roulants, de « fournir les soins et l'assistance nécessaires », indiquent les dossiers. Parallèlement, près de 2 200 alertes ont été enregistrées pour des personnes dépassant les lignes de sécurité jaunes, 39 pour des personnes se penchant sur le bord de la piste et près de 2 000 alertes pour des personnes assises sur un banc pendant de longues périodes.
« Tout au long de la PoC, nous avons constaté une augmentation considérable du nombre d'annonces publiques faites par le personnel, rappelant aux clients de s'éloigner de la ligne jaune », indiquent les documents. Ils affirment également que le système a généré des alertes pour « les sans-abri et les mendiants » aux entrées de la gare et affirment que cela a permis au personnel de « surveiller la situation à distance et de fournir les soins et l'assistance nécessaires ». TfL déclare que le système a été testé pour tenter de l'aider à améliorer la qualité du personnel dans ses gares et à le rendre plus sûr pour les passagers.
Les fichiers ne contiennent aucune analyse de la précision du système de détection de l’IA ; cependant, à différents moments, la détection a dû être ajustée. « La détection d'objets et la détection de comportements sont généralement assez fragiles et ne sont pas infaillibles », explique Leufer, d'Access Nows. Dans un cas, le système a créé des alertes indiquant que des personnes se trouvaient dans une zone non autorisée alors qu'en réalité les conducteurs du train quittaient le train. La lumière du soleil qui éclaire les caméras les rend également moins efficaces, selon les documents.
