La Federal Trade Commission (FTC) a finalisé mercredi une ordonnance interdisant à General Motors (GM) et à son service télématique OnStar de partager des données spécifiques sur les consommateurs avec des agences d'évaluation du crédit à la consommation. L'ordonnance finalisée, un an après la proposition de règlement avec GM, exige une plus grande transparence de la part du constructeur automobile et requiert le consentement explicite du consommateur pour toute collecte de données.

L'action de la FTC fait suite à un reportage du New York Times, il y a près de deux ans, qui détaillait comment GM et OnStar collectaient, utilisaient et vendaient les données de géolocalisation précises et le comportement de conduite des conducteurs à des tiers, notamment les courtiers en données LexisNexis et Verisk. Ces données provenaient du programme Smart Driver de GM, une fonctionnalité gratuite intégrée à ses applications de voiture connectée qui surveillait et évaluait les comportements de conduite et l'utilisation de la ceinture de sécurité. Le New York Times a rapporté que les courtiers en données vendaient ensuite ces informations aux compagnies d'assurance, ce qui pouvait avoir un impact sur les primes d'assurance des clients.

Le problème central réside dans les implications éthiques de l'utilisation de l'intelligence artificielle (IA) et de l'apprentissage automatique (AA) dans la collecte et l'analyse de données au sein de l'industrie automobile. Le programme Smart Driver utilisait des algorithmes pour évaluer le comportement de conduite, créant essentiellement un profil de risque basé sur des points de données tels que la vitesse, les habitudes de freinage et la localisation. Ce profil de risque était ensuite exploité par des courtiers en données tiers, ce qui met en évidence le potentiel d'une collecte de données basée sur l'IA à être utilisée d'une manière que les consommateurs pourraient ne pas anticiper ou consentir.

GM a abandonné le programme Smart Driver pour toutes ses marques en avril 2024, invoquant les commentaires des clients. À cette époque, GM a déclaré avoir désinscrit tous les clients et mis fin à ses relations télématiques avec des tiers tels que LexisNexis et Verisk.

L'ordonnance de la FTC souligne le contrôle réglementaire croissant en matière de confidentialité des données et d'utilisation de l'IA dans les produits de consommation. Elle souligne la nécessité pour les entreprises d'être transparentes quant à leurs pratiques de collecte de données et d'obtenir le consentement explicite des consommateurs avant de partager leurs données avec des tiers. Ceci est particulièrement pertinent dans le contexte des voitures connectées, qui sont de plus en plus équipées de capteurs et de systèmes basés sur l'IA qui génèrent de grandes quantités de données sur les conducteurs et leur comportement.

Le règlement avec GM sert de précédent pour les autres constructeurs automobiles et entreprises technologiques qui collectent et utilisent des données sur les consommateurs. Il signale une évolution vers un plus grand contrôle des consommateurs sur leurs données personnelles et une approche plus prudente du partage de données avec des tiers. L'action de la FTC reflète une préoccupation sociétale plus large quant au potentiel de l'IA à être utilisée d'une manière qui pourrait nuire aux consommateurs, en particulier dans des domaines tels que la tarification et l'accès aux services.

Pour l'avenir, l'ordonnance de la FTC pourrait inciter à de nouvelles actions réglementaires dans le domaine de la confidentialité des données et de l'IA. À mesure que l'IA devient plus omniprésente dans les produits et services de consommation, il est probable que les organismes de réglementation continueront de se concentrer sur la protection des consommateurs contre les pratiques de données injustes ou trompeuses. L'affaire GM rappelle que les entreprises doivent donner la priorité à la transparence et au consentement des consommateurs lors de la collecte et de l'utilisation des données, en particulier lorsque l'IA est impliquée.