Bilan

Intelligence artificielle: l'Europe tente d'imposer des règles éthiques

Garantir la sécurité des futurs véhicules autonomes ou le respect des droits face aux systèmes de surveillance... Bruxelles a dévoilé mercredi un projet de règlementation qui entend faire de l'Europe une championne de l'intelligence artificielle, en évitant les dérives.

Le texte prévoit des exigences réglementaires pour les applications jugées "à haut risque" dont il dresse une liste.

Crédits: DR

Sauver des vies grâce à de meilleurs diagnostics médicaux, aider les agriculteurs à optimiser leurs ressources, assister les ingénieurs dans la reconstruction de la cathédrale Notre-Dame de Paris... "L'intelligence artificielle nous apporte déjà beaucoup, et ce sera de plus en plus le cas", mais "l'excellence n'est possible qu'avec la confiance", a résumé la vice-présidente de la Commission européenne, Margrethe Vestager.

Fruit de trois ans de travail, Bruxelles a présenté sa première ébauche d'un cadre légal pour encadrer cette révolution industrielle, à base de logiciels et de données.

L'UE veut créer un modèle européen éthique pour calmer les peurs, lever les freins à l'innovation, et inspirer le reste du monde, comme elle estime l'avoir déjà fait dans la protection des données.

L'Europe a raté la révolution de l'internet grand public, et ne possède aucun champion équivalent aux cinq géants américains Google, Apple, Facebook, Amazon et Microsoft, les fameux Gafam, ou à leurs équivalents chinois Baidu, Alibaba, Tencent et Xiaomi.

Mais rien n'est perdu concernant la révolution provoquée par l'irruption massive de l'informatique dans les transports, l'énergie, le tourisme, l'agriculture ou le médical.

Le projet dévoilé mercredi, qui ne concerne pas les usages militaires, se fonde sur une évaluation des risques au cas par cas.

Il prévoit d'interdire un nombre restreint d'utilisations incompatibles avec les droits fondamentaux. Seront prohibés les systèmes de "surveillance généralisée" de la population, ceux "utilisés pour manipuler le comportement, les opinions ou les décisions" des citoyens.

Des autorisations dérogatoires sont cependant prévues pour la lutte antiterroriste et la sécurité publique.

Terminator


Ces technologies suscitent "des craintes populaires" véhiculées par des oeuvres de fiction, a reconnu le commissaire en charge du numérique, Thierry Breton, citant le film Terminator qui met en scène la lutte de machines pour dominer les humains.

Ces peurs sont aussi alimentées par les possibilités de contrôle des populations offertes aux régimes autoritaires. Les systèmes de notation citoyenne, utilisés en Chine, seront notamment prohibés en Europe.

Le texte prévoit des exigences réglementaires pour les applications jugées "à haut risque" dont il dresse une liste.

Une première catégorie, incluant "l'identification biométrique à distance des personnes dans les lieux publics" et les "éléments de sécurité dans des infrastructures publiques essentielles" se verra imposer des tests de conformité réalisés par une autorité tierce.

Une deuxième catégorie comprend notamment les systèmes de priorisation des services d'urgence, d'accès aux institutions éducatives, ou les outils de recrutement. Leur conformité sera garantie par une auto-évaluation conduite par l'entreprise, sous le contrôle d'une autorité de surveillance.

Les autres usages, considérés comme sans danger, ne se verront imposer quasiment aucune contrainte réglementaire supplémentaire.

Côté financements, l'UE prévoit de mettre sur la table un milliard d'euros par an pour les technologies numériques, générant en tout 20 milliards d'euros d'investissements sur la prochaine décennie.

"Surveillance généralisée"


Le projet a été plutôt bien accueilli par les entreprises. "Des garanties appropriées sont en place pour maximiser les avantages et l'utilisation" de l'intelligence artificielle, a estimé la Business Software Alliance, l'un des lobbies du secteur numérique. Le CCIA, autre organisation professionnelle, espère toutefois "que la proposition sera davantage clarifiée et ciblée afin d'éviter toute paperasserie inutile".

Alexandre de Streel, codirecteur du groupe de réflexion Center on Regulation in Europe (Cerre) craint un possible coup de frein aux efforts de recherche. Selon lui, le cadre proposé est "relativement ouvert et tout dépendra de la façon dont il sera interprété" par la justice.

Pour d'autres, le texte ne va pas assez loin. La proposition "ouvre la porte à une surveillance généralisée sous couvert de sécurité publique", dénonce l'eurodéputé écologiste David Cormand. "Trop d'utilisations problématiques de la technologie sont autorisées, comme l'usage d'algorithmes pour prévoir la criminalité", estime Orsolya Reich de l'ONG Liberties.

La nouvelle législation sera encore débattue plusieurs mois avec le Parlement européen et les 27 Etats membres, avant la mise en oeuvre d'un texte définitif.

Les newsletters de Bilan

Le cercle des lecteurs

Le Cercle des Lecteurs est une plate-forme d'échanger sur tout ce qui touche votre magazine. C'est le reflet de vos opinions, et votre porte-parole le plus fidèle. Plus d'info


Merci de votre inscription
Ups, l'inscription n'a pas fonctionné
Image Footer

"Tout ce qui compte.
Pour vous."