La Commission européenne a proposé les règles relatives à l'IA l'année dernière, cherchant à rattraper la Chine et les États-Unis dans une technologie utilisée dans les smartphones, les ordinateurs, les voitures à conduite autonome, les achats et la publicité en ligne, et les usines.
Le projet de règles doit être peaufiné avec les pays de l'UE et les parlementaires européens l'année prochaine avant de pouvoir être mis en œuvre. Les parlementaires européens doivent encore se mettre d'accord sur leur position commune.
Les pays ont convenu d'exclure la sécurité nationale, la défense et les objectifs militaires des règles sur l'IA, selon une déclaration du Conseil de l'Union européenne.
Ils ont convenu d'interdire l'utilisation de l'IA pour le scoring social - qui évalue les citoyens sur la base des données recueillies sur leurs activités - tandis que les autorités chargées de l'application de la loi ne peuvent utiliser l'identification biométrique dans les espaces publics que lorsque cela est strictement nécessaire, ajoute le communiqué.
Les pays ont classé les systèmes d'IA à haut risque comme étant ceux qui entraînent des violations des droits fondamentaux.
Le Bureau européen des unions de consommateurs (BEUC) a déclaré que de nombreuses questions importantes n'étaient pas abordées, comme la reconnaissance faciale par les entreprises dans les espaces publics, tandis que les dispositions classant les systèmes comme à haut risque étaient édulcorées.
"Les consommateurs sont inquiets des risques de l'IA, tels que son potentiel d'augmentation de la discrimination, et ont peu confiance dans les autorités exerçant un contrôle efficace sur l'IA", a déclaré Ursula Pachl, directrice générale adjointe du BEUC.
Le parlementaire européen Patrick Breyer, du Parti pirate allemand, a tiré la sonnette d'alarme sur la reconnaissance faciale.
"Nous devons nous élever contre la surveillance biométrique de masse dans nos espaces publics, car ces technologies signalent à tort un grand nombre de citoyens innocents, discriminent systématiquement les groupes sous-représentés et ont un effet paralysant sur une société libre et diversifiée", a-t-il déclaré.
