Lancée en 2017, la start-up Replika, basée à San Francisco, propose aux utilisateurs des avatars personnalisés capables de converser avec eux. Cet « ami virtuel » est commercialisé comme un moyen d'améliorer le bien-être émotionnel des utilisateurs.
L'autorité italienne de protection de la vie privée, Garante, a ordonné à Replika de suspendre son service dans le pays en février 2023, invoquant des risques spécifiques pour les enfants.
À l'issue d'une enquête, il a constaté que Replika ne disposait d'aucune base juridique pour traiter les données des utilisateurs et n'avait mis en place aucun système de vérification de l'âge pour empêcher les enfants d'accéder au service, ce qui a valu une amende à son développeur, Luka Inc.
Replika n'a pas immédiatement répondu à la demande de commentaires de Reuters.
Les autorités italiennes ont également annoncé une enquête distincte afin de déterminer si le système d'IA générative de Replika est conforme aux règles de l'Union européenne en matière de confidentialité, en particulier en ce qui concerne l'entraînement de son modèle linguistique.
Garante est l'un des régulateurs les plus proactifs de l'Union européenne en matière d'évaluation de la conformité des plateformes d'IA aux règles de confidentialité des données de l'Union.
L'année dernière, elle a infligé une amende de 15 millions d'euros au fabricant de ChatGPT, OpenAI, après avoir brièvement interdit l'utilisation du chatbot populaire en Italie en 2023 pour violation présumée des règles de confidentialité de l'UE.
(1 dollar = 0,8868 euro) (Reportage d'Elvira Pollina ; édité par Cristina Carlevaro et Rachna Uppal)
