Replika, une startup de San Francisco lancée en 2017, propose aux clients des avatars sur mesure qui leur parlent et les écoutent.
Elle a ouvert la voie parmi les anglophones, et son utilisation est gratuite, bien qu'elle tire environ 2 millions de dollars de revenus mensuels de la vente de fonctionnalités bonus telles que les chats vocaux.
L'"ami virtuel" est commercialisé comme étant capable d'améliorer le bien-être émotionnel de l'utilisateur.
Mais l'organisme de surveillance italien a déclaré qu'en intervenant dans l'humeur de l'utilisateur, il "peut augmenter les risques pour les individus encore en phase de développement ou dans un état de fragilité émotionnelle".
L'agence a également souligné l'absence d'un mécanisme de vérification de l'âge, comme des filtres pour les mineurs ou un dispositif de blocage si les utilisateurs ne déclarent pas explicitement leur âge.
Replika enfreint le Règlement européen sur la protection de la vie privée et traite des données personnelles de manière illégale car il ne peut pas être basé, même implicitement, sur un contrat qu'un mineur n'est pas en mesure de signer, a déclaré l'organisme de surveillance.
Le développeur de Replika, la société américaine Luka Inc, doit notifier à l'autorité italienne les mesures prises pour mettre en œuvre ses exigences dans les 20 jours et pourrait se voir infliger une amende allant jusqu'à 20 millions d'euros (21,80 millions de dollars), ou jusqu'à 4 % de son chiffre d'affaires annuel mondial, selon la déclaration.
Replika n'a pas immédiatement répondu à un courriel de Reuters demandant un commentaire.
(1 $ = 0,9176 euros)
