Le juge du district de San Francisco, Vince Chhabria, a déclaré que, bien que l'idée que l'algorithme de YouTube puisse exercer une discrimination fondée sur la race soit plausible, les plaignants "ne sont pas près" de suggérer qu'ils ont été victimes d'une quelconque discrimination.

La proposition de recours collectif au nom des utilisateurs non blancs de YouTube a été déposée en juin 2020, moins d'un mois après le meurtre de George Floyd par un policier de Minneapolis, qui a suscité un intérêt national pour l'injustice raciale.

Neuf plaignants ont déclaré que YouTube, propriété de Google (Alphabet), soumettait leurs vidéos à davantage de restrictions que les vidéos similaires de contributeurs blancs, violant ainsi une obligation contractuelle prévue dans ses conditions de service de fournir une modération de contenu neutre sur le plan racial.

Mais le juge a déclaré que YouTube avait seulement promis que son algorithme ne traiterait pas les gens différemment en fonction de leur identité, et non que l'algorithme était infaillible.

Il a également déclaré que les plaignants s'étaient appuyés sur un échantillon trop restreint de vidéos et que certaines d'entre elles avaient en fait nui à leur cause.

À titre d'exemple, il a déclaré que la restriction par YouTube du "tutoriel de maquillage" d'un plaignant sur la manière de créer le "look distinctif" de Donald Trump pourrait refléter le fait que le plaignant mentionne le Ku Klux Klan et décrit les couleurs de maquillage claires comme des couleurs de la suprématie blanche.

Le plaignant "semble certainement plaisanter, probablement dans le but de se moquer des suprémacistes blancs, mais cela expliquerait facilement la différence de traitement par l'algorithme", a écrit M. Chhabria.

M. Chhabria a également indiqué que certaines plaintes étaient antérieures à une récente mise à jour des directives communautaires de YouTube, et que YouTube "ne peut être tenu responsable de la violation d'une promesse qu'il n'a pas encore faite".

Les avocats des plaignants n'ont pas immédiatement répondu aux demandes de commentaires. YouTube et ses avocats n'ont pas répondu immédiatement à des demandes similaires.

M. Chhabria a rejeté l'affaire avec préjudice, ce qui signifie qu'elle ne peut pas être réintroduite, après que la plainte a été modifiée cinq fois.

L'affaire est la suivante : Newman et al v Google LLC et al, U.S. District Court, Northern District of California, No. 20-04011.