Terms of Service and Human Rights

Modération des contenus, discriminations, vie privée, loyauté des relations commerciales : quelles nouvelles méthodes d'action ?

Contribution du Center for Technology & Society de la Fondation Getulio Vargas, préparée par Luca Belli et Félix Blanc , sur la base de l’étude Terms of Service and Human Rights , développée par le CTS/FGV en partenariat avec le Conseil de l’Europe.

L'omniprésence des intermédiaires privés dans l'environnement d'Internet est devenu indéniable tant les échanges de données en ligne repose sur l'existence d'une certain nombre d'acteurs privés à toutes les couches de l'Internet : infrastructures, couche logique, contenus. Ce faisant, les intermédiaires privés sont aujourd'hui largement responsables du respect de la liberté d'expression, c'est-à-dire du droit de rechercher, recevoir et partager des informations et des opinions sur Internet. Ainsi, ces entités privées disposent de la capacité de réguler l'accès et la diffusion d'informations et peuvent définir quelles données seront collectées par le biais de conditions générales d'utilisation (CGU) que tout usager doit accepter afin d’utiliser un service numérique .

Analyse

On se doit de constater que les CGU qui régissent les relations entre des fournisseurs de services en ligne et leurs utilisateurs peuvent être considérées comme la « loi des plateformes » définie et appliquée de façon unilatérale par les fournisseurs d'accès . Or, ces règles contractuelles ont un impact direct sur les droits fondamentaux des utilisateurs, en limitant par exemple leur liberté d'expression par l'interdiction de certains types de contenu, ou en conditionnant l'utilisation d'un service, au fait de fournir toute une série d'informations personnelles.

Comme les CGU sont généralement longues, denses et formulées dans un langage qu'il est difficile de comprendre pour quiconque n'a pas une formation juridique, les utilisateurs ne les lisent presque jamais (entre 0,5 % et 0,22%) , ou, quand ils les lisent, ils les trouvent particulièrement difficiles à comprendre. Selon une étude menée par l’Université Carnegie Mellon, aux États-Unis, un utilisateur d'Internet devrait passer 8 heures par jour durant 76 jours pour lire les règles sur la protection de la vie privée des 1462 pages Web qu'il visite par an en moyenne. Il s'agit clairement d'une situation de marché défaillant puisque les usagers potentiels ne prennent pas en compte les clauses du contrat dans leurs décisions

Cette dynamique conduit les vendeurs et les fournisseurs de service à ne s'engager à respecter que le minimum requis pas la loi et à mettre en place des standards qui ne respectent pas les attentes des utilisateurs.

Dans ce contexte, les CGU des plateformes numériques constituent de fait une des principales formes de régulation du cyberespace. Tout service que vous utilisez sur vos ordinateurs, tablettes ou smartphones demande en effet l’acceptation préalable de ces CGU, bien qu’elles soient régulièrement ignorées par l’usager. Or, les CGU que vous avez « acceptées », souvent sans les lire, respectent-elles vos droits fondamentaux ? Pour répondre à cette question, le Center for Technology and Society de la Fondation Getulio Vargas a analysé la compatibilité des CGU des 50 plateformes numériques les plus utilisées dans le monde, avec les standards internationaux de protection des Droits de l’Homme.

L'objectif du projet Terms of Service and Human Rights était de documenter dans quelle mesure les conditions générales d'utilisation des plateformes en ligne fournissent une protection adéquate pour garantir le respect de la vie privée, de la liberté d'expression et du procès équitable.

La conclusion générale de cette étude est que les mécanismes proposés par de telles plateformes sont défaillants. Cette situation s'explique par le caractère vague et ambigu de la terminologie employé, mais aussi par la tendance à ne fournir aux utilisateurs que le minimum d'information possible, notamment sur les aspects qui sont fondamentaux pour l’expression d’un consentment éclairé et pour la protection des Droits de l’Homme de l’usager, en vertu du droit international.

Diagnostic

Il est impératif de se rendre compte que les plateformes numériques ne sont pas simplement des fournisseurs de services : elles exercent une véritable souveraineté privée sur les cyberespaces qu’elles contrôlent . Elles jouissent d’un pouvoir quasi normatif qui leur permet d’édicter unilatéralement la régulation privée de la plateforme, consacrée dans les CGU auxquelles chaque usager doit adhérer. Ensuite, elles exercent un pouvoir quasi judiciaire , en résolvant les différends entre leurs usagers, ou en déclarant des contenus comme étant abusifs, car contraires à leurs CGU. Enfin, elles se dotent d’un pouvoir quasi- exécutif, d’une part en façonnant l’architecture de la plateforme afin de permettre uniquement les activités admises par les CGU, d’autre part en mettant en œuvre leurs décisions privées – par exemple en supprimant un contenu considéré abusif – en totale indépendance des pouvoirs publics traditionnels.

Ce constat ne vise pas à insinuer que toutes les plateformes abusent de leurs pouvoirs.

Toutefois, il serait naïf de supposer que de tels pouvoirs ne puissent pas être exercés de façon abusive. Dans cette perspective, les résultats de notre étude donnent matière à réflexion.

Ainsi, les conditions générales d’utilisation de 80 % des plateformes étudiées prévoient que des « tiers » pourront avoir accès aux données des usagers, et 62 % permettent ce partage de données par défaut. La raison principale invoquée pour cette diffusion est l’« amélioration du service ». Or, ce type « d’amélioration » semble peu compatible avec le principe – en vigueur dans le système européen – selon lequel la protection des données personnelles se fonde sur l’expression du consentement éclairé.

Comment l’usager peut-il disposer des informations nécessaires pour exprimer un tel consentement, lorsqu’il ne sait ni qui sont les tiers qui analyseront ses données ni quelles seront les finalités pour lesquelles le service sera « amélioré » ?

Puis, 52 % des plateformes analysées affirment que les contenus signalés comme abusifs peuvent être supprimés sans que l’usager en reçoive la notification. Bien qu’une telle procédure permette une suppression très efficace des contenus abusifs, quid des contenus qui seraient considérés comme abusifs de façon erronée ? La liberté d’expression et le « droit à un procès équitable » ne sont sûrement pas respectés par la suppression de contenus partagés sans aucune explication et sans aucune possibilité de recours en cas d’erreur.

Enfin, seulement 30 % des plateformes s’engagent à notifier à leurs usagers d’éventuelles modifications des CGU. Presque le même pourcentage précise en revanche que les usagers renoncent à engager une action collective, ce qui contredit les principes les plus basiques du droit des consommateurs.

À la lumière de ces constats, on peut affirmer que la marge de manœuvre qui permettrait d’accroître la loyauté des plateformes est ample et nous conduit à quelques recommandations sur les trois thèmes que couvrait l'étude.

Recommandations

I. Vie privée et protection des données personnelles

• Les plateformes devraient limiter la collecte des informations personnelles des utilisateurs d'Internet à ce qui est directement nécessaire et approprié à l'exécution d'un but clairement définit et affiché explicitement.

• Les plateformes devraient se garder de collecter des données en examinant automatiquement le contenu privé partagé par leurs utilisateurs, en l'absence de consentement explicite.

• Les opérateurs de plateformes devraient toujours obtenir le consentement des utilisateurs avant de traquer leurs comportements (à l'intérieur et à l'extérieur de la plateforme) au travers de social plugins dans de sites tiers.

• Les opérateurs de plateforme devraient clairement communiquer dans les conditions générales d'utilisation si et pour combien de temps les données seront conservées.

• Les plateformes devraient offrir des remèdes pour prémunir les utilisateurs contre les violations du des Droits de l’Homme reconnus internationalement.

• Les utilisateurs devraient pouvoir accéder à toutes les données personnelles partagées avec des tiers, connaitre l’identité de ces tiers et être informés des raisons pour lesquelles leuer données sont partagées avec ces tiers.

II. Procès équitable

• Les CGU devraient être écrites dans un langage facile à comprendre, avec un résumé comprenant les dispositions essentielles.

• Les moindres changements des CGU devraient être notifiés avec la possibilité de consulter les anciennes versions, voire même de continuer à utiliser la plateforme sans avoir accepté les nouvelles conditions liées à de nouvelles fonctionnalités.

• En cas de conflit entre un utilisateur et une plateforme, les opérateurs de ces plateformes devraient offrir la possibilité de règlement amiable des conflits (alternative dispute résolution systems ) afin d'éviter le recours systématique au contentieux. Ce type de règlement des conflits ne doit pas être présenté comme un remplacement des procédures usuelles des tribunaux.

• Les opérateurs de plateforme ne doivent pas imposer l'abandon d'actions de groupe (class action) ou mettre des barrières au droit d'accès à une justice effective, par le biais de compétences juridictionnelles situées en dehors du lieu de résidence des utilisateurs d'Internet.

III. Liberté d'expression

• Les plateformes devraient aussi fournir des mécanismes efficaces pour signer et requérir le retrait d'un contenu qui est interdit d'après les lois en vigueur.

• Des procédures transparentes devraient être adoptés pour le traitement et la publication des demandes de bloquage ou de retrait faites par un gouvernement d'une façon qui est conforme avec les normes et standards internationalement reconnus.

• Ces demandes ne devraient être exécutées que lorsqu'elles sont autorisées par la loi ou par un ordre judiciaire.

• Les plateformes devraient notifier leurs utilisateurs de telles demandes, idéalement en leur donnant la possibilité de répondre et d'en remettre en cause la validité, dans la limite des lois en vigueur.

• Elles devraient adopter des principes d'exécution de ces demandes et publier régulièrement des rapports de transparence.

Conclusion

En conclusion, les CGU devraient être présentées de façon clairement intelligible et leur consultation effective devrait être véritablement une condition préalable à l’utilisation du service. Pour cela, il suffirait de prévoir l’explication des CGU à travers, par exemple, une vidéo introductive, à la suite de laquelle l’internaute pourrait exprimer un consentement éclairé.

Ensuite, le débat sur les plateformes serait beaucoup plus simple si ces intermédiaires communiquaient leur modèle économique de façon transparente. Si l’usager est le produit qui sera vendu aux annonceurs, ceci doit être indiqué, tout comme l’identité des « tiers » qui auront accès aux données de l’usager. Considérerions-nous loyal un restaurateur qui attirerait ses clients avec la promesse d’un repas gratuit, sans les prévenir qu’ils seront filmés et que ces images seront vendues à des « tiers » pour leur recommander un certain type de médicament, de partenaire sexuel ou d’offre bancaire ? Lorsque l’on rentre dans un restaurant, le minimum de loyauté est de préciser si nous sommes les clients… ou le « repas » qui sera consommé .

Pour que la relation entre usagers et plateformes soit vraiment loyale, tout individu devrait avoir les moyens de comprendre le modèle économique de la plateforme et de la quitter, en transportant ses données, pour un concurrent plus loyal.