Et si le meilleur pare-feu était humain ?

Face aux dangers numériques ciblant les mineurs, si le Digital Services Act apporte des solutions, l'éducation demeure la clé essentielle à la sécurisation de l'univers digital.

Cyberharcèlement, chantage à la « sextape » générée par une IA, diffusion d’informations trompeuses, pédocriminalité : l’univers numérique regorge de dangers auxquels sont particulièrement exposées les populations les plus vulnérables, au premier rang desquels se trouvent les mineurs – qui sont aujourd’hui totalement connectés dès l’école primaire !

Quelle réponse y apporter ? L’instauration d’un « pare feu » réglementaire est évidemment indispensable, mais ne doit être que l’une des briques d’une politique de protection notamment basée sur la création d’un solide dispositif éducatif.

C’est dans ce contexte que le règlement européen Digital Services Act (le DSA) est entré en vigueur le 25 août dernier pour les très grandes plateformes en ligne et très grands moteurs de recherche (en schématisant, ceux que l’on surnomme les GAFAM et autres BATX).

L’objectif de ce règlement a été souvent résumé par l’adage « ce qui est illégal hors ligne l’est également en ligne », ceci se traduisant par la mise en place d’obligations augmentant les niveaux de contrainte, responsabilité et réactivité des plateformes face à la diffusion de contenus illicites.

Les obligations prévues par le DSA ont ainsi été largement relayées, mais l’on peut citer quelques mesures phares telles que l’instauration d’une forme de transparence des algorithmes, la possibilité de désactiver les recommandations de contenus basées sur le profilage, l’interdiction de la publicité ciblée à destination des mineurs ou la création de signaleurs de confiance, « vigilants » enregistrés dont les signalements doivent être traités en priorité par les très grandes plateformes.

Ceci étant rappelé sans omettre l’ambition affichée de voir ces mesures respectées, puisque les amendes les sanctionnant peuvent aller jusqu’à 6% du chiffre d'affaires mondial de la plateforme concernée – la conformité n’est ainsi plus une simple option.

A grands pouvoirs, grandes responsabilités !

Mais est-ce suffisant pour faire face à l’enjeu crucial que représente la sécurisation de l’espace numérique pour les populations les plus vulnérables et notamment des mineurs ?

En l’état, les obligations contraignantes imposées par le législateur sont traduites notamment par des « fonctionnalités » ou processus mis en place sur les plateformes et qui devraient par ailleurs être soutenues par un solide système d’identité numérique.

Mais quelle efficacité pour ces mesures techniques, quelle portée pour cette réglementation, si elles ne sont pas précédées ou au moins largement soutenues par une politique d’éducation particulièrement ambitieuse ?

Car il ne faut pas oublier qu’un contenu diffusé sur internet ou sur les réseaux sociaux, même s’il est ensuite retiré, a un impact immédiat potentiellement considérable, et que le droit à l’oubli n’est encore qu’un objectif lointain.

Soulignons également que le panel des mesures techniques nécessaires est loin d’être abouti comme en témoigne l’abandon récent par l’Australie de son ambition de contraindre les sites pornographiques à vérifier l’âge de leurs visiteurs, faute d’outils adaptés… Il faut enfin prendre en considération le faible degré de connaissance des « citoyens numériques », et en particulier des populations les plus à risque, tels que les mineurs, comme de leurs parents ou représentants légaux chargés de les protéger, des conséquences que peuvent avoir les utilisations les plus courantes d’une messagerie électronique ou d’un réseau social.

A titre d’exemple, le risque lié à la réutilisation des photos ou vidéos publiées sur des réseaux sociaux à l’aide d’outils d’IA génératives est à ce point élevé que le FBI a publié une note le 5 juin dernier à ce sujet, soulignant l’augmentation de l’utilisation de « deepfakes » créés à partir de ces contenus dans le cadre de tentatives de chantage à la sextape (factice donc).

Et ce risque se trouve encore aggravé lorsque les images utilisées (et elles le sont) sont celles de mineurs, particulièrement sensibles et peu à même de prendre un certain recul sur des situations aussi extrêmes, violentes et humiliantes.

Rappelons donc que le meilleur moyen de lutter contre la diffusion de contenus illicites, et de protéger les plus vulnérables des utilisateurs des plateformes en ligne et autres outils numériques, reste la prévention plutôt que la répression.

La règlementation coercitive, la création d’outils techniques au service des citoyens, la mise en place de mesures de sécurité sont absolument indispensables.

Mais elles ne doivent être considérées que comme les palliatifs d’une prévention efficace, et d’une éducation de tous les utilisateurs des outils numériques sur les comportements à adopter et sur les risques de l’univers digital.

Le Parisien a relayé un sondage de Médiamétrie indiquant que les enfants français recevaient leur premier smartphone en moyenne à 9 ans et 9 mois ! Soit en CM1.

Partant, il faut impérativement adjoindre aux programmes scolaires dès l’école primaire des modules approfondis et adaptés de sensibilisation et d’éducation à l’usage sécurisé de ces appareils dont la fonction principale est en réalité de permettre un accès à internet et aux réseaux sociaux.

Et cette éducation doit être également transposée aux parents afin qu’ils mesurent les enjeux engendrés par la délivrance d’un tel outil à un enfant, et les accompagnent dans leurs usages.

Ne faut-il pas inclure dans la formation des personnels du service public, de manière obligatoire et systématique, des cours de cybersécurité ? La récente fuite de données ayant touché les personnels du ministère de la Justice apporte à cette question rhétorique une réponse plutôt claire.

Nelson Mandela disait déjà que « l’éducation est l’arme la plus puissante que l’on puisse utiliser pour changer le monde ».

Ajoutons qu’elle n’est pas forcément la plus désagréable, la plus difficile à mettre en œuvre, ni la plus polémique. Ceci étant dit, et le risque zéro n’existant toutefois pas, et surtout pas en ligne, il faut en conclusion se féliciter néanmoins de l’ambition européenne et de la volonté de Bruxelles de contraindre les plateformes qui, jusqu’à présent, dictaient la loi plus qu’elles ne l’appliquaient.