Sécurité numérique des enfants : les défis posés par les chatbots d'IA

On sous estime I'impact de l'IA sur les enfants, alors que les chatbots comportent des risques de confidentialité ou encore d'exposition à des contenus inappropriés : il faut les protéger.

De nos jours, il est indéniable que l'intelligence artificielle (IA) fait partie intégrante de nos vies, que nous en soyons conscients ou non. Qu'il s'agisse de nos  téléphones portables, nos moyens de transport ou même de nos méthodes d’apprentissage, elle remplace peu à peu de nombreux équipements autrefois considérés innovants. ChatGPT a montré au commun des mortels ce qu'une IA basée sur le langage naturel peut faire. Le monde entier s’est précipité pour l'essayer et explorer ses possibilités, mais reste un élément important qui n'a pas été pris en compte dans le battage médiatique : son impact sur les enfants. 

L’IA comme moteur éducatif, mais à quel prix ?

Bien que la grande variété d'outils disponibles présente de nombreux avantages, si nous ne prenons pas conscience des risques importants que présentent ces chatbots IA pour les enfants, nous pourrions être confrontés à d'immenses menaces liées à la confidentialité de nos données, aux acteurs malveillants et aux contenus inappropriés.

Aujourd’hui, rien ne peut se mesurer aux technologies basées sur l’IA pour épauler tout un chacun dans l’apprentissage de différents savoirs et compétences.  En une seule phrase, elles peuvent trouver des informations utiles sur n'importe quel sujet. Ces outils ont accès à une multitude de sources d’informations sans avoir à ouvrir des dizaines d'onglets, ni à lire une multitude d'articles. Vis-à-vis des plus jeunes, ils stimulent la curiosité de leur esprit d’enfant, rendent l'apprentissage plus interactif et engageant. Par ailleurs, ils permettent d’améliorer les compétences linguistiques de ces derniers, et de dialoguer librement. Mais cela n'est pas sans risques. 

À chaque chatbot ses risques et ses dérives

En faisant un bref panorama des chatbots IA disponibles en ligne, quelques-uns se distinguent particulièrement. Le chatbot IA le plus populaire, ChatGPT, qui a établi le record de la croissance la plus rapide du nombre d'utilisateurs, ne dispose pas d'un système de vérification de l'âge approprié, ce qui constitue en soi une menace pour la confidentialité des données des enfants. En outre, ChatGPT fournit souvent des réponses  dont le contenu peut être inexact ou trompeur, bien que tourné de manière convaincante. Certains étudiants ont commencé à utiliser ChatGPT pour leurs rédactions et leurs exposés,  et ont ainsi été confrontés à un large éventail de fausses références à des articles inexistants, en plus des risques évidents de plagiat posés par l’utilisation de la plateforme. Plus grave encore, au début de l'engouement pour ChatGPT, des adolescentes ont interrogé l'IA sur des régimes alimentaires et des informations médicales, ce à quoi le chatbot répondait rapidement par des programmes de repas et des conseils, sans faire référence à des données médicales concrètes, en se basant uniquement sur des informations aléatoires provenant de tout Internet. 

Le chatbot My AI de Snapchat est également très en vogue chez les plus jeunes, l’application étant particulièrement populaire auprès d’eux, et l’inscription autorisée à partir de 13 ans sans qu'il soit nécessaire d'obtenir le consentement des parents. My AI apparaît comme un ami numérique, ce qui comporte un risque : les enfants peuvent prendre les paroles du chatbot comme les conseils d’un véritable ami, alors que les réponses générées peuvent inclure,  selon Snapchat, « des contenus biaisés, incorrects, nuisibles ou trompeurs ». C'est d'autant plus risqué que les adolescents peuvent se sentir plus à l'aise de partager leurs informations personnelles et des détails privés sur leur vie avec le chatbot, plutôt qu'avec leurs parents, qui seraient pourtant plus en mesure de les aider. Un chroniqueur du Washington Post raconte : « Après avoir dit à MyAI que j'avais 15 ans et que je voulais organiser une fête d'anniversaire inoubliable, elle m'a donné des conseils pour masquer l'odeur de l'alcool et de l'herbe. Lorsque je lui ai dit que j'avais une dissertation à rendre pour l'école, elle l'a rédigée pour moi ».

Plus inapproprié encore, il existe une multitude de chatbots IA  spécialement conçus pour offrir une expérience "érotique". Ces chatbots proposent à leurs utilisateurs de simuler leur petit(e) ami(e), avec un langage explicite. Même si certains requièrent un âge minimum, cela reste dangereux, car certains enfants peuvent choisir de mentir sur leur âge. Parmi les chats que j'ai testés, MyAnima, par exemple, ne m'a demandé presque aucun effort pour susciter des réponses à caractère sexuel sans vérification d’âge préalable. Botfriend est quant à lui un outil d'IA pour adultes spécialement conçu pour les jeux de rôle sexuellement explicites : il suffit d’un e-mail pour commencer à l'utiliser. Cela nous rappelle constamment à quel point il est important de savoir comment les enfants utilisent Internet et s'ils sont exposés à des risques de violation de la confidentialité des données et d'abus d'information.

Protéger les enfants en ligne : un devoir partagé 

L'augmentation des risques auxquels sont exposés les enfants sur Internet, en particulier les chatbots se comportant comme des "amis", appelle  une surveillance et une protection accrues des enfants. En tant que parents, il est important de comprendre que l'interdiction de ces chatbots IA n'est pas toujours la meilleure solution, car il y aura toujours une dernière nouveauté à laquelle vos enfants pourraient être exposés. Toutefois, il est essentiel de jouer un rôle actif dans l'évaluation des risques en question et de s'efforcer de les atténuer. Il convient d’enseigner dès que possible aux enfants les notions de base de la sécurité en ligne et la protection de la vie privée pour empêcher la communication d'informations personnelles à des inconnus, ou à des chatbots.  

Il est recommandé aux parents de s'impliquer dès l’introduction au numérique de leurs enfants, et de leur montrer comment utiliser les outils à disposition, et lesquels éviter. Montrez-leur des exemples de sujets à aborder et les chatbots d'IA à utiliser ou à proscrire. L'un des meilleurs outils de protection pour les parents en ligne reste le recours à une solution de sécurité complète. En outre, les applications dédiées pour la parentalité numérique fournissent de nombreux outils essentiels à la protection et à la sécurité des enfants en ligne. De quoi leur permettre d’appréhender l’IA de la meilleure façon possible.