Pourquoi la sécurité doit être au cœur des utilisations de l'IA générative ?

L'IA générative s'immisce dans les outils professionnels, mais présente des risques bien réels contre lesquels les équipes de techniques et de développement auront désormais un rôle critique à jouer.

Chatbots, traductions automatiques, etc… Ces derniers mois, les travailleurs ont été de plus en plus confrontés à l'IA générative et parfois, sans même le savoir. Cette technologie s’immisce dans les outils professionnels, mais présente des risques bien réels contre lesquels les équipes de techniques et de développement auront désormais un rôle critique à jouer.

Six heures, c’est le temps que pourrait faire gagner l’utilisation de l’intelligence artificielle au travail, selon l'étude Opinion Way pour Slack*. Ce gain de temps est synonyme d’efficacité pour les collaborateurs et permet donc de gagner en productivité. Là est tout le potentiel de l’IA générative en entreprise : gagner du temps et en libérer pour les tâches ayant une plus forte valeur ajoutée. Devant ces gains de productivité, les équipes techniques et les entreprises se retrouvent au-devant de la scène. 

Les avantages de l’IA générative ne sont plus à prouver…

Gain de temps, relais sur les tâches chronophages, amélioration de la productivité au travail… Les avantages de l’IA au travail sont nombreux, si bien que presque la moitié des cols blancs ont d’ores et déjà commencé à l’utiliser et à profiter des avantages qu’elle offre. C’est notamment le cas de Bolt, l’entreprise de covoiturage, qui trouvait que son système de mails n’était pas assez efficace. En utilisant une plateforme de productivité alimentée par l’IA qui structure clairement les sujets et les conversations, l’entreprise a rendu ses échanges plus efficaces. De plus, en utilisant des solutions technologiques modernes comme l’IA générative pour organiser le travail et les équipes dans les canaux, l’engagement de tous à travers l’entreprise est significativement simplifié.

…mais ses risques doivent être clairement identifiés

Si les exemples positifs sont nombreux, il ne faut pas en oublier les risques. En effet, cinq risques majeurs doivent être connus pour être mieux maîtrisés. Tout d’abord, celui de la précision. Si l’on prend l’exemple des chatbots, les propos générés par ceux-ci ne sont pas systématiquement sourcés et peuvent ne plus être d’actualité, car la base de données a pu ne pas être mise à jour. Il y a donc un risque bien réel sur la véracité de la réponse fournie par une IA générative. Ainsi, cette dernière ne doit pas remplacer la réflexion de l’utilisateur, lequel doit être vigilant et ne pas se reposer entièrement sur l’IA dans sa prise de décision et/ou dans son travail. 

La sécurité des données est également un risque et un enjeu majeur de l’IA générative. En effet, la collecte des données fournies aux chatbots et outils de résumé n’est pas toujours clairement explicitée. Communiquer certaines données sensibles ou confidentielles aux applications d’IA peut donc présenter un risque de sécurité envers lequel les collaborateurs doivent être sensibilisés. Ce ne sont que quelques exemples de risques dans l’utilisation de l’IA au travail, mais ils témoignent de l’importance de toujours placer la sécurité au cœur de notre utilisation de son utilisation. 

Un autre enjeu crucial de l’IA générative réside dans le principe de transparence quant à l’utilisation de ces applications. Lors de la collecte des données, il est important de respecter à la fois leur provenance, mais aussi le consentement de l’auteur afin d’utiliser ces dernières sans se l’approprier. Ce principe de transparence implique de mentionner lorsqu’une IA produit du contenu de manière autonome, comme c’est le cas lors de l’utilisation d’un chatbot, c. 

À l’heure où la durabilité est un enjeu mondial et transverse, il est évident que des risques liés à l’empreinte carbone des modèles d’IA générative apparaissent. Tandis que nous nous efforçons de créer des modèles de taille appropriée lorsque cela est possible, le risque de développer de trop grands modèles par rapport aux besoins est bien réel et même contreproductif. En réalité, quand on parle de modèle d’IA générative, plus grand ne rime pas toujours avec plus performant et dans certains cas, des modèles plus petits et mieux entraînés surpassent les modèles plus grands et ayant moins d'entraînement. 

Les équipes techniques : gardiennes de la gestion de l’IA générative. 

Face à l’utilisation croissante de l’IA en entreprise et aux risques, les équipes techniques et de développement jouent un rôle crucial. Elles ont, en réalité, un double rôle du fait de la nature même de leurs missions. Elles profitent des avantages de l’IA et en tirent des gains de productivité dans leur travail quotidien. Mais elles sont également les gardiennes et les contrôleuses – en étroite collaboration avec la direction – de la bonne utilisation et du déploiement des applications d'IA générative au sein du système informatique de toute organisation. 

Le rôle de ces équipes face à cette problématique sera évolutif et d’abord préventif. Ainsi, ils pourront par exemple former les collaborateurs à une utilisation sûre de l’IA générative au travail pour limiter toutes les sortes de risque, sur la confidentialité des données ou l’importance de se servir de l'IA comme un outil et de ne pas se reposer uniquement sur cette dernière. En formant les collaborateurs, en les sensibilisant aux risques, les équipes techniques réduisent ces derniers et co-construisent un environnement de confiance propice à l’utilisation de l’IA générative au travail. 

Pour profiter pleinement de l’aide de l’IA au sein d’une entreprise, il est donc primordial de concevoir et d’entretenir un environnement de confiance en plaçant les équipes techniques au cœur de ce dernier. Toutes les parties prenantes de l’entreprise, des équipes techniques aux collaborateurs, doivent œuvrer ensemble dans la construction et le développement de cet espace de confiance pour l’utilisation de l’IA. Un espace sain, un espace sécurisé, le tout dans un seul but : profiter du boost de la productivité permis par l’IA. 

*Sondage Opinion Way pour Slack réalisé sur 501 travailleurs du savoir et 584 travailleurs de première ligne interrogés en ligne du 7 au 12 juin dernier sur leur utilisation et leur perception de l’IA en entreprise.