Vous pensiez que vos conversations avec une intelligence artificielle restaient entre vous et la machine ? Carli Michelle Heller le croyait aussi. Cette habitante de Bonita Springs, en Floride, utilisait le chatbot Claude comme un véritable journal intime. Sauf que ses confidences ont fini par faire débarquer les adjoints du shérif à son domicile de Dean Street. La jeune femme de 30 ans a été interpellée sans le moindre incident, mais son histoire a de quoi faire réfléchir sur la confidentialité de nos écrans.

Tout bascule le 26 septembre, aux aurores. Vers 5h10, selon le rapport d'arrestation, elle écrit à Claude, édité par l'entreprise Anthropic qu'elle a l'intention d'ouvrir le feu dans le bureau du shérif du comté de Lee. Le lendemain, à 1h07 du matin, elle en remet une couche. Son nouveau message affirme en outre qu'elle possède une arme.

Ce qu'elle ignorait, c'est que l'intelligence artificielle est surveillée. Les systèmes de sécurité de Claude ont automatiquement repéré ces phrases inquiétantes avant de les faire remonter à une équipe humaine. Alertés, ces "opérateurs" ont donc lu la conversation, jugé la menace tout à fait crédible, et prévenu les forces de l'ordre. Chez Anthropic, la règle est claire : l'entreprise s'autorise à transmettre des données personnelles dans des situations d'urgence limitées, s'il faut empêcher un décès ou de graves blessures physiques.

Aujourd'hui, Carli Michelle Heller se retrouve accusée de menace écrite de violence, bien qu'elle ne soit pas encore condamnée. En Floride, la justice ne plaisante pas avec ce genre de dérapage. L'article 836.10 de la loi locale punit sévèrement l'envoi de textes ou d'enregistrements électroniques menaçant de tuer, de blesser, de commettre un acte de terrorisme ou une fusillade de masse. La seule condition pour que la loi s'applique est que le message ait été transmis d'une façon permettant à une autre personne de le voir. Et c'est exactement ce qui s'est passé avec le modérateur humain.

Pour s'être épanchée sur son clavier, l'utilisatrice risque très gros. Cette infraction est considérée comme un crime de deuxième degré, passible d'une peine maximale de 15 ans de prison et de 10 000 dollars d'amende. La prochaine fois que vous ouvrirez une application pour vider votre sac, souvenez-vous de cette affaire : un tête-à-tête avec une intelligence artificielle n'a absolument rien de confidentiel.