Accueil :
- Droit,
[Retour sur] Grok à la barre : le procès fictif d’une intelligence artificielle.
Avec une équipe composée d’étudiants du Master Droit et Activités numériques, de doctorants, de docteurs, d’enseignants-chercheurs et d’experts techniques, Ludovic Pailler et Bastien Savin proposent d’aborder, à travers la figure du procès, quelques grands enjeux juridiques soulevés par l’intelligence artificielle : vie privée, désinformation, manipulation de l’information et responsabilité. Un interrogatoire de GROK garantira le respect des droits de la défense avant que le public ne soit invité à rendre son verdict.
Or, peut-on juger un robot ? L’IA est-elle responsable des actions pour lesquelles elle est poursuivie ? Et, enfin, les règlements de l’UE sur l’IA présentent-ils un caractère suffisant pour éviter l’abus de ce nouvel outil ?
Cette affaire n’est pas la première dans laquelle Grok est accusé de produire du contenu à caractère sexuel non consenti : au début de l’année 2026 les mêmes faits ont été reprochés à Grok, ce qui avait conduit à l’ouverture d’enquêtes par la Commission européenne et le parquet de Paris. Pendant le scandale Grok un rapport d’experts a évalué à trois millions le nombre d’images à caractère sexuel qui ont été générées pendant 11 jours, ce qui représente environ trois images par seconde.
Après avoir été interrogée, l’IA Grok prétend que la création des images sexuelles sur les personnes mineures est systématiquement refusée, alors que sur les personnes majeures – non. Toutefois, Grok ne reconnait pas sa responsabilité : les faits reprochés sont qualifiés par lui-même comme résultant de « l’insuffisance des garde-fous ». Il refuse de reconnaitre qu’il a effectivement produit des deepfakes à caractère politique, en affirmant que son « rôle est d'être honnête et de chercher la vérité ».
Or, la responsabilité civile peut-elle être engagée vers l’IA ?
« En droit français la personnalité juridique est l’aptitude d’être titulaire de droits et d’obligations. Les choses, quant à elles, se définissent par opposition aux personnes : elles n’ont ni les droits ni les obligations accordés aux personnes, elles ne sont pas des objets de droits mais des sujets de droit » - affirme Madame Marie Potus, Maître de conférence en droit privé et sciences criminelles à l’Université Marie-et-Louis Pasteur de Besançon.
L’IA ne bénéficie pas d’un statut juridique spécifique, ce qui en fait une chose qui n’a pas de responsabilité juridique. En tant que sujet immatériel et nouveau, il semble tout de même concevable de la doter de la personnalité juridique. Cependant, cela ne semble pas pour autant être le plus pertinent : l’engagement de la responsabilité juridique de l’IA, qui n’est qu’un outil, conduirait à la soustraction de la responsabilité des êtres humains réels qui sont derrière ces atteintes graves à la dignité humaine (le concepteur, les fournisseurs et, enfin, les utilisateurs).
La violation du Droit de l’Union Européenne sur l’IA par Space X : qui est vraiment coupable ?
En effet, les autres modèles d’IA ne produisent pas de contenu similaire. Grok dispose d’un mode « spicy », qui permet d’accéder à la création de telles images à caractère sexuel. Ainsi, la production synthéthique d’images aussi réalistes suppose un entraînement du modèle sur des images à caractère sexuel. Le constat est alors simple : ces risques étaient prévisibles et ont été causés par des choix délibérés dans la conception de Grok. SpaceXSI est donc responsable de la violation de l’article 5 sur le règlement de l’IA qui interdit la mise à disposition de tout système d’IA qui produit de manière prévisible des deepfakes sexuels non consentis. En tant que fournisseur, il n’a pas pris des mesures pour lutter contre ces dérives qui étaient prévisibles.
Par conséquent, le vote du public de la conférence est le suivant : l’attribution de la personnalité juridique à l’IA est rejetée et les outils réglementaires de l’UE sont jugés insuffisants. Le procès est fini, mais la réalité persiste. Grok reste un outil de manipulations et de manque de respect envers les êtres humains. Soyons vigilants !
Étudiante en deuxième année de Droit
INFOS PRATIQUES
Campus de la Manufacture des Tabacs
6 Rue Professeur Rollet, 69008 Lyon
Conférence
ThématiqueDroit