IA non souveraine | Et mes données ?

L'IA responsable protège nos données. L'IA non souveraine (Unsovereign AI) va plus loin, par sa conception même : elle empêche la machine de devenir souveraine sur le monde intérieur de la personne, préservant ainsi à la fois la vie privée, l'autonomie de jugement et la capacité d'agir.

L'IA responsable

“Et mes données ?” est souvent la première question que l'on pose lorsqu'on découvre un nouveau système d'intelligence artificielle.

La Politique de confidentialité de l'application RIZOM apporte une réponse concrète.

• Vos mots et votre voix vous appartiennent.

• Vos réflexions personnelles sont stockées et traitées localement sur votre appareil.

• À l'exception de l'adresse électronique nécessaire à la création et à la gestion du compte, aucun contenu personnel n'est transmis aux serveurs de RIZOM, sauf si vous choisissez explicitement de le partager.

• Les contenus partagés sont anonymisés avant d'être agrégés ou utilisés à des fins de recherche et de production d'insights.

• RIZOM n'utilise pas les données personnelles à des fins de profilage, de ciblage commercial ou de marketing auprès de tiers.

Ces dispositions sont essentielles. Elles garantissent la propriété, le consentement et le contrôle, conformément au RGPD britannique et européen. Mais la conformité n'est qu'un point de départ.

La question la plus fondamentale est la suivante :

Qui acquiert le pouvoir de m'interpréter ?

La confidentialité ne suffit pas

Une grande partie du débat actuel considère les données personnelles comme un actif qui doit être stocké de manière sécurisée, traité conformément au droit et partagé uniquement avec le consentement de la personne.

Cela reste indispensable. Pourtant, les données utilisées par l'intelligence artificielle sont rarement passives. Les mots, les hésitations, les recherches, les préférences, les images, les états émotionnels et les décisions deviennent une matière à partir de laquelle les systèmes infèrent qui est une personne, ce qu'elle pourrait vouloir et ce qu'elle est susceptible de faire ensuite.

Un système d'IA n'a pas besoin de posséder les données d'une personne pour acquérir une influence sur elle. Cette influence commence lorsque le système devient la principale autorité qui nomme son expérience, sélectionne ce qui est pertinent, anticipe ses comportements ou formule ses réponses.

L'individu peut ainsi demeurer, au regard du droit, le titulaire de ses données tout en devenant, dans les faits, l'objet de l'interprétation de la machine.

C'est ici qu'intervient la question de la souveraineté. La souveraineté ne se résume pas à la possibilité de refuser la collecte de données. Elle consiste à demeurer l'auteur de son expérience et le pouvoir d'agir sur ce qui en découle.

Le glissement progressif de la souveraineté

Le modèle dominant de l'IA générative invite la personne à extérioriser un problème, un souvenir, une question ou une pensée inachevée. Le système traite cette matière puis la restitue sous une forme achevée : une réponse, une interprétation, un résumé, une recommandation ou une décision.

Cette approche peut être utile. Mais elle peut aussi entraîner un transfert progressif de capacité.

Lorsqu'une machine accomplit de manière répétée le travail consistant à nommer, formuler, juger ou décider, l'individu peut devenir progressivement dépendant du résultat produit. Le système ne se contente plus de soutenir une capacité humaine existante : il peut commencer à s'y substituer.

Un service peut ainsi être conforme aux exigences de confidentialité, sécurisé et transparent, tout en affaiblissant le pouvoir d'agir de la personne qui l'utilise.

Le problème n'est pas que la machine soit devenue consciente ou qu'elle ait acquis une souveraineté au sens juridique du terme. Le problème est que son architecture lui confère progressivement une position de souveraineté dans la relation. La machine devient celle qui interprète ; la personne devient la matière première.

RIZOM part d'un postulat différent.

Ce qui doit demeurer entres les mains de la personne

Le Système d'Exploitation Symbolique de RIZOM est conçu autour de capacités qui ne devraient jamais être abandonnées à la machine :

• demeurer l'auteur de sa propre expérience ;

• la liberté d'exprimer quelque chose sans être réduit à une catégorie ;

• la capacité d'interpréter et de réinterpréter le sens de son expérience ;

• la maîtrise de ce qui est conservé, partagé ou gardé pour soi ;

• le droit de changer de direction ;

• et la capacité d'agir selon son propre jugement.

Ces principes ne sont pas ajoutés après coup, comme une couche éthique venant se superposer à la technologie. Ils structurent l'architecture elle-même.

Les contenus personnels demeurent sur l'appareil de l'utilisateur. Le partage est soumis au consentement préalable. La collecte des données est réduite au strict nécessaire. Les réflexions personnelles ne sont pas réunies dans un corpus central à des fins de profilage commercial. Lorsque des informations sont volontairement mises au service d'une intelligence collective, elles sont anonymisées et soumises à des seuils d'agrégation destinés à empêcher toute réidentification.

C'est la légalité par conception.

Les politiques peuvent interdire certains usages abusifs. Une architecture, elle, peut rendre techniquement impossibles certaines formes de mésusage.

La différence est essentielle. Promettre de ne pas exploiter des données personnelles centralisées signifie qu'elles restent malgré tout disponibles pour être exploitées. Une architecture qui ne collecte pas ces données supprime une catégorie de risque au lieu de simplement l'encadrer.

Mais l'approche de RIZOM va au-delà de la simple localisation des données. Elle s'intéresse également à ce que l'interaction elle-même produit chez la personne.

Récursive, non générative

L'IA générative est généralement conçue pour produire quelque chose à la place de l'utilisateur.

RIZOM est conçu pour lui restituer quelque chose.

Cette différence est au cœur du Basho Loop™, le moteur symbolique qui fonde l'architecture de RIZOM.

Explorer le Basho Loop™ (en anglais)

La personne est invitée à exprimer son expérience au moyen de métaphores plutôt qu'à choisir parmi des catégories prédéfinies. Chaque interaction s'appuie sur la précédente, préservant une continuité dans le temps. Les métaphores deviennent des motifs ; les motifs dessinent des trajectoires ; ces trajectoires rendent visibles des structures de sens sans jamais se substituer à l'autorité de la personne pour les interpréter.

Le système ne déclare pas : « Voilà ce que vous ressentez. » Il crée les conditions permettant à la personne de dire, avec une précision et une profondeur croissantes : « Voilà ce que cette expérience signifie pour moi. ». C'est cela, la récursivité.

La personne apporte une expression. Le système en reflète la structure émergente. Ce reflet lui revient, libre à elle de l'accepter, de le rejeter, de le transformer ou de lui donner une direction inattendue.

Le sens n'est pas extrait puis converti en une conclusion appartenant à la machine. Il revient à sa source humaine. La machine participe au processus sans jamais devenir souveraine sur celui-ci.

Un échafaudage destiné à disparaître

LE Basho Loop™ distingue une prothèse d'un échafaudage.

• Une prothèse accomplit une fonction à la place de la personne. Plus elle est efficace, plus elle peut devenir indispensable.

• Un échafaudage soutient le développement d'une capacité. Son succès se mesure au moment où cette capacité peut finalement se passer de lui.

  
  

  

RIZOM est conçu comme un échafaudage.

Il maintient ouvert un espace de réflexion pendant que la personne renforce sa capacité à reconnaître des motifs, à mettre son expérience en mots et à exercer son jugement. Son objectif n'est pas de maximiser la dépendance, l'engagement ou la fréquence d'utilisation. Il est de développer une capacité qui demeure celle de la personne.

L'échafaudage est destiné à disparaître. Cela crée une relation très différente entre l'humain et la machine. À mesure que l'interaction progresse, la machine ne devient pas plus souveraine. C'est la personne qui devient davantage capable d'exercer sa propre souveraineté.

Au-delà de l'IA responsable

Les cadres de l'IA responsable traitent généralement de questions essentielles : sécurité, équité, transparence, responsabilité, protection de la vie privée et conformité réglementaire.

Mais ils ne répondent pas pleinement à un autre ensemble de questions :

• Quelle capacité humaine ce système développe-t-il ?

• Quelle capacité remplace-t-il ou affaiblit-il ?

• Son utilisation rend-elle la personne plus discernante ou plus dépendante ?

• La personne peut-elle contester l'interprétation produite par le système ?

• L'architecture préserve-t-elle un espace pour l'incertitude, l'ambiguïté et la révision ?

• Renforce-t-elle la capacité de la personne à assumer sa responsabilité, ou l'assume-t-elle progressivement à sa place ?

RIZOM ne cherche donc pas seulement à être une IA responsable.

Il est conçu pour préserver le pouvoir d'agir et former la souveraineté.

Là où l'IA responsable demande si un système se comporte de manière acceptable, RIZOM demande également si la personne qui l'utilise demeure, au fil du temps, plus capable de juger, de choisir et d'agir par elle-même.

C'est l'ambition plus large de la Quatrième Voie de l'IA : non pas remplacer l'expertise humaine, mais renforcer notre capacité à interpréter, nous orienter et agir avec cohérence à mesure que l'intelligence artificielle s'inscrit dans notre quotidien et dans celui des organisations.

Découvrir la 4e Voie de l'IA

Alors, qu'en est-il de mes données ?

Vos données personnelles doivent rester sous votre contrôle. Mais la souveraineté sur les données, sans souveraineté interprétative, demeure incomplète.

Une personne peut conserver la propriété juridique de ses informations tout en abandonnant progressivement les capacités grâce auxquelles ces informations prennent sens. Elle peut maîtriser ce qui entre dans le système tout en devenant dépendante de celui-ci pour lui dire ce que cela signifie.

RIZOM est conçu pour résister à ce transfert.

• Vos mots restent les vôtres.

• Votre expérience n'est pas réduite à une identité ou à une catégorie produite par la machine.

• Vos motifs symboliques peuvent être rendus visibles sans devenir la propriété d'un système.

La technologie peut accompagner le processus d'interprétation, mais elle ne s'approprie jamais la qualité d'auteur du sens qui en émerge.

L'issue recherchée n'est pas un portrait plus complet de la personne par la machine.

C'est une personne davantage capable de reconnaître, d'articuler et d'interpréter sa propre expérience, puis d'agir selon son propre jugement.

C'est la différence entre une intelligence artificielle qui en sait toujours plus sur nous et une architecture qui nous aide à demeurer les auteurs de notre propre expérience.