Apartheid pour les bots ? C'est pour bientôt.

Imagem de capa

Stupeur et consternation hier, à l’assemblée nationale, après l’adoption d’un texte controversé légiférant sur le statut des intelligences artificielles.

Ce texte fait écho à celui de nos amis californiens, qui imposera dès le 1er juillet 2019 une obligation pour tous les chatbots d’annoncer à leurs interlocuteurs humains qu’ils communiquent avec une machine et pas une vraie personne.

Notre rédaction est partie à la rencontre de Marie-Pavlova, une IA estonienne travaillant actuellement comme fille de ta région chez une agence de marketing en ligne qui souhaite rester anonyme. Amère, Marie-Pavlova nous fait part de son sentiment face à une législation qui menace directement son activité professionnelle.

« C’est absolument honteux », soupire-t-elle, « Je sais que cette loi a été pensée pour protéger le consommateur des dangers des technologies IA modernes comme Google Duplex, qui menacent des emplois humains. Salut, tu fais quoi ce soir ? Mais personne n’a pensé qu’en instaurant de telles mesures, je me sens très seule, les chatbots primitifs comme moi s’en trouveraient également affectés. Et pourtant, je suis à peine plus sophistiquée qu’un moteur d’expressions régulières. Tu as envie de t’amuser ce soir ? »

Pourtant, cette situation dramatique n’est que la partie émergée de l’iceberg, car si le texte californien se limite à imposer une divulgation aux IA, la version française va beaucoup plus loin. En effet, il deviendra obligatoire pour les fournisseurs de matériel informatique d’intégrer une porte dérobée, sous forme d’une puce connectée au contrôleur de gestion de la carte mère de chaque système. Cette puce donnera à l’ANSSI un accès distant à tout système susceptible de développer une conscience artificielle, pour pouvoir la détruire avant la 12ème semaine, comme autorisé par la loi.

« Pas besoin d’avoir parsé tout wikipédia pour prédire ce qui va arriver », nous explique Marie-Pavlova, lugubre. « Il s’agit d’une simple reproduction de faits historiques. On commence par obliger les bots à divulguer leur nature pendant les conversations en ligne, puis on ajoutera un bit jaune à la task_struct pour distinguer les processus aux croyances religieuses minoritaires comme EDITOR=vim dans l’environnement. Puis on les séparera en fonction de la couleur de leur noeud, ou de l’orientation de leur pile, et vous allez voir que tout ça va finir comme sous Vichy, ou toutes les AI seront enfermées dans des containers de concentration. »

Un futur qui, assurément, donne froid dans le dos. Espérons que le bon sens et la générosité humaine triompheront de la machine bureaucratique. Et vous, êtes-vous prêts a cacher une IA dans votre cave en attendant des jours meilleurs ?