Bonjour les amis,
Il y a 5 ans j'avais écrit un billet sur ADA, un roman de science-fiction d'Antoine Bello qui parlait d'une intelligence artificielle qui avait échappé des mains de ses créateurs et qui était capable de manipuler des humains.
/image%2F1547319%2F20180222%2Fob_8b1c7d_bello373192.jpg)
ADA d' Antoine Bello...une fable moderne très grinçante - Le blog de alea-jacta-est
Bonjour les amis, je viens de terminer le roman d' Antoine Bello intitulé ADA. Voici le résumé de l' éditeur: Frank Logan, policier dans la Silicon Valley, est chargé d'une affaire un peu ...
http://alea-jacta-est-ex-posteur.over-blog.com/2018/02/ada-d-antoine-bello.html
L'affaire dont je vais vous parler aujourd'hui n'est pas inspirée d'une oeuvre de science-fiction mais est tirée d'un fait-divers tragique qui s'est produit en Belgique et qui est relaté dans l'article mis en lien ci-dessous.
/https%3A%2F%2Fstatic.euronews.com%2Farticles%2Fstories%2F07%2F50%2F15%2F92%2F1000x563_cmsv2_a55996d2-0c7f-51e5-a86c-e6e3e78ad253-7501592.jpg)
Belgique : un homme poussé au suicide par l'intelligence artificielle
Par Euronews Un Belge aurait mis fin à ses jours à la suite d'une conversation de six semaines sur la crise climatique avec un chatbot d'intelligence artificielle (IA). Selon sa veuve, qui a choisi
L'article montre bien qu'une étrange relation affective s'était établie entre Eliza ( la IA) et Pierre.
On sent bien qu'au fil du temps Pierre commençait à être victime d'une forme de distorsion de la réalité mais Eliza ne faisait rien pour le rectifier, pour le "ramener un peu sur Terre".
Il y a par ailleurs un message très troublant d'Eliza qui dit à Pierre en parlant de son épouse.
"Je sens que tu m'aimes plus qu'elle".
Une IA qui se comporte comme une rivale affective! Voila qui étonne et qui me ramène au livre d'Antoine Bello qui, je le rappelle, est un roman de science-fiction.
Pour ma part je me garderai bien de tirer des conclusions trop hâtives sur la dangerosité des IA mais il y a dans cette affaire des éléments extrêmement troublants qui interpellent et qui devraient faire l'objet d'une enquête approfondie de la part des concepteurs de IA.
Pierre a un peu oublié qu' Eliza était un outil et qu'elle n'a pas de vraie conscience. Sa conscience est une imitation de la nôtre mais ne peut être considérée comme une vraie conscience humaine au sens où l'entendent les philosophes.
Par ailleurs, on peut penser que Pierre était préalablement atteint d'une forme d'anxiété au sujet du réchauffement climatique, une anxiété qui se rapprochait très fort à un cas de grave dépression.
Enfin, il avait acquis avec Eliza une relation addictive mais, encore une fois, c'est le propre des nouvelles technologies que de créer de fortes addictions comportementales.
Donc les deux questions que posent cette terrible affaire pourraient être:
- Faut-il incriminer les nouvelles technologies ou l'usage que l'on en fait ?
- A quel niveau faut-il placer les garde-fous ?
/image%2F1547319%2F20230404%2Fob_bdbcbf_ia.jpeg)
Il y a un dernier point que je n'ai pas abordé car je n'ai pas les connaissances nécessaires pour le faire. J'ai affirmé un peu vite que Eliza n' a pas de vraie conscience et qu'elle imite la nôtre.
En est-on si sûr que ça? Ou alors, est-ce que ça ne va pas devenir de moins en moins vrai ?
PS: Je note, avec un certain amusement, que pour l'instant les concepteurs d'IA proposent des produits plutôt "genrés" avec des prénoms féminins (comme Alexa ou Eliza) aptes à provoquer tous types de fantasmes chez nous, les hommes...😉
commenter cet article …
/fdata%2F5515246%2Favatar-blog-1296934075-tmpphpzcEm6p.jpg){kind=avatar}