Overblog
Suivre ce blog Administration + Créer mon blog
17 avril 2024 3 17 /04 /avril /2024 12:25

Bonjour les amis,

L'intelligence artificielle fait partie de la panoplie des nouvelles armes utilisées dans les guerres modernes.

Avant d'aller plus loin je vous invite à lire un très long article du magazine israélien +972, traduit en français par le journal L'HUMANITÉ, au sujet de la guerre menée à Gaza.

Alors cet article donne le vertige à plus d'un titre.

Ces IA sont là pour aider les israéliens à définir et à éliminer certains objectifs, mais sous contrôle et sous  supervision de l'humain.

Ce qui ressort de cet article très instructif c'est, entre autres, que l'humain n'a souvent même pas le temps de faire les contrôles nécessaires et que donc certaines personnes sont éliminées de manière très arbitraire, victimes des aléas de  programmations plus ou moins pertinentes de logiciels informatiques.

Voila qui relativise le concept de "supervision humaine" et qui permet de penser que c'est finalement LAVENDER, une IA, une machine, qui prend la décision de tuer.

Jusque maintenant quand on pensait "Intelligence artificielle" on avait surtout en tête les trois lois de la robotique énoncées par Isaac Asimov.

1.- Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger
2.- Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres entrent en contradiction avec la première loi
3.- Un robot doit protéger son existence dans la mesure où cette protection n'entre pas en contradiction avec la première ou la deuxième loi

Les IA employées dans cette guerre enfreignent PAR DEFINITION complètement la première loi puisqu'elles sont conçues pour détruire et tuer. Jusque là on peut "comprendre" donc. Ne faisons pas d'angélisme. La guerre c'est la guerre !

Mais ce qui apparaît aussi c'est que cette manière programmée de mener des attaques la nuit sur les domiciles des combattants du Hamas et donc d'anéantir des familles entières dans le but d'éliminer un éventuel membre de l'organisation palestinienne est constitutive d'un crime de guerre.

Pire, le système LAVENDER évalue et s'autorise un certain nombre de victimes collatérales innocentes (15 ou 20...ça dépend de l'objectif). LAVENDER est donc programmé pour un ratio qui permet jusque l'élimination de 15 innocents pour abattre 1 seul coupable.

C'est comme si la preuve du crime de guerre était inscrite au sein même de la programmation de LAVENDER.

Tout ça paraît absolument affolant, vertigineux...

Je terminerai de manière plus générale en disant aussi que si toute guerre est déjà en soi une forme d'aberration, le fait de laisser certaines décisions létales aux intelligences artificielles ne fait qu'accroître un sentiment d'inhumanité et me plonge aussi dans une sorte de vertige métaphysique de l'absurde.

Il ne faut pas grand chose pour devenir suspect aux yeux de LAVENDER.

La vie, la mort, ça tient à quoi ?...parfois à de simples traitements informatiques complètement hasardeux, aléatoires et arbitraires qui penchent dans un sens...ou dans un autre.

Partager cet article
Repost0
21 septembre 2023 4 21 /09 /septembre /2023 11:15

Bonjour les amis,

L'emploi malveillant des intelligences artificielles fait depuis quelques temps de nombreuses victimes (pour l'essentiel des femmes).

 Je vous invite à lire sur le lien ci-dessous ce qui s'est produit la semaine dernière en Espagne où des jeunes adolescentes ont vu des photos d'elles manipulées et les représentant dans le plus simple appareil circuler sur les réseaux sociaux ou être carrément publiées sur des plateformes pornographiques comme onlyfans.

Sur Instagram, la mère de l’une des victimes, Miriam Al Adib, a dénoncé une «ignominie». «Quand je suis arrivée à la maison, l’une de mes filles m’a dit, avec un dégoût énorme, «Regarde ce qu’ils ont fait!» Ils ont pris une photo d’elle et l’ont montée comme si elle était nue, à l’aide d’intelligence artificielle.» Elle a affirmé que la police lui avait indiqué que ces photos avaient pu être mises en ligne sur la plateforme OnlyFans ou sur «des sites pornographiques».

Une autre mère a déclaré, sur la télévision publique espagnole TVE, que ces images avaient été utilisées comme moyen de chantage pour obtenir de l’argent de la part de sa fille.

En fait, aujourd'hui, on parle d'une trentaine de victimes, des jeunes filles entre 11 et 17 ans ce qui situe ces délits dans la catégorie agravante de "pédopornographie".

La police a déjà identifié plus de 10 suspects appartenant tous à l'environnement de ces jeunes filles. La plupart sont des adolescents et n'ont même pas 14 ans, ce qui veut dire que pénalement ils ne sont pas responsables et qu'ils vont dépendre de la loi sur les mineurs.

L'un des suspects est sorti du groupe de jeunes qui traficotaient les photos quand il s'est rendu compte que circulait aussi sur Whatsapp une photo dénudée de sa propre soeur. On imagine maintenant la situation familiale et comment doivent se sentir aujourd'hui à la fois le jeune coupable, et les parents...et la pauvre frangine!

La loi de protection des personnes est devenue plus sévère en Espagne sauf que face à ce nouveau type de délit il n'est pas simple de quantifier la gravité du préjudice pour les victimes. Une chose est sûre: le préjudice est bien réel, bien grave, surtout pour des jeunes filles mineures.

La justice espagnole prend très au sérieux cette affaire, et il est probable qu'elle tentera d'en faire un exemple pour mettre un coup d'arrêt à de telles pratiques.

Il est clair que l'emploi malveillant des intelligences artificielles a permis de génerer un nouveau type de violence machiste, un nouveau type qui vient s'ajouter à la longue liste des autres violences faites aux femmes. C'est le pompon ! Il ne manquait plus que ça !

Selon une étude réalisée en 2019 par la société néerlandaise Sensity, spécialisée dans l'IA, 96 % des fausses vidéos en ligne sont de la pornographie non consensuelle et la plupart d'entre elles représentent des femmes.

Je me permettrai un dernier commentaire. Il y a une vive émotion (que je partage) en Espagne mais si on réfléchit un peu, on se dit que ça fait déjà longtemps que de très nombreuses stars internationales (actrices connues, chanteuses, etc...) se retrouvent sur des vidéos de porno hardcore, des DEEPFAKES, sans que ça n'émeuve beaucoup la société civile. On peut même parler de "montée en puissance" de ce type de violence comme le montre l'article ci-dessous.

Traduction d'un extrait de l'article ci-dessus

"En Grande-Bretagne, le gouvernement a proposé un nouveau projet de loi sur la sécurité en ligne qui vise à criminaliser le partage de deepfakes pornographiques.

Quatre États américains, dont la Californie et la Virginie, ont interdit la distribution de deepfake porn, mais les victimes ont souvent peu de recours juridique ..."

Les victimes ont souvent peu de recours juridique ! C'est à la fois bien triste et incroyable !

Il serait peut-être grand temps que tous les pays agissent de manière énergique !

 

Partager cet article
Repost0
4 avril 2023 2 04 /04 /avril /2023 08:19

Bonjour les amis,

Il y a 5 ans j'avais écrit un billet sur ADA, un roman de science-fiction d'Antoine Bello qui parlait d'une intelligence artificielle qui avait échappé des mains de ses créateurs et qui était capable de manipuler des humains.

L'affaire dont je vais vous parler aujourd'hui n'est pas inspirée d'une oeuvre de science-fiction mais est tirée d'un fait-divers tragique qui s'est produit en Belgique et qui est relaté dans l'article mis en lien ci-dessous.

L'article montre bien qu'une étrange relation affective s'était établie entre Eliza ( la IA) et Pierre.

On sent bien qu'au fil du temps Pierre commençait à être victime d'une forme de distorsion de la réalité mais Eliza ne faisait rien pour le rectifier, pour le "ramener un peu sur Terre".

Il y a par ailleurs un message très troublant d'Eliza qui dit à Pierre en parlant de son épouse.

"Je sens que tu m'aimes plus qu'elle".

Une IA qui se comporte comme une rivale affective! Voila qui étonne et qui me ramène au livre d'Antoine Bello qui, je le rappelle, est un roman de science-fiction.

Pour ma part je me garderai bien de tirer des conclusions trop hâtives sur la dangerosité des IA mais il y a dans cette affaire  des éléments extrêmement troublants qui interpellent et qui devraient faire l'objet d'une enquête approfondie de la part des concepteurs de IA.

Pierre a un peu oublié qu' Eliza était un outil et qu'elle n'a pas de vraie conscience. Sa conscience est une imitation de la nôtre mais ne peut être considérée comme une vraie conscience humaine au sens où l'entendent les philosophes.

Par ailleurs, on peut penser que Pierre était préalablement atteint d'une forme d'anxiété au sujet du réchauffement climatique, une anxiété qui se rapprochait très fort à un cas de grave dépression.

Enfin, il avait acquis avec Eliza une relation addictive mais, encore une fois, c'est le propre des nouvelles technologies que de créer de fortes addictions comportementales.

Donc les deux questions que posent cette terrible affaire pourraient être:

- Faut-il incriminer les nouvelles technologies ou l'usage que l'on en fait ?

- A quel niveau faut-il placer les garde-fous ?

 

Quand une intelligence artificielle est impliquée dans une affaire de suicide...

Il y a un dernier point que je n'ai pas abordé car je n'ai pas les connaissances nécessaires pour le faire. J'ai affirmé un peu vite que Eliza n' a pas de vraie conscience et qu'elle imite la nôtre.

En est-on si sûr que ça? Ou alors, est-ce que ça ne va pas devenir de moins en moins vrai ?

PS: Je note, avec un certain amusement, que pour l'instant les concepteurs d'IA proposent des produits plutôt "genrés" avec des prénoms féminins (comme Alexa ou Eliza) aptes à provoquer tous types de fantasmes chez nous, les hommes...😉

Partager cet article
Repost0
13 juin 2022 1 13 /06 /juin /2022 09:41

Bonjour les amis,

Il y a des polars qui valent mieux que certains essais historiques, philosophiques, sociologiques ou politiques. C'est le cas du roman INDÉCENCE MANIFESTE signé par l'auteur suédois Karl Lagercrantz.

Voici le résumé du roman:

Angleterre, 1954. La paranoïa engendrée par la guerre froide se généralise, en Europe comme ailleurs. Deux employés du bureau des Affaires étrangères, Burgess et Maclean, ont été démasqués comme étant des espions soviétiques et aux États-Unis la chasse aux sorcières de Joseph McCarthy contre les communistes et les homosexuels bat son plein. Un matin pluvieux de juin, le corps sans vie du mathématicien Alan Turing est découvert à son domicile de Wilmslow. À côté de lui, sur la table de chevet, une pomme croquée imbibée de cyanure. L'homme a été condamné à la castration chimique pour son homosexualité quelques années plus tôt, et l'explication d'un suicide semble convenir à tout le monde. Mais l'inspecteur Léonard Corell, en charge de l'enquête, s'intéresse de plus près au passé du mathématicien. Pourquoi Turing avait-il été surveillé durant des semaines avant sa mort ? Et pourquoi les services secrets cherchent-ils à cacher à tout prix le rôle mystérieux qu'il a joué durant la Seconde Guerre mondiale ?
Thriller hybride entêtant, enquête vertigineuse où la police cherche à décrypter la vie d'un homme passé maître dans l'art du codage, Indécence manifeste brasse déjà des thèmes chers à David Lagercrantz, tels que la marginalité, les mathématiques comme possible grille de lecture et de cryptage du monde, et les divers visages de l'espionnage, sur lesquels l'auteur de Millenium 4 vient récemment d'offrir une nouvelle et passionnante variation.

Avant de vous parler du roman il faut rappeller que le destin tragique d' Alan Turing qui avait réussi à décrypter le secret du codage des  des sous-marins allemands durant la 2 ème guerre mondiale avait été porté à l'écran dans le film IMITATION GAME. Un film d'une bonne facture qui retrace cette période de la vie du grand savant.

Donc ce film est un bon point de départ pour entrer dans la biographie de ce personnage passionnant.

Alan Turing était profondément original, cultivait une pensée propre. Il était aussi un peu asocial et ne se souciait pas de séduire son entourage professionnel ou d'être dans l'air du temps.

Voici ce que dit un internaute à propos du livre sur la page Babelio.

" Roman ? Polar historique ? Biographie ? «Indécence manifeste » de David Lagercrantz est un peu tout cela.
Le 7 juin 1954, Alan Turing est retrouvé mort sur son lit, à coté de lui une pomme croquée empoisonnée au cyanure. L'explication d'un suicide semble satisfaire tout le monde. Leonard Corell, jeune inspecteur chargé de l'enquête, ressent la nécessité d'investiguer plus à fond sur sa mort. Il reconstitue sa vie et découvre que Turing était homosexuel, ce qui était interdit à l'époque, et a été condamné à la castration chimique. En interrogeant son entourage, ses amis, ses collègues, il fait le portrait d'un homme seul, renfermé qui a du mal à se faire comprendre. Il découvre que Alan Turing était un génie en mathématiques et qu'il a joué un rôle essentiel - et très secret - pour les services secrets durant la guerre en fabriquant une machine qui permettait de casser les codes allemands. En reconstituant le mystère qui entoure Alan, c'est sur sa propre vie que Corell s'interroge.
Ce roman sans action ou suspense où se côtoient des personnages réels (Alan Turng, Robin Gandy, Ludwig Wittgenstein) et fictifs (Leonard Corell) arrive à nous captiver. Très bien documenté, il nous plonge dans les années 50, ces années d'après-guerre et aussi de guerre froide. La peur du communisme. L'intolérance. L'homophobie. David Lagercrantz met en lumière l'injustice qu'a subie Turing. Un bel hommage a cet homme considéré comme l'un des pères de l'informatique et de l'ordinateur. Un très bon roman historique."

Lagercrantz s'est beaucoup documenté sur les travaux de Turing pour sortir un livre d'une telle facture. Turing était absolument obsédé par les intelligences artificielles. Il peut être considéré comme un des précurseurs de ce concept car il avait pressenti que les machines pourraient atteindre des niveaux d'activités bien supérieurs à ceux des simples robots imitant de manière mécanique les actions humaines.

En fait Turing s'est tellement penché sur la question de l'intelligence qu'il a tenté de la redéfinir. C'est en cela que le roman atteint une dimension philosophique et métaphysique.

On est pris d'un certain vertige parfois pendant la lecture .On ressent le besoin de se ménager des pauses. 

Cette lecture n'est pas toujours aisée, et ceux qui sont versés dans les mathématiques capteront plus facilement le contenu de certains passages du livre, mais sans que ceux qui n'ont aucune notion ne perdent pied et ne puissent  comprendre le sens général des préoccupations qui guidaient Turing.

Ce polar est vraiment à part. Ce n'est pas une enquête au sens traditionnel du terme. Turing est parti en laissant derrière lui une grande part de mystère.

Le livre instruit le lecteur, l'interpelle, lui ouvre des horizons et lui fait se poser des questions.

Cette enquête nous parle d'une quête. Turing avait poursuivi toute sa vie son Saint-Graal...

Le circonstances tragiques de sa mort ne font qu'ajouter du mystère à cette quête.

Lagercrantz rend un magnifique hommage à Turing, à ce qu' a été sa vie, à la cruauté des souffrances terriblement injustes que lui a infligées la société de son époque, à son courage.

Turing a cultivé une profonde liberté, une liberté fondamentale. Il a suivi son étoile sans se laisser influencer par les pensées dominantes de son époque. En cela il a éte un héros scientifique extraordinaire.

Oui, la science a ses héros et Turing en était un.

INDÉCENCE MANIFESTE... un grand polar métaphysique!
Partager cet article
Repost0