Lame en Table ... Quand l'usage des IA génératives grille le cerveau!
On avait bien ri lors des premiers usages irraisonnés des GPS, avec ce conducteur qui a tourné à droite dans un mur, obéissant aveuglement à un ordre donné par son aide à la conduite. Et on s'était tous dit que certains humains ont moins de discernement que d'autres.
Puis vient ce moment où les moteurs de recherche ont suppléé à la connaissance, où Wikipédia a remplacé le professeur (avec les dérives politiques incontrôlables qu'on imagine puisque 80 % des contributeurs de Wikipedia ont une orientation woke...)
Vous pensiez avoir atteint le fond? Que nenni. On vous a fabriqué les IA Génératives, ces algorithmes qui vous font croire que la machine est douée de raison alors qu'elle vous sort des données probabilistes, inventées pour l'occasion et pour complaire à la requête posée.
Et oui, les IA donnent des "fausses" réponses. Pas des mauvaises. Des fausses. Inventées pour la circonstance!
Deux ou trois avocat se sont fait prendre le cerveau baissé... Des médecins, des scientifiques également.
La sanction sera de plus en plus lourde, à ne pas contrôler la véracité des propos qu'on offre contre rémunération pour le prix d'un ticket d'algorithme.
Le problème c'est la répétition du comportement illusoire. Combien de clients appellent leur avocat en leur disant que selon ChatGpt on peut faire comme ça... (mais ils n'ont aucune idée du comment faire) .
Sélection naturelle ou deuxième chance? Parfois la sélection naturelle chère à Darwin joue à plein régime et élimine automatiquement certains décervelés persuadés qu'il est préférable de se soigner au jus d'IA plutôt qu'au cerveau de médecin. Mais parfois le Dieu des imbécile offre une seconde chance aux décérébrés.
Tel est le prétexte du jour que je m'empresse de vous conter, tant l'histoire le mérite.
C' est l'histoire d'un guide de montagne qui croise deux touristes newbies qui, munies d'une carte, demandent si elles sont encore loin du lac qui est supposé être à côté du refuge.
Sauf que de lac, de ce côté de la montagne (et sur cette montagne) il n'y en pas pas à distance de marche. Ou alors à 12 heures de marche... Pas une distance de rando journée.
Etonnement des tréckeuses qui jurent par leur carte qu'elles auraient du passer devant le repère Lambda du Chemin tant et tant...
Et le guide de vérifier leur carte, avec étonnement car il n'avait jamais croisé ces repères sur ce bout de montagne. En général, la cartographie des chemins de randonné a ceci de rassurant qu'elle change peu. Stupeur ! La carte présentée est une fausse carte. Très bien faite, avec des courbes de niveau, des noms de lie ux, des numéros de chemin, des zones d'eau, de ruisseau, de pierrier ... bref du presque réel.
Escroquerie? Non pire ! les donzelles ont fait éditer leur carte par ChatGPT.
La demande devait tourner autour de "trouve moi un chemin de rando joli et facile pour aller sur un lac au départ de "Vouzêtesici"...
Alors bravo pour la machine. Elle a fait une jolie carte très vraisemblante. Mais pas cohérente pour un sou. Le genre de fausse carte aux trésors qu'on aurait pu vendre dans un vieux rade glauque, sur un port douteux d'une île toujours couverte de fumées. Guère plus de valeur que le caractère esthétique. Une carte du tendre aurait mieux fait l'affaire.
Je vous invite à voir la vidéo du guide étonné...
https://www.facebook.com/reel/875900775239642
Je remet une pièce dans la machine : il faut interdire certains usages des IA génératives. Pour protéger l'humanité dans son ensemble. Et surtout ne jamais arrêter de réflêchir soi même.
Ariel DAHAN pour 2kismokton...
(Vous noterez avec quelle mauvaise foi j'ai eu recours à une IA générative pour illustrer mon propos)
Aucun commentaire:
Enregistrer un commentaire