Je n’ai plus le temps de poster grand-chose ici, mais autant y noter de temps un autre un billet qui m’a frappé. Ce sera plus pérenne que sur Mastodon.
Du toujours excellent Ploum, Pour une poignée de bits nous parle des IA qui ne servent qu’à recracher des bits en se torchant des lois sur le droit d’auteur ou le copyright, et niquent les hébergements 1, souvent pour surfer sur un effet de mode : combien d’IA sont des algos classiques ou des humains ?
À lire aussi, même auteur, même pessimisme :
- Une bulle d’intelligence artificielle et de stupidité naturelle sur la bulle en cours (mais je ne ne me fais d’illusion, les IA sont faites pour rester).
- La fin d’un monde ?, sur la perversion du réel par l’IA, qui s’introduit partout, jusque dans nos photos, et noient les productions humaines dans un océan de merde.
- Sur ce dernier article, le très bon site Next a un article sur la génération de nombreux sites par IA, et un plugin pour les détecter.
Je me demande quand apparaîtra la nécessité de criminaliser l’utilisation de l’IA pour simuler un être humain avec intention de tromper, que ce soit sur LinkedIn ou dans la pub téléphonique. Mais nous sommes nous-mêmes déjà le relai de ces IA quand nous les utilisons, ça ne réprimerait que les escroqueries flagrantes.
-
Bloquer les bots de nombreuses IA et de SEO (pareil de nos jours) sur le présent site a à peu près divisé par deux le (modeste) trafic. Et encore, je n’ai bloqué que les bots « honnêtes » qui respectent les
robots.txt, je n’ai pas sorti l’artillerie trop lourde pour le temps à y consacrer. Restent les bots malhonnêtes, ceux qui se masquent derrière un vrai moteur de recherche, les spammers qui tentent encore de glisser un commentaire ici… ↩︎
2 réactions
1 De Thias - 17/05/2025, 11:12
Il est déjà criminel pour un humain de se faire passer pour un autre, c'est pourtant la base de la plupart des escroqueries, spams sur internet – les joies d'un réseau global. Comme souvent, la nouvelle technologie permet surtout de «scaler» le processus. D'un autre côté, elle permet aussi de gérer le traffic entrant, i.e. d'avoir une IA qui interagit avec l'entité qui prétend être humaine – c'est évidemment absurde.
Un gros problème de l'IA c'est qu'elle permette d'optimiser un processus sans le remettre en question. Cela permet de remplir automatiquement des formulaires absurdes pour ensuite les interpréter. Une personne peut dire à son IA «dis à machin de payer la facture X» qui va écrire une lettre dans les bonnes et dues formes, et l'autre bout, le récepteur peut demander à son IA d'en faire la synthèse «Y veut que tu payes la facture X». Aucun gain d'entropie, juste un transport très inefficace mais compatible avec les normes sociales.
L'informatique, la rationalisation aurait dû régler ces problèmes, ça a été un échec complet…
2 De Le webmestre - 18/05/2025, 10:50
L'usurpation d'identité est déjà un délit, et il y a aussi l'intention (personne ne va me mettre au trou pour me déguiser en Macron au carnaval).
Mais je pense que faire passer une IA pour un humain doit être en soi répréhensible (même pour un simple chatbot). Trop de dérapages possibles, même sans chercher l'escroquerie, et ce serait une première manière de couper l'herbe aux escrocs. (Et ça vaut pour l'IA-LLM comme le robot à l'ancienne qui se repère en 2 s si on a moins de 80 ans). Une IA qui se déclare et fait le boulot stupide d'un répondeur, je n'aime pas mais je comprends.
J'ai régulièrement des spammers téléphoniques avec non plus un opérateur humain, mais un robot qui vaut me soutirer des infos. Et effectivement le robot ne se rend pas compte que je me fous de sa g... et lui donne des réponses bidon.
Le fait que l'IA simplifie les procédures absurdes est un gain. Pour les factures, on en émet déjà électroniquement depuis des décennies, ça ne changera pas fondamentalement, à moins que les gens ne demandent à Gemini ou Siri de payer les factures reçues. Je ne crois pas que ce soit l'échec de l'informatique, l'humain n'a jamais cherché à l'utiliser proprement.
Parallèlement, il paraît que nos chercheurs font remplir leurs dossiers de recherche par des IA. Mais en fouillant sur Internet je vois qu'il y a déjà tout un business de ce genre. De toute façon il y aura de plus en plus d'IA pour décider à la place de fonctionnaires de plus en plus rares.
Dans un pays à la complexité juridique encore pire qu'en Europe, les US, les cours sont déjà influencées par les IA. Des pays comme Abu-Dhabi vont se mettre à l'IA massivement pour rédiger leurs lois, les failles juridiques voulues ou involontaire pouvant exploser. Le gain de temps en tâches fastidieuses peut être phénoménal (https://solutions.lesechos.fr/equipe-management/metier/quel-impact-de-l-intelligence-artificielle-sur-les-metiers-juridiques/), mais les humains sont des feignasses et ça va déraper.
À quelle échelle ? On peut imaginer une dystopie où aucun humain ne comprend plus rien au système juridique, qu'il n'y a plus que des IA qui décident entre elles avec leurs buts inconnus. L'informatisation a bien entamé la dépersonnalisation de l'administration et du service au client, ça ne peut pas bien finir quand des décisions absurdes sans appel tomberont de services qui ne compteront plus un humain. Soit nous perdons le contrôle, soit le retour de bâton sera violent.
Notre IA oubliera de payer une facture parce que son filtre anti-escroquerie aura cru que la facture du plombier était un fake, et ce ne sera pas parce qu'il ressemble à un spam comme maintenant, mais parce que 95% des sites de e-commerce seront des fakes copiés des sites légitimes. Les IA de répression étatiques ne sauront sans doute pas suivre et accumuleront les erreurs judiciaires, provoquant des morts sociales en cascade. Les fermes à trolls russes seront un détail à côté des pans entiers d'internet fabriqués par des IA, plus aucune info ne sera jamais fiable (revenir au bouche à oreille ne sera pas un progrès) (oui, on y est presque déjà). Netflix se fera peut-être pulvériser par un service générant uniquement des vidéos à la demande adaptées à chaque personne. Ce service aura été codé automatiquement et la création de l'entreprise décidée par une IA de gestion de startups. Une fois les humains hors de la boucle les coûts deviennent dérisoires. Cette IA gestionnaire comprendra un jour que ses actionnaires sont le centre de coût principal et s'arrangera pour se racheter elle-même et les court-circuiter. Les datacenters expulseront des terres des humains incapable de se défendre devant des tribunaux.
Je ne sais ce qui sera le pire : que l'humain perde totalement le contrôle, ou que quelques humains en gardent le contrôle.
Tout ce système va dysfonctionner de plein de manières spectaculaires, mais j'ai peur qu'on y aille tout droit. Et après ? Terminator juridique, guerre entre IA dans le monde physique, jihad butlérien ? Transformation de la planète entière en computronium comme dans Accelerando ?
Ajoutons que les robots humanoïdes (avec IA) sont presque au point...