Blog éclectique & sans sujet précis - ChatGPT est un gamin moralisateur, dangereusement borné, sans bon sens, et qui ne dort jamais - Commentaires<p>Si ça me passe par la tête, si ça n’intéresse que moi, alors c’est peut-être ici. Ou pas.</p>2024-02-13T09:44:49+01:00L'éditeur est le propriétaire du domaineurn:md5:bf83720a7189bba489682d945b972671DotclearChatGPT est un gamin moralisateur, dangereusement borné, sans bon sens, et qui ne dort jamais - Le webmestreurn:md5:bd61fc47740705e8e49170ee0191db412023-03-16T22:37:26+01:002023-03-16T22:37:26+01:00Le webmestre<p>Les compétences vont devoir changer, oui. J'utilise déjà un peu ChatGPT pour cracher une ou deux fonctions. Mais c'est moi qui dit qui fait quoi. Et je corrige.</p>
<p>Dans mon boulot, je ne sais pas si une IA pourra me remplacer. Ça fait 30 ans qu'on dit que les DBA vont devenir inutiles, mais on élargit juste à chaque fois la palette des dysfonctionnements à gérer et les besoins augmentent.</p>
<p>Comme a dit quelqu'un sur LinkedIn, les bons recruteurs vont perdurer, mais les mauvais vont se faire remplacer d'un clic (et je pense que ChatGPT lire les CV, lui). Pas mal de postes de petites mains vont encore sauter, oui.</p>
<p>Des humains pourraient avoir des certificats « je suis un humain », mais les IA qu'ils délégueront en profiteront. Dans un monde où l'IA sera aussi utilisée que les correcteurs orthographiques et les lettres type, où commence l'original, où s'arrête le robotique ? Les IA et filtres auto dont regorge Photoshop suppriment-elles totalement l'artiste ?</p>
<p>Par contre, des multinationales ont déjà des robots qui décident de plein de choses (en fait déjà les ERP au XXè, et même simplement des procédures et règles avant) : vont devenir encore un peu plus inhumaines.</p>
<p>Mais il est vrai qu'il y a plus de chance que le changement ne soit pas mineur, comme l'apparition des calculatrices, mais bien majeur, comme internet, et en plus brutal encore que la dissémination des smartphones.</p>
<p>Le fait que les IA soient concentrées dans quelques mains (MS, Google..) est inquiétant. Est-ce temporaire ? Je peux déjà installer stablediffusion sur mon PC.</p>
<p>Encore plus optimiste : des IA sont utilisés pour imaginer des molécules en santé ou chercher des lois physique (version améliorée de la bête régression linéaire qui n'explique rien mais sert à l'ingénieur et le technicien) , peut être qu'une solution au changement climatique ou la pollution plastique viendra de là. « ChatGPT 5 , dis moi comment faire de la fusion froide et comment fabriquer une bactérie qui se nourrit du plastique dans l'eau de mer ». Et puis on pourra aller à la plage pendant que les IA bosseront pour nous. Oh, on arrive à la question du partage de ces gains de productivité !</p>ChatGPT est un gamin moralisateur, dangereusement borné, sans bon sens, et qui ne dort jamais - Thiasurn:md5:8796e372a3fd7ea9fc491dacbe6b4b442023-03-16T21:17:11+01:002023-03-16T22:17:52+01:00Thias<p>Je pense que ça peut partir dans différentes directions, possiblement toutes en même temps.<br />
D'un côté définitivement saturer le monde avec des contenus sans valeur, de l'autre forcer les différentes autorités (gouvernement, journalistes, académiques) a utiliser des outils modernes pour signer leur contenus (cryptographie).<br />
Enfin un changement de perception sur l'importance de la forme et de la présentation, certains de ces modèles passent déjà les examens pour entrer en fac de droit et tout le monde pourra avoir des CVs et des lettres de motivations écrites dans un français parfait, il faudra peut-être se rabattre sur les compétences.</p>
<p>Dans la bagarre je soupçonne que pas mal de professions de "comm" vont passer à la trappe, ou changer dramatiquement. J'ai l'impression qu'on aura besoin des gens pour gérer les problèmes réels et physiques liés au réchauffement climatique…</p>ChatGPT est un gamin moralisateur, dangereusement borné, sans bon sens, et qui ne dort jamais - Le webmestreurn:md5:04da68cb3f1c287bf0b211772b8d0b672023-03-13T09:16:18+01:002023-03-13T09:16:18+01:00Le webmestre<p>@Thias : Il y a un obstacle à la généralisation complète du contenu généré par IA sur des indications humaines de plus en plus flous : elles vont finir par se retrouver entre elles en vase clos, sans que ça intéresse les humains. Les revenus publicitaires vont alors décrocher. Une IA peut faire semblant d'être un lecteur, mais n'achète ni voiture ni chaussettes.</p>
<p>Ça devrait se voir assez vite, et donc le futur devrait juste être un peu plus pire que maintenant : les contenus de m... seront générés par des IA, les gens qui écrivent dans leur coin continueront d'écrire avec leur public, un peu moins visibles, le contenu moyen utilitaire sera un peu plus décevant, et l'humanité un peu plus fragmentée et abrutie.</p>
<p>Si par contre il existe un moyen de monétiser l'attention des IA, ça peut s'emballer méchamment, les IA parlant aux IA sans limite. Jusqu'à étranglement du système, comme les spams avec le mail, à moins qu'il y ait une réaction violente genre éclatement de bulle. Après tout, ça arrive un peu déjà, la pub sur Internet et ses chiffres invérifiables étant en bonne partie du vent, et les clic souvent issus de robots.</p>ChatGPT est un gamin moralisateur, dangereusement borné, sans bon sens, et qui ne dort jamais - Thiasurn:md5:f1f380e9ca3ceb96e7f5cd7c453988db2023-03-11T20:24:26+01:002023-03-13T09:05:58+01:00Thias<p>C'est exactement le cœur du problème. Cela change définitivement la balance entre la production de contenu/parole et l'attention disponible. Il y avait déjà trop de contenus avant – je recevais un magazine du fabricant de mon four, et c'était avant l'avènement des LLM. Je n'ai honnêtement aucune idée de ce que ça va donner…</p>ChatGPT est un gamin moralisateur, dangereusement borné, sans bon sens, et qui ne dort jamais - Le webmestreurn:md5:47e52c29b50541aa07936850083750d12023-03-10T18:40:56+01:002023-03-10T18:40:56+01:00Le webmestre<p>Mmmmm, vu le niveau moyen du commentaire sur twitter ou youtube, je pense que les IA sont déjà capables de mieux.</p>ChatGPT est un gamin moralisateur, dangereusement borné, sans bon sens, et qui ne dort jamais - Thiasurn:md5:d72709c099302dbd912d64756aa0add32023-03-10T17:13:26+01:002023-03-10T18:00:05+01:00Thias<p>L'expression consacrée est la «spamularité», le moment ou les commentaires des bots remonteront le niveaux des commentaires sur YouTube, les réseaux sociaux ou les forums.</p>ChatGPT est un gamin moralisateur, dangereusement borné, sans bon sens, et qui ne dort jamais - Le webmestreurn:md5:a87160d3d0bc8c196a2152f856aa23ed2023-03-05T22:42:44+01:002023-03-05T22:42:44+01:00Le webmestre<p>Tu dis là que les IA vont remplacer tous ces gens dont on voulait déjà se passer ? Moi ça me va. Mais ils ne vont pas aimer la concurrence.</p>
<p>Terminator avait imaginé plusieurs variantes d'avènements de Skynet , voilà celle par remplacement de fausses élites.</p>
<p>Je me demande si des IA ne sont pas déjà entraînées à manipuler des IA généralistes comme ChatGPT. Pour contrer des IA trolls il va falloir pas mal de modérateurs IA, ou IA trolls en face, ou pour commander ces essaims d'IA. Si on arrive ainsi à la Singularité, ça promet si elle est aussi fiable que ChatGPT.</p>ChatGPT est un gamin moralisateur, dangereusement borné, sans bon sens, et qui ne dort jamais - Thiasurn:md5:a012c2113e610d4c91e25d20220ec2a52023-03-05T21:09:03+01:002023-03-05T21:09:03+01:00Thias<p>Le truc c'est que ces LLM émulent plutôt bien tout une partie de la population qui parle avec autorité de sujet sans en avoir une réelle compréhension, prêtres, politiciens, certains journalistes. Il est probable que les LLM vont s'améliorer, et les politiciens… moins…<br />
Je vois mal une legislation qui privera tant de gens de la chose dont ils ont tant besoin: un internet complet qui confirme leurs idées…</p>