Je lis ceci sur 20 minutes :
"IA : Un label garantit qu’un livre a bien été rédigé par un humain"

https://www.20minutes.fr/arts-stars/culture/4069696-20240110-ia-label-garantit-livre-bien-redige-humain

Spoiler:

Des livres rédigés par IA...
Pour nous, VDM un peu.
En tous cas ça ne va pas aider les autoédités à se vendre

L'IA reste un sujet sensible et chacun y trouve bien ce qu'il veut y trouver: un allié, un bouc émissaire, un faiseur... Bref. Je ne vais pas relancer le débat ici mais l'idée d'un label, même s'il part surement d'une bonne intention est un peu bancale selon moi.

Je veux dire... Comment prouver qu'un texte à été fait à partir d'une I.A?  Laisser un texte généré tel quel se verra bien entendu immédiatement mais s'il est retravaillé derrière? Si la machine fabrique une ossature et que quelqu'un d'un minimum lettré passe derrière? Et puis alors, quid de l'idée de départ?

J'ai surtout l'impression que 20 minutes à déjà deux trains de retard (bon... c'est 20 minutes en même temps...). Bientôt l'I.A sera capable de fabriquer des choses de plus en plus cohérentes, cela prendra peut être du temps, mais elle le fera.
Si je rejoins certains qui pensent que comprendre l'outil est important sans pour autant l'utiliser ( même si je ne toucherais pour ma part jamais à ça), il serait important que le monde de l'édition, mais aussi les auteurs, commencent à mettre des choses en place s'ils n'en veulent pas.
Quoi? Je ne sais pas, mais nous sommes sur un forum d'écrivain, d'écrivaines, d'artistes même, et nous aimons parler non? Ce serait peut etre un début.  

Je devrais peut être crée un topic annexe mais au-delà de ça je profite de ce topic pour parler également du nombre de traductions abusées de certaines ME au détriment du matériel français. Dans un pays qui se veut avec des racines littéraires fortes, ça la fout mal quand même.  Et je m'interroge sur le fait qu'un système vertueux comme celui du cinéma (que le monde nous envie!) n'existe pas dans la littérature.
Pour faire (très) court, lorsqu'on achète un ticket de cinéma, qu'on aille voir le dernier marvel ou la comédie française du moment, on finance via une portion du prix des organismes comme le CNC qui permettent de valider des projets plus obscures, moins vendeurs, qui n'existeraient simplement pas sans ça.
Bien sûr il faudrait modifier en partie la formule mais l'idée est là. Pourquoi ce type d'organisme n'existe pas pour la littérature?
(Bon il faudrait aussi déjà une politique culturelle solide pour ce genre de choses et ça... C'est pas pour demain.   )

Bref, c'était mon moment je râle et je rêve, à vous les studios!

Il n'explique pas trop comment ils vont s'y prendre. Relire toute l'œuvre et vérifier qu'il n'y a pas d'incohérence (manuellement) ? sur quel critère peut-on savoir qu'une incohérence est d'origine humaine ou pas ? manquerait plus qu'il passe par une IA pour déterminer si le texte a bien été écrit ou pas par un humain.

J'avais vu passer ça en vitesse. Et ça m'a l'air plus symbolique, effet d'annonce, qu'autre chose ? Ou alors à voir ce que ça donnera, mais jusqu'à quand un label de ce genre sera contourné/dupliqué/surmonté par les mêmes IA ? Lol après, j'avoue que tant que c'est certifié avec certitude, ce genre d'initiative reste une tentative et un compromis que les artistes pourront avoir. Mais comme beaucoup de labels, tout dépend de la confiance que les "acheteurs" en tout cas le public et les acteurs du milieu, y mettent je pense.

Dans un sens, j'ai l'impression que la littérature est l'une des industrie qui se bat le plus de ce côté, pour que son domaine "reste de l'art" ? C'est une impression subjective, que je découvre peu à peu ici, et la tendance me semble plus importante à vouloir "se protéger" de certaines dérives en tout genre, surtout comparés à d'autres domaines. Un moindre mal ? Et c'est dit avec le peu de connaissances que j'ai autour de la peinture, la photographie, ect ect où je pense que ChatGPT est plus implanté encore ?

Quand on voit la place de ChatGPT un peu partout dans le domaine de la création... L'industrie du cinéma, enfin plus spécifiquement du divertissement et des plateformes de streaming, tomberait en lambeaux si un tel label existait. Imaginez Disney qui devrait admettre lesquelles de leurs "œuvres" sont rédigées sous ChatGPT, pareil pour les autres... Lol

Je pense qu'il faut en être informé, et à partir de là, ce sont aux gens de faire appel à leur discernement. Ça ressemble à une phrase d'idéaliste, ça ne va pas du tout... Lol ça me fait penser au scandale qu'il y a eu parce que les japonais veulent utiliser ChatGPT pour traduire leurs mangas et leurs versions animées pour l'exportation. Il y a eu indignation facile, car la traduction d'oeuvres reste... J'ignore si on peut dire un art (question peut-être épineuse, ce n'est pas le sujet) en tout cas il s'agit d'une discipline et d'un vrai travail qui implique une plus grande subtilité qu'on ne le croit. Mais le vrai souci, c'était que les américains ne traduisaient pas, ils en profitaient pour modifier les dialogues, parfois les réécrire complètement, et y insuffler des propos idéologiques orientés et militants qui ne figuraient absolument pas dans l'œuvre de base. Les japonais détestent ça et ont vu en ChatGPT un moyen de reprendre la main,en conservant l'intention première de leurs artistes, et respecter leur volonté artistique. Je suis rarement un défenseur de l'IA, mais je me suis dit autant mettre un petit truc de contradiction, pour nuancer mon propos souvent à charge contre l'IA.

Citation :

Des livres rédigés par IA...
Pour nous, VDM un peu.
En tous cas ça ne va pas aider les autoédités à se vendre Neutral

Meh.

ChatGPT, écris-moi le premier chapitre d'un livre de SF s'il te plaît :

Ce n'est pas dingue.

Tout à fait d'accord avec toi Raven Twelve, pour le moment c'est même assez mauvais! L'IA n'a aucune imagination, ça se contente de remixer des trucs existant dans sa base de données.

Et puis il y a pas mal de limitation/censure. Il ne peut rien faire de politiquement incorrect, rien de violent, et est incapable de second degré, ironie ou humour noir (j'ai testé!)
Par exemple pour m'amuser, je lui avais demandé de me raconter ce qu'il se passerait si Macron croisait une nuit au détour d'un couloir de Versailles Vlad Tepes Dracula (bref le vampire).
- Premier essai, Macron est curieux et ils papotent et repartent chacun de leur côté!   (après que Vlad se soit présenté en mode cours d'Histoire lol)
- Second essai  je demande que Macron ait peur (du réalisme bon sang!) mais il a peur deux secondes et ils se remettent à papoter !
- Troisième essai je demande que les gardes du corps interviennent mais l'IA fait en sorte que quand ils arrivent, Vlad a déjà disparu (il n'aime pas la confrontation).
Alors là, en ayant marre, j'ai demandé que les gardes du corps se battent et que Vlad en tue (je crois) mais l'IA a refusé car elle ne peut rien écrire de violent ! (je voulais de l'humour noir en plus lol pas un truc trash!)
J'ai lâché assez vite le truc que je trouve ennuyeux.

Le pire c'est que j'ai lu que certains s'en servaient pour trouver des informations documentaires, mais il invente pas mal de trucs et n'est pas bon du tout comme outil d'information!

Haha une fois je lui avais demandé de me donner une idée sur comment exterminer une espèce extraterrestre envahissant la Terre, il m'avait fait la morale en disant que c'est pas bien de tuer et qu'il vaut mieux se faire des amis. Si c'est ça l'outil qui doit mettre tous les écrivains au chômage je vais attendre un peu avant de paniquer.

L'outil de certification c'est du pipeau. Ça passe par une déclaration sur l'honneur ("je m'engage à ne pas avoir utilisé d'IA") et par une utilisation d'outil de détection automatisée (aucun ne fonctionne correctement). Et il y a aussi une passe humaine, mais je vois mal l'humain en question se palucher la lecture de tout un roman, ou alors j'attends de voir le tarif.

Pas vraiment d'inquiétude à avoir à mon avis.

Pas besoin de te palucher la lecture, tu demandes à l'IA de le faire à ta place. Après c'est elle qui pose le label. (c'est un peu shadock, mais bon...)

Hé oui, sauf que les outils automatisés en question fonctionnent très mal...

On oublie un peu vite que ChatGPT a fait le podium du concours de poésie JE  sur le thème du moustique. Désolé Maxaler je balance

Donc sans être snob et méprisant, on peut considérer que l'idée d'un label certifiant qu'il y a un.e humain.e derrière un texte n'est pas si bête que ça, puisque que (même) JE, petit échantillon certes mais échantillon tout de même, a été incapable de repérer quoi que ce soit. On peut critiquer les textes, les commentaires, l'auteur du méfait...toujours est-il que l'IA a été jugée meilleure que des êtres vivants (les mêmes participant au classement, d'ailleurs). Ce qui correspondra à une réalité probable : beaucoup d'auteurs et d'autrices vont se faire doubler et disparaîtront. Cela ne veut pas dire arrêter d'écrire, c'est sur cette nuance qu'on se trompe et qu'on arrête le sujet.

Dire qu'on n'est pas inquiet ça me fait penser au meme "this is fine" ! Faudra écouter ou lire ce qu'en disent les créateurs, ices de ces IA, un jour...

Je n'ai pas assisté à ce concours mais les participants étaient-ils des poètes chevronnés, ou bien l'IA a-t-elle battu des "non professionnels" sur une épreuve plus technique que créative ?

Citation :

Ce qui correspondra à une réalité probable : beaucoup d'auteurs et d'autrices vont se faire doubler et disparaîtront. Cela ne veut pas dire arrêter d'écrire, c'est sur cette nuance qu'on se trompe et qu'on arrête le sujet.

Non. Beaucoup d'amateurs vont se sentir doublé, puis choisir de disparaître. Cf Sarashina et FabienD, l'IA est soumise à de multiples limitations, parmi lesquels, le conflit. Or, le conflit est justement le moteur de la fiction. Quant à écrire un roman en entier sans incohérence du premier au dernier chapitre en respectant les règles élémentaires du craft de l'écriture, l'IA n'en est absolument pas là. Même pas un peu.

Ou ça veut dire que les humains écrivent comme des ias (le contraire est-il vrai?). A quand un label certifiant qu'un texte est authentiquement le produit d'une ia ?

Je découvre qu'il faut être un poète chevronné pour apprécier la poésie, la commenter et la classer. Prends ça Le Trader de 15 ans qui découvre Rimbaud en tremblant d'admiration sans comprendre pourquoi ! C'est assez "amusant" de voir les réactions que ça suscite, immédiatement des remises en cause de la qualité et de la perspicacité d'autrui. Il y a la personne capable d'apprécier à sa juste valeur la vraie poésie, et il y a la personne dont les goûts, les ressentis et le jugement sont sans valeur. Avant de s'intéresser à l'IA, on pourrait peut-être considérer un peu mieux l'humain, non ?

L'IA est une machine en évolution rapide, ses limites vont peu à peu être dépassées. Ce n'est pas une entité indépendante ni un être capable de "battre" des gens mais un outil de données qui est manipulé par les êtres vivants. Donc on peut tout à fait produire un roman cohérent si on l'utilise correctement et qu'on donne des consignes pertinentes. Ce qu'a fait Maxaler pour le poème.

Jdoo, c'est peut-être du troll mais il y aura des concours, des prix et des ventes importantes dédiés à l'IA. On peut prendre le pari.

Le sujet qu'elle pose c'est celui d'une sélection naturelle des écrits à venir. Il y aura un sérieux concurrent dans l'arène et il va falloir être meilleur.e ou trouver de bonnes histoires, de bons poèmes. Ça ne suffira pas, mais le tri qui va s'opérer pourra aussi booster les écrivain.es. Ne pas voir tout cela, aujourd'hui, me semble être du déni ou de l'illusion. C'est une invitation à raffiner sa créativité et à y croire à fond, ce qu'une IA ne pourra jamais faire. Et laissons-lui Starcraft et les échecs

Spoiler:

Quelle agressivité. Et tu déformes mes propos.

Ta conclusion était:

Citation :

beaucoup d'auteurs et d'autrices vont se faire doubler et disparaîtront.

Cette conclusion, tu l'avais basée sur cet argumentaire:

Citation :

"ChatGPT a fait le podium du concours de poésie JE  sur le thème du moustique."
"l'IA a été jugée meilleure que des êtres vivants"

Il n'a jamais été question de la perspicacité d'autrui où du niveau "nécessaire" pour apprécier une œuvre de poésie. Ce dont il était vraiment question : se demander si l'IA a ici battu des pro sur leur terrains de jeu ou non. Là n'est pas une insulte, mais une question authentique, vu que je viens d'arriver sur ce forum.  

Tu sembles vouloir pousser le narratif fataliste que l'IA remplacera la plupart des écrivains en place, ce à quoi plusieurs d'entres nous t'ont opposé de bons arguments contraires. Et vérifiables. De plus, je ne trouve pas pertinent de s'appuyer sur les capacités poétiques de l'IA pour extrapoler la conclusion suivante: "beaucoup d'auteurs et d'autrices (de romans) vont se faire doubler et disparaîtront."
Pour moi, ce serait comme de dire que parce que l'IA a gagné un concours de tableau - ce qui est arrivé - elle détrônera bientôt les réalisateurs en place.

C'est drôle cette manière de faire parler les messages d'autrui pour abonder dans le sens de son choix, ça me rappelle les plumes rouges bannies récemment... Sans doute une coïncidence.

Je ne suis pas sûr que l'agressivité soit de mon côté, quand on insulte implicitement une partie de la communauté présente. C'était sans doute involontaire et/ou maladroit de ta part, et je pense que réclamer des "poètes chevronnés" est un argument fallacieux. Si tu penses que je déforme tes propos, je te propose de te relire ?

De plus, je n'ai pas de conclusion précise, c'est toi qui le décides de ton côté. Mais je suis ravi que, de nouveau, quelqu'un pense à ma place sur ce forum. Enfin je ne pense pas être "dans un narratif fataliste", il suffit de lire les interviews des gens qui bossent sur l'IA, regarder le présent et anticiper à moyen court terme. Les arguments "vérifiables" que tu sembles mettre en avant ne tiennent déjà plus la route, en réalité. Et pour finir, j'ai dit que des plumes disparaîtront, pas que l'IA détrônerait les artistes. Merci de me lire correctement.

Ce serait bien de ne pas antagoniser mes propos, sachant que je n'antagonise pas l'IA qui est une machine sortie des mains et têtes humaines.