Mmokong a écrit:

C'est drôle mardi parce que l'article que tu as mis en lien semble lui-même rédigé par une IA... Moi je ne sais pas trop, j'ai l'impression que depuis quelques années les articles de presse, de blog, les pastilles sur les réseaux se sont très nettement appauvris, tout en étant "putaclic" (j'aime bien ce mot lol , il est déviant comme ce qu'il désigne !).
Alors est-ce que tout est rédigé par des IA ou les gens se sont tous "formatés" à un style d'écrire chiant et racoleur à la fois ? Tout fout le camp ma bonne dame !  Je pense que dans la vie, pas seulement dans l'écriture, les gens qui sont encore créatifs, et encore capables de réfléchir, font une vraie différence face à l'uniformisation. Avec un peu d'espoir d'en réveiller quelques-uns ?

Beaucoup d'articles de presse sont des copiés/collés d'un seul article original, trouvé dans la presse étrangère ou française, mal traduit par quelqu'un ou traduit via reverso/google trad etc. Ce qui explique cette impression. Parfois ça sort de Reddit ou d'obscurs sites peu fréquentés. La presse locale et l'indé restent plutôt honnêtes par rapport à ces comportements devenus classiques, et comptables. Mais ça pose depuis longtemps le souci de l'uniformisation de l'information, sa financiarisation et la paupérisation des jeunes journalistes...sans parler des abonnements dérisoires de certains "grands journaux". Le Monde vise le million d'abonnés (ridicule si on compare à Youtube ou Tiktok) en misant sur le numérique. Il faut donc faire alliance avec les Gafam et proposer beaucoup d'articles putaclics pour inonder les algos. Tout en écrivant et s'invectivant contre ça, bien sûr !
En France on ne va pas souvent lire la presse internationale, hop hop le tour est joué (même procédé qu'avec nos prétendus grands comiques...).

@Val : bienvenue dans le concours poésie (je ne balancerai personne, mais vous pouvez m'acheter en MP).

Sur un texte court généré avec un prompt qualitatif, cela me semble malheureusement très compliqué de détecter qu'il a été rédigé par une IA.
Sur un texte long, le signe qui me semble le plus fiable, c'est une absence de cohérence des informations données. C'est un peu comme sur les images générées par IA, où tu vas voir des choses absurdes (des mains à 6 doigts, des cheveux qui se fondent dans les plis des vêtements, etc) : là où un être humain repère tout de suite qu'il y a un souci, l'IA, qui se base sur des modèles statistiques et non sur le sens du texte, qu'elle ne comprend pas, ne se rendra pas compte qu'il y a incohérence dans ses propos.

Alors je suis incapable de détecter si un texte a été créer par une IA !
D'autant plus que l'IA peut avoir été utilisée partiellement, que le texte peut avoir été réécrit et/ou corrigé par une personne humaine… Je pense malheureusement qu'il va falloir faire avec !
Sachant que personnellement, je ne crache pas dans la soupe puisqu'il m'arrive de l'utiliser comme "outil" pour l'écriture, principalement pour la recherche d'informations.

J'ai l'impression qu'un bon marqueur, pour l'instant, est la présence de jeux de mots et calembours. Je n'ai pas mémoire d'avoir vu un texte généré par IA comportant un calembour à propos. Ce qui, vu que ça relève plus de la prononciation orale que du contenu du texte même, me semble assez normal.

Donc a défaut de détecter des textes générés par IA, je pense qu'on peut plus facilement exclure l'hypothèse de l'IA dans les cas où le texte comporte des jeux de mots sur les sonorités.

Tengaar a écrit:

Je sais que M. Phi avait fait une expérience comme ça mais impossible de remettre la main dessus.

Je l'ai pourtant citée deux postes plus haut.

Le Trader a écrit:

@Mika : Enthoven est un philosophe ? Lui qui déclarait que les enfants gazaouis n'étaient pas des victimes mais des conséquences collatérales... Eric Sadin, déjà un peu plus relevé, lui répond dans un débat plutôt intéressant sur le sujet.

Pour la.peine, tu aurais pu regarder la vidéo, avant d'en parler. Enthoven se fait bien démonter. Mr Phi est une bonne source de vulgarisation de la philosophie, pour qui aime la philo.

Et je vous invite à regarder ses vidéos sur l'IA qui sont tops. Il se pose de très bonnes questions.

Repérer un texte généré par une IA, c'est pas évident, mais y'a quelques trucs à savoir. Déjà, un texte IA peut paraître super lisse, genre trop bien structuré, sans les petites erreurs ou maladresses qu'on fait tous en écrivant vite. Ça manque souvent d'une "patte" personnelle.

Il existe des outils comme GPTZero ou Originality.AI qui sont censés détecter ça. Ils scannent le texte pour voir s'il suit les schémas qu'utilisent les IA. Bon, c'est pas parfait, mais ça peut donner une bonne idée si tu doutes.

Sinon, un autre truc, c'est que les IA galèrent à retranscrire des émotions vraiment profondes ou des métaphores originales. Ça peut paraître un peu plat ou trop général, genre des phrases qui passent partout, mais sans cette petite étincelle qui fait qu'on sent la personnalité de l'auteur derrière.

Au final, c'est surtout ça : un texte IA peut être impeccable sur la forme, mais manquer de cette voix humaine qu’on retrouve dans les écrits vraiment personnels.

Un spoiler indispensable à lire:

Je n'ai pas non plus de méthode, c'est plus du ressenti.

Les algorithmes sont en perpétuelle évolution et bien malin celui qui va détecter, aujourd'hui, d'un simple coup d'oeil, ce qui est le fruit d'une IA. Pour avoir fait plusieurs expériences, la manipulation du "prompt" est primordiale et le résultat tient toujours compte des intentions de "l'auteur".

Le talent de l'écrivain résidera donc, avec l'utilisation d'une IA (ou de plusieurs), dans sa capacité à maîtriser la technique de telle manière que justement on ne puisse pas déceler cette maîtrise ni cette technique. À partir de là, l'IA redevient (reste) un simple outil.

Si le livre que je lis me plaît, alors peu importe qu'il ait été rédigé à l'aide d'une IA. Il est certain que l'auteur devrait le signaler, mais je n'en fais pas une obligation.

En conclusion (provisoire) je dirais que si le livre est bon, alors il est bon. Et si demain j'apprends que c'est une IA qui l'a écrit alors je m'interrogerai sur la nature des mes goûts en littérature.

Complément au sujet des sites de "détection".

Je viens d'aller sur ZeroGPT, GPTZero, Origanly.AI on dirait qu'ils appartiennent tous les trois à la même entité juridique. En farfouillant un peu, seul Originaly.AI laisse apparaître une localisation au Canada (Ontario). Les noms de domaine sont gérés par une entité en Islande. Donc, de mon point de vue, à utiliser avec prudence.

Utiliser une IA pour détecter une IA ça c'est très fort.

favdb a écrit:

Utiliser une IA pour détecter une IA ça c'est très fort.

Pas vraiment.

Passionnée par les stats en littérature et ayant une formation informaticienne, j'ai commencé à développer mes propres scripts pour avoir des valeurs plus poussées qu'avec Antidote (par exemple, pour voir la diversité de vocabulaire d'un texte ou sortir les différents déciles de taille de phrase). En me renseignant, j'ai découvert l'existence de la stylométrie, qui consiste précisément à étudier la façon dont écrivent des personnes pour savoir si un texte est écrit, ou non, par eux.
Cela permet par exemple d'identifier les auteurs de manifestes complotistes ou d'authentifier des textes "découverts.

Je conseille la lecture de ce site pour en savoir plus ou du livre (que je n'ai pas encore lu) "Affaires de style : du cas Molière à l'affaire Grégory, la stylométrie mène l'enquête ".

Bref, appliquer les principes de stylométrie aux textes produits par IA, ça me semble tout à fait pertinent.

Docal a écrit:

J'ai l'impression qu'un bon marqueur, pour l'instant, est la présence de jeux de mots et calembours. Je n'ai pas mémoire d'avoir vu un texte généré par IA comportant un calembour à propos. Ce qui, vu que ça relève plus de la prononciation orale que du contenu du texte même, me semble assez normal.

Donc a défaut de détecter des textes générés par IA, je pense qu'on peut plus facilement exclure l'hypothèse de l'IA dans les cas où le texte comporte des jeux de mots sur les sonorités.

Ce n'est pas du calembour, mais chatGPT m'a produit un texte avec des allitérations (à ma demande spécifique, les allitérations. Il ne l'a pas fait spontanément)

Citation :

"Les légumes verts et les fruits frais frétillent dans la cuisine, offrant une symphonie de saveurs succulentes. Les plats mijotés, mélangeant malicieusement les épices, emplissent l'air d'arômes envoûtants. La gourmandise guette, mais attention à ne pas se laisser emporter par les tentations tentaculaires des desserts délicieusement diaboliques!"

AIexis a écrit:

J'ai déjà reconnu des textes écrits par une IA par des participants sur ce forum, et ça a été confirmé par un outil d'analyse en ligne. Je n'ai pas compris l'intérêt, à moins de vouloir, à peu de frais, augmenter le nombre de messages pour accéder à telle ou telle section non autorisée.
Au passage je valide les vidéos de monsieur phi, et j'ai même repris repris une expérience de pensée qu'il a proposée dans la postface de mon roman.

( je trouve l’idée d’envoyer des textes écrits par l’ia sur le forum sans le dire aussi singulière que celle de vérifier si des textes publiés sur le forum ont été écrits par une ia ou non )

moi quand il s’agit de textes brutes non retouchés par humain mais genre premiers jets je vois tout de suite que c’est de l’ia parce que la forme d’esprit de l’auteur que je me représente mentalement au travers du texte m’apparaît comme incohérente. Mais quand l’humain a redemandé plusieurs envois à l’ia pour affiner ses requêtes je ne m’en rends plus compte en lisant le texte final. J’ai l’impression que l’ia du peu que j’ai pu en voir pond au début un texte très discutable, et que plus la requête est affinée plus elle améliore la cohérence de son style.( je dis ça sans n’avoir jamais envoyé une requête à une ia de texte ni d’image, juste au travers d’envois que m’ont fait des amis qui s’en servaient).

CalédoniaRob a écrit:

( je trouve l’idée d’envoyer des textes écrits par l’ia sur le forum sans le dire aussi singulière que celle de vérifier si des textes publiés sur le forum ont été écrits par une ia ou non )

C'est peut-être un réflexe conditionné. Je suis admin d'un forum de tennis, et je dois faire face à des armées de bots et autres scripts qui veulent spammer, et les dernières générations sont dopées à l'IA.
Ici, il s'agit d'une réponse/commentaire sur un roman mis en partage, et cette personne s'est adressé à moi en écrivant "l'auteur". J'ai également reconnu les emphases à l'américaine dont il était question sur la page précédente.

J'utilise beaucoup l'IA pour challenger mes idées et voir mes textes réécrits autrement, mais sans pour autant intégrer ces propositions à mon écriture car elles sont en effet très repérables pour l'oeil habitué. 

À mon sens une écriture générée par IA se décèle autant sur le fond que la forme. 

Sur le fond, l'IA ne dépassera jamais “les limites” ; c'est le résultat de sa programmation. Tu peux donc être assez sûre que tout ce qui est très cru/violent/sexuel/etc n'a pas été produit par IA. Mais plus que ça, le ton de l'IA a naturellement tendance à être politiquement correct : les idées qu'elle proposent retombent généralement sur leurs pattes de la manière la plus attendue, convenue, établie, bref, jamais rien de neuf ou de foncièrement innovant. Elle ne gratte pas très loin de la surface. 

Sur la forme, l'écriture IA se remarque en ce que, spontanément, elle ne s'autorise pas de “défauts”. C'est la manifestation stylistique de son caractère : elle est convenable. Or de tous temps et aujourd'hui plus encore le style des auteurs se nourrit des libertés qu'ils prennent avec la langue, la ponctuation, etc. L'IA ne sait pas le faire. Et si on le lui demande, elle le fait avec excès, grossièreté, sans dosage (peut-être aussi parce qu'elle manque de modèles), et c'est d'autant plus repérable.

AIexis a écrit:

J'ai déjà reconnu des textes écrits par une IA par des participants sur ce forum, et ça a été confirmé par un outil d'analyse en ligne. Je n'ai pas compris l'intérêt, à moins de vouloir, à peu de frais, augmenter le nombre de messages pour accéder à telle ou telle section non autorisée.
Au passage je valide les vidéos de monsieur phi, et j'ai même repris repris une expérience de pensée qu'il a proposée dans la postface de mon roman.

J'appellerais néanmoins la prudence avec les outils qui prétendent détecter les textes produits par IA et peuvent être assez peu fiables (et donc mener à des accusations erronées).

Pour le boulot ça fait bien 20 ans que je ponds des rapports et des projets scientifiques à la chaine et la langue de ces textes est totalement standardisée. Donc mes écrits en la matière ont probablement un fort parfum d'IA alors qu'ils sont fait maison (j'ai tenté chatGPT un fois, mais le temps que je fournisse un prompt suffisamment détaillé pour obtenir un résultat satisfaisant, ben.... le boulot d'écriture du texte était fait de mon côté !).

Pour ce qui est de la fiction je suis moins inquiète dans la mesure où une partie du travail est de trouver sa "voix" propre dans l'écriture. Voix qui par définition ne peut pas être produite par une IA puisqu'elle ne dispose d'aucune base d'entraînement pour apprendre celle-ci.

Je recrute pas mal dans mon travail ; et quand une lettre de motivation est faite via ChatGPT, je le calcule direct : la personne ne "dit" rien, elle se contente de reformuler l'annonce. Il n'y a rien de personnel.
Plus globalement, il y a des manières très différentes d'utiliser l'IA ; par exemple, je serais curieuse de lui faire rédiger des parties de romans sur lesquelles j'ai le synopsis et la flemme de rédiger. Avec un nombre suffisant de pages déjà rédigées, je pense qu'il arriverait bien à reprendre mon style et donc que ce serait moins détectable.
Bref, comme pour toutes les IA, le résultat est d'autant plus bluffant que tu lui as filé beaucoup à mouliner ; la détection est d'autant plus dure dans le même cas de figure