Détection de texte IA, est-ce vraiment utile pour nous ?

Là, comme ça, je ne vois pas trop d'utilité.

Bonjour "Simon Lenov" (ainsi que notre Estimé & Estimable @Droopyannn !),

• Pour celles et ceux qui font de la formation, ce genre d'outil peut être utile pour savoir si le programme et/ou les ateliers sont le produit d'une IA ou d'un vrai cerveau : j'ai déjà eu recours à ce genre d'investigations car je trouvais "étrange" certaines phrases dans des cahiers d'exercices ou dans les contenus des slides que certains organismes mettent à disposition des animateurs/formateurs lorsque ceux-ci ne disposent pas de leur propre prose (cas où il s'agit d'une formation suffisamment générique où l'apport d'un support fait maison n'a que très peu de valeur ajoutée, notamment lorsqu'il s'agit de sujets d'ordre très basique).

J'avais fait part de mes remarques à l'organe de direction de ces organismes de formations "peu regardants", du moment que cela fait rentrer du business et que cela rapporte du "grisbi" et pour certains, si cela "vous défrise", passez votre chemin, d'autres seront certainement moins "rigides" que vous et basta !!!!. (comprendre que ce n'est plus la peine de postule pour un AO ou pour une proposition de formation).

Avec toute ma conscience professionnelle, j'ai effectivement "effacé" ce genre d'organismes (qui en ce moment sont en pleine embrouille juridico-pénale pour atteinte indirecte à la propriété intellectuelle, tromperie, recel et vol) et quelque part, je me "réjouis" d'y avoir participé de manière indirecte. Les nouvelles règlementations (à venir prochainement) sur la formation (notamment un Qualiopi 2 encore plus dur et plus scalpelisant) vont contribuer à "passer l'écrémeuse" dans la "barrate à beurre" et remettre de l'ordre dans tout cela (IAG comprise).

• Pour celles et ceux qui font des audits internes ou externes, dans les domaines des SI ou des audits de qualité, cela peut s'avérer utile de vérifier que le contenu final et le rapport n'aient pas été générés pour tout ou partie par un IAG (j'ai quelques cas où les 3/4 du rapport est le fruit d'une IA : les rapports avaient été confiés à des "jeunots" qui se sont empressés de "prompter" (c'est beaucoup moins difficile que d'essayer de penser par soi-même : certains clients n'ont rien vu venir et se sont fait "empapaouter" avec un rapport-suppo à l'IA et d'autres plus affûtés, disposait d'un même genre d'outils, ce qui a provoqué parfois des "tsunamis" dans les équipes des prestataires d'audits (remplis de p'tits jeunes, à qui on confie des missions d'importance, et qui "boulotent" à l'IAG). Quelques cabinets "hauts en couleur" en ont fait les frais et l'argument "massue" était : "nous avons beaucoup de demandes et si il fallait continuer de. "bosser à l'ancienne", on ne s'en sortirait plus ... certains ont "pris la porte" et n'ont jamais été autorisés à revenir franchir son "seuil".

• Pour celles et ceux qui "codent" (avec dignité et professionnalisme) : vérifier les codes produits des applications. Lorsque l'on voit des applications "trop bien construites" pour être des vraies ou à l'inverse, un "paquet de nouilles sans saveur", on peut légitimement se poser des questions : je fais souvent des contrôles de ce genre à la demande de clients (qui eux sont très regardants, parfois un peu trop à l'extrême, mais dans certains cas précis, c'est 0 ou 1) et l'on s'aperçoit de plus en plus, qu'il y a des codes générés par différentes sources et que souvent, il y a des méthodes ou des instructions qui ne devraient pas être là (j'ai vu des morceaux de codes censés provenir de "cerveaux humains très expérimentés en langage Microsoft" contenir des "deprecated methods" - à la pelle allemande", tellement "deprecated" depuis 2 ou 3 ans).

Donc, oui, ces outils peuvent nous aider dans notre quotidien .... et il y en a certainement d'autres que nous ne connaissons pas encore.

En espérant avoir contribué à éclairer quelques lanternes,

Bien cordialement,

Yanolezard.

Pour détecter les SPAMs ou les arnaques dans les emails. Un email soi-disant de la part d'un organisme, qui est un fake. Les employés d'une banque n'utiliseront pas IA pour générer un email, au moins pour des raisons de sécurité et de confidentialité.

Bonjour,

Je vais vous répondre par une anecdote.

Il y a 10 ans un client (A) a engagé un salarié (B) pour le mettre en régie chez un de ses clients (C). Après un mois et paiement de la première paie, C appelle A car il s'inquiète. B est parti déjeuner et n'est pas revenu depuis. Il ne répond pas au téléphone.

A ne réussi pas plus à joindre B. Il finit par aller dans l'entreprise pour les aider à boucler la mission mensuelle de B. Il se rend compte que B n'avait presque rien fait et le peu fait était erroné (même si C ne se rendait compte de rien).

Un peu interloqué, A reprend les documents qu'il avait échangé avec B pour l'engager. Il ne comprend pas et vient donc vers moi pour me demander mon avis. Il m'a fallut 10 minutes pour voir que les paies antérieures présentées pour justifier ses prétentions salariales étaient fausses, que dans son CV les activités prétendues effectuées étaient des copiés-collés d'annonces d'offres d'emplois et que dans la partie formation de son CV il annonçait trop de détails farfelus (assistant du professeur d'informatique dès sa première année, junior entreprise dans une école qui n'en avait pas)... Et c'était avant les IA.

Je pense que pour contrôler la réalité et légitimité des CV (notamment références) des salariés ou partenaires et les travaux/rapports reçus, avoir un outil qui analyse ces derniers peut être utile au responsable.

Tout dépend du contexte. Personnellement j'utilise beaucoup l'IA pour de la rédaction mais je contenu est vérifié et juste. C'est seulement un outil pour aller plus vite et parfois être plus clair.