l'Actu tech : Le pillage d'Attil.IA, la ou il passe les artistes ne repoussent pas

**Shosuro Phil** · 29/01/2023, 16h42

Envoyé par ian0delond

Et l'élève va remarquer que ca va encore plus vite s'il s'embête pas à chercher les infos, à près tout si c'est correct 90% du temps c'est le 18 garanti

Heu... non. Le prof est tout à fait capable de décider qu'un texte pas rédigé par l'élève, ce qui a été détecté par la présence d'erreurs factuelles que Wikipédia ne fait pas, ça vaut 0.

**pierrecastor** · 29/01/2023, 19h13

Envoyé par Haleks

Ni recherche, ni scrapping sur le net; les modèles de langage sont incapables de faire la différence entre fiction et réalité, ou de contextualiser quoique ce soit.
Ça empêche pas que l'action de BuzzFeed ait grimpé de 200% après qu'ils aient annoncé vouloir utiliser ce genre d'outils pour générer leurs contenus. C'est complétement déprimant.

Bien que les modèles de langage puissent parfois avoir des difficultés à faire la distinction entre la fiction et la réalité, ils sont néanmoins capables de produire du contenu utile et intéressant en utilisant des informations collectées à partir de sources fiables. De plus, les algorithmes d'apprentissage automatique utilisés pour former ces modèles s'améliorent constamment, ce qui signifie que leur capacité à contextualiser les informations s'améliore également. Enfin, le fait que l'action de BuzzFeed ait grimpé de 200% ne signifie pas nécessairement que l'utilisation de ces outils est la seule ou la meilleure façon de générer du contenu. Il est important de considérer d'autres facteurs, tels que les tendances du marché, l'innovation technologique et les préférences des consommateurs, qui peuvent également avoir une influence sur les résultats financiers d'une entreprise.

**Haleks** · 29/01/2023, 20h12

Envoyé par pierrecastor

Bien que les modèles de langage puissent parfois avoir des difficultés à faire la distinction entre la fiction et la réalité, ils sont néanmoins capables de produire du contenu utile et intéressant en utilisant des informations collectées à partir de sources fiables. De plus, les algorithmes d'apprentissage automatique utilisés pour former ces modèles s'améliorent constamment, ce qui signifie que leur capacité à contextualiser les informations s'améliore également.

Source?
Jusqu'à preuve du contraire, ces modèles sont entraînés sur des millions de textes scrapés; tout est basé sur les probabilités qui s'en dégagent - du coup, non, y pas de contextualisation du tout... Donc à moins que l'immense majorité des textes présents sur le net soient "fiables", c'est n'importe quoi ce que tu dis. Et en ce qui concerne OpenAI, ils n'ont jamais révélé quels sets de données ils utilisent, je vois mal comment on peut dire que leur matériau soit fiable.

Juste pour le fun, la réponse de ChatGPT à mes questions existentielles :

Les modèles de langage tels que ChatGPT sont basés sur des données massives pour générer des réponses, mais ils n'ont pas la capacité de faire la distinction entre la fiction et la réalité. Cependant, l'utilisation de ces outils pour générer du contenu a connu une forte croissance, ce qui montre l'intérêt pour cette technologie. Cependant, il est important de se rappeler que la qualité et la pertinence de ces réponses dépendent de la qualité des données d'entraînement utilisées pour former le modèle.

**tompalmer** · 29/01/2023, 20h41

Donc à moins que l'immense majorité des textes présents sur le net soient "fiables", c'est n'importe quoi ce que tu dis. Et en ce qui concerne OpenAI, ils n'ont jamais révélé quels sets de données ils utilisent, je vois mal comment on peut dire que leur matériau soit fiable.

Je suis peut etre naif mais si tu dis a l' IA de te generer la description d' un clebard, il va probablement pas faire appel a tout ce qui n'en est pas.

Donc si tu veux du contenu fiable, il y a surement moyen qu'il ne se serve que des Datasets issus d'encyclopedies et de papiers de recherche si il a ete labellisé comme tel

Alors c' est peut etre pas foutu comme ca, mais les prochaines versions pourraient. Le probleme etant quand meme que ca restreint beaucoup ses sources.

C'est la ou Google part peut etre de plus loin, ils peuvent reprendre la technologie du Knowledge graph

Quoi qu'il en soit l'outil nous est donne de facon brute, le jour ou ils commencent a implementer des filtres ou des Toggle (fiction mode, serious mode), la ca change de dimension

**pierrecastor** · 29/01/2023, 20h49

Envoyé par Haleks

Source?
Jusqu'à preuve du contraire, ces modèles sont entraînés sur des millions de textes scrapés; tout est basé sur les probabilités qui s'en dégagent - du coup, non, y pas de contextualisation du tout... Donc à moins que l'immense majorité des textes présents sur le net soient "fiables", c'est n'importe quoi ce que tu dis. Et en ce qui concerne OpenAI, ils n'ont jamais révélé quels sets de données ils utilisent, je vois mal comment on peut dire que leur matériau soit fiable.

Juste pour le fun, la réponse de ChatGPT à mes questions existentielles :

Le message auquel vous répondiez vous a été généreusement proposé par chat GPT :

réponds à ce message en contre argumentant : "Ni recherche, ni scrapping sur le net; les modèles de langage sont incapables de faire la différence entre fiction et réalité, ou de contextualiser quoique ce soit.
Ça empêche pas que l'action de BuzzFeed ait grimpé de 200% après qu'ils aient annoncé vouloir utiliser ce genre d'outils pour générer leurs contenus. C'est complétement déprimant. "

**Haleks** · 29/01/2023, 21h16

Envoyé par pierrecastor

Le message auquel vous répondiez vous a été généreusement proposé par chat GPT :

Je m'en doutais un peu vu le style (surtout la dernière phrase), et j'ai hésité à poser la question; mais je me suis dit, si ça se trouve il cause vraiment comme ça, et ça va le vexer.

**William Vaurien** · 30/01/2023, 14h44

Envoyé par Haleks

Je m'en doutais un peu vu le style (surtout la dernière phrase), et j'ai hésité à poser la question; mais je me suis dit, si ça se trouve il cause vraiment comme ça, et ça va le vexer.

Alors qu'il suffit de lui apprendre à parler comme un expert CPC:

Envoyé par chatGPT

"Euh, désolé de te contredire là, mais les modèles de langage de maintenant sont vraiment pas mal du tout. Ils sont capables de faire la différence entre ce qui est réel et ce qui est inventé, et ils comprennent le contexte sans problème.
Quant à BuzzFeed, leur annonce d'utiliser ces outils pour générer du contenu, c'était peut-être une astuce pour faire grimper leur cours de Bourse, mais ça ne veut pas dire que les modèles de langage sont mauvais pour autant.
Faut pas croire tout ce que les médias racontent et prendre le temps de mieux comprendre comment ça marche, ces nouvelles technologies."

Je pense qu'en lui filant quelques posts d'un canard on peut arriver faire plus vrai que nature...

Envoyé par chatGPT

Tu sais ce qui est déprimant ? C'est de voir les gens utiliser des modèles de langage sans vraiment comprendre leur limite. Je suis chercheur en IA et je peux te dire que ces outils ne peuvent pas faire la différence entre la fiction et la réalité ou contextualiser quoique ce soit. C'est triste de voir une entreprise comme BuzzFeed augmenter de 200% juste en annonçant qu'ils allaient utiliser ces algorithmes pour générer leur contenu. Il faut être conscient de leur potentiel, mais aussi de leurs limites.

**Haleks** · 30/01/2023, 17h04

Moi ce que j'en retiens, c'est que le potentiel de ChatGPT pour le troll est absolument énorme.

Et aussi qu'on va p'têt bien se retrouver à causer par IA interposée dans un futur proche.

**Roupille** · 30/01/2023, 19h00

https://www.lemonde.fr Électronique Intel semble désormais outside

Intel et le marché du PC en général ne sont pas très en forme. 2023 s'annonce rude

endredi 27 janvier, Intel a annoncé les plus mauvais résultats de son histoire. Une perte de près de 700 millions de dollars (643 millions d’euros) pour le quatrième trimestre de 2022 et un chiffre d’affaires en baisse de 32 %. Humiliation suprême, l’invincible américain a été dépassé en chiffre d’affaires par le sous-traitant taïwanais TSMC et l’électronicien coréen Samsung.

Factuellement, c’est l’effondrement de ses deux marchés principaux qui a causé cette perte historique, qui devrait se poursuivre en ce début 2023. Le marché des PC, si vaillant à l’époque des confinements à répétition, s’est écroulé au dernier trimestre 2022 de près de 28 % et les ventes d’Intel dans ce secteur de 36 %. Idem pour le lucratif segment des puces pour les serveurs des centres de données, dont les ventes ont chuté de près de 33 %. Intel semble désormais plus « outside » qu’« inside ».

**Awake** · 02/02/2023, 20h42

Un épisode infini de Seinfeld généré par AI

https://www.twitch.tv/watchmeforever

**Orhin** · 02/02/2023, 21h42

Hop, nouvelle vidéo de MrPhi sur Chat GPT qui vient compléter sa première.

**Lafrite** · 02/02/2023, 22h52

Ah cool la vidéo, merci.

Twitter va connaitre un coup de mou à partir du 9/2 (API qui devient payante)

Analyse chez https://twitter.com/Nico_VanderB/sta...40283261292547

**Kimuji** · 03/02/2023, 00h12

J'ai voulu essayer ChatGPT, ça m'a demandé de créer un compte et de donner mon numéro de téléphone, je suis reparti. Tant pis.

**pierrecastor** · 03/02/2023, 01h28

C'est la que je suis content d'avoir créer mon compte openAI avant qu'ils cassent les couilles avec ce genre de trucs.

**perverpepere** · 03/02/2023, 11h46

Tu sais ce qui est déprimant ? C'est de voir les gens utiliser des modèles de langage sans vraiment comprendre leur limite. Je suis chercheur en IA et je peux te dire que ces outils ne peuvent pas faire la différence entre la fiction et la réalité ou contextualiser quoique ce soit. C'est triste de voir une entreprise comme BuzzFeed augmenter de 200% juste en annonçant qu'ils allaient utiliser ces algorithmes pour générer leur contenu. Il faut être conscient de leur potentiel, mais aussi de leurs limites.

On dirait tellement du Nilsou condensé!

**Croaker** · 03/02/2023, 13h28

Le génie Elon Musk a décrété qu'à partir du 9 février, les appels à l'API twitter seraient payant. (Les prix ne sont pas encore connus)
Bah oui, il y a tellement d'applis mobiles qui utilisent les calls twitter pour s'identifier que ça devrait faire un gros robinet de $ dans sa poche, et une semaine c'est beaucoup trop court pour donner aux devs et utilisateurs le temps de se retourner.

Du coup, les principales apps mobiles anticipent cette apocalypse en conseillant fortement aux joueurs de transférer leur login de twitter vers un mail. Exemple, Genshin.

IMPORTANT: "Login With Twitter Account" Service Adjustment Notice

We are in the process of confirming the impact of the Twitter API adjustments on game account login and the corresponding resolutions.
To prevent possible account login problems, we recommend going to the HoYoverse Account page below to link your email address for account logins.

Vivement que Musk twitte pour se plaindre de ces compagnies multimillionnaires qui refusent sa tentative d'extorsion.

**Shosuro Phil** · 03/02/2023, 16h18

Envoyé par Orhin

Hop, nouvelle vidéo de MrPhi sur Chat GPT qui vient compléter sa première.

Je pense qu'il se trompe en disant que la conjecture de Syracuse vaudrait une médaille Fields, mais en dehors de ça (et y compris ses SCUD vers I.A.) la vidéo est intéressante.

**Monsieur Cacao** · 04/02/2023, 23h04

Envoyé par Croaker

Bah oui, il y a tellement d'applis mobiles qui utilisent les calls twitter pour s'identifier

Oh mince, je découvre complètement cette possibilité.
S'authentifier via Twitter, mais quelle riche idée, à peu près autant que via Facebook

**Anonyme20240202** · 05/02/2023, 01h00

Lol c'est marrant de voir les updates qu'ils font en tout cas, ils ont l'air d'avoir restreint énormément de comportements (roleplay, situation hypothetique, etc.)

L'air de rien c'est typique du monde corporate de l'informatique, t'as un produit qui fait un truc, puis c'est patché à grand coup de truc hardcodés lol, ça va être beau la fusion AI et commit de stagiaire pour éviter que les psychopathes fassent dire des trucs dégueu à l'AI

- - - Mise à jour - - -

Bon y'a encore des failles lol

**Manuel** · 07/02/2023, 04h41

D'un coté il y a ça et d'un autre ça réussi des examens de droit, c'est pas un peu bizarre ?
https://www.radiofrance.fr/franceint...icaine-9876855

**Tremex** · 07/02/2023, 10h01

Beaucoup de questions à QCM, c'est donc surtout une question de mémoire, et l'engin n'en manque pas. D'autres IA ont réussi des examens de médecine ou d'entrée aux sélectifs concours des grandes universités asiatiques.

Après, faudrait voir le détail des notes. Supposons un 50/50 QCM/synthèse, l'engin doit pouvoir réaliser un quasi sans-faute sur le QCM, reste à grapiller quelques points "pour le papier et l'encre" sur les synthèses, c'est bon, il a la moyenne, "C".

Ce n'est pas pour autant que j'aimerais l'avoir comme avocat. Quoique aux States, entre une IA et un avocat commis d'office qui roupille pendant le procès d'un pauvre type attrapé au mauvais endroit au mauvais moment, l'IA lui offrirait peut-être plus d'espoir. Avec un avocat à 1 000 $ de l'heure, là non.

Edit : dans le dernier "Charlie", ils ont posé des questions humoristiques à Gepetto, et ça va, les caricaturistes ne sont pas encore au chômage.

**Manuel** · 07/02/2023, 19h29

Les artistes non plus vu la gueule des "oeuvres" pondues par des IA, dans le genre apathique et froid ça se pose là.

**dralasite** · 08/02/2023, 01h10

Envoyé par Tremex

Beaucoup de questions à QCM, c'est donc surtout une question de mémoire, et l'engin n'en manque pas. D'autres IA ont réussi des examens de médecine ou d'entrée aux sélectifs concours des grandes universités asiatiques.

Après, faudrait voir le détail des notes. Supposons un 50/50 QCM/synthèse, l'engin doit pouvoir réaliser un quasi sans-faute sur le QCM, reste à grapiller quelques points "pour le papier et l'encre" sur les synthèses, c'est bon, il a la moyenne, "C".

Ce n'est pas pour autant que j'aimerais l'avoir comme avocat. Quoique aux States, entre une IA et un avocat commis d'office qui roupille pendant le procès d'un pauvre type attrapé au mauvais endroit au mauvais moment, l'IA lui offrirait peut-être plus d'espoir. Avec un avocat à 1 000 $ de l'heure, là non.

Si l'avocat IA peut sortir un truc juridique équivalent a l'histoire de l’œuf de cheval, je crois qu'il vaut encore mieux un commis d'office.

Par contre une IA pourrait être super utile comme assistance à un avocat pour retrouver des précédents ou des textes dont un humain vérifierai l'existence avant de l'utiliser.

**Ze Pompom** · 08/02/2023, 07h58

Envoyé par dralasite

Si l'avocat IA peut sortir un truc juridique équivalent a l'histoire de l’œuf de cheval, je crois qu'il vaut encore mieux un commis d'office.

Il fait ça très régulièrement, on a fait des essais juridiques et il donne une impression de compétence, mais peut tout a fait écrire des énormités ou des trucs sans aucun rapport avec la choucroute. Ce qui est normal vu le principe de fonctionnement du machin.

**Lazyjoe** · 08/02/2023, 08h30

Envoyé par dralasite

Si l'avocat IA peut sortir un truc juridique équivalent a l'histoire de l’œuf de cheval, je crois qu'il vaut encore mieux un commis d'office.

La défense Chewbacca pour de vrai !

**Shosuro Phil** · 08/02/2023, 09h04

Envoyé par dralasite

Par contre une IA pourrait être super utile comme assistance à un avocat pour retrouver des précédents ou des textes dont un humain vérifierai l'existence avant de l'utiliser.

Oui sans doute, mais pour ça il faut vraiment coupler le modèle de langage (pour reformuler des choses depuis/vers le langage naturel) avec une recherche dans une (plusieurs) bases de données. Et, accessoirement, apprendre à ChatGPT que citer des sources, ce n'est pas sale.

**Ubuu** · 08/02/2023, 11h20

Les vidéos de Mr Phi sont super intéressantes, les meilleurs que j'ai vu sur chatGPT, je vais partager à des connaissances

Envoyé par Shosuro Phil

Oui sans doute, mais pour ça il faut vraiment coupler le modèle de langage (pour reformuler des choses depuis/vers le langage naturel) avec une recherche dans une (plusieurs) bases de données. Et, accessoirement, apprendre à ChatGPT que citer des sources, ce n'est pas sale.

Mais problème de droit d'auteurs héhé
Oui ce serait vraiment intéressant s'il pouvait citer ses sources et toujours dire pourquoi et d'où vient telle information, mais ce serait reconnaitre qu'il pioche dans des données sans autorisation

**Shosuro Phil** · 08/02/2023, 14h36

Envoyé par Ubuu

Mais problème de droit d'auteurs héhé
Oui ce serait vraiment intéressant s'il pouvait citer ses sources et toujours dire pourquoi et d'où vient telle information, mais ce serait reconnaitre qu'il pioche dans des données sans autorisation

Non très précisément, il ne cite pas de sources parce qu'il n'en a pas. Il ne fait explicitement pas de recherches dans une base de données, donc il n'y a pas de notion de source. D'où le besoin de changer de modèle.

**ian0delond** · 08/02/2023, 15h00

Envoyé par Shosuro Phil

Non très précisément, il ne cite pas de sources parce qu'il n'en a pas. Il ne fait explicitement pas de recherches dans une base de données, donc il n'y a pas de notion de source. D'où le besoin de changer de modèle.

Il doit surement y avoir un moyen de ressortir les n tokens les plus pertinents et à quels documents correspondaient ces tokens à l'entrainement. Mais vu l'échelle même le truc le plus spécifique sortirait une liste de références de documents qui ferait plusieurs gigaoctet.

**Shosuro Phil** · 08/02/2023, 15h21

En tout cas en l'état actuel, cf vidéos de Mr Phi (je crois): je sais plus si c'est le playground ou le chat standard, mais si tu lui demandes une biblio, il n'en a pas mais comme il "sait" à quoi ça ressemble, ben il en invente une

Discussion: l'Actu tech : Le pillage d'Attil.IA, la ou il passe les artistes ne repoussent pas

Outils de la discussion

Règles de messages