l'Actu tech : Le pillage d'Attil.IA, la ou il passe les artistes ne repoussent pas

[Cedski]

Oui je viens de lire le lien donné par dralasite. c'est "vieux" en fait. J'avais raté ce drama.

Même le Monde s'est planté dans la commande (enfin c'est ce qu'ils disent) mais personne n'a vu le moindre problème lors du choix de l'image. -> ???

[Nilsou]

Les "petites mains", comme tu dis, sont des artistes qui font un boulot alimentaire qui peut leur permettre un jour de faire mieux, si on leur supprime cela, combien de possibles futurs "grand" artistes vont devoir laisser tomber? Les artistes aujourd'hui célèbres ne sont pas apparus ex-nihilo, ils ont presque tous commencé par être débutants et devoir faire des petits boulots pour vivre et pouvoir se perfectionner.

Oui, c'est le principal problème que j'identifie et là dessus tu as 100% raison.
Ceci dit je pense que ça s'orientera vers quelques écoles d'élites qui permettent de zapper le bas de la pyramide qui sera tout pété ...

[Arthropode]

Pour le coup, la responsabilité c'est Le Monde. Glénat n'a pas de responsabilité éditoriale là dessus (et était très mécontent de ce bordel.)

L'article cité dit que le Monde a pris l'image dans une banque qui était censé être libre d'images générés par IA. Ce qui est assez cohérent avec la position du journal qui a précisé dans sa charte ne peux avoir recourir aux images générés par IA.

Par contre, ils sont clairement fautifs de ne pas avoir vérifié les qualités de l'image et tant qu'à faire son historicité.

[Ze Pompom]

L'article cité dit que le Monde a pris l'image dans une banque qui était censé être libre d'images générés par IA. Ce qui est assez cohérent avec la position du journal qui a précisé dans sa charte ne peux avoir recourir aux images générés par IA.

Par contre, ils sont clairement fautifs de ne pas avoir vérifié les qualités de l'image et tant qu'à faire son historicité.

Bah quand ta motivation de depart c’est ´pas cher’ tu verifies pas, tu corriges pas, (pareil pourles trad d’ailleurs). Les banques ‘libres d’ia’ en ce moment, doit pas y en avoir des masses. Sur adobe stock par exemple, si tu coches ‘je ne veux pas d’image IA’ il te reste… une majorité d’images IA. Parceque le tag IA est déclaratif, et que les mecs qui uploadent des images ia ne le declarent pas. Dans le monde de l’edition, tout le monde le sait.
(ce qui est marrant, c’est que cette revue est sorti le jour ou paraissait dans le monde un article tres comlet sur les risques des ia generatives).

[564.3]

C'est marrant qu'après quelques décennies de réseaux sociaux/communautés en ligne (de la boite mail, à facebook en passant par des librairies comme github/wikipedia) la Silicon Valley promet que le futur d'internet c'est d'avoir un assistant personnel IA pour avoir le moins d'interactions possibles avec d'autres humains.

Et quand ils devront essorer tout ça pour en faire sortir le max de fric, ça va être beau. Pour l'instant c'est la phase d'investissement, tout va bien.
Je suppose qu'il y a déjà eu des articles à ce sujet, je vois bien les assistants personnels avec un profile ultra détaillé des utilisateurs pour vendre l'espace de pub le mieux ciblé, les réponses et conseils sponsorisés, etc.

[Tremex]

Et je dirais que ce n'est même pas le futur, mais même le passé. Asimov, dans son Cycle des robots, avait déjà imaginé des mondes où les Spatiens bouffis d'orgueil ne voulaient plus rencontrer physiquement qui que ce soit, même leur épouse (et donc même plus "d'échange de fluides"), et ça finissait assez mal (dans Terre et Fondation du moins).

Donc encore une "réinvention de la roue", ou de l'eau tiède selon l'humeur.

Et encore, même Asimov était moins prude puisqu'on pouvait s'éprendre de ses jolis androïdes. Je me rappelle encore d'un collègue qui voit mon 4ème de couverture racontant ça et pensant que je lisais du machin érotique (même pas). Mais demander aux WASPs de la Silicon Valley de se lâcher un peu...

Pour un monde entièrement bouffé par la pub ciblée, pas de références sous le coude (ptêt en cyberpunk type Stephenson ?). Pour la pub tout court, là ça va, il y a Ballard et surtout "Planète à gogos".

[Cedski]

Ah oui la planète avec les énormes domaines ou personne ne pouvait/voulait se voir.

[tompalmer]

Lol. Quand t’es pas pret a payer 200 ou 400 balles pour ta couv. Tu crois que le graphiste derrière il a combien de temps pour rattraper la merde d’origine ?
Le problème c’est que t’es pas prêt a payer au départ, et que c’est même pour ça que t’as pas contacté un dessinateur humain.

Oui moi je parle du mec qui a fait la génération, si t'as besoin de retoucher ton image c'est que tu maitrise pas les prompts

[dralasite]

C'est surtout que ca a été fait a la va-vite.
Le problème c'est pas l'IA, c'est le mec derrière qui était pressé de partir en RTT.

Tu as vu l'image avant retouche dans l'article? Le gars a fait un gros boulot mais il partait d'un truc vraiment moche à la base. Un humain ne peut pas faire de miracle pour transformer la bouse en or, à moins de tout reprendre à zéro.

Oui, c'est le principal problème que j'identifie et là dessus tu as 100% raison.
Ceci dit je pense que ça s'orientera vers quelques écoles d'élites qui permettent de zapper le bas de la pyramide qui sera tout pété ...

Qu'est ce que tu entends par des écoles d'elites? Personne ne sort d'une école d'art en étant un cador (peut être en ayant de méga contacts/appuis par sa famille?)

Oui je viens de lire le lien donné par dralasite. c'est "vieux" en fait. J'avais raté ce drama.

Même le Monde s'est planté dans la commande (enfin c'est ce qu'ils disent) mais personne n'a vu le moindre problème lors du choix de l'image. -> ???

C'est justement cela que je condamne et qui augure rien de bon pour le futur: une image moche et générée par IA (de façon assez évidente) a été validée par l'éditeur afin d'être le visuel de couverture. A coté de ça il y a eu d'autres cas, comme des images utilisées par LEGO où les personnages avaient des doigts (!), les éditeurs divers font des ballons d'essais pour utiliser des images générées par IA pas chères et si le public râle ils disent que c'est la faute du stagiaire ou du sous-traitant.

Oui moi je parle du mec qui a fait la génération, si t'as besoin de retoucher ton image c'est que tu maitrise pas les prompts

Et que dire alors des gens d'OpenAI qui ont fait un petit film ("Air Head") qu'ils ont dû retoucher fortement car l'IA était incapable par nature de sortir un film potable et cohérent? Eux aussi ils sont mauvais en prompt?

[tompalmer]

1. Sora est expérimental
2. ton viking je peux en générer un potable en 5 minutes, la en 2024.

Donc patience, ca progresse très vite, mais Rome ne s'est pas faite en un jour et personne ne prétend que l'IA c'est Michel ange non plus.

Le viking a été pris sur une banque d'image et dieu seul sait quand il a été généré, et qui est derrière.

[Cedski]

On s'en fout un peu, quoi qu'on en dise le problème c'est que même sur un truc ou les conneries sautent au visage, ça passe au travers de la ré-analyse humaine.
A la limite, on peut dire que quand sera plus subtil le problème s'en sera que pire !!
A quand une IA pour illustrer un livre d'histoire blindée de conneries ?

[Ze Pompom]

Oui moi je parle du mec qui a fait la génération, si t'as besoin de retoucher ton image c'est que tu maitrise pas les prompts

Lol.

[tompalmer]

A quand une IA pour illustrer un livre d'histoire blindée de conneries ?

Regarde les manuels d'histoire entre 1870 et 1970 c'était bourré de clichetons (et ca continue apres meme)

On s'en fout un peu, quoi qu'on en dise le problème c'est que même sur un truc ou les conneries sautent au visage, ça passe au travers de la ré-analyse humaine.
A la limite, on peut dire que quand sera plus subtil le problème s'en sera que pire !!

Bah ouais mais déja quand t'es focus sur un truc ou surmené tu peux laisser passer des trucs dingues

Fameux test

[Nilsou]

Qu'est ce que tu entends par des écoles d'elites? Personne ne sort d'une école d'art en étant un cador (peut être en ayant de méga contacts/appuis par sa famille?)

Comme pour la musique ou la peinture ou même le théâtre, tu as deux mondes : ceux qui commencent par de petites écoles, ou sans formations, et montent graduellement grâce à leur portfolio et de dures années de travail en tant que petites mains de leurs disciplines respectives. Et tu as les autres . Ceux qui font des écoles ultra cotés, ultra sélective, et très exigeante et qui finissent immédiatement dans des formations de prestiges. Des écoles d'élites quoi. Dans l'art c'est courant.

[Nilsou]

Fameux test
https://youtu.be/vJG698U2Mvo

Un classique dans mes recherches cette expé, je kif.

[tompalmer]

OpenAI Is ‘Exploring’ How to Responsibly Generate AI Porn

Beaucoup vont se moquer, mais je préfère que les entreprises s'y consacrent parce que si on passe sur des modèles Open Source pour ca, ca va être la foire.

Idéalement j'aimerais bien un bouton "NSFW mode" sur Midjourney, parce que j'en ai marre de me faire bloquer des prompts banals

[dralasite]

1. Sora est expérimental
2. ton viking je peux en générer un potable en 5 minutes, la en 2024.

Donc patience, ca progresse très vite, mais Rome ne s'est pas faite en un jour et personne ne prétend que l'IA c'est Michel ange non plus.

Le viking a été pris sur une banque d'image et dieu seul sait quand il a été généré, et qui est derrière.

Si tu avais lu les articles concernant Sora, tu aurai vu qu'il y a plusieurs problèmes structurels dont ils ignorent s'il existe une solution (comme la manie de tout foutre au ralenti ou le fait qu'il n'y ai pas de cohérence entre les mini-séquences) ou qui demanderaient des ressources titanesque (afin de faire des séquences nettement plus longues).

Si pour faire une vidéo de 5mn il faut mobiliser la moitié des ressources des USA, je ne crois pas que ce soit un progrés.

Bah ouais mais déja quand t'es focus sur un truc ou surmené tu peux laisser passer des trucs dingues

Fameux test

Je veux bien s'il s'agissait d'une illustration en bas de page 44 mais il s'agit ici de la couverture, le visuel le plus important, celui qui fait vendre (ou pas). S'ils étaient "trop fatigués ou distraits" pour gérer l'illustration principale, je n'ose imaginer la merde qu'il devait y avoir dans le reste du magazine.

Si Le Monde et Lego et autres sont prêts à utiliser des images moches générées par IA, ça laisse présager un nivellement par le bas. En particulier on va en bouffer un max par la pub: SORA et les générateurs sont parfaits pour générer des séquences courtes ou des images "potables" tant que l'on ne regarde pas les détails.

- - - Mise à jour - - -

OpenAI Is ‘Exploring’ How to Responsibly Generate AI Porn

Beaucoup vont se moquer, mais je préfère que les entreprises s'y consacrent parce que si on passe sur des modèles Open Source pour ca, ca va être la foire.

Idéalement j'aimerais bien un bouton "NSFW mode" sur Midjourney, parce que j'en ai marre de me faire bloquer des prompts banals

Que ce soit "responsable" ou pas, le porno IA va amplifier certains problèmes déjà existant dans le porno "classique": corps trop parfaits, performances hors-normes, comportements potentiellement dangereux... On peut même y rajouter des positions physiquement impossibles même pour un maitre en yoga.

Mais bon, ce qu'ils proposent est tout de même mieux que de laisser cela en open bar, les possibilités d'abus sont gigantesques (et déjà existantes, en fait)

[tompalmer]

Si tu avais lu les articles concernant Sora, tu aurai vu qu'il y a plusieurs problèmes structurels dont ils ignorent s'il existe une solution (comme la manie de tout foutre au ralenti ou le fait qu'il n'y ai pas de cohérence entre les mini-séquences) ou qui demanderaient des ressources titanesque (afin de faire des séquences nettement plus longues).

Si pour faire une vidéo de 5mn il faut mobiliser la moitié des ressources des USA, je ne crois pas que ce soit un progrés.

Donc c'est bien ce qu'on dit, c'est un prototype et je vois pas en quoi on devrait se baser sur ca pour juger de la qualité globale du travail IA.

Tu fais du Cherrypicking

Que ce soit "responsable" ou pas, le porno IA va amplifier certains problèmes déjà existant dans le porno "classique": corps trop parfaits, performances hors-normes, comportements potentiellement dangereux... On peut même y rajouter des positions physiquement impossibles même pour un maitre en yoga.

On parle d'image fixes, personne ne s'excite la dessus. Je pense surtout que Porno dans la tete d'un américain ce sera juste de la nudité en gros

[Shosuro Phil]

On parle d'image fixes, personne ne s'excite la dessus. Je pense surtout que Porno dans la tete d'un américain ce sera juste de la nudité en gros

"Personne", bien sûr.

Mais surtout, tu passes à côté du point de Dralasite: les IA génératives étant, un peu par définition, des machines à répéter des stéréotypes, elles risquent de renforcer encore les biais déjà présents, et s'agissant de sexualité, ça a des impacts réels.

[Laya]

Ça permet aussi des créer des choses qui n’existent pas ou peu voire impossible, un peu comme le fait le Hentai par exemple.
Difficile de prédire dans quel sens ça va être utilisé, probablement les deux.

Après comme toute fiction (ça vaut pour les films "classiques" aussi) le problème de fond c'est les personnes qui ont du mal à faire la part des choses avec le réel, abandonné socialement en quelque sorte à une déformation du réel. Comme pour un GTA, comme pour un film d'horreur ou la musique sataniste de Marilyn Manson

[dralasite]

Donc c'est bien ce qu'on dit, c'est un prototype et je vois pas en quoi on devrait se baser sur ca pour juger de la qualité globale du travail IA.

Tu fais du Cherrypicking

J'ai aussi cité plusieurs autres exemples des limites et des dangers des IAs.

On parle d'image fixes, personne ne s'excite la dessus. Je pense surtout que Porno dans la tete d'un américain ce sera juste de la nudité en gros

Il existe des millions d'images pornos de tout type en circulation sur le web sur des centaines/milliers de sites, je peux donc dire sans le moindre problème qu'il y a des gens qui s'excitent dessus. Je peux aussi signaler l'existence des magazines pornos existants depuis des décennies (et même plus si on inclus les "bibles de Tijuana" entre autre)

De plus il existe déjà des vidéos pornos utilisant les IAs, il ne s'agit donc pas seulement d'images.

En ce qui concerne les américains, ce sont de gros consommateurs et créateurs de pornos de tout types, des plus prudes aux plus crades/déviants/illégaux.

- - - Mise à jour - - -

Ça permet aussi des créer des choses qui n’existent pas ou peu voire impossible, un peu comme le fait le Hentai par exemple.
Difficile de prédire dans quel sens ça va être utilisé, probablement les deux.

Après comme toute fiction (ça vaut pour les films "classiques" aussi) le problème de fond c'est les personnes qui ont du mal à faire la part des choses avec le réel, abandonné socialement en quelque sorte à une déformation du réel. Comme pour un GTA, comme pour un film d'horreur ou la musique sataniste de Marilyn Manson

Pour prédire dans quel sens ça va être utilisé, on peut se baser sur la façon dont c'est déjà utilisé: déshabiller virtuellement des femmes non consentantes (et/ou des mineures) ou les inclure dans des vidéos pornos. ET ce n'est que le début: si les IA s'améliorent autant que Tompalmer semble le croire, il n'y aura aucune limite puisque les gens lisant/créant du hentai pourront se lâcher.

[Nilsou]

Que ce soit "responsable" ou pas, le porno IA va amplifier certains problèmes déjà existant dans le porno "classique": corps trop parfaits, performances hors-normes, comportements potentiellement dangereux... On peut même y rajouter des positions physiquement impossibles même pour un maitre en yoga.

Mais bon, ce qu'ils proposent est tout de même mieux que de laisser cela en open bar, les possibilités d'abus sont gigantesques (et déjà existantes, en fait)

C'est déjà en open bar hein, du moins pour les images fixes. Tu peux installer stable diffusion en quelques clics et l'entrainer sur des photos de n'importe qui en quelques clics supplémentaires.

[Laya]

Si on se base sur la façon dont elle est déjà utilisé c'est assez large en faite et ça ne se résume pas à tes dires.
Si chacun peut avoir des visuel sur ses kink je ne vois pas spécialement le problème. Que ça soit avec des tentacules, des mutants, des licornes ou des gnomes.

Là ou c'est problématique c'est plutôt l'utilisation illégale de l'IA pour faire du deepfake et le droit à l'image (qu'on connaissait déjà avec photoshop mais qui est renforcé potentiellement ici).
Le reste c'est de la politique morale (chrétienne) à mes yeux (exception faite de la pedo pornographie mais même là si au moins ça pouvait diminuer les vrais photos ça aurait du bon).
Parce que ici aussi le problème n'est pas l'IA mais le fait que certains soient excités par des enfants, il est là le problème de fond et l'IA ne changera pas ça à priori, à moins de croire que la fiction implique fortement des comportements ce qui, il me semble, a été déjà montré comme faux en général.

Pour illustrer le problème les crimes de pédophilie on a eu pas mal dans des communautés religieuses à morale pourtant très forte et non directement au Japon ou jusqu'à très récemment c'était carrément légal de détenir de la pédo pornographie (je ne dis pas que c'est "bien", juste que ça n'a probablement pas vraiment d'impact).
https://perspective.usherbrooke.ca/b...iodes=avecNomP

[Nilsou]

Pour moi va surtout que chacun se fasse au fait que son image peut être utilisé pour n'importe quoi dans la sphere privé d'un autre. Et qu'il faut être très prudent sur les images de nous qui circulent si on veut mitiger le problème.

[tompalmer]

Mais surtout, tu passes à côté du point de Dralasite: les IA génératives étant, un peu par définition, des machines à répéter des stéréotypes, elles risquent de renforcer encore les biais déjà présents, et s'agissant de sexualité, ça a des impacts réels.

Sur des images fixes je ne pense pas justement. Comme le dit Laya tu as déja DeviantArt sur ce créneau donc je vois pas ce que ca change de nouveau.

Et comme on a maintes et maintes fois eu le débat : oui les jeunes sont influencables, mais au bout d'un moment ils sont confrontés a la réalité et ca se calme.
Moi aussi je croyais au pere noel un moment

- - - Mise à jour - - -

De plus il existe déjà des vidéos pornos utilisant les IAs, il ne s'agit donc pas seulement d'images.

Envoie moi par MP, je n'en ai jamais vu donc je peux pas te répondre en connaissance de cause

Sauf si tu me parle de Deepfake mais je vois pas le rapport du coup, puisque ca ne remplace que la tete

[Nilsou]

Il y en a oui, des vidéos IAs, mais ce sont souvent des DeepFakes. Je ne crois pas qu'il y ait pour l'instant de porno 100% généré par IA en vidéo.

[tompalmer]

Bah oui ca me semble évident, l'usage mainstream n'est meme pas encore la alors du porno ...

[Zapp le Grand]

Il y a encore le fait qu'aujourd'hui, l'IA est un gouffre à pognon absolument colossal, et que je ne vois pas comment cela peut se résorber, vu que pour rentabiliser l'IA, il faut soit que les particuliers payent, soit les entreprises payent (et puissent donc rentabiliser ces abonnements en réduisant leur masse salariale)

Et donc pour améliorer l'IA actuelle, ca va coûter encore plus (je pars d'un point de vue purement fiscal hein, je ne parle pas du coût humain de l'entrainement de ces IA, de l'impact écologique et social,...), et j'ai quand même l'impression que les GAFAM sont au bout de leur investissement et qu'ils veulent du ROI au plus vite.

C'est pourquoi google cale l'IA dans son moteur de recherche alors que ce n'est pas prêt, pareil pour Microsoft qui l'intègre dans windows11, ....


Bref au dela des considérations éthiques sur les deepfake et compagnie, l'aspect purement "commercial" est ultra inquiétant.

Dans le pire des cas, j'imagine une techno ultra mature mais inabordable pour le commun des mortels et réservé à une élite financière, qui remplacera tout notre modèle social/economique. Imaginez par exemple ce type de techno accessible à l'école mais pour certains élèves uniquement.

[Shosuro Phil]

Ça n'a pas trop de sens: dans le coût d'une IA par réseau de neurones il y a d'une part le coût de l'entraînement (récolter des données et les faire avaler par le modèle pour ajuster ses paramètres), et d'autre part le coût de fonctionnement. Les deux sont énormes, mais le coût d'entraînement est vraiment loin d'être négligeable - et comme c'est la course à l'échalote sur les modèles, ils sont obligés de faire des mises à jour permanentes, donc de l'entraînement encore et encore.

Et si tu réserves l'utilisation à un petit nombre d'utilisateurs, tu te retrouves à faire porter le coût par un petit nombre, donc ça revient plus cher par utilisateur. Il vaut mieux le répartir sur un maximum.

Ensuite ça ne dit rien sur le modèle économique et le coût de fonctionnement, qui effectivement actuellement, d'après ce que j'ai compris, reste déraisonnable et rend les systèmes non rentables sur la base d'un abonnement non hors de prix. J'imagine que les boîtes qui cherchent sérieusement à monétiser leurs modèles vont aller dans le sens d'une réduction de la taille, ou de faire réllement porter le coût de fonctionnement sur l'utilisateur (si le modèle tourne sur la machine de l'utilisateur, c'est lui qui l'alimente en électricité et qui la change quand il en a besoin).

Après pour modérer le coût de l'entraînement, j'imagine que c'est déjà pas mal en place mais il peut y avoir un entraînement initial "générique", et un entraînement spécifique au cas d'usage de l'utilisateur, plus léger. Mais d'une manière ou d'une autre, ça reste des coûts importants, et les mutualiser est plutôt une bonne idée.

[dralasite]

Il y en a oui, des vidéos IAs, mais ce sont souvent des DeepFakes. Je ne crois pas qu'il y ait pour l'instant de porno 100% généré par IA en vidéo.

Oui, je parlais de deepfakes: vu l'état de la création de vidéos actuelles, du porno pure IA serait (actuellement) un truc lovecraftien, avec des bites bifides, des membres qui apparaissent et disparaissent, des "acteurs" qui se dédoublent ou se phagocytent aléatoirement.

Spoiler Alert!

Les deepfakes dans le porno c'est déjà "trop" (vu la façon dont c'est appliqué, c'est à dire sur personnes non consantentes) de toute façon...

- - - Mise à jour - - -

Si on se base sur la façon dont elle est déjà utilisé c'est assez large en faite et ça ne se résume pas à tes dires.
Si chacun peut avoir des visuel sur ses kink je ne vois pas spécialement le problème. Que ça soit avec des tentacules, des mutants, des licornes ou des gnomes.

Là ou c'est problématique c'est plutôt l'utilisation illégale de l'IA pour faire du deepfake et le droit à l'image (qu'on connaissait déjà avec photoshop mais qui est renforcé potentiellement ici).
Le reste c'est de la politique morale (chrétienne) à mes yeux (exception faite de la pedo pornographie mais même là si au moins ça pouvait diminuer les vrais photos ça aurait du bon).
Parce que ici aussi le problème n'est pas l'IA mais le fait que certains soient excités par des enfants, il est là le problème de fond et l'IA ne changera pas ça à priori, à moins de croire que la fiction implique fortement des comportements ce qui, il me semble, a été déjà montré comme faux en général.

Pour illustrer le problème les crimes de pédophilie on a eu pas mal dans des communautés religieuses à morale pourtant très forte et non directement au Japon ou jusqu'à très récemment c'était carrément légal de détenir de la pédo pornographie (je ne dis pas que c'est "bien", juste que ça n'a probablement pas vraiment d'impact).
https://perspective.usherbrooke.ca/b...iodes=avecNomP

On se retrouve d'ailleurs avec de possible cas légaux compliqués: que faire si un pedophile se fait chopper mais dont tout le "matériel" est fabriqué par IA, il se passe quoi? Il y a déjà le cas pour les manga pedo, il me semble que ça dépends des pays.

Petite note au passage: l'auteur du manga Love Hina est devenu un politicien (de droite, voir extrême droite) qui lutte entre autre contre la censure et criminalisation des manga pedo.