l'Actu tech : Le pillage d'Attil.IA, la ou il passe les artistes ne repoussent pas

[Helix]

Est-ce que l'IA fait de l'art ? Non car l'art c'est forcément humain.
C'est un peu circulaire comme raisonnement tu ne trouves pas ?

Ce n'est pas un raisonnement circulaire mais l'application d'une définition. Qui changera peut-être, mais pour le moment c'est celle-ci qui fait consensus.

Pour être pragmatique, même si on écarte la condition "est humain" pour pouvoir attribuer l'étiquette "artiste", il reste tout ce qui relève de l'intention. On peut discuter avec un artiste humain pour qu'il explicite ses choix, ses traits de crayons, ses choix de cadrage, etc. Ça arrive fréquemment dès que l'on échange avec un artiste, il explique pourquoi çi pourquoi ça, et c'est ça qui est intéressant.
Impossible avec les programmes "IA". Il n'est pas possible de dialoguer avec eux pour avoir le même échange. Même en décortiquant les poids des connexions, il est extrêmement difficile, voir impossible de rendre explicable les décisions et les choix faits.

[Laya]

Mais alors dit moi Jamie, L'Art, qu'est-ce que c'est ?

C'est l'expression d'un humain apparement.
Exit le tableau de chimpanzé

Ce n'est pas un raisonnement circulaire mais l'application d'une définition. Qui changera peut-être, mais pour le moment c'est celle-ci qui fait consensus.

Pour être pragmatique, même si on écarte la condition "est humain" pour pouvoir attribuer l'étiquette "artiste", il reste tout ce qui relève de l'intention. On peut discuter avec un artiste humain pour qu'il explicite ses choix, ses traits de crayons, ses choix de cadrage, etc. Ça arrive fréquemment dès que l'on échange avec un artiste, il explique pourquoi çi pourquoi ça, et c'est ça qui est intéressant.
Impossible avec les programmes "IA". Il n'est pas possible de dialoguer avec eux pour avoir le même échange. Même en décortiquant les poids des connexions, il est extrêmement difficile, voir impossible de rendre explicable les décisions et les choix faits.

Consensus dans les milieux élitistes peut être, le peuple dans sa majorité j'en doute sur le long terme.

[Kimuji]

Perso je ne lierai pas "art" à "humain", mais plutôt à "conscience". A partir du moment où on a une conscience, une sensibilité et qu'on comprend ce qu'on fait on peut faire de l'art, humain ou pas.

[Anonyme20240202]

Partie 1

(suite)

Donc après avoir discuté plusieurs fois du sujet avec des canards, je sais par expérience que le concept est pas forcément simple à saisir.

Mais imaginez que le mecs aient utilisé les images de profils de site de recrutement (Linkedin) ou autre pour leur corpus d'entrainement. Je pourrai alors taper votre nom dans le générateur d'image et facilement produire une image peu flatteuse de vous.

De la même manière qu'actuellement les noms de célébrité vont vous générer une image proche de la célébrité concernée, et un nom d'artiste piochera dans les oeuvres de l'artiste.

Récemment sur twitter y'a même un mec qui a montré que dans le corpus, "Getty" (site payant/banque d'image) est là/a été scrapped, parce qu'il a retrouvé la watermark Getty en générant des images.

Ce ne sont que quelques exemples parmi d'autre, mais les corpus d'entrainement doivent être rendu public, un peu dans l'esprit des licences copyleft.

[Helix]

Consensus dans les milieux élitistes peut être, le peuple dans sa majorité j'en doute sur le long terme.

Rhooo, n'importe quoi là.

[Awake]

@Kamikaze : utiliser des corpus privés se fait depuis la nuit des temps, que ce soit en détection de visages, d'OCR, de traduction... je n'essaie pas de justifier le scrapping d'oeuvres sous licence cela dit, simplement que c'est normal de ne pas ouvrir le corpus.

[Laya]

Rhooo, n'importe quoi là.

Tu verras, c'est ma prédiction de cerveau de grand singe.

[Ze Pompom]

L'article est un peu à côté de la plaque sur la technique. On en a discuté pas mal de fois sur le topic de la génération d'image.

Le problème principal est très clair, actuellement tu peux facilement générer des logos de sociétés existantes ou autre. Tu peux aussi facilement reproduire des oeuvres connues (disons "La Joconde" pour faire simple).

Donc le fait est que le "corpus d'entrainement" (je simplifie) apporte une contribution majeure quelque soit l'algorithme de génération d'image, qu'on colle le buzzword AI ou pas.

C'est une faute morale et probablement juridique énorme de ne pas avoir rendu public les corpus d'entrainement. Après avoir fait un peu de "reverse search" dans les générateurs d'images les plus populaire, j'ai très facilement réussi à trouver des images d'origine du corpus qui proviennent de comptes instagram d'artistes, etc.

Des images volées sans consentement, et là c'est certes très technique vu qu'on parle de pondérations de noeuds dans un algorithme, mais c'est une contribution quasiment directe au code source.

On peut mettre de côté tout débat sur la nature de l'art. Si tu prends le binaire utilisé pour générer les images, une bonne partie est directement issu du corpus d'images volées.

Le simple fait que les mecs n'aient pas la décence de rendre public corpus rend assez clair leurs intentions: monétiser ça rapidement et faire beaucoup d'argent en surfant sur une bulle, avant que quelque législation se mette en place.

Sur le forum on a un canard qui a fait un programme qui génère du texte d'après les posts du forum. Bizarrement la première chose qu'il a fait c'est d'indiquer quels messages ont été utilisé pour l'entrainement. Comme quoi ça vient naturellement et c'est pas une exigence qui sort de nulle part, c'est l'évidence même.

Si tu prends la chronologie de développement des générateurs d'images populaire, il y a pour sûr, une ENORME ligne "scrapping" où ils ont passé des mois à download des images de divers sites d'artistes (artstation et autre) sans aucun soucis concernant l'intégrité de leur travail.

Oui, tout à fait, et en plus de ça, les images qui sortent sont parfois des contrefaçons directes, immédiatement attaquables si elles étaient utilisées (l'exemple de Afhan, Girl, par Stable diffusion est très éloquent par exemple) .

Quant à l'argent, pour donner une idéen, LensAI a généré 100 millions de $ en 1 mois, et si mes souvenirs sont bons la valorisation de stable diffusion c'eest 1 milliard de $

Une des bases utilisées, c'est LAION, on peut voir facilement si on a été utilisé avec le site haveibeentrained.com. C'est plein d'images de célébrités, notamment, plein de porno aussi, plein de photos de tout un tas de gens, tout ça sans consentement de personne bien sûr.

[Helix]

Perso je ne lierai pas "art" à "humain", mais plutôt à "conscience". A partir du moment où on a une conscience, une sensibilité et qu'on comprend ce qu'on fait on peut faire de l'art, humain ou pas.

Je ne suis pas certain que cela simplifie la définition

[Orhin]

Ben je sais pas quoi te dire, il y a des tonnes de jurisprudence sur le sujet. je ne me place pas d'un point de vue philosophique, mais sur le point de vue du droit.

Sauf que l'article se place justement du point de vue philosophique dans sa première partie.
Et que c'est surtout ça qui fait tiquer les gens.
Surtout que je doute que la définition purement légale de l'art corresponde avec la définition intuitive qu'en ont la majorité des gens.

Au niveau des conséquences sur le métier des artistes actuels, et au niveau des questions de droit, la plupart des gens sont d'accord.

Ce n'est pas un raisonnement circulaire mais l'application d'une définition. Qui changera peut-être, mais pour le moment c'est celle-ci qui fait consensus.

Consensus dans quel domaine ?
Philosophiquement c'est bien plus complexe que ça.

il reste tout ce qui relève de l'intention.

Du coup maintenant faut définir l'intention.

Vu que tu parles de dialogues avec un artiste, petite expérience de pensée :
Si un peintre sourd muet et incapable d'écrire réalise une toile mais est incapable de communiquer avec toi, tu considères qu'il n'y a pas d'intention derrière son œuvre ?

À priori non, du coup le fait de pouvoir communiquer sur l'intention n'est clairement pas une condition nécessaire pour que celle-ci existe.

Impossible avec les programmes "IA". Il n'est pas possible de dialoguer avec eux pour avoir le même échange. Même en décortiquant les poids des connexions, il est extrêmement difficile, voir impossible de rendre explicable les décisions et les choix faits.

Pour l'instant oui, mais y'a pas grand chose qui l'interdit théoriquement (même si en effet les IA actuelles ne fonctionnent pas du tout comme ça).

[Anonyme20240202]

Oui oui je suis 100% d'accord, un corpus privé à totalement du sens surtout si c'est des données que tu t'es donné du mal à obtenir (données scientifique etc.)

Mais dans ce cas il est absolument manifeste que des oeuvres sous licences ont été utilisée.

Perso ça m'en touche une sans faire bouger l'autre, mais c'est simplement un peu frustrant de voir le schéma typique de la ruée vers l'or qui profite d'un statut juridique flou (réseaux sociaux, crypto, bulle du web, et j'en passe), pour lever quelques millions. Et on réfléchira à l'éthique et aux conséquences plus tard.

[deathdigger]

J'imagine que non.

Mais on pourrait faire un parralèle avec les hommes, si on retirait la vue et qu'on effaçait la mémoire d'un artiste, serait il capable de dessiner quelque chose ?

Il faudrait une nouvelle IA dont le corpus serait uniquement des images générées par d’autres IA. Reproduire ça n fois et voir le résultat à chaque génération (pas d’image mais d’IA). Logiquement, au bout d’un moment la part "d’humain" devrait être infime.
Va en falloir des cartes graphiques pour l’expérience

[Orhin]

Perso je ne lierai pas "art" à "humain", mais plutôt à "conscience". A partir du moment où on a une conscience, une sensibilité et qu'on comprend ce qu'on fait on peut faire de l'art, humain ou pas.

Du coup maintenant va falloir définir proprement la "conscience".
Chique.

Mais je suis plutôt d'accord avec toi.
Car si le débat se pose pour l'IA, il pourrait être similaire avec une forme de vie alien qu'on comprendrait peu.

@Kamikaze : utiliser des corpus privés se fait depuis la nuit des temps, que ce soit en détection de visages, d'OCR, de traduction... je n'essaie pas de justifier le scrapping d'oeuvres sous licence cela dit, simplement que c'est normal de ne pas ouvrir le corpus.

Mouais, sur ce point je suis plutôt #teamKamikaze, le façon dont le corpus est géré actuellement est très limite.

[Anonyme20240202]

Oui, tout à fait, et en plus de ça, les images qui sortent sont parfois des contrefaçons directes...

Exactement. Et on en a déjà eu un exemple sur le topic. Un canard a brandi une image en disant "ET CA CEST PAS DE LART???!!!"

Alors que ça se trouve il ignore simplement la source d'origine et de la même manière que ta photo est un plagiat, il ne connait pas la distance (je parle de distance au sens théorie de l'information) entre l'image générée et les images d'origines.

Un ignare ne sait peut être pas que "afghan national geographic" est a priori la source de ta prompt, et il verra peut être dans ce visage, une réussite personnelle de "l'artiste AI" alors que la distance avec l'image d'origine est 0

[Helix]

Vu que tu parles de dialogues avec un artiste, petite expérience de pensée :
Si un peintre sourd muet et incapable d'écrire réalise une toile mais est incapable de communiquer avec toi, tu considères qu'il n'y a pas d'intention derrière son œuvre ?

Pour le coup, ça c'est marrant car ça fait penser au test de Turing, mais encore pire car sans échange.
Impossible de décider dans ce cas.

À priori non, du coup le fait de pouvoir communiquer sur l'intention n'est clairement pas une condition nécessaire pour que celle-ci existe.

Je donnais des exemples, et non une condition absolument nécessaire.

[Wulfstan]

Exactement. Et on en a déjà eu un exemple sur le topic. Un canard a brandi une image en disant "ET CA CEST PAS DE LART???!!!"

Alors que ça se trouve il ignore simplement la source d'origine et de la même manière que ta photo est un plagiat, il ne connait pas la distance (je parle de distance au sens théorie de l'information) entre l'image générée et les images d'origines.

Un ignare ne sait peut être pas que "afghan national geographic" est a priori la source de ta prompt, et il verra peut être dans ce visage, une réussite personnelle de "l'artiste AI" alors que la distance avec l'image d'origine est 0

Aaaaaaah, on sent que ça touche des points sensibles.

[Ze Pompom]

Exactement. Et on en a déjà eu un exemple sur le topic. Un canard a brandi une image en disant "ET CA CEST PAS DE LART???!!!"

Alors que ça se trouve il ignore simplement la source d'origine et de la même manière que ta photo est un plagiat, il ne connait pas la distance (je parle de distance au sens théorie de l'information) entre l'image générée et les images d'origines.

Un ignare ne sait pas que "afghan national geographic" est a priori la source de ta prompt, et il verra peut être dans ce visage, une réussite personnelle de "l'artiste AI"

C'est bien pour ça que le risque juridique pour des utilisations commerciales est énorme, et pour ça que je pense que le monde de l'édition va lâcher l'affaire. (j'ai des discussions à ce sujet bientôt).
Parce qu'en fait, imagine que t'est éditeur et que sortes une couv, avec une 'photo' générée par ia d'une dictatrice (genre le bouquin est une distopie). Bon, et imagine que t'as pas de bol et que la base de l'image en fait c'est une ministre d'un pays que tu connais pas. Ou une actrice ou n'importe quelle personnalité publique. Je te raconte pas les conséquences juridiques qui vont s'abattre sur ta gueule... Et tous ça parce que t'as voulu économiser 500 balles...

Je pense que c'est ce biais là qui est aujourd'hui le plus à même de nous protéger. (parce que les questions d'éthique... Il y en a pas mal que ça va pas toucher)

[Orhin]

Pour le coup, ça c'est marrant car ça fait penser au test de Turing, mais encore pire car sans échange.

Oui c'est ce sur quoi je voulais venir.

Impossible de décider dans ce cas.

C'est pourtant le cas pour tout œuvre dont l'auteur est inconnu ou mort (sans laisser de trace).
C'est pour ça que lier absolument art et intention me parait casse gueule.
Car y'a tout un tas d’œuvres qu'on considère actuellement (intuitivement) comme de l'art qui ne rentre plus dans la définition du coup.

Je donnais des exemples, et non une condition absolument nécessaire.

Ben le truc, c'est que si tu peux pas communiquer, c'est compliqué de définir l'intention (voir juste au dessus).

[dralasite]

Ca va devenir vraiment fun quand des gens vont se mettre à générer des images de Mickey et Tintin et donc balancer Disney et Moulinsart tout flingues (juridiques) dehors dans la bataille.

[LaVaBo]

Prendre uniquement des données libres de droits pour l'apprentissage d'une IA, c'est pas risquer qu'elle recrée des images/musiques/... pas du tout libres de droits, parce que pour l'IA, ces oeuvres n'existent pas, et certaines ont beaucoup de critères qui plaisent de façon générale (une IA entraînée seulement sur des musiques libres de droits, qui recrée la musique d'un refrain des Beatles par exemple) ?

Et par rapport au message plus haut disant "si on prend une image créée par IA, on trouvera sûrement des blocs de pixels identiques à une image non libre de droits", Est-ce réellement un problème ? Je le conçois si l'image est un visage, ou autre information visuelle identifiant une personne (papier d'identité, plaque d'immatriculation,...), mais par rapport à une oeuvre artistique, je vois pas de différence flagrante avec un rappeur qui utilise des samples d'un autre artiste.

[Ze Pompom]

Ca va devenir vraiment fun quand des gens vont se mettre à générer des images de Mickey et Tintin et donc balancer Disney et Moulinsart tout flingues (juridiques) dehors dans la bataille.

C'est déjà le cas Il y a des mecs qui ont voulu vendre des tshirt avec mickey qui tenait un fusil d'assaut.

[Kimuji]

Du coup maintenant va falloir définir proprement la "conscience".
Chique.

Oui la question n'est pas simple, mais je pense qu'on peut affirmer sans prendre de risque que nos "IA" actuelles en sont dépourvues, et que les appeler Intelligences Artificielles est déjà en soit un abus de langage (ou une commodité d'usage comme je disais dans un post précédent).

[Ze Pompom]

Et par rapport au message plus haut disant "si on prend une image créée par IA, on trouvera sûrement des blocs de pixels identiques à une image non libre de droits", Est-ce réellement un problème ? Je le conçois si l'image est un visage, ou autre information visuelle identifiant une personne (papier d'identité, plaque d'immatriculation,...), mais par rapport à une oeuvre artistique, je vois pas de différence flagrante avec un rappeur qui utilise des samples d'un autre artiste.

Tout est une question de proportion (de l'oeuvre de départ et de l'oeuvre d'arrivée). C'est codifié pour les samples, par exemple. Dans les trucs marrant, on a aussi des images générées par IA qui portent les vestiges de la signature de l'auteur d'origine...

[Anonyme20240202]

T'façon pour donner ma prédiction Nostradamus. De la même manière qu'on avait annoncé une catastrophe pour tout ce qui est Deepfake, qui finalement est très similaire à la génération d'image.

J'ai une grande confiance () dans l'intellect humain, quant il s'agit de détecter la généricité et la qualité d'une oeuvre. Les utilisateurs de générateur d'image sans lasseront très rapidement car ils en verront les limites et la généricité ainsi que la difficulté à en tirer une oeuvre complète et cohérente. Pour les consommateurs, qui reçoivent ce volume d'image AI moins rapidement que les utilisateurs qui génèrent les images, ça prendra plus de temps mais la lassitude viendra aussi.

T'façon on en a un exemple sur le forum. On a un bot qui fait du texte, mais s'pas le topic le plus populaire, c'est quand même plus sympa de s'engueuler en ligne avec un vrai humain. Les insultes sont bien plus raffinées

Puis une fois les périodes de levée de fond terminée, il va falloir monétiser ça de manière pérenne. Et vu l'inefficacité algorithmique des réseaux de neurones ça va coûter cher. Donc tout comme Facebook et Twitter dans une moindre mesure ça finira peut être en grosse dette et en difficulté de monétisation. Surtout que là c'est dur de scale la monétisation. À moins de réussir à vendre ça à des entreprises, c'est pas 3 glandus féru d'image qui vont rentabiliser ce truc long terme

[Orhin]

Oui la question n'est pas simple, mais je pense qu'on peut affirmer sans prendre de risque que nos "IA" actuelles en sont dépourvues

Oui sans aucun doute, même pour les courants philosophiques assez orthodoxes comme les illusionnistes (position que je trouve très fascinante personnellement, pour plus d'info à ce sujet je vous conseille cette interview de Mr Phi https://www.youtube.com/watch?v=vrfaqsb_0LM).

et que les appeler Intelligences Artificielles est déjà en soit un abus de langage (ou une commodité d'usage comme je disais dans un post précédent).

Pas forcément, l'intelligence et la conscience sont 2 notions qui ne sont pas forcément liées philosophiquement.
On peut avoir l'un sans l'autre, et surtout on admet généralement différents "niveaux" de conscience et d'intelligence (on est pas sur un bête oui/non).

[Laya]

Oui la question n'est pas simple, mais je pense qu'on peut affirmer sans prendre de risque que nos "IA" actuelles en sont dépourvues, et que les appeler Intelligences Artificielles est déjà en soit un abus de langage (ou une commodité d'usage comme je disais dans un post précédent).

Disons que quelque chose qui prend en entrée du texte et qui te recrache une image cohérente avec ce texte c'est une forme d'intelligence à mes yeux, de conscience peut être pas (mais c'est pas défini comme terme). Une forme de compréhension de la langue je dirais même, ou à minima d'association langue/image.

[Anonyme20240202]

Nan mais Kimuji parle sûrement de la notion d'Intelligence Artificielle forte (https://fr.wikipedia.org/wiki/Intell...ficielle_forte) ou plus communément Artifical General Intelligence (https://en.wikipedia.org/wiki/Artifi...l_intelligence)

Donc rien à voir avec des considérations philosophiques floues

Actuellement c'est un exercice au champ très limité dont on parle, donc on devrait rester sur Neural Network plutôt qu'AI

[Orhin]

Donc rien à voir avec des considérations philosophiques floues

Les définitions des 2 articles wikipédia que tu cites se basent justement sur pas mal de concepts philosophiques.
Et ce ne sont pas forcément des considérations "floues", c'est plutôt qu'il y a pas mal de définitions différentes en fonction du champs d'étude.

Actuellement c'est un exercice au champ très limité dont on parle, donc on devrait rester sur Neural Network plutôt qu'AI

Ce serait plus juste en effet mais ça limiterait aux réseaux de neurones alors qu'il y a plein d'autres formes d'IA "faibles" existantes et utilisées de nos jours.

[LaVaBo]

On peut avoir l'un sans l'autre, et surtout on admet généralement différents "niveaux" de conscience et d'intelligence (on est pas sur un bête oui/non).

Pour les différents "niveaux" d'intelligence Ok, mais pour la conscience ça me semble justement binaire. "Avoir plus de conscience que" n'a pas de sens, même sans savoir définir précisément la conscience.

[Kimuji]

Nan mais Kimuji parle sûrement de la notion d'Intelligence Artificielle forte (https://fr.wikipedia.org/wiki/Intell...ficielle_forte) ou plus communément Artifical General Intelligence (https://en.wikipedia.org/wiki/Artifi...l_intelligence)

Oui voilà.