Le topic de l'Intelligence Artificielle, le topic qui parle en langage naturel

[Seymos]

Yep, je pense que les compagnies qui produisent les véhiculent risquent d'avoir plus de soucis qu'elle ne le pense ...

Y a un gros sujet dans le domaine militaire avec les systèmes d'armes letaux autonomes (SALA) qui ont fait l'objet de pas mal d'études juridiques, et d'un rapport d'information de l'assemblée en juin 2020.
https://www.assemblee-nationale.fr/d...rt-information
La 2e partie traite notamment des enjeux juridiques.

La page du centre de documentation de l'école militaire qui parle du sujet, avec quelques conseils de lecture :
https://www.dems.defense.gouv.fr/cde...autonomes-sala

[Molina]

123 pages.

[Seymos]

123 pages.

Ben oui, les députés se branlent bien les couilles, ils ont le temps d'écrire

[Tankodesantniki]

Or, les SALA, tout comme la plupart des programmes reposant sur l’intelligence artificielle, n’échappent pas à l’effet « boîte noire », c’est-à-dire l’apparition « comme par magie » d’un résultat, sans qu’il soit possible de démontrer ou de reproduire le processus sous-jacent. Plus concrètement, l’intelligence artificielle permet d’effectuer tant de calculs que pour l’homme, la reconstitution d’un processus de décision apparaît insurmontable. À titre de comparaison, les rapporteurs rappellent d’ailleurs que le système d’intelligence artificielle AlphaGo qui a battu le champion du monde de jeu de go a effectué dix sept mouvements que ses programmateurs ne pouvaient pas expliquer. Comme l’a indiqué aux rapporteurs non sans malice un de leurs interlocuteurs, « aujourd’hui, on utilise même l’intelligence artificielle pour comprendre le fonctionnement de l’intelligence artificielle ».

Pour moi, il y a là effectivement un des principaux soucis.

Si une IA, apparemment sans disfonctionnement, prends des (17) actions dont même ses concepteurs ne parviennent pas à comprendre la raison/stratégie/objectif, c'est potentiellement inquiétant et à minima problématique à justifier.

Prenons l'exemple du "robot tueur Alphago" que l'on a envoyé en mission autonome dans un bâtiment par exemple, sauver des otages. On dit que c'est un exercice avec des cibles en carton d'abord, hein.

Au cours de la mission, il neutralise des cibles (tire sur des méchants cartons ) Mais à la fin, quand on observe les décisions prises (caméras, logs...) , on ne parviens pas à comprendre pourquoi il a tiré dans un certain nombre de cas, exactement 17.

Certes, il est resté dans l'enveloppe de la mission, il n'a pas quitté l'immeuble, a rempli son objectif, et l'ordre d'assaut et de fin de mission ont bien été donnés par un humain et reçus correctement par le robot.

Mais au moment du débriefing précis, ben on ne sait pas dire pourquoi il a épargné telle cible en carton et troué celle a coté. Certes, il a calculé un truc, mais on ne sait pas dire quel a été le cheminement exact amenant à tirer sur le terroriste en carton A (noir et chauve ) et pas sur le B (blanc et barbu ) lors de l'exercice. Et le robot ne peut pas nous l'expliquer non plus, on a juste le résultat.

[nefrem]

Ben oui, les députés se branlent bien les couilles, ils ont le temps d'écrire

Y'a pas la version twitter en 123 caractères ?

[Nilsou]

Après au niveau militaire amha c'est un brin moins problématique. Dans le contexte d'une guerre des morts civils par paquet qu'on a justifié ou planqué sous le boisseau, c'est pas vraiment une nouveauté ...
Dans le contexte civil ça risque d'être un peu particulier quand des juges de divers pays vont condamner la compagnie à des amendes un peu partout à chaque accident ...

[Shosuro Phil]

En même temps, les compagnies ne sont pas condamnées quand un conducteur humain prend le volant et fait une connerie avec sa voiture; et quand un conducteur doit prendre une décision rapidement, il arrive qu'il prenne la mauvaise.

Si on enregistre tous les mouvements d'un conducteur au volant d'une voiture et qu'on lui demande rétroactivement pourquoi il a fait celui-ci ou celui-là, je ne suis pas sûr qu'on arrive à moins de 17 décisions difficiles à justifier

Mais oui, l'acceptabilité "sociale" d'un accident sera sans doute bien inférieure quand il s'agira d'un système complètement autonome, et ce, même si on arrive à avoir par exemple des voitures autonomes qui, de manière statistique, "conduisent" de manière bien plus sûre que tous les conducteurs humains.

[Seymos]

Je crois que c'est déjà le cas en fait avec les Tesla autonomes.

[Nilsou]

En même temps, les compagnies ne sont pas condamnées quand un conducteur humain prend le volant et fait une connerie avec sa voiture; et quand un conducteur doit prendre une décision rapidement, il arrive qu'il prenne la mauvaise.

Si on enregistre tous les mouvements d'un conducteur au volant d'une voiture et qu'on lui demande rétroactivement pourquoi il a fait celui-ci ou celui-là, je ne suis pas sûr qu'on arrive à moins de 17 décisions difficiles à justifier

Sauf que le conducteur, lui, est bel et bien condamné actuellement, qu'il arrive a justifier sa connerie ou non .
Si tu remplace le conducteur par une IA, qui va payer les dommages ? L'assurance du conducteur ? Celle du mec qui met en place l'IA. Et surtout, on voit mal les lois de tout les pays converger dans un seul sens ...

[Seymos]

Sauf que le conducteur, lui, est bel et bien condamné actuellement, qu'il arrive a justifier sa connerie ou non .
Si tu remplace le conducteur par une IA, qui va payer les dommages ? L'assurance du conducteur ? Celle du mec qui met en place l'IA. Et surtout, on voit mal les lois de tout les pays converger dans un seul sens ...

Elles convergeront vers l'application du droit US, les transactions et les contrats d'assurance étant libellés en dollars

[Nilsou]

Peut être, mais j’entends d'ici les assurance des conducteurs aller se battre pour que ce soit plutôt l'assurance de monsieur Musk qui soit mise en cause
Et elle n'auront pas tout à fait tort...

[Enyss]

Attention, même si le conducteur a fait une erreur, il n'est pas forcément condamné... ou alors a une peine symbolique. C'est seulement quand le responsable a commis une véritable faute qu'il est réellement condamné (et encore...)

[Nilsou]

Bien sur, ce que je veux dire c'est qu'en moyenne ce genre de situation arrivera. Et surtout les situations, ou, même non condamné, il devait payer les dommages causés, sont bien plus nombreuses, et la questions se posera de la même manière dans celle ci.

[Fareeha]

Peut être, mais j’entends d'ici les assurance des conducteurs aller se battre pour que ce soit plutôt l'assurance de monsieur Musk qui soit mise en cause
Et elle n'auront pas tout à fait tort...

Ils y réfléchissent.

https://www.automobile-propre.com/te...les-accidents/

Et les premiers enseignements semblent aller vers cette hypothèse, puisque la NHTSA a trouvé un schéma précis. Dans les 16 accidents qu’elle a étudiés, l’agence fédérale confirme avoir découvert que l’Autopilot « annulait son contrôle du véhicule moins d’une seconde avant le premier impact ».

Après étude des données des boîtes noires, la firme assure toujours que l’Autopilot n’était pas actif lors du choc.

[Seymos]

Correct.

[Tankodesantniki]

Pas sur que ça convainque beaucoup de juges

[Croaker]

J'ai l'impression que la (légère) shitstorm actuelle au sujet des boîtes qui veulent "aider les illustrateurs" va enfin permettre de poser la question du droit et de tout ce qui est donné à manger aux IA apprenantes.
A ma connaissance, il est actuellement possible de prendre tout et n'importe quoi sans s'embêter avec les questions de propriété intellectuelle et d'alimenter une solution de Deeplearning (ou n'importe quoi d'autre) avec, et déjà ça m'ennuyait pas mal quand ils utilisaient des photos de gens n'ayant jamais donné leur autorisation, même dans un contexte "de recherche" (=théoriquement sans profit).
Mais là, des boites en sont arriver à "proposer" à des illustrateurs de "les aider dans leur travail" en apprenant leur technique et en créant des illustrations "de leur style" (tout en gardant l'IP, parce que pourquoi pas).

[Nilsou]

En Europe il y a un peu de legislation sur le sujet (RGPD, législations sur les données de santé et tuti-quanti), ça reste très partiel mais on ne peut pas prendre vraiment tout et n'importe quoi (même si on peut prendre beaucoup de chose). Par contre aux USA c'est la fête du n'imp, une bonne part des données personnelles est monnayable et les entreprises n'hésitent pas à acheter à des agences des infos sur leurs employés ou futurs employés pour calculer des probabilités sur le risque que les femmes tombent enceinte, pour illustrer avec un exemple récent... Le tout sans rien dire, au calme.

[Laya]

A partir du moment ou c'est sur internet il me semble qu'on considère ça comme des données publiques non? Du coup tu ne peux pas trop interdire à quelqu'un de les utiliser pour monter une IA à l'heure actuelle.
Mais il faudrait quelqu'un de calé en droit numérique pour préciser ça. (il me semble que c'est ça qui est appliqué dans le cadre du crawl d’internet).
Par exemple google pour répertorier les sites parcourt et récupère beaucoup de données des sites internets. Quelque part son beurre c'est aussi les données des autres. Sans ses données impossible d’ordonnancer les sites internets.

Mais imaginons que l'on légifère et qu'il faille donner son droit pour avoir ses œuvres sur une IA. Je pense que comme pour la musique, des IA seraient entraîné sur l'art libre de droit (ancienne ou récente) et pourrait faire tout de même des choses assez incroyable ce qui ne résoudrait pas le problème de base.
Il y a plutôt une réflexion de base à se demander comme une nation quelle part de nos richesses on veut consacrer à l'art et payer des personnes pour ça.

[Croaker]

Mais imaginons que l'on légifère et qu'il faille donner son droit pour avoir ses œuvres sur une IA.

La question est plutôt le contraire.
A partir du moment où une IA utilise quelque chose appartenant à quelqu'un d'autre pour générer une oeuvre, à qui appartient cette oeuvre ?
Le propriétaire de l'IA ? Le domaine public ?
Ces derniers jours, beaucoup de dessinateurs ont rajouté une clause interdisant "d'utiliser leurs dessins dans tous ce qui est lié à l'apprentissage et la production d'oeuvres" sur internet, je ne suis pas sûr qu'ils en aient réellement le droit mais d'une certaine façon ils le font parce qu'ils se sentent menacés par ça.
J'imagine que (au hasard) si on donnait des dessins de Mickey à ces IA, on aurait très très vite une réaction du groupe Disney à base d'armée de juristes.

(Un lien en anglais sur le sujet : https://automaton-media.com/en/nonga...0220831-15350/ )

[Laya]

La question est plutôt le contraire.
A partir du moment où une IA utilise quelque chose appartenant à quelqu'un d'autre pour générer une oeuvre, à qui appartient cette oeuvre ?
Le propriétaire de l'IA ? Le domaine public ?
Ces derniers jours, beaucoup de dessinateurs ont rajouté une clause interdisant "d'utiliser leurs dessins dans tous ce qui est lié à l'apprentissage et la production d'oeuvres" sur internet, je ne suis pas sûr qu'ils en aient réellement le droit mais d'une certaine façon ils le font parce qu'ils se sentent menacés par ça.
J'imagine que (au hasard) si on donnait des dessins de Mickey à ces IA, on aurait très très vite une réaction du groupe Disney à base d'armée de juristes.

(Un lien en anglais sur le sujet : https://automaton-media.com/en/nonga...0220831-15350/ )

Dans ce cas là tu va entraîner ton algo sur du Rubens, de l'art sans ayant droit et tu auras des résultats probablement très bon aussi, toujours de quoi mettre potentiellement dans le mal des artistes.
Mais imaginons que des entreprises jouent le jeu et rémunèrent les artistes sur les images générées, ils payent tout le monde identiquement quelques soit l'image généré? Du coup tu divises par l'intégralité des ayant droit l'image final que tu fasses un lion, une girafe ou du pointillisme? Ou pire ils font un forfait et une fois fini ils ne touchent plus rien (ce qui ne ferait que déplacer le problème dans le temps).

Sans compter que rien n'interdit de penser que dans pas si longtemps ça sera accessible sur des ordinateur personnel (va contrôler ça après.)
Pour ça qu'il me parait bien plus raisonnable de réfléchir en absolu, si l'IA commence à trop grignoter sur les artistes. Si on veut donner des moyens aux artistes humain il faut leur consacrer une partie du budget.

[Croaker]

Même en rémunérant les artistes/créateurs, ça pose un problème.
Le coût d'une oeuvre intègre au moins en partie le temps passé à la faire. Si une machine peut générer des dizaines d'oeuvres bien plus vite que l'auteur, les prix vont se casser la gueule très très vite, avec des répercutions sur la totalité d'une profession (les gens qui veulent "travailler à l'ancienne" vont vite être marginalisés et disparaître à terme). Ca revient quelque part à obliger tout la profession à utiliser l'outil, au bénéfice du développeur de l'application.

[Nilsou]

A partir du moment ou c'est sur internet il me semble qu'on considère ça comme des données publiques non? Du coup tu ne peux pas trop interdire à quelqu'un de les utiliser pour monter une IA à l'heure actuelle.
Mais il faudrait quelqu'un de calé en droit numérique pour préciser ça. (il me semble que c'est ça qui est appliqué dans le cadre du crawl d’internet).
Par exemple google pour répertorier les sites parcourt et récupère beaucoup de données des sites internets. Quelque part son beurre c'est aussi les données des autres. Sans ses données impossible d’ordonnancer les sites internets.

Google n'a pas le droit, par exemple, de publier les articles de journaux qu'il parcourt. Parcourir les données c'est une chose, les utiliser pour compiler des infos persos sur quelqu'un, s'en est une autre. Donc il y a quand même certaines limites subtiles j'ai l'impression... On ne peut pas tout faire.

Mais imaginons que l'on légifère et qu'il faille donner son droit pour avoir ses œuvres sur une IA. Je pense que comme pour la musique, des IA seraient entraîné sur l'art libre de droit (ancienne ou récente) et pourrait faire tout de même des choses assez incroyable ce qui ne résoudrait pas le problème de base.
Il y a plutôt une réflexion de base à se demander comme une nation quelle part de nos richesses on veut consacrer à l'art et payer des personnes pour ça.

Ha oui, pardon j'avais répondu au sujet de manière globale. Pour les illustrateurs : c'est mort. Depuis le début je crie haut et fort que si le remplacement des métiers par les IAs c'est très surestimé (selon moi), par contre tout ce qui est artiste/créateurs de logos/métiers de l'infographie/pas mal de métier dans les films, l'animation etc..., ils vont prendre très très cher dans les dents.

J'ai dans ma famille plusieurs personnes qui dessinent pour les jeux de plateau, ce genre de chose. Je ne suis pas certains que leur métier ait un avenir. Idem pour les gens bossant sur les logos etc. Pas tant que l'IA apporte vraiment une plus value artistique, mais les personnes qui recrutent ces petites mains veulent en général quelque chose de relativement simple et se contenteront des résultats tout à fait présentable, même si peu originaux, qu'une plateforme IA leur pondra et qui correspondra, grosso modo, à un melting pot de l'existant qui va dans le sens voulu.

[Pant4gruel]

Sur le très très cher que les artistes prendraient dans les dents, j'attends de voir.
Pour le moment, de ce que je vois, on a surtout un résultat très pauvre tant techniquement qu'intellectuellement, sans personnalité ni aspérité.
Elles sont juste ennuyeuses ses images générées par l'IA, comme un élève qui récite sa leçon sans rien comprendre de ce qu'il raconte.

Tout l'inverse du métier artistique qui exige un minimum d'intelligence ( et pour les illustrateur, de patience face à leur client qui ne sait pas vraiment ce qu'il veut )

[Nilsou]

T'a absolument pas besoin de personnalités et d'aspérités quand tu es un créateur d'une boite de jeu qui veut juste illustrer ses cartes de manière vaguement correcte. Tu n'en a pas besoin non plus pour faire un vague logo. En fait, toutes ces commandes qui constituent le salaire de 80% des illustrateurs et qui consiste à faire les petites mains pour illustrer des trucs dont la demande n'est clairement pas d'avoir une « oeuvre d'art » mais une illustration, tout ça part à la poubelle...

[Enyss]

Sans compter que rien n'interdit de penser que dans pas si longtemps ça sera accessible sur des ordinateur personnel (va contrôler ça après.)
Pour ça qu'il me parait bien plus raisonnable de réfléchir en absolu, si l'IA commence à trop grignoter sur les artistes. Si on veut donner des moyens aux artistes humain il faut leur consacrer une partie du budget.

C'est déjà accessible sur une machine perso ce genre de trucs. Pas l'entrainement du réseau (vu que ça demande beaucoup de temps GPU), mais une fois qu'il est entrainé, il ne suffit que d'un PC avec un GPU correct pour pouvoir générer des images.

https://rentry.org/SDInstallGuide

[Nilsou]

J'ajouterais qu'on verra surement le même phénomène sur les petits métiers du son, de la vidéo etc.

[deathdigger]

A partir du moment ou c'est sur internet il me semble qu'on considère ça comme des données publiques non? Du coup tu ne peux pas trop interdire à quelqu'un de les utiliser pour monter une IA à l'heure actuelle.

Oui et non. T'as les CGU de chaque site qui vont intervenir.
J'avais vu une interview d'un mec qui a créé un moteur de recherche qui permet de retrouver toutes les photos sur le web d'une personne, même si celle-ci n'est pas taguée (en utilisant la reconnaissance faciale).
Le truc qui m'a fait tiquer, et le mec s'en est sorti avec une pirouette, c'est qu'à aucun moment le consentement des internautes est demandé. Ils ne demandent même pas s'ils ont le droit aux sites hébergeurs.
Du coup, j'ai viré la photo de mon profil Linkedin (oui, ça va aussi crawler les réseaux pro), mais j'imagine que c'est trop tard, y'a rien qui force la boite à supprimer ce qu'elle a enregistré il y'a des années (boîte US). Faudrait que je retrouve l'interview, le présentateur était choqué car l'IA avait retrouvé des photos de lui dont il ne connaissait même pas l'existence...

Edit :

[Molina]

Sur le très très cher que les artistes prendraient dans les dents, j'attends de voir.
Pour le moment, de ce que je vois, on a surtout un résultat très pauvre tant techniquement qu'intellectuellement, sans personnalité ni aspérité.
Elles sont juste ennuyeuses ses images générées par l'IA, comme un élève qui récite sa leçon sans rien comprendre de ce qu'il raconte.

Tout l'inverse du métier artistique qui exige un minimum d'intelligence ( et pour les illustrateur, de patience face à leur client qui ne sait pas vraiment ce qu'il veut )

https://www.reddit.com/r/Futurology/...m_source=share

[Nilsou]

Pour ceux qui veulent tester l'IA de Midjourney pour la génération d'image, c'est ici :
https://discord.gg/midjourney

Le guide pour bien débuter : https://midjourney.gitbook.io/docs/