l'Actu tech : Le pillage d'Attil.IA, la ou il passe les artistes ne repoussent pas

[ian0delond]

Mais pourquoi ne pas faire une simple répartition aléatoire? Si un prompt ne précise rien à ce sujet, chaque personnage à 50% de chance d'être une femme, X% d'être blanc, Y% d'être noir et ainsi de suite. Si le résultat ne conviens pas à l'utilisateur, charge à lui de préciser ce qu'il veut précisément et basta.

Car tu discutes avec quelqu'un qui part du principe que l'être humain par défaut est blanc voyons et le hasard c'est terrible il faudrait que ces ia sortent toujours le même résultat prévisible car en 2024 un recherche Google image ou dans des bases documentaires ou de stock photo n'est plus option.

[Nilsou]

Mais pourquoi ne pas faire une simple répartition aléatoire? Si un prompt ne précise rien à ce sujet, chaque personnage à 50% de chance d'être une femme, X% d'être blanc, Y% d'être noir et ainsi de suite. Si le résultat ne conviens pas à l'utilisateur, charge à lui de préciser ce qu'il veut précisément et basta.

Ce n'est pas si simple, ce n'est par plaisir que les IA génère des docteur blancs plutôt que noir, c'est juste une question de stats : quand tu fais l'apprentissage il se trouve que l'humanité étant ce qu'elle est, si tu pioche dans une base de donnée occidentales, tu auras principalement l'image d’Épinal du médecin bien portant, chaleureux, 45 ans, blanc, qui sortira. C'est automatique.
Donc c'est déjà une distribution aléatoire si tu veux, c'(est juste que c'est biaisé parce que le monde est biaisé.

[dralasite]

Ce n'est pas si simple, ce n'est par plaisir que les IA génère des docteur blancs plutôt que noir, c'est juste une question de stats : quand tu fais l'apprentissage il se trouve que l'humanité étant ce qu'elle est, si tu pioche dans une base de donnée occidentales, tu auras principalement l'image d’Épinal du médecin bien portant, chaleureux, 45 ans, blanc, qui sortira. C'est automatique.
Donc c'est déjà une distribution aléatoire si tu veux, c'(est juste que c'est biaisé parce que le monde est biaisé.

S'ils sont capable de "forcer" du pape noir et du nazi bridé, ils peuvent largement faire ce genre de réglage.

[Ubuu]

Si le réglage était simple à faire ils l'auraient déjà fait.
Je doute que ce soit volontaire d'avoir des nazis inclusifs mais des docteurs racistes

Ils ont peut être inhibé la génération de blancs dans certaines conditions, mais les IA étant ce qu'elles sont, il y a des effets de bords inattendus.

[Zapp le Grand]

Si le réglage était simple à faire ils l'auraient déjà fait.
Je doute que ce soit volontaire d'avoir des nazis inclusifs mais des docteurs racistes

Ils ont peut être inhibé la génération de blancs dans certaines conditions, mais les IA étant ce qu'elles sont, il y a des effets de bords inattendus.

Il y a aussi le fait que l'IA est une "techno" qui coute ENORMEMENT d'argent, qui n'adresse aucun vrai usecase et qui va être très compliquée à être rentable (si elle le devient un jour).
Et qu'on a de l'IA générative depuis des années (c'est notamment utilisé dans l'animation, pour éviter des tâches repetitives aux artistes, et en imagerie médicale) sans que les ex-crypto boys viennent nous vendre ca comme le truc du futur


Donc la, même des mecs comme Google ne peuvent pas se permettre de faire des trucs qui sortent des sentiers battus de la génération d'image IA traditionnelle, sans y injecter des zilliards de dollards.

[Awake]

Il y a aussi le fait que l'IA est une "techno" qui coute ENORMEMENT d'argent, qui n'adresse aucun vrai usecase et qui va être très compliquée à être rentable (si elle le devient un jour).
Et qu'on a de l'IA générative depuis des années (c'est notamment utilisé dans l'animation, pour éviter des tâches repetitives aux artistes, et en imagerie médicale) sans que les ex-crypto boys viennent nous vendre ca comme le truc du futur


Donc la, même des mecs comme Google ne peuvent pas se permettre de faire des trucs qui sortent des sentiers battus de la génération d'image IA traditionnelle, sans y injecter des zilliards de dollards.

J'ai beau essayer de comprendre, je n'arrive pas à donner du sens à ce que tu dis.

[SalsifiNoir]

Il y a aussi le fait que l'IA est une "techno" qui coute ENORMEMENT d'argent, qui n'adresse aucun vrai usecase et qui va être très compliquée à être rentable.

J’espère que c’est pas la remarque de quelqu’un qui bosse dans le domaine ou qui prend des décisions en conséquence…

Parce que c’est être vraiment à côté de la plaque de ce qui se passe et de ce qu’on en est capable de faire

Les modèles pré entrainés ils sont là pour abaisser le coût de la mise de départ, et y’a plein de frameworks qui facilitent l’implantation dans les petites boites.
L’IA c’est aussi le petit pas qui fait gagner deux heures par jour, sur des petites tâches, et ça rapporte pour faire d’autres choses.

[Zapp le Grand]

J’espère que c’est pas la remarque de quelqu’un qui bosse dans le domaine ou qui prend des décisions en conséquence…

Parce que c’est être vraiment à côté de la plaque de ce qui se passe et de ce qu’on en est capable de faire

Les modèles pré entrainés ils sont là pour abaisser le coût de la mise de départ, et y’a plein de frameworks qui facilitent l’implantation dans les petites boites.
L’IA c’est aussi le petit pas qui fait gagner deux heures par jour, sur des petites tâches, et ça rapporte pour faire d’autres choses.

J'ai pas dit que l'IA ne pouvait pas aider sur ce genre de trucs mais que c'est un gouffre à pognon pour les GAFAM de le mettre en place. L'IA qui t'aide a coder sur github, même la fonction payante n'est pas rentable pour Microsoft.

[tompalmer]

Tout comme Amazon et Uber n'étaient pas rentables. T'inquiète pas, ils sont juste en train de nous rendre addict et après il faudra raquer de plus en plus.

On se sert de l'IA tous les jours maintenant, ca va etre le meme business model que le Cloud : des entreprises vont louer de la puissance de calcul (au lieu du stockage) a des entreprises pour améliorer leurs produits.

On est encore au début de la techno, elle va devenir plus efficace.

J'admet que ce sont des investissements colossaux, mais quand les modeles seront affinés ca deviendra raisonnable.

On a déja vu des modeles de type Llama et Mistral qui sont super prometteurs, ils peuvent égaler OpenAI avec beaucoup moins de puissance.

Je pense qu'OpenAi essaye d'exploiter sa position de Leader en Brute forcant le game, mais tot ou tard, la concurrence arrivera avec un modele 100 fois moins couteux a performance égale et ce sera la fin de carrière

[Nilsou]

Il est très probable qu'on atteigne très vite un plafond de verre. La nature même de la technologie d'une part, et l'exemple d'une nature ayant évolué sur des millions d'années nous permettent de cerner les bornes algorithmique de cette technologie.
On pourrait éventuellement progresser sur les aspects matériels pour exécuter la chose sur de plus gros mais moins coûteux PC, néanmoins il faut aussi savoir raisons garder : la physique a des limites et ça fait quelques temps déjà qu'on ne respecte plus la loi de Moore. Gare donc à l'optimisme béat
Éventuellement en changeant complètement de paradigme (ordinateur biologique) on pourrait imaginer un futurs de technologie accessible. Mais cela impacterais alors bien plus que des IAs...

[tompalmer]

La techno sera mature d'ici 3/4 ans je pense. Donc je suis pas sur qu'on ait besoin de se projeter très loin.

De plus si on développe des IA non généralistes (exemple pour un métier ou un poste spécifique) qui auront des versions réduites mais plus précises des modèles, on sera sur des trucs qui pourront tourner sur des petits serveurs en entreprise d'ici peu.

D'ailleurs la loi de Moore est toujours valide sur les GPU non ?

[Nilsou]

Des réseaux de neurones on en fait depuis 40 ans hein, les déploiements grand public récents tiennent plus à l'amélioration des performances informatiques qu'à des évolutions technologiques sur les réseaux en eux même.
La technologie est donc super mature, et par biomimetisme on en connait les limites, qui sont des limites physiques : en deçà d'un nombre de synapse il est matériellement impossible d'obtenir une certaine complexité de résultats.
Quant à des réseaux non généraux c'est ce qui est fait depuis le début : on ne faisait que ça d'ailleurs, ce sont les réseaux généraliste qui sont nouveaux du fait de la puissance de calcul disponible. De fait, peu de nouveautés fondamentales à attendre ici.

[Shosuro Phil]

D'ailleurs la loi de Moore est toujours valide sur les GPU non ?

La loi de Moore elle concernait l'augmentation de la densité des transistors au départ, il me semble. Ça fait un bout de temps que de ce côté c'est mort, il faudrait des plus petits atomes. C'est déjà un exploit qu'elle soit arrivée aussi loin.

Les GPU qui arrivent à maintenir l'illusion, ils prennent de plus en plus de place, consomment de plus en plus, etc. Et par rapport à la version "puissance de calcul" de la loi de Moore, ils ont le gros défaut de n'augmenter la puissance que pour des calculs très répétitifs et très parallélisables. Ça va pour les calculs qui sont essentiellement des calculs matriciels, dont une bonne partie de l'IA, mais ça ne va pas pour tout.

- - - Mise à jour - - -

On a déja vu des modeles de type Llama et Mistral qui sont super prometteurs, ils peuvent égaler OpenAI avec beaucoup moins de puissance.

Je rebondis sur la mention de Mistral, j'ai entendu à la radio mentionner les plans de Mistral pour fournir un service essentiellement aux entreprises.

Ce qui me sidère c'est que sur ce créneau, ils n'ont pas l'air de se focaliser sur la sécurisation des données. Si j'étais le patron d'une boîte qui envisage de fournir un service d'accès à une IA de ce type à l'ensemble des employés, la première chose que je demanderais c'est la certitude que je vais pas diffuser des informations confidentielles. Genre avoir un modèle installé sur des machines de l'entreprise (a minima).

[Zapp le Grand]

La loi de Moore elle concernait l'augmentation de la densité des transistors au départ, il me semble. Ça fait un bout de temps que de ce côté c'est mort, il faudrait des plus petits atomes. C'est déjà un exploit qu'elle soit arrivée aussi loin.

Les GPU qui arrivent à maintenir l'illusion, ils prennent de plus en plus de place, consomment de plus en plus, etc. Et par rapport à la version "puissance de calcul" de la loi de Moore, ils ont le gros défaut de n'augmenter la puissance que pour des calculs très répétitifs et très parallélisables. Ça va pour les calculs qui sont essentiellement des calculs matriciels, dont une bonne partie de l'IA, mais ça ne va pas pour tout.

- - - Mise à jour - - -



Je rebondis sur la mention de Mistral, j'ai entendu à la radio mentionner les plans de Mistral pour fournir un service essentiellement aux entreprises.

Ce qui me sidère c'est que sur ce créneau, ils n'ont pas l'air de se focaliser sur la sécurisation des données. Si j'étais le patron d'une boîte qui envisage de fournir un service d'accès à une IA de ce type à l'ensemble des employés, la première chose que je demanderais c'est la certitude que je vais pas diffuser des informations confidentielles. Genre avoir un modèle installé sur des machines de l'entreprise (a minima).

Ce genre de clauses dans les contrats, elles y sont forcément, mais pour le grand public, il ne faut pas trop en parler, ca peut faire peur et on a envie que les gens continuent d'alimenter chatGPT et github

[Oncle_Bob]

[...]
Un article trés sympa sur les biais "invisibles" créés par ce genre d'IA.

Lecture très intéressante, merci pour le partage ^^.

[Zapp le Grand]

Un article scientifique qui explique que les hallucinations des IA ne pourront jamais disparaître sans intervention humaine, pas d apprentissage possible
https://arxiv.org/pdf/2401.11817.pdf

[Shosuro Phil]

Un article scientifique qui explique que les hallucinations des IA ne pourront jamais disparaître sans intervention humaine, pas d apprentissage possible
https://arxiv.org/pdf/2401.11817.pdf

Y'a autre chose dans le papier qu'un argument diagonal qui, in fine, dit que dans n'importe quel formalisme, il existe des fonctions non calculables? (tel quel, ça ne me semble pas un résultat très intéressant - et je suis un informaticien théoricien)

[Nilsou]

Bah oui, c'est stéréotypé par les média modernes, du coup quand on demande un dieu nordique l'IA donne un truc merdique qui ressemble à rien avec des brochettes de doigts en arrière plan (testé par Le Monde en direct).

S'il y a une chose dont tu peux être certain, c'est que tu n'obtiendra JAMAIS un truc "réaliste" ou historique avec les IA (quoi que, par accident?) si tu ne lui demandes pas un truc dont il a vue des images récente (et encore, tu obtiendra trés probablement un paquet de trucs merdiques, il y aura du tri à faire où tu appliquera donc tes biais à toi qui ne seront pas forcément fidèles à la réalité).

Un article trés sympa sur les biais "invisibles" créés par ce genre d'IA.

Excellent article, je le garde !

J’ajouterais que j'ai personnellement bossé sur la naissance du sourire en robotique/IA via ce qu'on appelle l'imitation faciale, un comportement qu'on reproduit sur des robots et qui ... est entièrement dépendant (dans notre hypothèse, déjà bien prouvée) du sourire de la mère selon le contexte, et donc, finalement, de la culture locale qui fait qu'on sourit quand et dans quelle situation, etc.
Bref, ce qui explique que les sourires soient très différents d'une culture à l'autre. C'est un des premiers trucs transmis.

- - - Mise à jour - - -

S'il y a une chose dont tu peux être certain, c'est que tu n'obtiendra JAMAIS un truc "réaliste" ou historique avec les IA (quoi que, par accident?) si tu ne lui demandes pas un truc dont il a vue des images récente (et encore, tu obtiendra trés probablement un paquet de trucs merdiques, il y aura du tri à faire où tu appliquera donc tes biais à toi qui ne seront pas forcément fidèles à la réalité).

C'est possible si tu fais un apprentissage sur le contexte plus ou moins exact considéré. Bref, si tu le mets dans un cas où tu lui a parfaitement présenté les bornes.

- - - Mise à jour - - -

Y'a autre chose dans le papier qu'un argument diagonal qui, in fine, dit que dans n'importe quel formalisme, il existe des fonctions non calculables? (tel quel, ça ne me semble pas un résultat très intéressant - et je suis un informaticien théoricien)

Oui je ne pige pas l'article ... les mecs découvrent qu'une interpolation simple de fonction ne sera jamais exactement équivalente à la fonction d'origine probablement bien plus complexe ... c'est la base de n'importe quel cours de débutant en IA, je ne comprends pas bien.
On sait parfaitement et totalement que la dimensionnalité possible par un modèle génératif même tournant sur supercalculateur est infiniment plus faible que celle des paramètres possible du monde réel ...

[Tremex]

Houlà ! Va-t-il falloir préférer le train ?

https://www.usinenouvelle.com/editor...diale.N2209136

[Shosuro Phil]

Ah ça c'est une idée: au lieu d'interdire les voyages à la con en avion, on fait gérer la sécurité aérienne par des programmes buggés dont personne ne sait comment ils marchent.

[tompalmer]

des programmes buggés dont personne ne sait comment ils marchent.

C'est une belle définition du cerveau humain ca

[dralasite]

Houlà ! Va-t-il falloir préférer le train ?

https://www.usinenouvelle.com/editor...diale.N2209136

"Commandant, la tour de contrôle nous demande d'activer le 'noclip', ça serai pour pouvoir mettre tout les avions en attente sur la même trajectoire en même temps. C'est quoi le 'noclip'? Et pourquoi les autres avions se rapprochent de nous autant?"

[Ruvon]

C'est aujourd'hui qu'on atteint la deadline fixée par l'UE pour la mise en conformité au Digital Markets Act pour le six plus gros "gatekeepers" de la tech : Alphabet (Google), Amazon, Apple, ByteDance (TikTok), Meta, et Microsoft.

"Les plateformes désignées doivent prendre des mesures proactives qui, selon l'UE, rendront les marchés numériques plus équitables et plus ouverts."

Les plateformes ont été désignées suivant ces deux conditions :

"La Commission européenne présume qu'une plateforme est un "gatekeeper" si elle remplit deux conditions. Premièrement, elle doit avoir un chiffre d'affaires annuel dans l'UE d'au moins 7,5 milliards d'euros pour chacun des trois derniers exercices fiscaux ou une capitalisation boursière moyenne de 75 milliards d'euros pour le dernier exercice fiscal, tout en fournissant sa plateforme principale à au moins trois États membres de l'UE. Deuxièmement, elle doit exploiter une plateforme principale avec au moins 45 millions d'utilisateurs actifs mensuels dans l'UE et plus de 10 000 utilisateurs professionnels actifs annuels dans l'UE au cours de chacun des trois derniers exercices."

The Verge liste les changements opérés par chacun d'entre eux pour s'y conformer.

https://www.theverge.com/2024/3/6/24...policy-changes

[Ruvon]

Toujours sur le même sujet du DMA et des Big Techs, analyse de ces changements annoncés pour s'y conformer qui, pour les experts interrogés, ne changeront pas grand chose, et c'était bien le but, comme dans le cas d'Apple qui a tellement pourri l'alternative proposée qu'elle en devient pire que de passer par les services d'Apple.

Penfrat went as far as to call these changes “malicious,” saying they could actually make matters much worse for developers trying to get away from Apple’s app store monopoly. “Under the current Apple proposal, it seems unlikely anyone would even attempt to challenge the gatekeeper’s monopoly. It’s simply not worth it. If the EU Commission lets this pass, the DMA will be lost.”

“Reading between the lines, Big Tech’s strategy towards the DMA is to introduce changes that appear to open up their walled gardens, but that are actually unworkable or unappealing to businesses and users,” said von Thun. “Instead of accepting such inadequate measures, the EU Commission should consult businesses supposed to benefit from them, and use this feedback to push the gatekeepers to do better.”

All of the gatekeepers being targeted by the DMA still need to get their proposals approved by the European Commission. In January, an EU commissioner told Reuters that the bloc would take “strong action” if it feels the solutions being proposed aren’t good enough.

https://www.theverge.com/2024/3/6/24...liance-experts

[Herman Speed]

Les 14 lobbyistes d'Amazon au Parlement Européen viennent d'être foutus à la porte, leurs accréditations et badges annulés.

Trop insistants (acharnés) et "BALEC" les invitations en commission sur le respect des droits de travailleurs, Boutique Amazon monopolistique et les digital acts.

C'est tellement cyberpunk cette façon de faire des bras d'honneur à des institutions démocratiques.

Edit : sources et épisodes

En février :

https://www.rtbf.be/article/les-lobb...opeen-11336264

Confirmation en mars :

https://trends.levif.be/a-la-une/int...ment-europeen/

[Ruvon]

Epic vs Apple, nouvel épisode, avec Epic qui dit que son compte a été banni de l'Apple Store et que Apple a accusé Epic Games d'être "verifiably untrustworthy".

https://www.theverge.com/2024/3/6/24...-ios-app-store

[Ruvon]

Selon un sondage, la côte de popularité d'Elon Musk est en baisse aux USA, tout comme la confiance envers la marque Tesla, selon un sondage distinct du premier.

Bizarrement, les consommateurs associeraient le génie complotiste qui fricote avec l'extrême-droite avec la marque Tesla. Une semblable concordance des courbes (vers le bas) avait déjà été relevée par Bloomberg il y a un an.

A separate study from analytics firm CivicScience tracking Musk’s approval among US consumers found that 42 percent of respondents viewed him unfavorably, compared to 34 percent when his stake in Twitter was announced in April 2022. The Tesla CEO’s conduct has been repeatedly scrutinized since that point, with mounting controversies ranging from changing operations at X — the site formerly known as Twitter — to his frequent promotion of conspiracy theories and other harmful rhetoric.

Caliber claims 83 percent of Americans it surveyed associated Tesla with Musk, with Caliber CEO Shahar Silbershatz telling Reuters that it’s “very likely that Musk himself is contributing to the reputational downfall.” Additional data supplied to Reuters by brand valuation consultancy Brand Finance show a similar decline in Tesla’s reputation among consumers in the Netherlands, US, UK, France, and Australia between 2023 and 2024.

https://www.theverge.com/2024/4/3/24...-falling-sales

---

La fibre optique déjà installée pourrait aller plus vite. Beaucoup plus vite. Genre, 12 millions de fois plus vite.

A team of scientists and researchers at Aston University have developed an optical processor that takes advantage of previously untapped frequency bands, allowing standard fibre cables to transmit data at a much higher speed than previously thought (via Fudzilla). The researchers managed to achieve a data transfer rate of up to 301 terabits per second through standard fibre optic cables, pointing to a potential future where our home connection speeds could achieve speeds previously thought unfeasible without having to modify cables already installed.

https://www.pcgamer.com/hardware/int...00-mbps-sound/

[Caleb]

Un article trés sympa sur les biais "invisibles" créés par ce genre d'IA.

Si l'article est intéressant, il part quand même sur un postulat erroné : le prompt initial des images générées demande un selfie.

Je pense que tu aura forcément quelque chose d'inexact si tu demande la synthèse de deux éléments qui n'ont jamais coexisté : le problème est au niveau de la demande plus que de la réponse. J'imagine que si tu demande à une IA des selfies de dinosaures, tu aura des dinosaures souriants également. Alors qu'il est factuellement peu probable que les dinosaures soient capables de sourire. Cependant, demander de représenter un selfie embarque un stéréotype plus fort que la cible de celui-ci.

Après je suis d'accord sur le fond : il ne faut en aucun cas penser qu'on puisse avoir quoi que ce soit d'authentique ou historiquement réaliste à partir d'une IA.

[Ruvon]

Rapport du CNC sur les usages de l'IA et l'impact sur les filières du cinéma, de l'audiovisuel et des jeux vidéo.

https://afjv.link/file_server/afjv_d...rt_complet.pdf

https://afjv.com/news/11417_impact-i...jeux-video.htm

---

Ça sent beaucoup le Musk :

Comment les russes ont obtenu un accès à Starlink sur le front ukrainien.

Russians buy from middlemen and "deliver SpaceX hardware to the front line."

https://arstechnica.com/tech-policy/...ar-in-ukraine/

Selon le génie incompris, l'IA sera plus intelligente que l'humain à la fin de l'année prochaine.

On Monday, Tesla CEO Elon Musk predicted the imminent rise in AI superintelligence during a live interview streamed on the social media platform X. "My guess is we'll have AI smarter than any one human probably around the end of next year," Musk said in his conversation with hedge fund manager Nicolai Tangen.

But not everyone is convinced that Musk's crystal ball is free of cracks. Grady Booch, a frequent critic of AI hype on social media who is perhaps best known for his work in software architecture, told Ars in an interview, "Keep in mind that Mr. Musk has a profoundly bad record at predicting anything associated with AI; back in 2016, he promised his cars would ship with FSD safety level 5, and here we are, closing on an a decade later, still waiting."

Booch gives credit to Musk's business successes but casts doubt on his forecasting ability. "Albeit a brilliant if not rapacious businessman, Mr. Musk vastly overestimates both the history as well as the present of AI while simultaneously diminishing the exquisite uniqueness of human intelligence," says Booch. "So in short, his prediction is—to put it in scientific terms—batshit crazy."

https://arstechnica.com/information-...-of-next-year/

Musk toujours, qui nie l'impact négatif de ses attaques et commentaires sur les réseaux sociaux. Devant un juge.

Later in the deposition, Musk maintains that he hasn't caused Brody any serious harm. When asked if he understands the amount of views his tweet received equal "all 30 major league baseball stadiums filled to capacity", Musk replies:

"That may seem like a large number, but it is not compared to the fact—I believe there are something on the order of five to eight trillion views per year, so a million is really—" Bankston finishes his sentence with a "not a big deal?" to which Musk replies "Hit or miss, yeah."

As for allegations of harm caused, Musk argues that "people are attacked all the time in the media, online media, social media, but it is rare that that actually has a meaningful negative impact on their life."

https://www.pcgamer.com/software/pla...on-their-life/

[dralasite]

Certaines parties de cette déposition sont lunaires:



Musk prétendais être un champion de la liberté de parole mais finalement se révèle être un censeur...
Il avait prétendu être une ancienne victime de harcèlement et maintenant il minimise donc le harcèlement qu'il inflige aux autres.