l'Actu tech : Le pillage d'Attil.IA, la ou il passe les artistes ne repoussent pas

[Kimuji]

On prendra en compte que les actes et ce qui est dit en public, c'est peut etre pas si mal

Réjouissons-nous de la mise sous bride du journalisme d'investigation.

[tompalmer]

Si le journalisme se résume a laisser trainer des micros ou des cameras ...

Tu peux faire de l'OSINT, de la Data, avoir des sources humaines, des documents ... Je m'en fais pas pour le métier, la plupart des scoops viennent de fonctionnaires qui vont briser illégalement le secret de l'instruction d'eux meme

[Kimuji]

Si le journalisme se résume a laisser trainer des micros ou des cameras ...

Pas que mais ça en fait parti.

[LeLiquid]

C est quand même particulier de se réjouir de la facilitation de la falsification de la parole.

[Zapp le Grand]

Un prof de sport aux USA diffuse un faux enregistrement (trafiqué par IA afin de reproduire la voix) du principal faisant des déclarations racistes et antisémites.

C'est le genre de connerie qui peut détruire une carrière et presque n'importe qui a accés à des outils permettant cela.
Plus inquiétant encore, cela veut dire que les connards se faisant choper à dire des saloperies (genre Trump et son "grab them by the pussy") pourront affirmer tranquille qu'il s'agit de faux fabriqués par IA, même pour des enregistrements vidéos. Certes, il est possible, autant que je saches, de déterminer si cela est vraiment le cas, mais le temps que ce soit établi le doute sera installé.

Je vois venir ce genre d'enregistrements devenant publics juste avant des élections, portant sur des candidats démocrates tandis que leur adversaire républicain affirmera ensuite qu'il n'y était absolument pour rien.

Les connards disant des saloperies s'en tirent tous les jours hein, ils ont pas besoin de fake fabriqués par des IA pour s'en defendre.

[tompalmer]

C est quand même particulier de se réjouir de la facilitation de la falsification de la parole.

C'est un état de fait, si on nage dans un océan de doute, il devrait rester quelques ilots de confiance autours de certaines institutions (pour le commun des gens, les complotistes sont toujours a part)

[Emile Gravier]

C'est un état de fait, si on nage dans un océan de doute, il devrait rester quelques ilots de confiance autours de certaines institutions (pour le commun des gens, les complotistes sont toujours a part)

Tu as seulement suivi la moindre info sur les 8/10 dernière années ?
Les complotistes ont quand même été au pouvoir 4 ans aux usa et ils ont même essayé de mettre à bas le capitole.

Ils ne sont pas à part. Ils sont une partie du commun des gens et ils ont plein de gourous: Trump, Musk etc...

[tompalmer]

La prolifération des Deepfakes va pas vraiment changer la face du complotisme, c'est deja quasi impossible de raisonner avec un.

[Mortadelle]

La prolifération des Deepfakes va pas vraiment changer la face du complotisme, c'est deja quasi impossible de raisonner avec un.

Oui c'est certain, mais c'est juste un constat qu'on passe de techniques de niche restreints à une certaine sphère/public à quelque chose de "main stream"... cf. un prof. de sport (peut être débrouillard hein, mais quand même).

J'imagine déjà des gamins envoyer des messages à la place de leurs parents, ou se faire passer pour eux en visio... ce boxon... sans parler des réseaux sociaux avec un torrent de trucs toujours plus débiles.
Je ne doute pas qu'on mettra en place des procédures pour authentifier des videos/visio et des retransmissions (comme cela existe pour les photos photoshopées) etc. mais ca revient à détricoter un problème qu'on a créé nous même ... ca va être marrant.

[dralasite]

Les connards disant des saloperies s'en tirent tous les jours hein, ils ont pas besoin de fake fabriqués par des IA pour s'en defendre.

Justement, c'est les gens "honnêtes" (relativement parlant) qui vont prendre cela dans la gueule et qui vont pédaler dans la choucroute au mauvais moment. Les pourris, eux, balanceront un "fake news" et n'en auront pas grand chose à foutre, effectivement.

[Awake]

Pour changer un peu, une utilisation vraiment utile de l'IA : une nouvelle version d'AlphaFold, l'outil de Deepmind/Google pour calculer la structure des protéines vient de sortir avec tout un tas de trucs en plus : https://blog.google/technology/ai/go...ld-3-ai-model/

Je ne peux pas dire que je comprend vraiment les changements et les implications de cette nouvelle version, mais l'importance des premières versions d'AlphaFold avait été largement reconnu.

[Awake]

Un article sur comment les criminels utilisent les IAs : https://www.trendmicro.com/vinfo/us/...re-using-genai

J'ai trouvé ça intéressant, entre autres parce que ce n'est pas du tout ce que j'attendais : les criminels sont lents à adopter ces outils. Vu le potentiel, je ne m'attendais pas à ça. Mais il y a un détail des méthodes actuelles dans l'article, il vaut le coup d'œil.

[dralasite]

Cet article traite d'un fait divers divers plus ou moins moche qui s'est retrouvé grandement compliqué du fait de la simple existence des deepfake et du fait que la plupart des protagonistes étaient des cons:

Pour résumer:
- un corbeau envoie des vidéos montrant des cheerleaders commettant des actes immoraux (vaper, entre autres "crimes")
- au moins une des cheerleaders incriminées se fait virer de l'équipe et reçoit des insultes et des menaces (de la part des connards habituels)
- la police s'en mêle et annonce que les vidéos en question sont en fait des deepfake
- les policiers retrouvent la source ayant envoyé les vidéos: la mère d'une autre cheerleader, qui voulait faire virer les concurrentes de sa fille (c'est réellement méga compétitif à priori)
- la mère reçoit des insultes et des menaces de mort (du même de connards) et est accusée d'être pédophile (elle aurai supposément créée des image d'une ado "nue")
- au moment du procès les charges de "deepfake" sont abandonnées car les vidéos étaient en fait totalement réelles: c'est un peu tard car les dégâts sont déjà fait

Bref, une histoire compliquée et merdique se retrouve empirée à cause de la naïveté de policiers (une ado leur avait dit que les images étaient fausses, ils l'ont cru sur parole) et l'ambition d'un procureur.
(une des ados au moins a été contactée pour faire de son histoire un téléfilm)

Et pour compliquer encore plus le bordel:

These would be the last public comments Reiss made about the case. On 26 May 2021 he was arrested on suspicion of possessing images of child sexual abuse. Two images had been uploaded to his Gmail account, and detectives had traced them to his IP address. When they raided his home and seized his electronic devices, they found more than 1,700 images and videos depicting children, including 84 of toddlers and infants. Reiss pleaded guilty in March 2022, and was later sentenced to 11 and a half to 23 months in jail. To use Weintraub’s language, if anyone was “preying on juveniles”, it was the police officer who led the investigation.

L'année suivante il s'avère que le policier en charge de l'affaire et qui avait accusé la mère d'avoir fabriqué des images pédophiles était en fait lui-même un pédophile.

Une autre perle:

When The Daily Dot, a tech news website, looked into the deepfake claims in May 2021, and asked Reiss about the methods he had used to establish that the videos had been digitally altered, he admitted he had relied on his “naked eye”,

OK, super Sherlock, avec des experts pareils...

Pour conclure, on est pas sorti des ronces, les affaires déjà bordéliques peuvent le devenir encore plus si la police ne se met pas un peu à jour de ce que sont vraiment les deepfakes et ne développent pas des méthodes réelles pour les détecter (c'était en 2020, j'espère que ça a avancé un peu depuis?).

[tompalmer]

Tiens on avait posé la questions des usages de LLM "au quotidien"

Et bien hier j'avais besoin de creme sur Amazon

j'ai donné a ChatGPT les références, le prix, et le poids de 12 crèmes, je lui ai dit de me sortir un classement du meilleur rapport quantité / prix, et hop.

Ca m'a économisé plein de règles de 3, ou d'aller sur un tableur. Et au supermarché tu peux faire ca avec la voix ou en photographiant les prix (si le prix au kg n'est pas affiché)


Bon désolé du post un peu trivial, mais en soit les LLM ont quelques bases solides dans les domaines suivants :

- Code
- Calcul
- Classements
- Traduction
- Résumer des textes

[Arthropode]

Pour acheter ta crème solaire, si tu veux, mais personnellement, je ne ferai pas du tout confiance à ChatGPT et assimilés pour du calcul. Soit tu sais ce que tu veux faire comme calcul, et il y a aussi vite fait de le faire à la main/à la calculatrice/en python/avec bc, soit tu ne sais pas, et tu n'as aucun moyen de contrôler ce qu'il te sors.

Pareil pour le code. Le modèle de langage peut te sortir un truc qui te met sur la voie, mais si tu te contentes de copier/coller, tu vas avoir de sacré surprises.

[tompalmer]

Sur la version 4o la il te donne le déroulé de son calcul

Et pour ce qui est du code il suffit de vérifier si ca marche, je lui donne du html/css/js en paix

Il y a un plug in Wolfram Alpha aussi, mais 20 balles / mois je le rentabiliserais pas

[fycjibe]

Tiens on avait posé la questions des usages de LLM "au quotidien"

Et bien hier j'avais besoin de creme sur Amazon

j'ai donné a ChatGPT les références, le prix, et le poids de 12 crèmes, je lui ai dit de me sortir un classement du meilleur rapport quantité / prix, et hop.

Ca m'a économisé plein de règles de 3, ou d'aller sur un tableur. Et au supermarché tu peux faire ca avec la voix ou en photographiant les prix (si le prix au kg n'est pas affiché)


Bon désolé du post un peu trivial, mais en soit les LLM ont quelques bases solides dans les domaines suivants :

- Code
- Calcul
- Classements
- Traduction
- Résumer des textes

Là je vois un classement poids/prix, mais pas un classement qualité prix. Sur quoi chatgtp se base pour te donner un classement de la qualité, quels critères ?

[Emile Gravier]

Punaise c'est quand même un use case un peu pété !

Déjà perso, pour acheter une crème, no way de passer par Amazon. Il y a quand même masse trucs qui ne respectent pas les normes de fabrication européennes sur leur marketplace. Alors pour un truc que l'on se fout sur la peau, les critères de compositions sont largement plus important que le rapport poids/prix.

Et comment Chatgpt s'en sort là dessus pour chercher les allergènes et les produits limités ?

[Awake]

Dans mon boulot principal les IA "remote" sont interdites, mais Jetbrains propose un petit plugin deep learning qui tourne en local et propose l'autocompletion sur 1 ligne. Ça marche terriblement bien, je ne compte plus les fois où le plugin m'a sorti exactement ce que j'allais taper et je n'ai plus eu qu'à faire "tab".

Sinon chez moi j'utilise l'IA assistant de jetbrains, les gros points forts selon moi :
- la génération de tests unitaires : ça ne marche pas à 100% du premier coup, il faut un peu réécrire, mais il y a tout de même un gain non négligeable. Je dirais que je divise le temps à écrire des tests par 3 quand assisté de l'IA.
- donner des explications sur un language / un framework en mode "chat" : très agréable d'avoir une réponse ciblée avec des exemples adaptés à la question

Bref l'IA est partie intégrante de mes développements.

[dralasite]

Tiens on avait posé la questions des usages de LLM "au quotidien"

Et bien hier j'avais besoin de creme sur Amazon

j'ai donné a ChatGPT les références, le prix, et le poids de 12 crèmes, je lui ai dit de me sortir un classement du meilleur rapport quantité / prix, et hop.

Ca m'a économisé plein de règles de 3, ou d'aller sur un tableur. Et au supermarché tu peux faire ca avec la voix ou en photographiant les prix (si le prix au kg n'est pas affiché)


Bon désolé du post un peu trivial, mais en soit les LLM ont quelques bases solides dans les domaines suivants :

- Code
- Calcul
- Classements
- Traduction
- Résumer des textes

Dans le domaine du code, j'ai un collègue qui l'utilise parfois et son retour est que ça fait parfois de la grosse merde et les échos que j'ai eu par ailleurs, c'est que ça ne fait généralement pas du code de bonne qualité.

Pour la traduction, ce que j'ai pu entendre et lire, c'est que ça fait du super boulot sauf quand ça faite des contresens débiles (ce qui semble être le consensus général; ça marche plutôt bien sauf quand ça fait de la trés grosse merde).

Bref, les LLMs ça semble bien à condition d'avoir un humain derrière qui soit déjà capable de faire le boulot et qui est hyper attentif.

[fycjibe]

Punaise c'est quand même un use case un peu pété !

Déjà perso, pour acheter une crème, no way de passer par Amazon. Il y a quand même masse trucs qui ne respectent pas les normes de fabrication européennes sur leur marketplace. Alors pour un truc que l'on se fout sur la peau, les critères de compositions sont largement plus important que le rapport poids/prix.

Et comment Chatgpt s'en sort là dessus pour chercher les allergènes et les produits limités ?

Faut voir si il réussi a aller plus loin que les premiers résultat sur amazon qui sont tout pété. Pas convaincu que y'ai un gain de temps important rapport a aller sous même chez so droguerie chercher le bon produit appris les 3-4 proposés. Et si en effet t'as des problèmes de peau et des allergies de toute façon tu sais déjà quels produits éviter et tu va pas faire confiance a chatgtp sur le sujet.

[Orhin]

Dans mon boulot principal les IA "remote" sont interdites, mais Jetbrains propose un petit plugin deep learning qui tourne en local et propose l'autocompletion sur 1 ligne. Ça marche terriblement bien, je ne compte plus les fois où le plugin m'a sorti exactement ce que j'allais taper et je n'ai plus eu qu'à faire "tab".

Je l'utilise aussi et en effet il marche très bien vu qu'il s'adapte à ton projet.
Du coup y'a un gain non négligeable pour les truc que tu tapes souvent.

Bon désolé du post un peu trivial, mais en soit les LLM ont quelques bases solides dans les domaines suivants :

- Code
- Calcul
- Classements
- Traduction
- Résumer des textes

Traduction et résumé oui ça fonctionne très bien (et c'est normal vu le fonctionnement interne du bousin).

Code, ça dépend vraiment des usages.
En mode assistant/complétion c'est assez bon.
Par contre pour générer des trucs plus complexes c'est encore trop immature (en plus de poser de gros soucis de perte de compétence des devs).

Classement, tout dépend.
Si c'est pour résumer des classements qui existent déjà sur internet, ouais ça fonctionne bien.
Par contre si c'est pour faire des trucs un peu complexe, nope.

Calcul lolno.

Et pour ce qui est du code il suffit de vérifier si ca marche

Alors à moins de faire un truc très trivial (qu'on aurait pu faire à la main du coup), "juste vérifier si ça marche" n'est jamais un truc simple en info.

[564.3]

Ouais, y a un collègue qui nous copie/colle parfois du code de LLM à l'arrache "j'ai testé, ça marche". Typiquement c'est bien buggé et inutilement complexe…
Maintenant il essaie au moins de comprendre le plat de spaghetti que le LLM lui a rendu, comme quand il copie/colle ce que lui sort un moteur de recherche.
Disons que c'est bien pour avoir une inspiration sur comment faire quelque chose, mais il manque les avis/discussions autours. Même si le LLM peut en intégrer une partie dans la réponse, il manque pas mal de contexte.

[Ze Venerable]

Si ce plafond de verre est confirmé pour les LLM, à savoir que c'est surtout bien pour faire de la quantité mais que pour la qualité/précision ça ne va pas, elles ne représentent pas une menace globale pour les emplois aussi importante que ce que l'on a pu craindre au départ, si ?
En dehors de certaines professions bien spécifiques (traducteur, graphiste, standardiste, ...) où les IA risquent de faire fondre le nombre de postes proposés.

[tompalmer]

Là je vois un classement poids/prix, mais pas un classement qualité prix. Sur quoi chatgtp se base pour te donner un classement de la qualité, quels critères ?

J'avais pré-selectionné en sachant que c'est toute a peu pres les meme

- - - Mise à jour - - -

Si ce plafond de verre est confirmé pour les LLM, à savoir que c'est surtout bien pour faire de la quantité mais que pour la qualité/précision ça ne va pas, elles ne représentent pas une menace globale pour les emplois aussi importante que ce que l'on a pu craindre au départ, si ?
En dehors de certaines professions bien spécifiques (traducteur, graphiste, standardiste, ...) où les IA risquent de faire fondre le nombre de postes proposés.

J'y crois pas au plafond de verre, peut etre que les LLM généralistes vont plafonner, mais les modèles spécialisés ...

Et je vois pas ce qui empeche un LLM de se dire "tiens voila une question sur un sujet spécifique, je laisse ca a mon sous LLM spécialisé"

- - - Mise à jour - - -

Ouais, y a un collègue qui nous copie/colle parfois du code de LLM à l'arrache "j'ai testé, ça marche". Typiquement c'est bien buggé et inutilement complexe…

Je parlais pas de coder un truc complexe, justement l'autre jour je lui ai demandé de me faire un générateur de posts en BBcode a partir de quelques inputs, et ca marche parfaitement.

J'ai eu a faire un peu de Finetuning, mais c'est bon

[Nilsou]

Perso je ne pense pas qu'il y aura un si grand impact sur l'emploi en général.

Prenons vos exemples : Les traducteurs ça faisait déjà des années qu'ils étaient en faible nombre et principalement spécialisé sur la qualité ou l'oral au jour le jour en accompagnant de telle ou telle personne. Ça ne changera pas fondamentalement. Pour leurs taches comme la traduction de livres ils iront plus vite, mais c'est déjà ce qu'ils faisaient.

Les graphistes ce sont surtout les petites mains qui vont perdre leur emplois, l'effet est surtout que ça défoncer la pyramide qui permettaient de commencer par petites mains avant d'aller vers autre chose, il v a y avoir des problèmes dans ce milieu spécifique (pareil dans la conception de sons etc.) sauf qu'en pratique c'est aussi ces mêmes personnes qui vont devenir des expertes de l'usage et de la retouches des choses fournies par les IAs, la qualité générale va monter et elles vont produire beaucoup plus vite.

Enfin les secrétaires, standardistes et cie, ça fait longtemps, très longtemps, que leurs rôle est déjà de faire l'interface entre les humains extérieur et les machines, ça ne changera pas non plus fondamentalement.

À mon sens ça simplifie des taches dans pas mal de métier, ça augmente fortement la cadence dans d'autres, mais sur l'emploi en général et les grand chiffres, je m'attends à un impact quasi nul.

Je m'attends plus à un impact sur les sois disant « stars » qui nous abreuvent de leurs morceaux de musiques sans âmes depuis 15 ans. Quand il sera bien établi que Suno et cie feront mieux qu'eux, ils ne feront pas long feu. Mais ma foi, c'est pas une grande perte.

[tompalmer]

Le problème des effets globaux c'est que ca ne dit pas tout.

Si tu mets des millions de comptables sur le marché mais que tu ouvres autant de postes a plus haute qualification, ca passe pour un effet nul

Alors que dans la vraie vie tu as créé des mecs plein de ressentiments qui vont voter Trump (si on se base sur la transition charbon aux USA)


Les sociétés humaines peuvent absorber pas mal de changement, mais quand c'est massif et rapide ca fout le bordel et ca crée de l'instabilité.

Quand tu as le passage des sociétés féodales a des états plus modernes, ca se base sur un changement sociologique de plusieurs siècles.

[Nilsou]

La situation est différente, la démographie fait que le plein emploi sera atteint dans quelques années en France (quelque soit les politiques appliquées), c'est une simple mathématique. Si il n'y a pas de demande dans un secteur parce que, par exemple, les traducteurs seraient trop productif, je m'attends plutôt à ce qu'il y ait pas mal de reconversion ailleurs, tout simplement.

Par ailleurs, je m'attends surtout à une baisse des couts, de traduction, de création d'image, qui vont automatiquement amener à plus de petits projet. Là où auparavant un petit éditeur n'aurait pas pu faire traduire des petits light novel japonais, imaginons, là ce sera possible. Idem pour la création d'image : là où des gens sans contact dans le milieu n'aurait pas pu raisonnablement créer un jeux de cartes à jouer bien illustré, là ce sera possible.

Je m'attends de fait à une augmentation de diversité des productions dans tout les secteurs attenants à ces milieux. Et oui, à un certains nombre de reconversion, mais il faut voir que ce sont de tout petit secteurs ... l'effet global sera nul selon moi. Pendant qu'un traducteur se demande si il accepte des contrats à bas cout, pendant qu'il y a une surproduction de light novel japonais traduit ce qui augmente trop la demande et aboutit en ricochet à une perte de contrat pour ce même traducteur, bref, pendant que cet homme se demande si il va se reconvertir, c'est 1000 plombiers, 1000 techniciens et 1000 maçon qui continuent leurs vie tranquillement. (chiffre sortie de nul part, mais c'est pour illustrer ) .

Le seul endroit où je vois un impact financier évident c'est sur les stars qui font tourner le showbiz. Quand tout l'occident deviendra une extension du phénomène (qui commence en Asie) où des stars virtuelles font aussi bien ou mieux que les stars réelles sur tout les plans, bah forcement il va y avoir une redistribution forte de sous sous entre ce qui allait à ces personnes et les gens qui tournent autour. Pas sur que le public voient la différence ceci dit.

[tompalmer]

la démographie fait que le plein emploi sera atteint dans quelques années en France (quelque soit les politiques appliquées)

Lol, c'est pas si simple. Un demandeur d'emploi + un poste a pourvoir n'est pas forcément égal a un emploi. Tous les autres paramètres de relocalisation, cout du travail, formation ... existent

je m'attends plutôt à ce qu'il y ait pas mal de reconversion ailleurs, tout simplement.

Le problème c'est que les emplois qui restent sont
soit des jobs trop compliqué pour l'IA
soit impossibles pour l'IA (nécessité de travail physique)

Donc en gros de moins en moins de jobs entre livreur et ingénieur.

[Ze Venerable]

J'y crois pas au plafond de verre, peut etre que les LLM généralistes vont plafonner, mais les modèles spécialisés ...

Une remarque histoire de discuter : ils sont pas très différents des généralistes au fond les modèles spécialisés. Ils vont taper des limites aussi (celle liée aux données d'apprentissage, au matériel sur lesquels ils tournent (qui certes s'améliore)) => ils auront eux aussi toujours un % pas négligeable d'hallucination non ?

Ou alors on ultra spécialise pour atteindre sur une tâche très précise la fiabilité comparable à celle d'un humain, mais peut-on remplacer un ingé par 5 ou 10 I.A ultraspécialisées ?