l'Actu tech : Le pillage d'Attil.IA, la ou il passe les artistes ne repoussent pas

[tompalmer]

Hop, Apple vient d'annoncer qu'elle utilisera le RCS pour Imessage, ce qui est une victoire de l'Europe, apres l'USBC.

Tout ca me semble super lointain maintenant que tout passe par Whatsapp dans le pays ou je vis, mais pour ceux qui utilisent les messageries de base (sms, RCS) c'est la fin des bulles bleues et vertes.

A savoir qu'Imessage était un des bastions d'Apple : Si toute ta famille communique avec Imessage, ca rendait le switch vers Android tres difficile.

Blurry videos, broken group chats, lack of encryption and more.

Je suis a peu pres sur que ca n'aura aucun impact sur les ventes d'Iphone en réalité, ou marginal. Mais tout ce qui est un pas vers l'interopérabilité est tres bien

[Shosuro Phil]

C'est juste le téléphone qui cafte les gens qui ont un iPhone, ou y'a d'autres avantages supposés? Parce que moi pour le peu que j'en vois, je le regretterai pas...

[tompalmer]

En fait le SMS est un protocole qui date des années 90 avec beaucoup de limitations.

Dans les années 2014 on a mis en place une surcouche qui utilise la Data, le RCS, qui permet :

- D'enrichir les messages de gifs, stickers ou autre emoji
- Faire sauter les limitations de caracteres et de taille des medias envoyés.
- Le chiffrement end to end
- Les accusés de reception

Google / Android utilise ce protocole, pendant qu'Apple a tres tot développé un équivalent en propriétaire. (Avant meme que le RCS n'existe)

Le truc c'est que quand un android et un Iphone communiquent, ca bascule vers le SMS, et donc on revenait plus ou moins aux années 90.

Ca rendait Google Furax, puisque ils ont jamais réussi a faire prendre leurs apps de messagerie (Google Allo et Google Chat).

Ils avaient décidé de finalement concentrer leurs efforts sur l'app SMS/RCS basique, qui n'aurait pas de problème d'adoption cette fois. Seulement comme Imessage ne joue pas le jeu, ca fait que les gens sur Android preferent utiliser les apps tierces (ou acheter un iphone carrément)


L'autre probleme est que les gamins qui avaient des telephones android se sentaient exclus socialement, puisque Imessage affiche les messages venant d'android en vert (plus difficile a lire), et les gamins étant cons ...

[Shosuro Phil]

Ah mais que les systèmes deviennent plus clairement interopérables, c'est clair que c'est une bonne chose.

Le plus dingue, c'est que dès les débuts d'internet, c'était un truc qui était mis en place. C'est même probablement le premier système technologique qui a dès la conception été monté dans un souci d'interopérabilité - avant que les grosses entreprises ne commencent à y mettre leur grain de sel et à pousser dans l'autre sens, en gros courant des années 90.

[Nilsou]

En fait le SMS est un protocole qui date des années 90 avec beaucoup de limitations.

Dans les années 2014 on a mis en place une surcouche qui utilise la Data, le RCS, qui permet :

- D'enrichir les messages de gifs, stickers ou autre emoji
- Faire sauter les limitations de caracteres et de taille des medias envoyés.
- Le chiffrement end to end
- Les accusés de reception

Google / Android utilise ce protocole, pendant qu'Apple a tres tot développé un équivalent en propriétaire. (Avant meme que le RCS n'existe)

Le truc c'est que quand un android et un Iphone communiquent, ca bascule vers le SMS, et donc on revenait plus ou moins aux années 90.

Ca rendait Google Furax, puisque ils ont jamais réussi a faire prendre leurs apps de messagerie (Google Allo et Google Chat).

Ils avaient décidé de finalement concentrer leurs efforts sur l'app SMS/RCS basique, qui n'aurait pas de problème d'adoption cette fois. Seulement comme Imessage ne joue pas le jeu, ca fait que les gens sur Android preferent utiliser les apps tierces (ou acheter un iphone carrément)


L'autre probleme est que les gamins qui avaient des telephones android se sentaient exclus socialement, puisque Imessage affiche les messages venant d'android en vert (plus difficile a lire), et les gamins étant cons ...

Le RCS c'est google qui l'a poussé à la base.
Et franchement, même aujourd'hui c'est peu fiable. Ça bascule sur du SMS dès que tu es dans une zone où ça passe peu, ou alors si tu mets du pur RCS ça n'envoie pas du tout le message alors que ça pourrait largement en sms/mms. L'idée du protocole est bonne, mais tant que ça ne permet pas de passer par de la 1g etc comme le fait les SMS de base, ça reste difficile de se passer des SMS dès lors que tu voyage un peu (même juste en france).

[tompalmer]

Sam Altman vient de se faire virer d'open AI

[Anonyme20240202]

Parfait j'espère qu'on entendra moins ses conneries avec ça

[Nilsou]

J’espère un jour vivre la même avec Musk. Prions mes frères.

[tompalmer]

On a meme pas eu le temps de couvrir le feuilleton, mais en gros il est parti chez Crosoft, open AI a failli imploser et il est revenu.

Du coup business as usual.

C'est ce que j'appelle vivre a 200 a l'heure

[Anonyme20240202]

Lol il est déjà de retour, ça pue la corruption et les gros sous à plein nez cette affaire, va falloir attendre un moment pour savoir ce qui s'est vraiment passé.

[frostphoenyx]

OpenAI à la base c'est une assoc' à but non lucratif. Sam a voulu changer ça et s'est fait dégager par le conseil d'administration. Sauf que 500 des 700 employés ont menacé de le suivre...

[tompalmer]

Ca peut tout aussi bien etre des histoires d'égo dont on se fout royalement.

La pour le coup, si OpenAI avait implosé ca aurait eu pas mal d'impact sur l'ecosysteme. Ca montre aussi que Microsoft a les dents longues envers OpenAI

[Awake]

Chez libé ils parlent de 95% des employés OpenAI qui ont menacé de démissionner s'il n'était pas réintégré.

[Zapp le Grand]

Et Sam a été réintégré, alors que la CA s'est fait lourder (enfin c'est présenté plus diplomatiquement, mais en gros c'est ce qu'il s'est passé)

[Anonyme20240202]

Le truc c'est qu'en tant qu'employé, surtout département engineering, tu t'en fous de ton CEO en général, tu bosses plus avec le CTO. Donc déjà faudrait le détail par département. Si on voit que parmi les employés qui se plaignent y'a Gérard de la compta, bon, c'est un indice.

La seule chose qui t'intéresse avec ton CEO généralement c'est qu'il soit pas non plus totalement dingo, car (ça dépend des CEO) mais c'est parfois un des visages de la boite.

Mais avant tout, la thune, c'est le CEO qui va gérer ce qui est introduction en bourse, investissements pre-IPO (venture rounds), etc.

Donc ça sent tout de même le truc un peu salasse du CEO qui a promis des stocks pour une éventuelle introduction en bourse (pre-IPO shares), ou autre avantage pécunier qu'il faisait miroiter. Surtout que ça parlait de gros deal notamment au moyen orient (= pognon) pour Altman.

Donc je sais pas si on peut vraiment vouloir aux employés de vouloir se faire de grosses thunes en surfant sur la vague. Mais le coup du CEO qui envoûte tellement ses employés, sur la base seule de son charisme, qu'ils sont prêt à le suivre partout, j'y crois pas trop.

[Praetor]

Ah mais c'est clair que pour avoir une telle fronde des employés c'est qu'ils avaient gros à gagner ou à perdre. Leurs intérêts devaient être alignés avec ceux d'Altman. Une telle loyauté dans la Silicon Valley j'y crois pas une seconde

[Anonyme20240202]

La dernière Neuralink

[tompalmer]

Tenez Korben a fait un un petit tuto sur la possibilité de faire tourner des LLM en local : https://korben.info/lm-studio-local-...ode-usage.html


Je me vois bien faire ca dans quelques années, j'ai deja un serveur/NAS basé sur une puce M2 mais j'attends que les outils soient un peu plus plug and play.

Je suis certain que l'auto hebergement de ces trucs en version livre a de l'avenir pour des utilisations spécifiques ou entreprise. ChatGPT est tres bon pour du général.

Je vois bien un écrivain du type JK rowling/ GRRM du futur utiliser ce genre d'outils pour créer des univers de Fantasy

[Anonyme20240202]

C'est similaire à https://github.com/oobabooga/text-generation-webui que j'avais déjà posté en réponse sur le topic de l'IA mais c'est closed source.

[tompalmer]

Je me demande pourquoi y'a pas un truc en P2P qui tourne pas déja un LLM. Ca permet a chacun d'heberger une partie des données et de la puissance de calcul

[Shosuro Phil]

Ce serait quoi l'intérêt du partage? C'est des logiciels qui sont très consommateurs de ressources même à l'utilisation, c'est quoi la motivation de l'usager X pour partager ça avec les usagers Y et Z?

[Anonyme20240202]

Ca existe déjà

This notebook will guide you through the basics of Petals — a system for inference and fine-tuning large language models without the need to have high-end GPUs. With Petals, you can join compute resources with other people over the Internet and run large language models such as Llama 2 (70B), Stable Beluga 2, Llama-65B, Guanaco-65B, or BLOOM-176B right from your desktop computer or Google Colab.

https://github.com/bigscience-workshop/petals

Mais bon perso je partage pas trop l'enthousiasme, après c'est une autre discussion.

Genre le P2P pour partager du contenu multimédia le bénéfice est assez clair, les chatbots à part rédiger des emails (lol)

- - - Mise à jour - - -

Puis ouais, pareil que Shosu, la question de la consommation est toujours là, même si c'est plus lors de la construction/training du réseau que du runtime, ça reste gourmand. La plupart des projets de grid computing (pour la science historiquement, BOINC, etc.) sont pas hyper populaires déjà

[Nilsou]

Surtout que si des gens partagent des films etc, c'est toujours dans l'idée de sacrifier certes de leurs sous, mais pour une sorte d'idée noble : le partage d’œuvre culturelles au plus grand nombre. C'est proche des philosophie hacker/anarchiste etc.
Il me semble que c'est à peu près le seul moteur ou en tout cas le principal.
J'ai du mal à voir l'équivalent sur le fait de partager des LLM tournant sur ta machine ...

[Shosuro Phil]

Puis ouais, pareil que Shosu, la question de la consommation est toujours là, même si c'est plus lors de la construction/training du réseau que du runtime, ça reste gourmand. La plupart des projets de grid computing (pour la science historiquement, BOINC, etc.) sont pas hyper populaires déjà

Alors je n'ai pas regardé de près, mais une collègue me disait récemment que Copilot (le truc de Github qui te propose de coder à ta place en fonction du contexte, et qui fait des ravages dans les formations parce que sur des trucs qui sont des exercices de programmation c'est dévastateur quand l'objectif de l'exercice est de faire écrire du code à un étudiant) coûtait super cher à Microsoft, à cause des frais de fonctionnement des serveur (elle m'a cité comme chiffres, de mémoire, un abonnement à 10$ pour un coût à 20$). On ne parle pas du coût d'entraînement du modèle, mais juste de son fonctionnement.

[Anonyme20240202]

Ouaip. T'façon c'est un truc dont je parle en boucle depuis le début du topic concernant les réseaux de neurone artificiels (ANN), perfs et consommation. C'est par nature inefficace, ce n'est pas construit pour être efficace en premier lieu (y'a bien sûr beaucoup de travail pour tenter d'améliorer ça), si tu veux résoudre un problème donné, je prends toujours l'exemple du jeu Snake car beaucoup de novices ne sont pas capables de dire si c'est un problème adapté aux ANNs, j'prends aussi l'exemple de Shazam (c'est une AI ou pas?) en entretien pour voir si le mec comprend de quoi il parle.
L'approche que je qualifierais de "classique" pour aller vite, sera toujours bien plus efficace y'a pas photo, c'est pas adapté à ces classes de problème les ANNs.
Pour comprendre plus en détail tu peux comparer la solution pour Snake vers laquelle ton ANN converge vers la solution optimale pour Snake et tu vois la différence (problème de définir ton objective function notamment)

Après tu peux orienter la discussion en disant "oui mais les ANNs sont capable d'étudier quelle sera la solution 'classique' optimale", et ça amène à des trucs comme "AlphaDev discovers faster sorting algorithms" (qui était un coup marketing complètement bidon) ou encore "Artificial intelligence finds faster algorithms for multiplying matrices" qui était aussi relativement bidon (petites matrices).

Donc bien sûr, car les ANNs sont par nature des machines statistiques universelles, tu peux appliquer ça à tout ce que tu veux, mais on est dans la période ou faut vendre surtout

Copilot c'est le pire, c'est vendre du vent mais bon c'est une autre discussion, en 2 mots Copilot serait infiniment meilleurs en concentrant le champ d'application sur de l'exploration de doc et des snippets de code précis, plutôt que cette soupe qui se veut bonne à tout faire/généraliste et qui ne fait rien correctement au final. J'arrive pas à croire qu'ils aient eu 1 million d'utilisateurs à une période (j'ai pas suivi depuis), c'était petit relativement mais c'est déjà 1 million de trop lol.

[Shosuro Phil]

Honnêtement, 1 million d'utilisateurs ça ne me semble pas si énorme. Nous on en est à se battre pour que nos étudiants fassent honnêtement leurs exercices, parce qu'en apparence c'est tellement plus simple de demander à Copilot.

Et quand tu n'as pas le niveau pour comprendre ce que fait le programme qui t'est donné (et c'est plutôt plus difficile que d'écrire le programme), ben regarder le produit de Copilot ça n'apporte absolument rien évidemment. On est bien obligés de donner des exercices simples consistant à écrire des fonctions qui ont été écrites par des générations d'apprentis développeurs, qui sont précisément les cas où les outils automatiques ont l'air super utiles.
Et on n'arrive pas à leur faire accepter (au moins à une frange non négligeable) le fait qu'ils ont besoin d'en passer par ces exercices pour comprendre comment faire des trucs plus compliqués...

[Anonyme20240202]

Ca me donne une idée de nouvelle de science fiction lol, une ploutocratie ou seul les élèves suffisamment riches peuvent se payer la version ++ de Copilot et réussir leurs exams

Et on suivra les aventures du jeune Nilsou, un pauvre élève sans le sou () qui contre vents et marées réussi ses examens sans Copilot.
J'attends le call d'Hollywood

---

Sinon je pense que c'est un problème intéressant pour les profs, 'fin je dis pas que c'est un bien. Mais trouver une question qui demeure intéressante, en la présence d'outils tels que Copilot. Et bon c'était pas très différent avant hein, demander à ton oncle programmeur (true story) ou copier coller un truc Stackoverflow.

J'me souviens de mes profs qui se plaignaient de wikipedia ou du fameux faismesdevoirs.com (https://www.liberation.fr/societe/20...-pages_543455/)

La conversation est le truc qui me vient en tête immédiatement (demander à l'élève d'expliquer sa solution), mais ça demande beaucoup de temps si tu gères un amphi de 100 étudiants... ou simplement plusieurs classes. Sinon appliquer aucune tolérance quand l'élève triche de manière manifeste ça me parait sain (il pige pas ce qu'il a copié collé et le code marche pas, etc.).

Mais c'est l'éternel fait que si tu poses une question, les réponses vont vite se retrouver quelque part (en ligne, ou les étudiants qui se passent les problèmes de l'année précédente). Innover chaque année avec de nouvelles questions je pense pas que ce soit nécessairement la solution. Des questions suffisamment ouvertes pour que y'ait pas de réponse standard me parait une bonne approche mais c'est plus long à corriger.

Dur ce problème, après je suis un optimiste, je pense pas que la majorité triche et que je pense que même dans la triche tu apprends un truc au moins

[ian0delond]

Le retour des bons vieux TD sur les postes fixes avec internet coupé

C'est sur que c'est une période de transition compliquée, mais dans quelques années les étudiants devront bosser sur des IDE concus pour décourager la triche et les IA génératives vont arrêter d'être open bar / bon marché une fois que les utilisateurs seront bien accros et les couts seront plus tenables. On voyait déjà ça avec Netflix il y a quelques années, le streaming video ca coute cher ils cherchent à optimiser les algos de compressions mais ca a quand même monté à 20€/mois et chasse le partage de compte.

[Anonyme20240202]

Ouaip ouaip, l'approche exam/TD sans aucune aide accessible ça reste un truc viable mais y'aura la frustration dont Shosuro parle j'pense "mais m'sieur dans la vraie vie y'a Copilot wesh"

[tompalmer]

Surtout que si des gens partagent des films etc, c'est toujours dans l'idée de sacrifier certes de leurs sous, mais pour une sorte d'idée noble : le partage d’œuvre culturelles au plus grand nombre. C'est proche des philosophie hacker/anarchiste etc.
Il me semble que c'est à peu près le seul moteur ou en tout cas le principal.
J'ai du mal à voir l'équivalent sur le fait de partager des LLM tournant sur ta machine ...

T'idéalise vachement le truc.

Tu dois avoir une poignée de personnes qui font ca pour ca, une plus grosse poignée qui font ca pour faire de l'argent (y'a toujours de la pub sur les sites de torrents).

Et le gros du partage c'est les utilisateurs eux meme qui sont forcés de partager parce que c'est comme ca que le protocole marche.

C'est quand meme la force du P2P, comme c'est donnant donnant, il n'y a besoin que d'une poignée de gens désintéressés pour démarrer le système, et ca s'auto entretient.