Il m'en faut peu aussi
What do you mean "we"?
- - - Mise à jour - - -
D'ailleurs j'ai récemment découvert l'histoire de Blake Lemoine, ça m'a bien fait marrer je recommande
- - - Mise à jour - - -
https://en.wikipedia.org/wiki/LaMDA#Sentience_claims
Perso, même si je pense que les modèles de ce genre sont un mauvais chemin (ou plutôt, inefficace) pour faire une vrai « IA », je trouve un peu trop sur d'eux les commentaires de ce genre :
Parce que, même en considérant que le modèle n'apprends pas en direct, il y a une forme de réentrance forte qui permet amplement au modèle de se regarder lui même et d'avoir une forme de mémoire, vu qu'il bouffe la précédente conversation. Alors c'est une mémoire très courte (quelques milliers de mots), mais une mémoire tout de même. Je ne vois de fait aucun argument fort qui permettent de dire que le modèle n'est pas conscient.*Lemoine's claims have been widely rejected by the scientific community.[20] Many experts ridiculed the idea that a language model could be self-aware, including former New York University psychology professor Gary Marcus, David Pfau of Google sister company DeepMind, Erik Brynjolfsson of the Institute for Human-Centered Artificial Intelligence at Stanford University, and University of Surrey professor Adrian Hilton.[12][21] Yann LeCun, who leads Meta Platforms' AI research team, stated that neural networks such as LaMDA were "not powerful enough to attain true intelligence".[22] University of California, Santa Cruz professor Max Kreminski noted that LaMDA's architecture did not "support some key capabilities of human-like consciousness" and that its neural network weights were "frozen", assuming it was a typical large language model.[23] IBM Watson lead developer David Ferrucci compared how LaMDA appeared to be human in the same way Watson did when it was first introduced.[24]
De plus, en l'absence de définition propre de la conscience chez les êtres vivants, difficile de prouver que même un simple circuit RC en électronique n'est pas conscient de lui même ^^. Et a fortiori c'est encore plus improuvable pour un réseau de neurone ayant des formes de réentrance.
*(notons qu'en plus, il est relativement simple de continuer à faire apprendre le modèle en direct, et donc d’avoir une mémoire très importantes, c'est juste pas activé par défaut parce qu'ils ne veulent pas que le truc se fasse polluer par les réponses WTF des gens parlant à l'IA, mais c'est juste un bit à mettre à 1 au lieu de 0 pour activer le machin, c'est déjà tout prêt).
Blake Lemoine c'était à peu près le moment où GPT-4 a été entraîné/rendu disponible à des alpha testeurs, avec j'imagine un niveau de sophistication comparable, donc ça va être bien drôle de voir ce que ça donne niveau grand public quand ça a pu berner un ingé de google qui bossait dessus
En encore plus drôle nilsou y'a le fait que déjà quand tu parles à bing, tu peux lui faire faire des recherches sur internet, y compris pour aller chercher... des conversations précédentes que toi ou d'autres ont eu avec bing et ont posté quelque part. Y'en a pour argumenter que c'est une forme de mémoire/apprentissage long terme, la comparaison est assez drôle.
S'en est effectivement une à mon avis.
Peu efficace, mais existante. Et ça rends d'autant plus difficile de mettre de coté toute prétention à la conscience du machin.
Attention, conscience n'est pas intelligence par contre ^^. Je suis à peu près convaincu qu'un poisson rouge est conscient, mais je ne compte aucunement sur lui pour raisonner.
À vrai dire (après je ne sais pas si Lemoine a changé son discours après cette volée de bois vert) il l'a joue un peu comme si son combat principal c'était l'éthique pour les AI et non pas trop ces histoires de conscience. Genre plus orienté "le problème qui survient quand tu peux pas distinguer un robot d'un humain dans un chat online", type Turing test et que (selon ses dires) Google a hardcodé le fait que l'AI doit se présenter comme une AI.
Bon c'est tout de même un peu tendancieux comme accusation de sa part je trouve car ça sous entend que Google fait ça par autre souci que d'être clair pour les utilisateurs, genre conspiration pour emprisonner l'AI côté Google
Ouais sinon un peu hors sujet, je pense que la notion de qualia ou "conscience phénoménale" est primordiale et représente le problème difficile de la conscience. M'enfin là on part très loin, je pense pas que l'IA soit liée au problème parce qu'elle en émule certains mécanismes cognitifs (ça tourne même pas sur le même hardware en plus!)
J'arrive pas trop à déterminer ce que tu veux dire en fait ? Automatiquement une histoire de conscience ou non vient soulever un problème d’éthique. Et le test de Turing c'était justement pour tenter d'avoir une vague définition, très imparfaite, d'une mesure de « l'humanité » de l'objet mesuré. Puisque justement la conscience n'a pas de définition claire. C'est normal pour un mec qui bosse dans le domaine de venir invoquer le test de Turing si tu veux. Mais dans le problème de fond ça veut dire la même chose.
Très clairement, dans l'article wiki, on se rends compte que Google a remisé LamDa par peur des répercussions que ça pourrait avoir.
Perso je pense effectivement que google, comme OpenAI, ont hardcodé ce point pour éviter tout retour de bâton face à une IA trop humaine pour leur propre bien. D'ailleurs la phase de « hardcodage » sur OpenAI est bien documenté sur GPT-3.
C’est pas une conspi, mais penser un instant que la « clarté pour les utilisateurs » est supérieur à leur intérêt commerciaux est à mon sens un peu naïf. Ils ont surtout fait ça pour limiter les risques pour eux. Risque que Google avait jugé trop fort pour Lamda, ce qui avait mis la chose sous le boisseau jusqu’à ce qu'ils soient obligé de réagir à ChatGPT.
Hmmm, je suis pas sûr si tu sous entend que la question se pose en premier lieu. De mon avis, non. Je suis sur la certitude que y'a aucune histoire de conscience dans ce qu'on fait niveau AI, à vrai dire je suis même pas intéressé par la question tellement ça me parait évident. Donc la question s'arrête là (pour moi). Les considérations éthiques se situent plus niveau impact énergétique, transparence au niveau des corpus etc. Un ordinateur c'est très faiblement complexe et observable "en totalité", purement mécanique, donc je vois pas où se logerait la conscience, y'a aucune expérience ou constatation qui irait dans ce sens. Donc peu importe le software qui tourne dessus.
Je dis pas que l'argument de conscience émergente est complètement naze, au fond on n'en sait rien, mais que ce soit avec une machine réelle ou un modèle abstrait genre machine de turing, aucun de ces modèles n'amène vers quelque affirmation ou prédiction que ce soit concernant la conscience, c'est complètement orthogonal. Après faut bien distinguer conscience et cognition
Le test de Turing c'était une idée intéressante à l'époque, c'était visionnaire de plus ou moins déjà savoir qu'on en arriverait là niveau informatique, mais il me parait évident que ça n'a aucune valeur (et ça n'amoindrit en rien les travaux de Turing hein, c'est une bonne idée mais c'est clair que ça n'apporte rien, puis bon c'est repris n'importe comment par la science fiction).
L'imitation game de Turing c'est:
Donc y'a pas vraiment de considérations directes concernant la conscience, puis bon c'est carrément pas scientifique son papierInstead of attempting such a definition I shall replace the question by another, which is closely related to it and is expressed in relatively unambiguous words.
The new form of the problem can be described in terms of a game which we call the ‘imitation game’. It is played with three people, a man (A), a woman (B), and an interrogator (C) who may be of either sex. The interrogator stays in a room apart from the other two. The object of the game for the interrogator is to determine which of the other two is the man and which is the woman. He knows them by labels X and Y, and at the end of the game he says either ‘X is A and Y is B’ or ‘X is B and Y is A’. The interrogator is allowed to put questions to A and B thus:
C: Will X please tell me the length of his or her hair? Now suppose X is actually A, then A must answer. It is A's object in the game to try and cause C to make the wrong identification. His answer might therefore be
‘My hair is shingled, and the longest strands are about nine inches long.’
In order that tones of voice may not help the interrogator the answers should be written, or better still, typewritten. The ideal arrangement is to have a teleprinter communicating between the two rooms. Alternatively the question and answers can be repeated by an intermediary. The object of the game for the third player (B) is to help the interrogator. The best strategy for her is probably to give truthful answers. She can add such things as ‘I am the woman, don’t listen to him!’ to her answers, but it will avail nothing as the man can make similar remarks.
We now ask the question, ‘What will happen when a machine takes the part of A in this game?’ Will the interrogator decide wrongly as often when the game is played like this as he does when the game is played between a man and a woman? These questions replace our original, ‘Can machines think?’
Pourtant je vois pas de vrai argument scientifiques qui appuie ton avis.
Pour le moment on a pas de vrai argument tranchant un sens ou l'autre. Et la plupart des scientifiques sont plutôt convaincu du contraire (peu importe le substrat, si on fait une copie du cerveau d'u poisson, d'un chat ou d'un humain il sera aussi conscient qu'un poisson, chat ou humain.)...
Ouais je trouve ça cool que y'ait des avis aussi divers, et c'est un avis que je respecte je pense. Je suis complètement persuadé que c'est faux mais bon, c'est une histoire pour un autre topic
C'est toujours ce qui est utilisé aujourd'hui par la plupart des gens bossant en neurobio/IA. Quand on fait une IA on la soumet à un test de turing minimal dans la dimensionnalité du problème posé. Exemple typique : on fait une IA capable de faire des mouvements humains qui sont indistinguables des autres mouvements humain, on la soumet à un test de turing en faisant passer plein de gens qui interagisse avec, d'une part, ou avec un humain d'autre part, et on regarde si on arrive à berner les humains.
On a jamais rien trouvé de mieux en fait. Soit tu veux évaluer la performance d'une IA, et il y a tout un tas de critère en fonction du problème. Soit tu veux évalué à quel point elle est capable de bluffer le jugement de notre cerveau, et tu utilise le test de Turing.
Le test de Turing reste donc parfaitement d'actualité, et ce n'est pas juste « bien pour l'époque », c'est juste le meilleur de ce qu'on sait faire. Son idée de base est toujours aussi géniale, et se résume simplement : Vu qu'on est incapable de définir ce que signifie « penser » (à l'époque le terme englobe complétement le concept de conscience, c'est la véritable question posée, la question n'est évidemment pas de savoir si une machine est capable de résoudre un problème, c'est parfaitement explicite dans son papier), alors on ne définit pas. On part au contraire de l'observation, très simple, que je suis également incapable de savoir si vous, en tant qu'autre individu distinct de moi, pensez.
De fait, je vous fait confiance parce que vous agissez comme moi, vous avez le bénéfice du doute.
Turing part de ce postulat simple dans ses travaux : en l'absence de critère scientifique sur la conscience/pensée, la question ne peut se concevoir que relativement à un individus : seul le jugement de chaque humain lui permet ainsi de trancher.
Une fois qu'on abandonne donc la première question de définir un critère scientifique à la conscience/pensée, parce que cette question est insoluble (et reste insoluble) alors il ne reste que cette question, soluble, de savoir si un dispositif arrive à mimer suffisamment l'être humain, pour le bluffer, continuellement, et dans l’interaction, dans un espace donné. (pas que sur la parole, turing illustre sa pensée avec la parole, mais c'est bien plus large, on peut faire, et on fait, des tests de turing sur le mouvement, en une, deux, trois dimensions, sur des périodes différentes, avec ou sans interactions etc etc.).
C'est un raisonnement d'une grande élégance de bout en bout. Qu'on retrouve dans les écrits d'Asimov, qui l'illustre tout le long de son œuvre avec brio, d'ailleurs.
Non seulement le raisonnement est d'une grand élégance, mais il a des applications pratique qu'on utilise encore constamment.
https://news.google.com/articles/CBM...R&ceid=FR%3Afr
La Chine s'est quand même sacrément tirée une balle dans le pied, en voulant jouer aux cons et en ayant une position belliqueuse face aux US.
Belliqueuse ... ? C'est un peu gros tout de même. Il n'y a pas beaucoup de soldats chinois impliqués dans des guerres à l'exterieur de chez eux, alors que les USA entretiennent des troupes massives sur toute la planète ... et jusqu’à coté des frontières chinoises.
Par rapport au reste du monde, la Chine est extrêmement pacifique.
Même dans les conflits en cours impliquant ses « alliés », elle est très prudente, elle aurait pu, par exemple pour l'Ukraine, se positionner en parfait symétrique de l'OTAN et fournir des équipements en masse à la Russie (elle a une sacré réserve en plus). Pour le moment elle ne fait pas ça, elle se contente de prévenir qu'elle pourrait le faire. Et en attendant elle va voir même Zelinsky. On a connu plus belliqueux.
On voit le moindre mouvement chinois comme belliqueux parce qu'il y a un gros effet loupe due au fait qu'ils ont été déclarés comme nos ennemis géostratégique. Mais si on regarde en pratique en s'extrayant un peu de ça, c'est un mot un brin galvaudé en l’occurrence.
Quant au comportement US sur les restrictions commerciales, il ne faut pas être naïf, c'est très décorrélé du fond du comportement chinois. Ça énerve les USA que les chinois ait une puissance commerciale importante, ça remets en cause leur suprématie. Et ils n'en font pas mystère d'ailleurs en interne aux USA que c'est principalement à objectif économique (lire cette excellente collection d'article). L'article que tu mets en lien est d'ailleurs assez éclairé sur le sujet.
Et puis, avis perso, stratégiquement, c'est tout de même un peu con. Toutes les restrictions qui ont été imposés à des pays comme l'Iran, Cuba, la Chine, ou même la Russie actuellement n'ont souvent réussi qu'a ... rendre ces pays encore plus autonome. (lire l'excellent article ici )
Encore quand c'est une puissance très juste financièrement et technologiquement, isolée, on peut se dire qu'il y a des chances de réussite (mais ça n'a pas empêché Cuba de développer l'une des meilleures médecine du monde, ni l'Iran ou la CdN de développer du nucléaire). Mais en l’occurrence ... Ça va juste pousser la Chine a développer une chaine complétement indépendante des USA pour les nouvelles technologies. (ton article revient sur ce point dans sa conclusion d'ailleurs)
Ce qui en soit, d'ailleurs, pour nous les consommateurs, pourrait être très intéressant à long terme.
Déjà que l'introduction des ARM dans le processeur grand public bouleverse un peu la donne, tandis qu'Intel vient bouleverser un peu le duo Nvidia/ ATI, si un nouveau gros joueurs arrive dans les rangs des processeurs/CG, on pourrait enfin voir une véritables concurrence se réactiver entre les acteurs.
Dernière modification par Nilsou ; 19/03/2023 à 14h18.
Je vois une dictature qui va être ralentie dans son développement technologique. Oui ça favorise les Américains, mais le résultat est le même, ça limite le pouvoir de nuisance des Chinois.
Du coup si tu veux être cohérent, il faut que tu arrête d'acheter tout produit provenant d'autre dictature non ?
Fais le compte mais ton panier risque d'être un peu vide à la fin dans la mesure ou la quasi totalité du monde est sous régime a minima autoritaire, quand ce ne sont pas carrément des strictes royautés ...
À moins que les dictatures « amies » trouvent grâce à tes yeux
La simple application de ceci sur la seule Chine risque déjà d'être bien compliqué quand la majeure partie de la production mondiale est constituée de made in china ... Ne parlons de l’Arabie saoudite ou du Qatar ... (tu regarde le foot ? Tu fais un plein d'essence ?).
Enfin, l'action des USA force certes la Chine a investir dans le moyen terme afin d'avoir une chaine de production technologique complétement indépendante. Mais ce n'est qu'une perte temporaire : le résultat final risque d'être très positif pour eux en définitive si ils sortent avec toute une chaine de haute technologies maison.
Et même cette perte temporaire peut être positives à court terme, un investissement ayant des effets bouliers non négligeable à l'échelle d'un état.
Donc bon ... « ralentie dans son développement technologique », pas certains non. Ça peut même être pire.
Enfin, mesurer le danger d'une dictature (pour qui d'ailleurs ? Pour nous français ? Pour le monde en général ? Pour ses voisins immédiats ?) à son développement technologique me parait un brin audacieux. D'ailleurs souvent il est montré l'inverse : que le développement de tout ce qui est technologies, du web par exemple, a tendance a mettre les états sous le regards de leurs citoyens, et les premières actions de répression lors de rebellions d'ampleur dans ces états (printemps arabes par exemples) ont été de couper le web. (Lire sur l'effet « panoptique inversé » dans Utopie du logiciel Libre, de Brocca)
Idem, le niveau technologique force à investir dans l'éducation de ta population, puisqu'il te faut des ingénieur, des chercheurs etc. Et on sait que c'est globalement peu favorable à la maitrise du secret et de la démagogie nécessaire à toute dictature fonctionnelle.
Sans parler du fait que toutes sanctions de groupe a tendance a souder les sanctionnés autour du chef.
Dernière modification par Nilsou ; 19/03/2023 à 18h45.
Je ne regarde pas le foot et ai une voiture électrique
J'essaie effectivement d'être cohérent dans mes achats, même si l'hégémonie de la Chine empêche l'accès à certains produits autre que du made in China. Vu la pyramide d'âge de la Chine, bon courage pour former les futures élites de la tech. Ça va être encore plus compliqué pour eux, vu les pressions du gouvernement sur les patrons de la tech chinoise. Quand le plus gros patron est obligé de s'enfuir chez ton ennemi historique, faut pas s'attendre à ce que tous ceux qui ont un peu de jugeote décident de travailler pour les beaux yeux du parti...
C'est pourtant ce qu'il se passe .
Les « patrons », dans une entreprise, c'est rarement des visionnaires magiques qui font que l'entreprise s'écroule sans eux. En pratique tu remplace le patron, et ça se fait très souvent, l'entreprise reste debout (pas tout le temps, mais suffisamment pour que la tactique reste valable).
Le PCC n'a qu'a déboulonner les patrons un peu rebelle (souvent de parfait connard par ailleurs, si tu compter y trouver des amis de la démocratie tu te fourre le doigt dans l’œil jusqu'à l'estomac) et par placer les siens...
Au delà du PCC, c'est une pratique fonctionnelle dans bien des états pour s'assurer que les très grandes entreprises du pays reste entre des mains « amies ».
J'ai du mal à interpréter à 100% ton message, mais si tu sous entends en plus que les chinois en tant que peuple ont quelque chose à faire de l'histoire entre le PCC et ces patrons, il y a deux points importants qu'il faut rappeler :
- Quand les-dits patrons sont mal vu du peuple dès le départ (ce qui est bien souvent le cas), personne ne va verser la moindre larme... ça sera vu comme un réglement de compte du pouvoir, qui ne touche pas ta vie.
- Les Chinois ne raisonnent pas comme les américains. Le rêve américains où chacun veut devenir patron à la place du patron, est un rêve ... américain. Tu ne peux pas calquer le raisonnement de personnes vivant dans une autre culture sur celui produit depuis les USA.
Dernière modification par Nilsou ; 19/03/2023 à 19h13.
En fait nilsou il aime bien parler tout seul, même à partir de 3 lignes il va s'inventer des arguments contre lesquels argumenter
D'ailleurs fun fact, la Chine a gagné plusieurs "procès" après avoir déposer des plaintes à l'OMC. Du coup, les Etats Unis bloquent le système.
Est arrivé le moment où il fallait renouveler les juges qui font office de "cour d'appel" à l'OMC. Les américains ont décidés de systématiquement mettre leur véto.
Du coup y'a plus de cour d'appel, donc l'OMC est bloqué pour aller au bout des procédures de litige.
C'est Trump qui a lancé ça. Et Biden continue (du moins en décembre 2022, date d'un article des échos).
Y'a le bon et le mauvais multi latéralisme.
Si y'a bien un endroit où je flipperais pour l'IA c'est en Chine, je me rappelle toujours de Clinton qui disait que contrôler internet serait aussi facile pour les chinois que "d'agrafer de la gelée à un mur" ou que "la liberté se diffuserait à travers les modems". J'aurais sûrement dit pareil si j'avais pas 8 ans à l'époque et je m'identifie encore assez avec le sentiment, mais reste que l'histoire lui a pas donné exactement raison. Ils sont fort en judo pour retourner les effets des technos.
Vidéo pas mal de Khan Academy et de ce qu'ils testent en termes d'utilisation de GPT:
Je crois assez à ces cas d'usage.
Oui
D'ailleurs ce serait le rêve s'il existait une façon relativement simple de faire cela, une app ou quoi.
Bien entendu, ça ne se limiterait pas à la Chine hein, je veux personnellement aussi éviter, par exemple, les produits produits dans les colonies juives de Cisjordanie. Et plusieurs autres pays. Bref.
Parce que pour l'instant, c'est absolument pas pratique, sauf à regarder le "Made in" quand on est dans un magasin physique ou à se renseigner quand on fait du shopping online (parce que c'est loin d'être toujours indiqué, et c'est pas rare que ce soit mensonger).
- - - Mise à jour - - -
Moi je ne la trouve pas si bancale que ça.
Bien sûr, y a un ordre de grandeur, ou deux, entre l'envahissement d'un voisin et le massacre de sa population d'une part, et d'autre part le génocide culturel de "sa propre" population et les camps de concentration qui vont avec, mais la Chine n'est certainement pas un enfant de coeur et il est temps qu'on s'en rende compte. Sans parler des menaces non voilées vis à vis de Taïwan qui sonne soudainement très différemment au vu de ce qui s'est passé de l'autre côté de l'Eurasie.
À notre décharge, et certes ça a déjà été énoncé maintes fois ici déjà, c'est un changement de comportement qui est relativement récent.
Pas de signature.
Hello chers canards de l'actu tech, je viens vous embêter car je cherche des liens vers des articles de presses concernant la sécurité des entreprises avec les IA (ChatGPT ou autre) mais aussi des sites d'hébergement d'images (Savoir ce qu'ils font des fichiers hébergés genre Zuppimage ou RemoveBG) mais aussi Wetransfer.
Si vous avez des éléments à me partager, ça m'arrangerai grandement, aujourd'hui j'ai un article du MondeInformatique sur ce sujet et j'aimerai en parler à mes collègues qui ne jurent que par ces sites/services.
On dirait que les pays démocratiques ne sont pas violent en écoutant certains (une sorte de totem d'immunité?). Est ce que je dois faire une liste de personne élus/populaire qui prouvent le contraire?
De se rappeler un peu de nos pays au début de 20 ème siècle pour voir qu'ils n'étaient sur les mœurs pas si différents de la Chine actuel.
Il est sympa notre allié américain mais il a, lui aussi, montré dans le passé, et pas si lointain qu'il savait être tout aussi violent, si ce n'est plus (Vietnam, Irak, Cuba, le Chili ....) que notre ennemi redoutable la Chine.
Du coup il faut peut être arrêter de voir le monde en binaire et plutôt se fixer sur les actes individuels de chaque pays qui peuvent être sympathique ou affreux. Continuer à dénoncer les crimes de l'un sans pour autant encenser l'autre et si possible essayer de donner l'exemple en passant.
"Les faits sont têtus."
Nah vaut mieux pas, le Grand Problème De Notre Epoque ce sont les affreux néo-libéraux donc tout ce qui peut combattre leur joug est bon, un peu de sens des priorités bordel
Donc il faut comparer la Chine actuelle avec nos démocraties d'il y'a un siècle ? Et la violence pendant la guerre, ben oui, c'est un peu le principe. D'ailleurs, si tu compares la paix actuelle en Occident avec la violence des Chinois pendant les guerres, ça marche plus ton histoire