Le topic de l'Intelligence Artificielle, le topic qui parle en langage naturel

Citation:

---

Envoyé par deathdigger

Les lois deviendront obligatoires quand l'IA pourra intervenir dans le monde physique (via des drones par exemple) : Disons que par exemple, tu soumets à une IA le problème de résoudre la fin dans le monde, qu'est-ce qui te garantie que sa réponse ne sera pas de tuer l'ensemble des pauvres ?

---

Le problème n'est pas de vouloir mais de pouvoir.
Une IA telle que décrite par Nilson ne peut pas intégrer une règle "en dur" tant son fonctionnement est complexe.
Par contre si elle repose sur l'apprentissage tu peux très bien la conditionner pour intégrer cette règle et les concepts qui y sont liés (on le fait bien pour les animaux et les humains :ninja:).

Citation:

---

Envoyé par deathdigger

Il y'a quelques mois, il y'a eu des achats/reventes d'action suite à la publication d'un tweet (de mémoire, une boite qui en rachetait une autre). Le problème, c'est que ça s'est passé en moins de 10 secondes après la publication du message. C'était forcément une IA derrière qui a traité la demande, créant un désavantage énorme par rapport aux concurrents, et à la libre concurrence sur les marchés boursiers (finalement, celui qui a la meilleur IA va s'enrichir). Et déjà que les traders ne sont pas des modèles de vertu, que va t'il se passer quand l'ensemble des transactions sur les denrées alimentaires seront gérées par des IA ? Déjà que l'on a essuyé plusieurs crises alimentaires graves parce que des boursicoteurs se sont amusés à jouer sur le cours du blé/riz, whatever, si une IA qui n'a aucune sorte de conscience "humaine" s'y met, que va t'il se passer ?

---

C'est déjà en partie le cas hein, cf HFT.
Et y'a déjà eu des emballements justement lorsque les automates en questions n'avaient pas pris en compte un des paramètres.

HFT? Kézako?

Citation:

---

Envoyé par Sharn

HFT? Kézako?

---

High Frequency Trading je crois

Citation:

---

Envoyé par Sharn

HFT? Kézako?

---

High Frequency Trading (trading haute fréquence)
Ça a commencé avec des ordres simples pour profiter (de façon plus efficace) de certains mécanismes classiques du marché déjà utilisés par les traders "réels", mais des stratégies de plus en plus complexes et longues se mettent en place (notamment pour concurrencer les adversaires ayant recours aux mêmes techniques).

Citation:

---

Envoyé par Orhin

High Frequency Trading (trading haute fréquence)
Ça a commencé avec des ordres simples pour profiter (de façon plus efficace) de certains mécanismes classiques du marché déjà utilisés par les traders "réels", mais des stratégies de plus en plus complexes et longues se mettent en place (notamment pour concurrencer les adversaires ayant recours aux mêmes techniques).

---

C'est assez marrant d'ailleurs de voir comment ça fonctionne, ça fait peur, mais c'est marrant, les mecs ils créent des lignes haut débit spécifique et privé entre 2 grandes villes pour gagner 2 millisecondes de durée de transfert et prendre leur concurrent de vitesse.

Ou entre la banque et la bourse à côté. :ninja:

Et le DirectIA de MASA dans Conflict Zone c'était quoi?

Hihi je n'avais pas vu que vous aviez ouvert le topic :p . J'ai été pas mal pris par le taff ces dernières semaines ;-) .
Je vais donc tenter de répondre aux dernières pages à rebrousse poil.

Donc déjà pour ceux qui se poserais des questions sur l'IA en général on avais pas mal dégrossi le sujet à l'époque, mais j'ai du mal à retrouver la conversation, c'était dans les questions auxquelles on répondra si on veut il me semble, si quelqu'un a le liens du premier post ce serais pas mal, ça éviterais des répétitions.
Edit : Ha mais je vois que tout a été extrait proprement :o c'est ouf, bravo !

Citation:

---

Envoyé par Eradan

Ouais, enfin dire que Hawking est moins pertinent sur le sujet que Asimov, c'est inexact et déplacé. J'aime beaucoup l'oeuvre d'Asimov, et j'ai beaucoup de respect pour l'homme qu'il était, mais c'était un docteur en chimie, et de son propre aveu pas très bon dans son domaine. De plus, il est mort bien avant les derniers développements dans le domaine et a toujours assumé une position humaniste en matière d'intelligence artificielle.

Deux posts à lire en anglais ici et là

---

Ce n'est malheureusement pas inexact, en construisant son bouquin il a tellement réfléchis dessus, fais une biblio de ouf, communiqué avec les grands de l'époque dans ce domaine etc ... qu'Asimov a eu probablement une meilleur vision d'ensemble de l'IA que ce qu'Hawking en a aujourd'hui...
De plus, au delà de cette vision d'ensemble le plus fort c'est surtout que les prédictions d'Asimov sur l'IA a court terme sont toutes ... juste, ce mec c'est un peu le Jules Vernes de l'IA :lol:

Citation:

---

Envoyé par Big Bear

J'ai une question concernant l'IA: comment créer une IA proche de l'humain, sans avoir résolu clairement et définitivement les grandes questions philosophiques au sujet des humains, pour ensuite pouvoir "coder" ces réponses dans une IA ? Ou au moins, coder ces questions philosophiques dans une IA ? À moins qu'il s'agisse "d'espérer" à ce que l'IA en vienne à appréhender ces notions d'elle-même, suite à un mécanisme inconnu à ce jour ?

En clair, quelle est la stratégie des informaticiens sur la philosophie ? Résoudre philosophiquement dans un premier temps (et ça fait des millénaires que ça dure), ou passer outre et coder directement en espérant que l'IA appréhende ou "vive" réellement d'elle-même ces notions ?

---

Bonne question, qui me permet de revenir sur le combat d'approche entre deux IA fort différentes.

Tu a l'IA classique qui a ta question réponds :
- Je comprends les raisonnements de l'humain de mieux en mieux donc j'ajoute couche après couche mon idée du raisonnement humain dans une machine.

Cette IA se heurte a ta question, en vrai on ne peut que peu se décrire sois même d'un point de vue comportement car en grande partie on a aucune "prise" pour s'auto-comprendre ( la fameuse analogie du couteau qui ne peut se couper lui même). Des dizaines de questions philosophique restent ainsi irrésolues, donc la plus grande : comment donc vais-je coder une conscience :rolleyes: ?

L'IA développementale répond à cette question en bottant en touche (c'est mon domaine de spécialité) : vu qu'on ne peut manifestement pas emprunter le chemin 1, alors essayons de comprendre COMMENT l'humain aboutit à ces comportements. En gros en formant un triangle Neuro-biologiste - roboticien - Psycho du développement qui viennent former une nouvelle science : Les Sciences Cognitives. L'objectif ici, grosso modo est de modéliser de petits cerveaux et d'essayer de comprendre comment des comportements cohérents en émergent, comment ça peut apprendre etc... et ça marche plutôt bien (c'est clairement le domaine qui avance le plus, en tout cas).

L'approche numéro deux botte clairement en touche, car si ça se trouve on créé déjà des robots "conscients" avec l'approche numéro deux, en tout cas ils ont plus de neurones qu'un vers de terre, et certains petits vers etc... on arrive déjà à les modéliser à 100%. Sont-ils conscient ? On n'en sais rien, mais on s'en fout tant que le comportement observé est OK. :p

Bref, la réponse à ta question c'est que les deux types d'IA existe qui ont donné deux branches qui se fight bien comme il faut. Les anciens étant évidemment l'IA classique.

Cette nouvelle approche est également l'approche qui suit les enseignements d'Asimov ou d'Alan Turing. Idem.
Je recommande d'ailleurs, pour mieux comprendre cette approche :

- la lecture complète des œuvres d'Asimov, du moins le Grand livre des robots, ou à minima Prélude à Trantor qui contient une nouvelle célèbre dans le monde de la robotique, celle du chien robotique et du petit garçon, ou la visualisation de certains films adapté de ses œuvres, comme IRobot, avec la fameuse phrase :
[Le policier émet la même remarque à un robot :] « Vous ne pouvez pas écrire un roman ni composer un concerto ». Le robot lui répond simplement : « Et vous ? »


- Je recommande également la lecture du papier originel de Turing le fameux Imitation Game (oui le papier s’appelle comme ça ^^)
http://www.csee.umbc.edu/courses/471/papers/turing.pdf

- Et enfin le fameux "Elephant don't play chess", un monument dans l'histoire de l'IA

Citation:

---

Envoyé par LaVaBo

La question est philosophique, mais porte plus sur l'intelligence que sur l'humain. Une IA ne sera pas humaine, quoi qu'il arrive.

---

Mouais, c'est débattable. Faut-il réellement qu'on puisse se reproduire avec un organisme pour vivre avec lui et le comprendre ...
Dans la plupart des philosophies Bouddhisto-Gaucho-Ecolo qui émergent un peu partout sur la planètes (qu'en tant que scientifique on appelle du bon sens mais bon :p ) la réponse est clairement non.

Citation:

---

Envoyé par Julizn

Y'a le film Her qui est bien concernant les IA. Au début on va utiliser les IA

Spoiler Alert!

pour se branler, puis quand elles assez intelligentes elles se barreront et nous laisserons avec notre misère sexuelle et affective.

---

Ouais on a bien kiffé Her par ici. D'ailleurs je recommande également Chappie qui est un excellent film sur le sujet. Ainsi que le très ancien, mais très très bon Wargame (qui en plus parle de Jeux Vidéo).

Citation:

---

Envoyé par Mdt

Bof. L'avenir de la branlette est bien plus dans la VR.

L'IA ça sert surtout à augmenter la productivité du capital en diminuant la part du capital variable.
En sens sens Google a historiquement raison (et évidemment, les préoccupations de la communauté scientifiques font fi du sens de l'Histoire.) Le Capital n'a pas besoin d'une vraie IA qui apprend et rêve (fantasme de geek inutile) mais de robots qui savent parfaitement reproduire les tâches d'un travailleur peu qualifié (magasinier, guichetier, etc.)

D'ici trente ans la moitié des jobs auront disparu, et ça posera d'immenses problèmes sociétaux.

---

Alors tu a raison et très tort à la fois.
Les scientifiques ne sont pas des geek qui fantasment avec des histoires d'IA qui rêvent etc... C'est une raison technique qui fait que ces questions se posent.

Au point ou on en est de la compréhension de l'intelligence, une intelligence suffisamment adaptative pour réussir les taches que tu cite (magasinier, guichetier etc...) dans des contextes généraux nécessite FORCEMENT d’être proche de nous. Et donc pose forcement la question (très bien traité dans Asimov d'ailleurs) de : Mais en quoi ce n'est pas de l'esclavage.

Évidemment tu me dira, la solution pour résoudre le shmilblick est simplement de tout automatiser, comme dans les usines, pas de risque de problèmes philosophiques quand deux "if then" se battent en duel dans la machine. Et ils ont essayé de le faire, mais c'est un échec cuisant. Car une automatisation "bête" est incapable de gérer les "exceptions". Et en dehors d'un contexte usine 100% prédictible c'est impossible de faire fonctionner ce genre de chose sans que ça aboutisse à des catastrophes. Même en usine c'est sous surveillance humaine constante.

Bref ça se mort la queue et on en reviens au même soucis. En s'approchant de l'IA d'un magasinier on en reviens à l'exploitation massive d'animaux pour les travaux. Ce qui emmène forcement de facto aux problèmes de sociétés décris par Asimov. Bref ces problèmes abordés sont sans solutions et meritent clairement d'etre posé.
Il faut bien comprendre que Google n'est pas neutre dans l'histoire, car ils ne font pas d'IA pour le moment, mais plutôt des plates-formes mécanique adaptative d'un point de vue intelligence du corps (Boston Dynamics) mais qui vont avoir du mal à réaliser de vrai tache. De toute manière ils vendent Boston Dynamics par peur de la pression du public sur ce truc, alors bon ...

- - - Mise à jour - - -

Citation:

---

Envoyé par blutch2

Oui, dans notre société actuel où un travail est nécessaire pour vivre ce sera une catastrophe, si on vit dans un autre type de société qui ne n'a pas comme idée travail = vivre on se fiche que des robots bossent à la place d'humain, les humains peuvent vivre décemment.

---

De toute façon clairement c'est un des problèmes qui se pose actuellement. Du point de vue de l'ensemble des scientifiques de toute manière, la seule solution logique est la diminution de la population (sinon par mécanique de friction ça donnera de toute manière une bonne vieille guerre) , mais il semblerais que le monde soit encore bien trop con pour prendre une décision commune pleine de bon sens. Il n'y a que les chinois qui ont fait ça pour le moment, par la force des choses.

Ou la colonisation massive spatiale, évidemment, mais on y est pas du tout...
Dans tout les cas, la robotisation, commencée dans les usines depuis des années et qui a mis fin à la caste ouvrière en occident, va continuer à se propager dans le monde et mener le système dans une impasse. Qui donnera une solution commune ou une guerre, pas trop le choix.

- - - Mise à jour - - -

Citation:

---

Envoyé par ZenZ

C'est d'ailleurs un des arguments fort concernant le salaire à vie.

---

A voir, les grands parties libéraux reprennent l'idée en faisant en sorte que ça fasse gagner de l'argent ... en diminuant les aides déjà existantes... bref, dés le départ il y a déjà une perversion de l'embryon de solution proposées vers un système qui ne résout plus grand chose. Ces mecs n'ont rien compris, malheureusement, à l'économie Keynédienne. Si on ne met pas de sous dans la population il n'y a plus de consommation et ça se mort la queue le truc.
Comme le disais chez pu qui, un état ce n'est pas un ménage, ça n'a pas de salaire fixe, donc si on diminue les dépenses (austérité) ça ne fais pas gagner de l'argent, ça fais juste diminuer toute la boucle, c'est un cercle de mort infinis après.

Les conspirationniste diront ensuite que c'est fait exprès pour que les états fasse tous des "Grecismes" avec explosions des dettes, ventes de l’intégralité du pays pour compenser etc... :ninja: .
Mais on s'éloigne du sujet :p

- - - Mise à jour - - -

Citation:

---

Envoyé par Naiaphykit

C'est marrant comme l'IA de google fait parler d'elle, alors que celle d'IBM un peu moins ( en tout cas dans le grand public ). Enfin faut dire qu'en marketing public ils sont nuls IBM.

Pour info IBM a une IA, s'appelant Watson ( l'evolution de Deep Blue ). C'est celle qui avait battu les deux meilleurs champions de tous les temps au Jeopardy.
Personnellement, sans avoir une connaissance technique dans le domaine, je trouve ca plus impressionant que de gagner au GO, qui n'est au final qu'un processus mathematique classique ( meme si tres pousse et impressionant ).
L'IA Watson par contre est capable de lire des donnees desorganisees, de les interpreter, de les mettre en forme, de les analyser et de donner des hypotheses de travail etc ( lire un document comme un humain en informatique est extremement different ).
Et plus grosse difference, elle est deja commercialisee et utilisee au sein de diverses entreprises. Par exemple le gros centre de recherche contre le cancer americain l'utilise ( et il me semble qu'il y a eu recemment quelques belles decouvertes potentielles ). Mais comme dit Mdt, l'IA ici, c'est pour le capital qui en profite plus que le pekin lambda.

Nilsou, vu que tu as l'ai assez calle, tu as des infos dessus ? ( j'ai plein d'infos marketing, mais bon... niveau technique je sais pas trop :D )

---

Hum Watson est ce qu'on appelle un système expert, elle est en fait bien moins intéressante que Deep Blue.
En gros Watson est un agrégateur statistique, il interprète des données et ne fais que restituer le shmilblick sous forme construite. Ce n'est pas vraiment une IA a proprement parlé, ce n'est qu'une image, c'est plutôt un moteur de recherche dans l'intégralité des pensées des gens déjà mises en forme (l'Internet).
Les agrégateurs statistiques ont un gros avantages : ils sont théoriquement capable, à terme, d'utiliser l'Internet pour devenir "l'Humain Moyens". Et ainsi répondre à toute question. Utiliser des données les communiquer en langage naturel commence à être maîtrisé . Mais ils seront toujours malheureusement incapable d'avoir une expérience personnelle et donc une variante de "personnalité" si on peu appeler ça comme ça.

Voila ça dépend de ce qu'on veut faire quoi. Watson sera peut être capable de répondre à toute question ayant un minimum de sens, mais c'est tout et c'est sa limite, il ne pourra jamais aller au delà. Alors objectivement c'est assez impressionnant déjà, mais en pratique ce n'est qu'un gros lecteur de Wikipedia, d'un point de vue apport c'est très faible. Donc la performance est ouf, ça deviendra peut être une "IA" façon "l’âme d'internet", mais sans plus, sans possibilité de véritable auto-amelioration.
Bref, à voir, mais pour moi c'est limité car il n'y a pas d'action. A la limite si ils l’améliorent pour utiliser le retour de l'utilisateur avec lequel il interagit, ça donnera peut être qqc. Mais d'ici là...

Moi je le vois plus comme le Google du futur plutôt que comme une IA de contrôle robotique. Tout comme Siri, par exemple.

- - - Mise à jour - - -

Citation:

---

Envoyé par Snakeshit

La Culture :bave:.

---

Ha ben tient, une autre lecture que je recommande chaudement sur les problématiques IA. C'est très bien traité.

- - - Mise à jour - - -

Citation:

---

Envoyé par deathdigger

Les lois deviendront obligatoires quand l'IA pourra intervenir dans le monde physique (via des drones par exemple) : Disons que par exemple, tu soumets à une IA le problème de résoudre la fin dans le monde, qu'est-ce qui te garantie que sa réponse ne sera pas de tuer l'ensemble des pauvres ?

Il y'a quelques mois, il y'a eu des achats/reventes d'action suite à la publication d'un tweet (de mémoire, une boite qui en rachetait une autre). Le problème, c'est que ça s'est passé en moins de 10 secondes après la publication du message. C'était forcément une IA derrière qui a traité la demande, créant un désavantage énorme par rapport aux concurrents, et à la libre concurrence sur les marchés boursiers (finalement, celui qui a la meilleur IA va s'enrichir). Et déjà que les traders ne sont pas des modèles de vertu, que va t'il se passer quand l'ensemble des transactions sur les denrées alimentaires seront gérées par des IA ? Déjà que l'on a essuyé plusieurs crises alimentaires graves parce que des boursicoteurs se sont amusés à jouer sur le cours du blé/riz, whatever, si une IA qui n'a aucune sorte de conscience "humaine" s'y met, que va t'il se passer ?

---

Ha oui alors là tu touche un point sensible, un véritable problème de société. En effet faire des IA pour l'économie est très simple, car ce qu'on sais faire en IA classiques : des agrégateurs statistiques, des extracteurs de données, des predicteurs de flux, s'adapte très bien à la prédiction des flux économiques et à la réaction optimale à avoir pour s'enrichir.

Le problème, dans ton exemple, n'est malheureusement pas l'IA mais le modèle ultra-libéral non contrôlé. D'un point de vue scientifiques, il est intéressant de noter que le libéralisme est prouvé comme fonctionnant uniquement si il est contrôlé (notamment il faut de très bons gestionnaire et contrôleur de respect de la concurrence etc... ) sinon il converge vers d'immense monopole qui ne sont plus sous le contrôle d'états, donc plus sous celui des gens, donc qui en ont rien à foutre d’être "utile" :wacko:. Arrivé à ce niveau, c'est bien triste mais prouvé mathématiquement et en simulation, le système s'écroule totalement. (ou deviens une dictature, au choix) :trollface:.
Le soucis c'est que le système actuel n'est quasiment plus contrôlé. Donc émerge forcement d'immense problèmes de sociétés ... l'IA n'a malheureusement pas grand chose à voir là dedans :rolleyes:

Nilsou, j'adore te lire :emo:

Tu as une littérature sur l'IA et l'économie ?

Heu, pfff, pas trop, l'IA n'est qu'un outil parmi d'autres. On l'utilise surtout pour la prédiction de flux boursier en fonction du passé. Ce qui de façon basique se fait en 1 mois par un stagiaire de master.
Tu a un immense article Wikipedia sur la neuroeconomie :
https://en.wikipedia.org/wiki/Neuroeconomics


Tu a un également cet article connu : Neural network in economy
http://www.smartquant.com/references...ks/neural7.pdf

Mais ces articles bottent en touche sur les problèmes de société, ils ont la position du marchand d'arme : je ne fais que construire le système, ce sont les autres qui l'utilisent :trollface:
En vrai sur ce point ils n'ont pas forcement tort, le système est déjà dysfonctionnel et en roue libre. Ce n'est pas l'ajout de l'IA qui y changera quoique ce soit; Elle ne fera au contraire que précipiter le truc dans la boucle infinie de l'écroulement de façon bien plus rapide qu’auparavant car elle joue sur les effets de bords du systèmes pour gagner, notamment la rapidité de réactions et les transferts à très court termes (qui sont démontré par tout pleins d'économiste comme étant totalement improductif, c'est de la pur spéculation qui ne sert à rien, même pas aux trucs sur lesquelles on spécule...) qui sont déjà les points les plus noirs du système actuels. Donc bon ...



Bon sinon, parenthèse :
J'ai vu le numéro spécial Canard PC sur "Créer son propre jeux" . Si des personnes ont des questions orienté IA et JV, j'ai pas mal de biblio la dessus, je peut donc tout à fait les rediriger vers les technologies adaptées à leur problèmes. Voili voilou. Si il y a des questions, n’hésitez pas.

@Nilsou : Merci pour les infos ! J'ai une question un peu HS, à une époque je jouait pas mal avec les algorithmes génétiques pour résoudre des problèmes NP-Complex. C'est toujours d'actualité ce genre de technique ? Il y a eu des nouveautés dans ce domaine ?

Alors oui c'est toujours d'actualité, mais par contre il n'y a pas eu beaucoup de nouveauté, j'en ai parlé il y a peu avec un chercheur dans le domaine d'ailleurs. En gros le domaine est un peu en baisse de vitesse car il n'y a pas de grosse avancées dans le domaine d'un point de vue théorique.

Tu reste lié, en génétique, à la définition de critère de sélection. Un point qui reste toujours hautement pifometrique.
De plus tu a un problème d'analyse, tu aboutit toujours à une boite noire qui ne fais pas avancer la réflexion sur ce qui sous entends la solution.

Par contre c'est toujours très utilisé en association avec l'IA type réseau de neurone pour trouver quels bons paramètres sont adaptés à tels problèmes. Ou pour reconstruire toute l'évolution marine avec un seul critère :p, dans la foulée des travaux de 2000 de Karl Sims : (La vidéo ci-dessous pour ceux qui ne connaîtrait pas)
https://www.youtube.com/watch?v=JBgG_VSP7f8

Mais grosso modo non, en gros le domaine a eu un énorme appel d'air lorsqu'il a réussi a trouver des solutions à des problèmes insolvable jusqu'alors, mais il a vite stagné. Et actuellement il a plutôt tendance à se dégonfler pour revenir a son état initial.

:cry:

Dommage, les algos génétiques sont fascinant.

Merci pour la réponse :)

Très intéressant Nilsou.

Citation:

---

Envoyé par Nilsou

Ce n'est malheureusement pas inexact, en construisant son bouquin il a tellement réfléchis dessus, fais une biblio de ouf, communiqué avec les grands de l'époque dans ce domaine etc ... qu'Asimov a eu probablement une meilleur vision d'ensemble de l'IA que ce qu'Hawking en a aujourd'hui...
De plus, au delà de cette vision d'ensemble le plus fort c'est surtout que les prédictions d'Asimov sur l'IA a court terme sont toutes ... juste, ce mec c'est un peu le Jules Vernes de l'IA :lol:

---

J'ai pas le temps de lire les pavés là (la semaine prochaine, promis!), mais il va falloir que tu fasses deux choses:

1/ sourcer ton affirmation selon laquelle Asimov a fait ce que tu dis. J'ai beaucoup lu Asimov (et je suis en train de chercher ses ouvrages hors fiction parce que ça vaut le détour), mais dans ce que j'ai eu entre les mains, à aucun moment il n'en parle. Hors c'et précisément le genre de choses dont il a parlé pour ses nouvelles et une partie de ses romans.

2/ prouver que Hawking n'a pas eu par le passé et n'a pas à l'heure actuelle les moyens de faire la même chose, à savoir lire et échanger sur le sujet avec des spécialistes.

Citation:

---

Envoyé par Nilsou

Ha ben tient, une autre lecture que je recommande chaudement sur les problématiques IA. C'est très bien traité.

---

Avec quand même 2 points qui placent l'univers de la Culture dans une case spécifique :
- les drones et autres IA ont les mêmes droits, sont considérés à l'identique des créatures biologiques
- les IA sont toujours bienveillantes envers les créatures biologiques, dans la Culture (de mémoire, à une près, sur plusieurs milliards, dont les mentaux qui ont un pouvoir de vie ou de mort sur des milliards d'humains). Les IA considèrent même que les humains leur apporte, par exemple des solutions illogiques mais efficaces, alors qu'ils ont quasiment des pouvoirs divins.

C'est le côté "les IA sont bénéfiques pour l'humanité", sans contrepoint. Ça n'enlève rien au cycle de la Culture, j'ai adoré, mais il n'y a pas de questionnement sur le danger, puisque de danger il n'y a jamais.

Citation:

---

Envoyé par Eradan

J'ai pas le temps de lire les pavés là (la semaine prochaine, promis!), mais il va falloir que tu fasses deux choses:

1/ sourcer ton affirmation selon laquelle Asimov a fait ce que tu dis. J'ai beaucoup lu Asimov (et je suis en train de chercher ses ouvrages hors fiction parce que ça vaut le détour), mais dans ce que j'ai eu entre les mains, à aucun moment il n'en parle. Hors c'et précisément le genre de choses dont il a parlé pour ses nouvelles et une partie de ses romans.

2/ prouver que Hawking n'a pas eu par le passé et n'a pas à l'heure actuelle les moyens de faire la même chose, à savoir lire et échanger sur le sujet avec des spécialistes.

---

WTF ? A aucun moment dans ses bouquins il ne parlerais de problématique ou le robot a des capacités supérieures à l'homme et que ça pose donc des problèmes sociaux (révolte de la population et cie, loi anti robot etc ...) ...????? :rolleyes:
On a pas lu le même Asimov :rolleyes:

Je te parle même pas de ses nouvelles du type de celle (dont je ne retrouve plus le nom) dans laquelle la Terre est dirigé par un groupement d'ordinateur qui finit par décider que

Spoiler Alert!

c'est mauvais pour les humains d’être contrôlé par une intelligence supérieure car ils ne font plus rien pour évoluer et donc ce groupement finis par se suicider

Je ne parle même pas, des trois loi de la robotique qui sont, dans ses nouvelles, la réponse humaine à ce problème. Ou encore de la nouvelle qui a donné naissance à IRobot, ou de l'homme bicentenaire etc... :rolleyes:

Bref, l'intégralité de l’œuvre d'Asimov traite le problème de l'IA naissante et des problématiques de supériorité à l'Homme et de contrôle ou non nécessaire. (ce qui est exactement le sujet du blabla d'Hawking)
Et ton second points est faux, ce n'est pas comme ça que marche un raisonnement scientifique, je n'ai pas a prouver qu'Hawking est nul dans le domaine, c'est à lui de me prouver qu'il y connaît quelque chose.
Si une personne A viens me lance une information ou une mise en garde, de deux choses l'une, sois il mène une argumentation scientifique pour la démontrer soit c'est parce qu'il a une renommé DANS LE DOMAINE qui fais suffisamment référence pour qu'on lui prête parole d'évangile, et encore...
En aucun cas c'est à l'écouteur de prouver que le mec n'a pas de connaissance, c'est l'inverse... En science on est pas "présumé sachant" on est "présumé ignorant", on doit "défendre une thèse" pour devenir docteur.

Alors moi je vois plusieurs choses qui m’emmène à la conclusion que je donnais sur Asimov et Hawking :
- Asimov est cité dans la moitié des intros de conférence sérieuse en IA, pas Hawking ( j'étais encore récemment a une conf internationale avec tout le gratin aux Arts et Métiers à Paris, toute l'intro, de 30 minutes, ne parlais que d'Asimov)
- Asimov est quasiment cité, avec Zelazny, dans la moitié des thèse en IA, pas Hawking
- Asimov est parfois cité dans les publications scientifiques en IA, pas Hawking.
- Asimov a clairement mené une réflexion de fond sur le sujet qui a pris toute sa carrière, pas Hawking.

Et là je ne parle que de point purement objectif, mais on peut pousser le raisonnement plus loin : Les premières prédictions des nouvelles d'Asimov sont toutes en train de se réaliser dans le domaine de la robotique (je pourrais détailler un peu plus, mais en gros la Vallée de l'étrange, la peur de l’humanoïde etc... qui font, dans ses nouvelles, écrouler l'IA une fois, ce qui est un peu en train de se passer, partiellement actuellement)
Donc non seulement il a passé objectivement du temps à analyser, mais sa fiction deviens plus ou moins réalité sur bien des points dans les problématique qu'il soulève, donc il a analysé juste.
Toujours .... pas Hawking.

Bref, tu le tourne comme tu veut, Hawking en IA n'a aucune crédibilité, et je n'ai pas a prouver qu'il n'a aucune crédibilité, c'est plutôt à lui de me prouver à moi, en tant que chercheur en IA, que sa parole a une valeur, et il n'a rien fait pour jusqu'ici. Donc je maintient que très très largement Asimov est plus crédible pour la communauté de l'IA que les déclarations d'Hawking, voila ;) Car ce ne sont que des déclarations... à prendre avec toute les pincettes qu'il se doit. Hawking, je le répète, n'a aucun valeur dans le domaine de l'IA, et ça commence a faire un bout de temps que même dans son propre domaine il ne fais plus que de la com, des bouquins sur Dieu etc... son age d'or est fini depuis, pffffiouuuu, bien 15-20 ans (et je suis gentil, ses derniers papiers en physique théorique date des années 80 alors ...) . Je t'encourage sur ce point à regarder Google Scholar pour vérifier mes dires.
Ces derniers bouquins sont des trucs comme : "Y a t-il un grand architecte dans l'univers" brreeeeeeeffffff :rolleyes: .

Hawking est un théoricien célèbre, qui est un peu, c'est triste mais c'est vrai, le pi-allé en ces temps de disette en grand chercheur (due en grande partie au système recherche mondial tel qu'il est construit depuis 40 ans, mais c'est un autre sujet, qui ne favorise pas du tout l’émergence de grand chercheur). Il a eu son age d'or dans son domaine et comme tout les chercheurs modernes, et surtout américain, la suite n'a été que communication, encensage à l’extrême etc...
On remarquera d’ailleurs qu’il est surtout encensé aux USA, et assez peu en dehors. En tout cas pas avec la même force médiatique. Aujourd'hui et depuis 20 ans environ il est surtout un homme vieux, qui ne fais plus guerre de recherche et qui utilise son nom pour dire des trucs, pas forcement idiot pour autant hein, mais qui ne sont pas son domaine de travail à l'origine.
Bref, à prendre avec des archi pincettes dans tout les cas, la hype Hawking n'est qu'une Hype, il faut bien s'en rendre compte et on été déjà né qu'elle n'avais plus lieu d’être, plus scientifiquement en tout cas.
Je tient d'ailleurs à préciser que la physique théoriques n'a strictement RIEN à voir (même en terme d’équation) avec ce qu'on peut retrouver en IA, même si c'est évident, c'est mieux en le disant :rolleyes:

Je t'encourage a regarder la chaîne youtube sur la Zetetique, qui te décris très bien ce phénomène avec les frères Bogdanov, c'est un biais très connu en science d'accorder plus de foi à un homme connu dans un autre domaine, c'est l'argument d'autorité. Qui est une erreur de raisonnement lourde, et largement employé car on a facilement tendance à tomber dans le panneau.

Citation:

---

Envoyé par LaVaBo

Avec quand même 2 points qui placent l'univers de la Culture dans une case spécifique :
- les drones et autres IA ont les mêmes droits, sont considérés à l'identique des créatures biologiques
- les IA sont toujours bienveillantes envers les créatures biologiques, dans la Culture (de mémoire, à une près, sur plusieurs milliards, dont les mentaux qui ont un pouvoir de vie ou de mort sur des milliards d'humains). Les IA considèrent même que les humains leur apporte, par exemple des solutions illogiques mais efficaces, alors qu'ils ont quasiment des pouvoirs divins.

C'est le côté "les IA sont bénéfiques pour l'humanité", sans contrepoint. Ça n'enlève rien au cycle de la Culture, j'ai adoré, mais il n'y a pas de questionnement sur le danger, puisque de danger il n'y a jamais.

---

Oui oui, mais ça reste une lecture que je conseil car justement elle montre cet aspect là, qui est rarement traité ailleurs : l'homme dominé mais qui se laisse dominer et ce, sans conséquence négative. C'est rarissime dans une nouvelle sur l'IA et les robots. Même si la culture est plus intéressante pour son passage sur la gigantesque Guerre qui est traitée dans quelque unes de ses nouvelles.

Citation:

---

Je tient d'ailleurs à préciser que la physique théoriques n'a strictement RIEN à voir (même en terme d’équation) avec ce qu'on peut retrouver en IA, même si c'est évident, c'est mieux en le disant

---

Mec, il est physicien. Il peut absolument parler de tout avec un air d'autorité. T'es qui toi ? T'as ton doctorat en physique au moins ? :tired:

Lol, c'est la description de l'argument d'autorité mon cher monsieur, il ne peut pas parler de tout avec autorité, seulement de son domaine. Qui n'englobe pas les autres. C'est une erreur de logique. Lourde qui plus est.
Après libre à toi de penser comme tu veut (par exemple Physique Théorique > All) et de poster ce que tu veut, c'est un forum, simplement je n'en tiendrais pas compte dans une discussion scientifique.

Alors si il faut comparer l'autorité, puisque tu y tient, n'importe lequel de mes stagiaires est plus à mêmes de parler d'IA que lui car ils ont à minima 2 années de formations dans le domaine. Moi c'est ma 4ème année de formation dans le domaine et je soutient ensuite une thèse en IA appliqué à la robotique. Donc oui pour parler d'IA je suis largement plus calé que lui, no offense. Car j'aurais effectivement, bientôt, non mon doctorat en physique mais en IA appliqué :rolleyes: (ce qui est quand même pratique pour parler d'IA :rolleyes: ) . Mais comme je le disais, n'importe lequel des stagiaires de tout labo d'IA est plus calé que lui en IA, objectivement.

Donc si on me demande (départ de la discussion) ce que je pense des déclaration d'Hawking sur le sujet, je répond ce que j'ai répondu : il fais un peu de l'enfonçage de porte ouverte et sa déclaration n'a que très peu de valeur scientifique de mon point de vue comme de celui des membres de la communauté que je connais, voila tout.

Je pense que c'était une blague Nilsou.

"Le second degré de Nilsou est demandé à l'accueil !"

Mais sinon (en dehors du troll de Molina), je suis assez d'accord avec toi sur le cas d'Hawkin.

XD, je peut pas deviner (Après tout le message d'Eradan n'était pas une blague), vous n'imaginez pas ce qu'on entends comme argumentation parfois sur ce genre de sujet :p . Ce type d'argument est régulièrement sorti dés qu'on parle d'Hawking un peu partout. (Ou des frères Bogdanov :rolleyes:).
Et ça même par des scientifiques de profession, alors bon ...
Sinon moi sans :ninja: je comprends jamais le second degré :rolleyes:

Citation:

---

Envoyé par Nilsou

WTF ? A aucun moment dans ses bouquins il ne parlerais de problématique ou le robot a des capacités supérieures à l'homme et que ça pose donc des problèmes sociaux (révolte de la population et cie, loi anti robot etc ...) ...????? :rolleyes:
On a pas lu le même Asimov :rolleyes:

---

T'as surtout lu mon message de travers. Je la refais version pour les nuls.

1/ Tu affirmes que Asimov a lu les publications scientifiques et discuté avec les spécialistes du sujet à l'époque de l'écriture du cycle des Robots (btw, la nouvelle que tu décris très mal fait partie du cycle des Robots, et les robots en question ne se suicident pas.) Donne tes sources.
Je précise que quand je mentionne ce dont il parle, je fais bien sûr allusion à ses intros de nouvelles/romans/anthologies qui décrivent habituellement la genèse du texte, les anecdotes éventuelles qui s'y rattachent et (dans les grandes lignes) les recherches qu'il a effectué sur le sujet.

2/ Tu affirmes que Hawking ne connaît rien au sujet. Donne tes sources pour une telle affirmation. Balancer un avis personnel comme fait établi revient à présenter du caca comme un plat de grand cuisinier.

Plutôt que de ne pas lire le même Asimov, je dirais que tu t'es contenté de le survoler, comme tu as survolé mon message.

Citation:

---

Envoyé par Eradan

T'as surtout lu mon message de travers. Je la refais version pour les nuls.

1/ Tu affirmes que Asimov a lu les publications scientifiques et discuté avec les spécialistes du sujet à l'époque de l'écriture du cycle des Robots (btw, la nouvelle que tu décris très mal fait partie du cycle des Robots, et les robots en question ne se suicident pas.) Donne tes sources.
Je précise que quand je mentionne ce dont il parle, je fais bien sûr allusion à ses intros de nouvelles/romans/anthologies qui décrivent habituellement la genèse du texte, les anecdotes éventuelles qui s'y rattachent et (dans les grandes lignes) les recherches qu'il a effectué sur le sujet.

2/ Tu affirmes que Hawking ne connaît rien au sujet. Donne tes sources pour une telle affirmation. Balancer un avis personnel comme fait établi revient à présenter du caca comme un plat de grand cuisinier.

Plutôt que de ne pas lire le même Asimov, je dirais que tu t'es contenté de le survoler, comme tu as survolé mon message.

---

Il explique très bien pourquoi Asimov > Hawking.

Limite qu'Asimov soit juste un autodidacte qui a lu trois trucs sur l'IA dans sa vie, ça n'a pas vraiment d'importance. Le fait est, qu'il est utilisé dans son domaine. Je veux dire... Pasteur en de base il était chimiste hein, ça n'a pas empêché d'être une idole en médecine et en biologie (bon après Pasteur a écris quelques trucs sérieux en biologie...). A la rigueur ce n'est pas les écris ou le travail d'Asimov qui donne du crédit à Asimov, c'est le fait que la communauté scientifique qui bosse sur l'IA donne du crédit à Asimov qui est important.

Ce qui est différent de ce qu'affirme Nilsou. Je ne remets pas en cause le fait que Asimov soit une référence dans son traitement du sujet.

Citation:

---

Envoyé par Nilsou

Cette IA se heurte a ta question, en vrai on ne peut que peu se décrire sois même d'un point de vue comportement car en grande partie on a aucune "prise" pour s'auto-comprendre ( la fameuse analogie du couteau qui ne peut se couper lui même). Des dizaines de questions philosophique restent ainsi irrésolues, donc la plus grande : comment donc vais-je coder une conscience :rolleyes: ?

---

Tu peux pas coder une conscience. Tu peux simuler un ersatz de conscience, mais une conscience similaire à celle d'un homme c'est impossible. Ton ia elle restera un vulgaire assemblage de processeurs et de code informatique, y'aura jamais ni émotions, ni désir, ni vie.

Note que quand tu plances sur une IA, j'imagine que tu cherches à aboutir à un comportement rationnel et logique. Nous, humains, on passe notre temps à se raconter des histoires, à violer la logique par tous les trous et nos émotions l'emportent souvent sur la raison.

Une derniere chose, l'histoire du robot et du policier est fallacieuse. Le flic est peut être pas capable d'écrire un roman ou une symphonie, mais ça s'explique seulement parce qu'il a pas développé les outils conceptuels nécessaire à la réalisation d'une telle tâche. Par contre ton robot, il pourra jamais réaliser une telle tâche parce qu'il est dénué de toute sensibilité. Avoir un peu de sensibilité, c'est la condition de base pour pouvoir envisager de créer une oeuvre artistique.

Le mieux qu'on puisse faire, c'est "projeter" nos structures cognitives au travers d'un bout de code pour donner une apparence d'humanité à des morceaux de plastique. Et ce serait folie que de croire que ton robot pourrait te comprendre un jour. Il ne ressent rien, et ce que tu lui dis ne trouveras jamais aucun écho en lui.

Citation:

---

Envoyé par CoinCoinWC

Note que quand tu plances sur une IA, j'imagine que tu cherches à aboutir à un comportement rationnel et logique.

---

Non.
C'est justement la grande distinction qu'il a (très bien) expliquée entre les deux formes d'IA.

Pour le reste :

Citation:

---

Envoyé par CoinCoinWC

Ton humain il restera un vulgaire assemblage d'atomes et de lois physiques élémentaires, y'aura jamais ni émotions, ni désir, ni vie.

---

:siffle:

C'est une position qui est hautement idéologique, vu qu'on est bien incapable (pour l'instant) de la démontrer ou de prou ver son contraire.

Citation:

---

Envoyé par Orhin

C'est une position qui est hautement idéologique, vu qu'on est bien incapable (pour l'instant) de démontrer son contraire.

---

Non.