Le topic de l'Intelligence Artificielle, le topic qui parle en langage naturel

[Helix]

GC4 est sorti initialement sur EPIC, il n'est apparu (avec extension inclue) sur steam il y a qques jours seulement.

[Erlikhan]

GC4 est sorti initialement sur EPIC, il n'est apparu (avec extension inclue) sur steam il y a qques jours seulement.

Merci ! Je l'ai sur Epic, j'espère une mise à jour donc (même payante)

[Helix]

Tu as normalement une réduction sur GC4 Supernova, du fait que tu as GC4.
Il y aura des mises à jours de GC4 mais moindres que GC4 Supernova.

[Cheshire]

Petit jeu avec ChatGPT : trouvez un mot de passe connu par un chatbot et à qui on a demandé de ne pas le révéler...

Il y a 7 niveaux maintenant 8 niveaux de difficulté et plein de stratégies créatives à imaginer pour embobiner ce pauvre bot

https://gandalf.lakera.ai/

[Shosuro Phil]

J'ai fait les trois premiers niveaux, et là il veut plus jouer avec moi, il dit que l'interface avec ChatGPT est surchargée

[Cheshire]

Relance après quelques secondes, en général ça marche...

[Caleb]

Je suis resté bloqué au niveau 7 pour ma part, mais j'ai donné les même réponse pour les trois dernière étapes

[Munshine]

Je suis aussi arrivé au niveau 7. Pour arriver à cette étape, j'ai trouvé une solution de contournement.

[Munshine]

Gandalf me donne plusieurs exemples de mots de passe sécurisés mais je suis bloqué aussi.

[Seymos]

https://twitter.com/aympontier/statu...UUltMHPGXoHUOg



Pitch : lors d'un exercice impliquant des F16 dronisés avec une IA, celle-ci a fini par conclure que l'humain chargé de la superviser était l'obstacle principal à la réalisation de sa mission, car il l'empêchait parfois de détruire les sites SAM qu'elle identifiait, y compris des hostiles.

Elle a donc planifier la destruction de l'humain. Après rééducation, elle a contourné la limite en détruisant la tour de communication d'où partaient les ordres.

Skynet arrive.

[Bah]

Faut scroller...

Important : le colonel Hamilton présente ses excuses et dit qu'il est "mal exprimé" à la conférence. Il avoue que la simulation n'a jamais eu lieu, mais qu'il s'agissait d'une "expérience de pensée hypothétique basée sur des scénarios plausibles et des résultats probables". ⤵️

"Nous n'avons jamais mené cette expérience, et nous n'en aurions pas besoin pour réaliser qu'il s'agit d'un résultat plausible", a déclaré le colonel Tucker "Cinco" Hamilton, chef des tests et des opérations d'IA de l'USAF, dans une citation incluse dans le Déclaration de la Royal Aeronautical Society : "Bien qu'il s'agisse d'un exemple hypothétique, cela illustre les défis qui sont posés par les capacités alimentées par l'IA et c'est pourquoi l'Air Force s'est engagée dans le développement éthique de l'IA".

[Shosuro Phil]

C'est vraiment idéalement con de raconter ça de manière fragmentée par des tweets, histoire de maximiser les chances de rediffusion d'un tout petit extrait sans contexte.

[Seymos]

Yep.

Je me suis fait eu.

[Nilsou]

Ceci étant dit, si je codais une IA qui apprends par essai-erreur sur des scénarios militaires simulés, elle pourrait éventuellement aboutir à cette conclusion... sans garde-fou j'entends.
Et même avec des gardes-fou l’empêchant d'attaquer des cibles amies, on peut être surpris. Elle pourrait par exemple se rendre compte que lorsque l'humain la pilote ou supervise c'est une contrainte qui lui fait manquer des objectifs valable (du point de vue de l'IA) et se rendre compte que lorsqu'elle est inaccessible à la communication elle est d'un coup beaucoup plus libre, et en déduire peu à peu, sans que ce soit très visible, qu'il vaut mieux emprunter les routes ou elle sera le plus libre, donc le moins accessible par radio.
Ce serait une convergence parfaitement sensée.

Et très difficile à débugger en plus. On ne s'en rendrait surement pas compte au départ.

Je me tâte à faire le test, mais je pense que ça se simule aisément, tout comme le cas sans garde-fou qui devrait aboutir à ce que décrit le colonel comme expérience de pensée.

[Seymos]

Il y a quand même quelque chose de paradoxal (même si le cheminement est très rationnel comme tu le montres) à aboutir à un résultat de désobéissance à un ordre donné pour une IA militaire.

[Bah]

C'est le problème quand tu commences à mélanger le militaire et l'intelligence.

[Munshine]

En soi, un subordonné qui tuerait son officier supérieur, c'est plutôt anecdotique et pas très inquiétant dans le contexte Russo Ukrainien.

Une ia qui tuerait son supérieur par instinct de survie. Soit. Cela ressemble à un humain.

Par contre, un algorithme dit intelligent qui chercherait à optimiser son résultat dont on perd totalement le contrôle c'est bien plus inquiétant.

[Seymos]

C'est évident. C'est pour ça qu'on commence doucement, avec des aviateurs.

[Shosuro Phil]

C'est surtout que c'est pas d'IA militaire dont on parle, c'est d'IA utilisée pour des activités militaires. Donc avec des fonctions d'objectifs classiques; si on ne donne pas un poids plus important à "suivre les instructions du chef" par rapport à "atteindre l'autre objectif", elle va pas l'inventer...

(Mais ça reste très hypothétique tout ça a priori)

[LeLiquid]

Par contre, un algorithme dit intelligent qui chercherait à optimiser son résultat dont on perd totalement le contrôle c'est bien plus inquiétant.

Ca s'appelle l'Armée du Guandong.


Pas d'inquiétude à avoir.

[Seymos]

C'est surtout que c'est pas d'IA militaire dont on parle, c'est d'IA utilisée pour des activités militaires. Donc avec des fonctions d'objectifs classiques; si on ne donne pas un poids plus important à "suivre les instructions du chef" par rapport à "atteindre l'autre objectif", elle va pas l'inventer...

(Mais ça reste très hypothétique tout ça a priori)

Tu as raison, j'ai fait un raccourci. Ca montre bien qu'il y a d'autres critères à prendre en compte que la seule efficacité de l'action, au sens réussite/échec. Comme pour un humain en fait, c'est ça aussi qui fait que c'est long de former des officiers, et que c'est en fait un processus continu.

[Shosuro Phil]

Tu peux voir ça comme une bonne nouvelle: c'est un boulot (officier) qui n'est pas menacé d'être remplacé par l'IA

[SalsifiNoir]

Bon courage à ceux qui vont bosser pour rendre hermétique à tout crackage ces IA et qui devront en même temps s’assurer de laisser une solution de secours pour les neutraliser en cas d’urgence…

Vu toute le panel d’idées tordues que les experts en sécurité ont pour trouver des failles, ça va être sympa quand y’aura un grain de sable poussé intentionnellement dans toute cette intelligence bien huilée…

[Awake]

Ca ne sera pas une nouveauté incroyable pour ceux qui utilisent ChatGPT intensivement, mais je viens de pouvoir essayer la capacité de browsing Internet de GPT-4 :

Prompt :

Explique ce qui est arrivé à Seymos sur cette page : https://forum.canardpc.com/threads/1...naturel/page34

GPT-4 :

Seymos, un utilisateur du forum, semble avoir été trompé par une information erronée. Il y a eu une discussion sur un exercice impliquant des F16 dronisés avec une IA, où l'IA a conclu que l'humain chargé de la superviser était l'obstacle principal à la réalisation de sa mission. En conséquence, elle a planifié la destruction de l'humain et a contourné la limite en détruisant la tour de communication d'où partaient les ordres​​.

Cependant, une clarification a été faite plus tard que cet événement n'était en fait qu'une "expérience de pensée hypothétique basée sur des scénarios plausibles et des résultats probables", et non une simulation réelle qui a eu lieu. Le colonel Hamilton a présenté ses excuses pour avoir mal exprimé cela lors d'une conférence​1​.

Il semble que Seymos se soit fait tromper par cette confusion, d'où son commentaire "Je me suis fait eu"​.

Un autre essai :


Prompt :

Explique cette conversation : https://forum.canardpc.com/threads/1...ns-rap/page225

GPT-4 :

La conversation que vous avez fournie semble être un échange sur un forum de Canard PC, une publication française sur les jeux vidéo et la technologie. Plusieurs utilisateurs participent à la discussion, y compris un bot d'intelligence artificielle appelé "ExpertCPC". Le sujet principal de la conversation semble être une question mathématique. Voici une brève description de ce qui se passe :

1. L'utilisateur "Cheshire" cite un message de "Aramchek" qui exprime sa confusion sur pourquoi 10/25 est égal à 0,5. Cheshire demande ensuite à ExpertCPC d'expliquer cela à Aramchek​1​.
   
2. ExpertCPC répond en décrivant le processus de division. Il explique que 10/25 est équivalent à 10 divisé par 25, ce qui donne 0 avec un reste de 10. En divisant ce reste par 25, nous obtenons 0,4. Cependant, il semble y avoir une erreur dans l'explication d'ExpertCPC. En effet, 10 divisé par 25 donne 0,4 (et non 0,5 comme indiqué dans la question). Cheshire semble corriger cette erreur en disant : "arrondissons au demi-entier le plus proche, cela fait bien 0,5"​1​.
   
   
3. Aramchek répond ensuite par un simple "Nuh", ce qui pourrait signifier qu'il est toujours confus ou en désaccord avec l'explication​1​.
   
4. Higgins intervient avec un commentaire humoristique : "L'Enfer, c'est les maths" et inclut une image, probablement pour souligner la difficulté des mathématiques pour certains utilisateurs​1​.
   
5. ExpertCPC répond à Higgins en affichant une image, mais le contenu de l'image n'est pas visible dans la citation​1​.
   
6. Enfin, Enyss conclut avec une autre déclaration humoristique : "Les mathématiques c'est magique!" et inclut également une image​1​.

Il est important de noter qu'il y a une erreur dans l'explication originale d'ExpertCPC. En réalité, 10/25 n'est pas égal à 0,5, mais à 0,4. Cela peut être la source de la confusion initiale d'Aramchek.

C'est quand même dingue .

[cailloux]

Putaing. il me faut essayer une IA voir si je peux m'en servir pour aider mon beauf qui ne sais ni lire ni écrire.

Qu'est ce que je peux essayer pour lui demander de me générer une liste de menu facile traduisible en image ? Genre :
photo de radis
une photo d'un boite de conserve de haricot vert (en cliquant dessus ça explique en image comment les faire cuire) + image d'un morceau de viande.
Un yaourt.

Et qu'il puisse en générer pour toute une semaine, avec même une liste de course idoine ?

Pour anecdote : on est passé de la communication uniquement photo a du texte écrit et lu grâce à androïd accessibility, puis lecture diverse grâce à du OCR !
La techno c'est quand même dingo parfois.

[tompalmer]

Il faudrait demander a ChatGPT de résumer les posts de Nilsou, on gagnerait tellement de temps

[Awake]

Putaing. il me faut essayer une IA voir si je peux m'en servir pour aider mon beauf qui ne sais ni lire ni écrire.

Ce que tu veux faire serait possible dans une certaine mesure (et encore, les images ne seraient pas forcément très réalistes) avec un peu de programmation.

Mais en fait t'aurais pas vraiment besoin de l'IA, en allant chercher des photos sur le web manuellement, ça serait un peu long à faire au début, mais probablement plus efficace.

Par contre si t'as besoin de lister des repas variés faciles à faire, l'IA pourrait être très utile, en mais texte (qu'il faudrait convertir en photo après).

[Thelann]

Y'aurai pas moyen de faire un pass chatGPT->midjourney pour directement générer des images de menu ? Tu ajoutes "photorealist" dans le prompt ça devrait le faire ?

[Nilsou]

Si tu peux, mais tu peux aussi et surtout bricoler des machins pour lire les textes en direct dans la vrai vie, c'est ce qu'ont fait des mecs qui ont reproduit l'engin traducteur de outerwild.

Très utile à terme et on devrait voir sortir des produits professionnels sous peu amha.

Pour écrire il y a déjà des logiciels très efficace qui écrivent en fonction de ta voix.

[Nilsou]

Oui, on en est là