@@tortue_ch Nous oublions la logique du dominant/dominé... Notre orgueil sera donc notre perte ! Vous regardez les progrès de BOSTON DYNAMICS sur les 10 dernière années, et là j'ai franchement des doutes sur la survie de notre civilisation au siècle prochain !
Wow, plutôt flippant. Il faudrait pas demander à cette IA de régler le problème du réchauffement climatique... Sujet très intéressant en tout cas et la vidéo est super bien réalisée!
Il faudra lui préciser de pas tous nous buté alors comme solution 😅 Edit: il y a déjà plein de raport qui proposent des solution, c'est juste que la cupidité de certains empêche toute avancée
Cette IA est un super outil pour détruire des cibles. Elle ne va pas nous montrer comment préserver la barrière de Corail par ex. Pour cela il faudrait créer une IA dédiée à ça. Peut être que ça existe mais dans ce cas précis, elle aurait dû indiquer au organisateurs des JO que le spot pour le surf va en détruire une partie. Ce dont nous n'avons pas connaissance. En tt cas c'est amusant de constater comment l'outil agi quand on lui donne de l'autonomie, j'adore❤
Ok, mais comment l'IA à t'elle fait le lien "détruire le poste de commandement = plus de no-go"? En tout cas cette histoire rappelle bien "Les robots" d'Azimov : le comportement de l'IA est parfaitement logique et en accord avec ce qu'on lui a demandé de faire. Le fond du problème est de savoir demander. L'IA me semble comme un génie de la lampe qui exauce aveuglément ce qu'on lui demande, peu importe les conséquences. C'est à nous d'être raisonnables. Un conseil les amis, pour votre premier vœu, demandez d'avoir la capacité de faire les bons choix...
Merci pour cet avis que je partage. Tout dépend de "savoir demander" et c'est ca qu'on va devoir apprendre en tant qu'humain. il y a déjà un nouveau métier qui émerge en ce moment c'est "prompteur" ou "rédacteur de requêtes" pour Chat GPT, ca va devenir un métier incontournable dans le futur je pense.
C'est le principe de base du Reinforcement learning... on lui donne des règles... et l'agent (le robot) les exploites au mieux... mais du coup, si les règles sont mal formulées, l'agent va trouver la failles pour avoir le maximum de points. Il y a différents algorithmes comme le Q-learning (la meilleure actions en fonction de l'état courant), ou autres...
C'est juste des statistique, il n'y pas de 'lien'. On ne demande pas a une AI de faire quelque chose. On lui soumet une chaine de chiffres (lettes) et ensuite le programme interpretre statistiquement quelle est la suite.
Il faut se souvenir des multiples expériences des années 80 avec des programmes simulant des organismes vivants autonomes avec l’application du principe de "circuit de récompense" découvert chez l’homme dans les années 50, pour se rappeler combien ces organismes étaient créatifs pour améliorer considérablement leurs scores, allant jusqu’à l’éradication pure et simple des programmes congénères… D’ailleurs, le livre "L'esprit, l'IA et la Singularité" en offre une très bonne synthèse. Que ces notions soient "redécouvertes" maintenant en dit long sur la persistance particulièrement naïve de ce modèle de récompense comme étant l’alpha et l’omega de l’apprentissage des IA et du développement d’une pseudo-volonté propre.
Exact, on va pouvoir établir une nouvelle loi qui fait croître de manière symétrique (et sans doute exponentielle) l'intelligence numérique artificielle et la connerie humaine naturelle... Plus ça va et plus j'ai le sentiment - pour ne pas dire la certitude - que nos civilisations de con-sommation foncent droit dans le mur en totale insouciance !
Elle est bien, cette IA. La même dans ma boîte, et on devrait très bien s'entendre pour traiter les managers spécialiste des cases vertes dans Excel mais aux fraises avec le vrai boulot ;)
A voir, la bêtise artificielle pourrait bien naître grâce à la bêtise humaine,😏, chat gpt en fait de belle quand on le teste avec les mêmes contradiction que celle des woke
@@tortue_ch oui tu as résumé parfaitement les choses, évidemment les détails sont plus complexes, notamment l'apprentissage, mais ce sujet et surtout la marche-arrière faite après avoir exposé les faits sont extrêmement intéressants. Je l'ai justement partagé car il est court et compréhensible.
Très bonne vidéo et sa fait plaisir de te voir nous parler directement. Je sais pas si la réaction des militaires suite à cette révélation et la plus productive. :( P.S: KFC a eu une grosse mise à jour, je serais intéresser pour que tu nous refasse un test pour voir si l'achat en vos le coup.
si cela devait se passer ainsi, un ennemi qui prend partiellement le controle de communication avec l'IA et lui offre plus de récompense que ne lui donne le créateur en abattant l’ennemi l'Ia se retournera encore contre son créateur. je ne suis pas pour que la décision final de tirer ou non soit remis intégralement a une IA, il est indispensable que l'humain garde le contrôle . vidéo tres inintéressante, merci
Merci pour ce point de vue intéressant. Effectivement changer la valeur et l'attribution de la valeur des action, changerait totalement le comportement de 'I.A et ca pourrait devenir très problématique selon les cas.
Non.... le systemede récompenses ne sert que lors de la phase apprentissage afin d affiner les poids du réseau de neurones..... en opérationnel, l ia est lachée dans la nature sans pouvoir etre tunée par ces récompenses car le processus d apprentissage est bien trop lent et énergivore pour etre intégré en opérationnel
Bonjour. L'intelligence artificielle ne peut pas exister tant que nous n'aurons pas compris ce qu'est l'intelligence. Un software ou programme ne ressent rien. Par conséquent la méthode "Pavlov" ne fonctionne pas. Merci.
Trop bien, t'as tué toutes mes blagues #terminator avant la fin de la vidéo mais GG quand même ! Que penser de tout ça ? Hum....théories de comptoir en perspective pendant 4h xD
Il faut savoir que l’IA apprenne par renforcement, càd elle fait des erreurs au début pour constituer son réseau de neurones artificiels, à chaque fin de partie une évaluation est faite et des paramètres s’ajustent selon la somme des points de récompense.
La notion de "récompense ", implique que l'élève soit capable de ressentir du plaisir. Comment ont-ils réussit à motiver l'IA? A moins qu'il ne suffise de fixer comme objectif de gagner le maximum de points. Le programme s'adapte en conséquence.
Même un dresseur d'ourse ou de lion risque toujours, car rien est sur au 100% et le risque de l'IA est, qu'une fois compris comment ça marche une IA met en réseau son expérience et la mise en réseau est instantanée et nous sommes foutous
@@tortue_ch Nos intentions sont biens connues par l'IA car elle connait Hiroshima Nagasaki etc... etc... n'importe quel effort humain est avant tout dans le domaine militaire donc....
Le dressage par la recompense rend dépendant, et donc expose a la frusrtation donc à un changement de comportment quand le manque se fait sentir. J e n'arrive pas à croire que l'on à inculquer un systeme aussi primitif à des IA à qui on projette de confier tant de secteurs clé. ".... et ils n'en n'ont fait qu'un frisbee"
"Je n'arrive pas à croire que l'on à inculquer un systeme aussi primitif à des IA à qui on projette de confier tant de secteurs clé." Bien dit, aussi 'intelligents" qu'ils se pensent à fabriquer ces choses, ce sont des primitifs et ils croient à tort qu'ils auront le controle alors qu'ils ne l'ont déjà plus à moins de débrancher la prise tant que celà est encore possible.
La fameuse erreur entre le siège et l'écran. N'empêche que c'est effrayant car la moindre imprécision dans l'énoncé de la mission peut conduire à la catastrophe. L'IA est très forte pour trouver des solutions imaginables ou non par l'être humain mais elle n'a pas de "discernement" et pour palier à ce problème il faut lui créer une liste d'interdit sur la base de comportements que l'on ne peut, éventuellement, pas même imaginer.
la simple raison pour laquelle l'IA ne peut pas être intelligente, c'est que leurs créateurs sont des vrais cons. pour ceux qui seraient d'accord avec ça, s'il vous plait ne mettez pas un pouce, je pourrais le prendre pour une récompense !
![[FR] Une IA militaire élimine son opérateur ...lors d'une simulation. Armes autonomes. IA Tueuse.](/img/logo.svg){kind=logo}
