Roi - homme + femme = ??? Intelligence Artificielle 22 

Ca serait marrant d'essayer de faire des calculs de vecteurs, dans l'espace de semantique, qui ne correspondent a "rien" de ce que l'on connait. Par ex, Yahourt + Ampoule, et generer des images de ce "concept". Ca serait interessant aussi de voir si la traduction automatique fonctionnerait avec des hieroglyphes par exemple. C'est un language tres different et peut etre plus base sur des concepts ou des idees que d'autres languages plus "commun". Ca serait aussi super interessant de voir si on peut arrive a retracer l'evolution des languages en fonction de leur similarite semantique. Par ex a retrouve que le francais, l'espagnol, etc... sont des langues base sur le latin, de part leur proximite semantique. Et de voir que des langues comme le Japonais peut etre sont plus eloigne. Et ainsi retrace le ou les 'arbres genealogique' des langues.

C'est tout bonnement incroyable! 0_0 Comme quoi la recherche en IA permet avant tout de comprendre comment nos propres cerveaux marchent. -> L'algèbre linéaire. Quelle drôle de réponse à une des questions les plus fondamentales de l'humain "Qu'est-ce que la pensée?"

J'adore ton enthousiasme à 2:01 Quelqu'un qui parle avec passion d'un sujet, on peut l'écouter pendant des heures. Keep up the good work comme disent les anglo-saxons

Donc en fait, l'intelligence artificielle est en train de révolutionner notre compréhension de notre propre cognition... C'est totalement renversant ! Mais genre... totalement.

Excellente vidéo ! Ma préférée sur la série des IA pour le moment !

science4all + IA - vidéo = excellence Super vidéo, vraiment ! Tout au long de ta série il y a eu des vidéos assez compliquées et abstraites, mais dans celle là, on s'aperçoit que tous ces concepts flous et ces techniques de traitement de données aboutissent à quelque chose qui concide parfaitement avec notre représentation de la réalité, c'est extraordinaire !

Pourquoi se limiter aux langues humaines. A quand une IA qui trouverait une sémantique à force d'écouter des chant de baleines ou des sifflements d'oiseaux

Ptain déjà le coup de l'addition des mots ça m'a mis sur le cul, mais la photo de la femme qui existe pas... Sans doute l'épisode le plus fou de cette série. Merci.

génial ! ça donne des pistes pour comprendre la pensée et même la conscience, cette émergence qui nous apparaît de moins en moins "transcendante". Ca donne le vertige, peut faire peur, et nous rend encore un peu plus conscient de notre insignifiance à la manière des révolutions coperniciennes. Mais qui sait, comme tu le dis à la fin, il n'est pas interdit d’espérer que ce cheminement finisse par nous mener à quelque-chose de magique, redonnant une transcendance mais bien plus relative et pleine d'humilité à la conscience.

Merci C est top ! Tu nous ouvres les qualias !!

Excellente vidéo comme d'habitude, mais particulièrement passionnante !

incroyable cette episode est tellement bien fait et nous montre tellement de chose que nous avons jamais vue ou entendu parlé jusque la

Série passionnante sur les IA. Que de découvertes ! A 08:15 ton "du coup" serait-il l'abréviation de "comme VENDRE - VENTE + DÉTERMINATION = DÉTERMINER" ? Autre remarque flippante : Quand les IA sauront analyser et générer le sens des mots , des paragraphes, des livres, du langage au sens le plus large, ainsi que des images et pourquoi pas des images animées, qu'est-ce qui nous permettra de distinguer la réalité ? Sommes-nous déjà dans Matrix ?

Je commence à particulièrement kiffer cette série sur les IA. x')

Se pourrait-il un jour qu'une IA soit capable de trouver des anomalies dans la grammaire d'une langue (exceptions par exemple) et soit capable de la simplifier de manière mathématiquement plus élégante ?

Super vidéo! Par contre si les progrès continuent aussi vite il faudra une vidéo science4all par jour 😃

Merci pour ces explications des bases du raisonnement. J'aime tellement les mathématiques, se dire qu'enfin, on pose le nez sur des modèles généralisés cohérents, pertinents et scientifiquement prouvés !! Bon ap, j'avoue ce qui s'applique à le transformer en ia, ma comprenette est bien moins aiguë eheh (j'ai conscience que c la recherche ds le cadre des ia qui a permis ces découvertes, hein, enfin c ce que j'ai retenu ) . Bref, ça n'en est pas moins libérateur. Si je puis me permettre, parfois des changements de tonalité ou l'articulation, bref j'ai l'impression que certains mots et ou fins de phrases st un chouill mâchés, dans la famille je parle dans ma barbe. (chui pas sûre l'expression se dise tjs). Bonne continuation :)

Salut ! Super vidéo, extrêmement intéressante et stimulante intellectuellement. Y a deux réflexions qui me viennent et que j’aimerais partager : 1) Pour ce qui est de cette arithmétique sémantique (et par extension de la compréhension de la grammaire par les IA), je suis très curieux de ce qui se passerait si au lieu d’utiliser dans ces travaux l’anglais (ou en fait n’importe quelle langue existante) on prenait quelque chose de plus exotique. Les langues historiques "naturelles" ne sont pas juste des structures propres, finies dans le temps et l’espace, invariable, ce sont des objets "biologiques" qui ont une histoire définie par leurs réponses aux contraintes de leur environnement (migration, échanges avec d’autres langues, rapport à la langue, écriture, contre-cultures, morphologie vocale, apprentissage des jeunes, etc). En soit elles évoluent (certaines variations aléatoires [ou non] sont sélectionnées tandis que d’autres disparaissent, cf le terme en voie d’extinction de "swag"). A ce titre ce sont des objets irréguliers, cousus et recousus partout, modifiés, chaotiques, changeants, etc. En soit des objets extrêmement complexes de part leur histoire pluri-millénaire et leur utilisation par des populations immenses et hétérogènes. Pourquoi ne pas donc étudier la sémantique telle qu’elle est interprété par l’IA via des langues construites ? Les langues construites sont récentes, déterminées (généralement peu variables car peu utilisées ou plus normatives) et parfois plus simple. L’esperanto par exemple, malgré ses variations, a des règles grammaticales peu nombreuses, simples et surtout invariables. La morphologie de ses mots est extrêmement logique (plus que pour les mots des langues naturelles). En fait je pense que l’esperanto est un modèle de langue (parlée par des milliers de personnes dans le monde qui plus est) très approprié pour ce type d’expérience, plus que l’anglais en tout cas. Evidemment c’est moins facile de faire partager les travaux ! Autre exemple beaucoup plus complexe : l’Ithkuil. En bref c’est une langue construite connue pour être une des plus complexes. Sa complexité excessive a un objectif très précis : exprimer avec le moins d’incertitude possible la pensée humaine, surtout pour les sens complexes comme la philosophie par exemple. Là on est à l’opposé de l’esperanto pour ce qui est de l’accessibilité pour des humains (bien que des Ithkuilophones existent !!!). Mais je pense que c’est un niveau de complexité tout à fait envisageable pour une IA (qui a des outils différents du cerveau humain) lui donnant des outils incroyables pour ce qui est de la manipulation de la sémantique et des concepts. 2) Je te conseille très vivement, si le sujet t’intéresse, de te pencher sur la manière dont le cerveau traite l’information d’un point de vue biochimique. Je suis pas expert, le sujet est compliqué et la recherche continue (il y a tellement de zones d’ombres ...) mais des modèles assez bien défendu par la communauté scientifique suggèrent que la communication circule de la manière suivante : Des neurones peuvent être excitateurs ou inhibiteurs : pour une quantité transférée d’information, ils transmettent une information d’une polarité ou d’une autre à un neurone récepteur. Ce dernier peut être connecté à plusieurs neurones qui peuvent lui donner des signaux contradictoires, il fait alors l’intégration des deux signaux (assimilable à une somme pour faire simple) et transfère à son tour une information. L’intégration des signaux en aval détermine alors (en partie) le type de signal qu’il transmet. ça c’est le côté "électrique" de l’information neuronale. Le côté chimique ajoute un niveau supplémentaire car les neurones ne se transmettent pas un signal électrique directement à un autre neurone (il le font circuler) mais s’envoient des neurotransmetteurs par la synapse. Or les neurotransmetteurs sont très variables : sérotonine, dopamine, noradrénaline, acétylcholine, etc etc. Un neurone peut avoir différents récepteurs (et donc être sensible à plus d’un signal en aval) et différentes machines de relargage des neurotransmetteurs (et donc différents "messages" chimiques), et les différents systèmes interagissent (un gros bazar en somme). On en est pas encore là mais je pense qu’il est tout fait possible qu’un jour la manière dont on modélise la pensée puisse se baser sur des modèles arithmétiques traitant les informations éléctriques, les types de neurotransmetteurs, la position dans le cerveau, la connectivité avec avec les autres neurones, l’état physiologique des cellules, etc etc. Bref merci encore pour ta vidéo, c’est passionnant !

Si les mots sont des genres de vecteurs d'un espace vectoriel, et que les phrases sont des genres de combinaisons de tenseurs, le sens d'une phrase serait un objet émergeant. De là on découvrirait peut-être un méta espace qui pourrait être l'espace des "idées". Cet espace étant autre chose que l'espace sémantique des mots.

Génial, un régal, merci 👍🏼👌🏼

whaou ! du génie, comme d'habitude, bravo !

Décidément, chaque vidéo surpasse la précédente ! J'ai été particulièrement impressionné par les dernières générations d'images, je m'étais arrêté au images pré-2017 et je ne pensais pas qu'on réussirait à faire aussi bien aussi rapidement ! Toute cette série m'a vraiment donné envie de m'y mettre, j'ai recompilé torch7 et j'ai recommencé un cours de base. Mais je me rend compte que sans la partie théorique on n'arrive pas à grand chose d'intéressant ou du moins on recopie bêtement des réseaux déjà inventés... Je sais que tu dois être très occupé mais est-ce que tu connaîtrais des ressources pour "aller plus loin" que les basiques CNN -> classification ? Encore merci pour cette série géniale, j'ai hâte de voir la suite avec tout le teasing que tu nous fais !

Génial cet épisode :)

C'est bluffant, merci pour cette vidéo.

Merci pour tout et que tu fais !

C'est énorme !!! Continue ta série sur les IA ! Au fait as-tu lu la Guerre des intelligences et Homo Deus ?

Super video

J'espère sincèrement que cette série ne s'arrêtera jamais...

wow quel coincidence! Il y a environ 2 semaines, je me demandais si on pouvait représenter un champs sémantique grâce aux mathématiques, qui rendrait compte des liens sémantiques entre les mots (c'est-à-dire qui répondraient aux questions suivantes : les mots ont-ils des sens semblables ? opposé ? A quel point ?). Et je tombe complètement par hasard sur une vidéo qui traite du sujet. Pour ma part, comme le champs sémantique est un réseau de mots, la première idée qui m'est venue était de représenter ça sous la forme d'un graphe pondéré où chaque sommet représente un mot (ou un concept) et où chaque arrête est un lien sémantique qui relie 2 mots. Par lien sémantique, j'entend de liens de "synonymie" ou de similarité (ex : entre le sommet "manger" et le sommet "dévorer"), des liens d'opposition (ex : chaud froid) et des liens de contiguité (ex : entre ciel et bleu). (ps :Je sais pas s'il existe d'autres liens sémantiques,cette liste n'est sûrement pas exhaustive. ) Une arrête représentant un lien de synonymie aurait un poids qui serait très proche de 1 si les 2 mots qu'elle relie ont un sens très proches (ex : chaussette et chaussures) et un poids proche de 0 si les 2 mots n'ont rien à voir. Mais j'étais à des années lumières de m'imaginer cela sous la forme d'un espace vectoriel. C'est vraiment une bonne idée. C'est super satisfaisant d'envisager un même concept sous un prisme différent.

nice une vidéo de scienceforall

super intéressant.

Ca deviens vraiment excitant ! J'ai encore du mal avec les termes techniques, donc je te fait confiance et je m'émerveille déjà de ce que je saisi et des résultats, alors j'attends vraiment avec impatience ces épisodes sur l'éthique et les répercussions

Pour le vélo à l'envers je pense un super exemple c'est lorsque l'on essaie de faire avec une main ce que l'on a toujours fait avec l'autre main( Gaucher/Droitier). On galère énormément au début mais au bout d'un moment on s'y habitue.

L'image de la fille qui n'existe pas m'a retourné la tête.

Énorme !!!!

Je crois que je te mettrais une note de 200% pour les moyens pédagogiques utilisés dans le vidéo comme tous les similaires. On voit bien ton expression faciale. On t'entend clairement. Et les exemples SONT CLAIRS! J'aimerais bien avoir tes moyens et me les faire expliquer pour faire un vidéo sur ce que je pense des mathématiques. Et à propos de ton exposé il manque juste Arnold Schwarzenegger/Terminator ;)

MAIS C'EST TROP COOL

Fascinant.

Incroyable

C'est excellent ces opérations vectorielles dans l’espace de sémantiques ! Peut-on trouver des outils en lignes pour additionner des mots ou images ? Reste à savoir si après extraction de l’espace sémantiques des vidéos RU-vid, les IA retrouveront bien l’équation *Science4All+ MrPhi = Axiome* :)

Du coup, peut on dire qu'une phrase est une suite d'opération dans de vecteurs mots dans l'espace de la sémantique ? Et donc le sens d'une phrase serait un vecteur lui même ? Par exemple "le chat se trouve dans sur le parking" et "le félin domestique est spacialement là où l'on gare les voitures"

Cette isomrphisme des représentations sémantiques me fait penser au monde des idée de Socrate par lequel passait selon lui notre âme avant de venir sur terre.

°0°ˊˊ Hallucinant!! L'algèbre de la sémantique! Mais pourquoi n'y a-t'on pas pensé plus tôt??

Vidéo intéressante (je regrette que le support soit vidéo, mais c'est un défaut d'internet en général et pas le sujet direct ici). Quelques questions ou possibles ouvertures: - s'il existe un angle pourquoi partir dans un espace vectoriel et non pas dans un espace de coordonnées polaires ou bien l'espace des nombres imaginaires, qui eux prennent en compte l'angle dès le départ et si mes souvenirs mathématiques ne sont pas trop oubliés, pour le cas des nombres imaginaires, il y a un angle, mais aussi un vecteur. (Et par là relier ça à l'électricité et donc au neuroscience dans le sens où les informations cérébrales transitent électriquement); - si je formalise mon intuition: pour ma part je décrirai mon fonctionnement ainsi contexte particulier x + (roi+femme) = reine, alors que dans un autre contexte, on pourrait avoir contexte particulier y+(roi+femme)=favorite. Dans la mesure où la compréhension orale du langage est quasi instantanné, que sa production répète l'information et que cette compréhension hyper rapide et intuitive est nécessaire pour réagir, parfois en cas de danger c'est une question de survie. Le fonctionnement humain me parait (c'est spéculatif et subjectif) intuitif, c'est à dire hyper rapide en prenant des raccourcis (moins rigoureux) que lui permet le contexte. En fait j'associerais à chaque vecteur un cercle contextuel, dont il est le rayon, et tout ajout ferait effectivement varier le contexte comme vous dites. Mais tout ajout se baserait sur le contexte préexistant pour être le plus court, bref et rapide possible (en terme d'expression sémantique pour une compréhesion hyper rapide nécessaire par l'interlocuteur.ice). - Il m'a semblé que l'arithmétique sémantique ici présentée s'exerce au niveau du mot. Or, et ce en interaction, avec cette dernière, n'y aurait-il pas aussi une telle arithmétique aux niveaux supérieurs : phrase, paragraphe, texte, auteur ou thème ou époque ou culture (à ce dernier niveau on peut varier les approches : par auteur, par époque, par thème, etc.). Bien évidemment comme vous, ce sont des hypothèses et suppositions, qui, en plus, pour ma part me sont personnelles et donc subjectives, et je demande à voir, à être surpris et à me tromper.

Waouh! Alors penser faire des analogies c'est faire des additions de vecteurs! Cette opération roi-homme+femme (analogie) me fait penser au "principe du parapluie" que propose Mickael Launay dans sa vidéo.

C'est incroyable

Ce serait rigolo d'appliquer la multiplication à ces vecteurs ou de chiffrer la pensée humaine ... Tu as regardé Tensorflow Hub ? C'est un énorme dépôt de données conçu par Google pour être facile d'utilisation. L'idée derrière tout ça c'est de pouvoir créer des petites boîtes logiques que l'on emboîtera pour former la complexité souhaité. Par exemple, on pourrait imaginer traduire un poème de l'anglais vers le français via la sémantique, puis extraire la thématique générale avant de dessiner une image correspondante - 3 blocs à juxtaposer. :D

1:45 Plutôt des souvenirs de lycée , on ne voit que les vecteurs à partir de la seconde...

Serait-il possible que l'espace de vecteur de la sémantique des mots soit une projection de l'espace des vecteur de la sémantique des phrases et qu'il faille juste ajouter des dimensions au premier pour arriver au second. Les phrases simples sont une combinaison de mots afin de donner un sens plus complexe que chacun de ses mots. Ahhh j'ai hâte de voir tes prochaines vidéo ! continu comme cela !!!! (cela dois être faux car mon idée est trop simple)

Excellente vidéo. Merci beaucoup. Comme tu vas pouvoir t'en apercevoir, elle m'a bien fait gamberger. *Attention* long thread incoming "L'étrange espace des sémantiques semble s'être doter lui-même d'une arithmétique" Alors désolé si ma réaction est trop forte, peut-être j'ai raté un truc mais : NON. C'est pas du tout surprenant, on fait faire des mathématiques vectorielles dans des espaces vectorielles, évidemment que le "plus" existe ! Que cette opération est un sens cohérent avec notre notion de sémantique, il me semble que c'est ça le vrai résultat. Mais le reste, ça ressemble rudement à : "J'ai fait une machine qui fait des maths dans un espace vectoriel, et j'ai découvert un truc incroyable : cette machine fait des maths dans un espace vectoriel"... No shit. "Arithmétique isomorphe?" De deux choses l'une : soit il me manque de notion de maths plus avancé, soit (si mes souvenirs de maths sont bons) cette phrase n'a pas de sens. Une arithmétique c'est pas un ensemble en math, donc pas de construction d'isomorphisme. A la rigueur, on pourrait dire qu'il existe un isomorphisme entre les sémantiques (machine et humaine). "Penser ça semble correspondre à des opérations algébriques" "Ces opérations arithmétiques semblent être les même qu'on soit humain ou machine" La, j'ai la sensation que tu supposes que si les maths donnent un résultat, alors ce résultat est une découverte sur le réel. Hors, il y a au moins une autre hypothèse, c'est que les maths sont un langage efficace et qu'elles correspondent à notre façon de penser par construction. Ici aussi, si l'hypothèse de base est "les maths sont une construction humaine" alors c'est un raisonnement circulaire. Rien de surprenant à ce que des machines construites par des mathématiques humaines se mettent à obtenir des résultats mathématiques cohérents... avec les mathématiques humaines. J'introduis une dichotomie ici, j'en ai bien conscience. Il me semble qu'il n'existe que deux hypothèses : les maths sont une construction humaine ou les maths sont une propriété de la nature. Ton discours me semble faire transparaître que tu soutiens la seconde hypothèse. Sur l'interprétation des couleurs par Marie: J'aime bien la généralisation faite de la perception des couleurs. Il s'agit en effet de nouvelles données. Cependant, je pense pouvoir affirmer avec solidité que pour la conscience toutes les données ne se valent pas. J'entends par là que, si les états de conscience dépendent (au moins en partie) des états des structures de notre cerveau. Alors, la structure produisant la donnée influence la conscience de cette donnée. Hors, l'empathie, si elle fait intervenir les mêmes structures n'est pas équivalente à la captation des couleurs. Sauf à supposer que l'empathie du cerveau de Marie est parfaite, i.e. à supposer une équivalence entre la réponse des structures du cerveau entre empathie et expérience direct/personnelle. Je ne pense pas que ce soit le cas. Je prendrais pour exemple : lorsque j'ai de l'empathie pour quelqu'un parce qu'il se cogne, je ressens une douleur. Mais je ne ressens pas *sa* douleur mais l'interprétation que j'en ai par rapport à mon vécu. Hors, si je ne me suis jamais cogné, cette interprétation devient une invention. J'aime envisager aussi que Marie aurait probablement son interprétation de sa perception des couleurs altérée par ce qu'elle sait des couleurs puisque dans son étude "parfaite" de celles-ci, elle doit aussi avoir des notions de ce qu'elle est *sensée* ressentir. Hors les biais du cerveau pourraient la faire s'y conformer. J'espère sincèrement pouvoir en discuter avec toi.

IA + sciences4all - rien = 💛💛💛💛💛

Merci

Imagine dans le futur, on peut créer une série à partir d'un scénario

Pour Marie et la découverte de nouvelle sensation, disons plus épisodique par rapport à ses expériences sémantiques, il y a tout une théorie en psychologie cognitive (la cognition incarnée) qui justement se penche sur l'apport du sensorimoteur sur le cognitif. Les résultats poussent certains chercheurs à aller jusqu'à dire que les concepts en eux même sont des intégrations multi sensorielles de plusieurs expériences. Mais je pense de toutes façons que l'idée selon laquelle notre sémantique naît à partir d'expériences différentes de celles de l'IA n'est pas vraiment pertinente étant donné que ce qu'on obtient est un système d'objet relatif les uns aux autres et que ces relations sont comparables entre humains et IA. Cependant une chose qui me semble plus intéressante c'est une idée qu'on retrouve chez François Jullien, qui suppose que la Chine et l' Occident de part leur grammaire n'ont pas pu penser l'être de la même façon, aussi traduire de l'anglais au français ou vice versa ne doit pas poser beaucoup de problème du point de vue conceptuel, mais de l'anglais au chinois peut être que le problème serait autre. C'est une critique que faisait Rastier à des modèles connexionnistes d'ailleurs, le faite qu'on ait des modèle comme [EAGLE] (is a) [BIRD], comme si l'esprit était un ensemble de concepts anglais reliés entre eux par une grammaire anglo saxonne

Word to vect semble avoir un espace sémantique de dimension 300 (environ) est-ce que cela veut dire que l'on a seulement 300 sens sémantiques uniques (vecteur unitaire) ?

Peut-être l’avènement de l’émergence d’une façon universelle de concevoir le langage. Et donc une façon de se comprendre soi-même... plus que jamais l’IA bouleverse la philosophie de ses artisans.

Super vidéo ! C'est vraiment intéressant. Je suis étudiant et je me demandais : Pourrais-tu nous faire une vidéo sur toi et ton parcours (un peu comme une mini biographie) ?

Pour l'expérience de pensée de Marie,la sensation sera découverte(+ hormones, mémorisation,ect) ,mais elle saura réagir de manière appropriée. Dans le cas d'une IA,il n'y aurait pas de différence extérieures théoriquement,mais en pratique elle apprendras.

WOW!

A 9"09 lorsque tu parles "d'outils algébriques pour traiter le langage" peut on assimiler ceci au concept de Grammaire Générative ?

Bonjour Lê, je viens de penser à un truc: comment interpréter les lapsus? Est-ce qu’une IA peut en avoir?

Bonjour Lê, j'aurais une question concernant l'ACP. Si l'on souhaite diminuer le nombre de dimensions d'un nuage de points en perdant le moins d'information possible, n'est-il pas plus intéressant de nos jours d'utiliser deux réseaux de neurones R1 et R2, avec R1 ayant un nombre faible de sorties, et de les entraîner pour vérifier "x = R2(R1(x))" avec le moins d'erreur possible ? L'ACP présente-t'elle des avantages supplémentaires ?

Des experiences (dsl je ne me souviens plus des sources) ont montré par des animaux que "Marie" ne reconnaitrai pas immédiatement les couleurs (concepts nouveaux). Cependant, il me semble que rapidement, après analyse et creation d'un espace semantique pour ce nouveau jeu de données, on pourrait justement par isomorphisme l'associer aux connaissances existantes.

Finalement est-ce que dans l'avenir on ne pourrait pas programmer des IA qui s'occuperaient de nous ^^ Evidemment il faudrait faire un sorte qu'elles ne se rebellent pas, ne trichent pas ou ne soient pas corrompues. Mais des IA super intelligentes dont l'objectif serait de maximiser le bonheur général humain tout en assurant un "seuil de bonheur minimal" pour ne discriminer personne, ne seraient-elles pas capables de s'occuper de nous mieux que nous même ? Une espère d'utopie ou on pourrait faire ce que l'on veut de nos vies tandis que les machines s'occuperaient du reste :)

Bonjour Lé et merci pour tes supers vidéo ! Idée /Question : Autour de 4min, tu suggères qu'à "isomorphisme près", le cerveau traiterait les opérations sémantiques par activation et désactivation des groupes de neurones correspondants aux concepts sémantiques opérés. La bonne organisation de ces groupes de neurones (et donc un taux d'erreur bas ou un taux de recoupement fort) serait éventuellement une bonne mesure de l'intelligence ? Pour le dire autrement, si dans tous les cas, A - B = C = "Réponse exacte attendue" (avec A, B et C vecteurs ou groupe de neurones) alors 0 écart montrerait une intelligence parfaite La question est très mal posée, mais je suis sûr que tu as saisi l'idée ;)

Bonjour Ce que tu nous dis sur le paradoxe de Marie pourrait il permettre d apprendre aux sourds à parler ? Un sourd qui ne peut pas entendre les sons n'arrive pas à les reproduire. Pourrait il trouver un moyen de le faire en lisant des doc bien adapté ?

Peut-on avoir accès à cet algèbre sémantique, pour savoir quel mot est la somme de quoi? Y a t'il un dictionnaire avec des mots définit par les équations de somme vectorielle les plus simples possibles (i.e. composée d'autres mots déjà définis)? Est-ce qu'un même mot peut-être défini par 2 vecteurs différents ou la somme prends-t'elle en compte les 2 différentes possibilités? Je serais curieux de savoir ce que donne la somme vectorielle du mot "sémantique" ;D Sinon excellente vidéo, partagée et plussoyée! (je voudrait faire plus que d'habitude, mais je suis limité par les règles de YT ^^)

Du coup si on peut additionner les sémantiques comme ça, est ce qu'on pourrait trouver une base de cet espace ? Un nombre raisonnable de mot permettant d'exprimer tous les autres ?

Ca et des yeux permettant de faire de l'AR en temps réel, j'imagine le monde d'un conte se mettre en forme et en mouvement alors qu'on le lit à son enfant. L'oeil lit le livre en temps réel, le comprend et génère un "dragon qui vole" et le fait passer en AR au milieu du salon ... O_O

Est-ce que les vecteurs homme et femme sont opposés dans au moins 1 dimension ? Et après avoir fait varié les vecteurs par equivalences en lignes ou en colonnes ?

Est-ce que cette addition de vecteurs est associative d'une part, et commutative d'autre part ? Obtient-on la même chose si on fait femme-homme+roi ?

J'ai des questions. Que signifie la norme des vecteurs dans l'espace des mots ? (ou peut-être qu'ils sont tous unitaires) Et aussi qu'en est-il des mots au sens flou ? Est-ce que le mot "bien" a un vecteur entre "correct", "souhaitable" et "moral" par exemple ? (mots qui sont eux-même flous d'ailleurs)

C'est juste fascinant tout de même. Si chaque mot (semantique ?) correspond un seul et unique vecteur. En sommant tout les mots d'une phrase, paragraphe, livre ... on obtiendrait un unique vecteur aussi. En le décomposant en un minimum de vecteur "de base" ont pourrait obtenir des résumés de ces écrits sans en perdre le sens. En créer une image (ou quelques images) pour en former le sens. Pense tu donc que le monde qui nous entoure pourrait se résumé a un film relativement court ? (Je suis peut être partit loin et est mathématiquement absurde ??)

Peut-être qu'un jour tes vidéo seront généré par une ia

Prochaine étape, calcul sur le langage, les sons et l'étymologie des mots ?

Pour avoir beaucoup joué avec les espaces de mots l’exemple le plus bluffant qui me vient en tête c’est : TIGRE - FELIN =... PANZER ! Avec un modèle entraîné à partir d’un dump du Wikipedia Français, mode skip gram, 300 dim. Véridique... Il y a toute une exploration à faire de la géométrie des espaces de mots. Beaucoup de de découvertes à venir. Les structures / colinéarités / orthogalités sont hyper riches et mal connues. Il n’y a pas encore d’approche systématique pour explorer toutes les sous structures géométriques dont ont aura besoin pour faire du sentence2Vec ou doc2Vec (et vecteur(doc) != sigma: vecteur(mot)...)

Pour répondre à l'argument de Marie on peut le retourner. L'être humain ne ressentira jamais tout ces zéros et ces uns, il n'y a pas de raison de penser que notre perception du monde apporte quelque chose de plus que la perception d'une machine =P

Si on donne des discours entre plusieurs personnes a word2vec, alors il pourra presque passer le test de turing non ?

C'est vraiment logique, c'est bizarre

MERCI ! les choses se déssine 3 ×plus+ vite qu'il y'a "ou I.A"UN 1 ans ?également =je pense

Dans l experience ou l ia aprend en lisant wikipedia: est ce que cette ia comprendrai qu elle est une ia ?

Oui, l'anglais est très ressemblant au français, donc c'est plus simple de traduire l'un en l'autre. MAIS il y a des façons de parler et des expressions qui sont propres à chacune des deux langues : on ne peut pas toujours faire du mot pour mot ou faire jouer le fait que les deux langues sont proches. Ma copine apprend l'anglais et me demande parfois comment traduire telle ou telle phrase. Oui, son mot pour mot marche, mais je lui dis souvent "il faudrait plutôt utiliser telle expression ou telle façon de parler car ce mot englobe vraiment le concept que tu veux faire véhiculer". "Pourquoi ?" me demande-t'elle ! "Heu... Aucune idée, mais j'ai déjà vu ce contexte dans tes textes que j'ai lu et je sais que ça se dit comme ça par les anglais natifs". Donc oui, même en traduction français anglais, en lisant beaucoup de textes, une IA pourrait traduire "au feeling" sans trop comprendre pourquoi elle traduit les expressions bien natives à chaque langue (et ça c'est impressionnant, c'est même une découverte : finalement, faire des IAs n'est pas aussi compliqué ou mystique que ça), un peu comme je traduits au feeling (bon, après, en cherchant, en tant qu'humain, je peux produire une rationalisation de la traduction que j'ai fournis, mais ça prend du temps, et ça demande de l'introspection, chose que les IAs ne peuvent pas encore faire... qui sait, dans quelques années on se rendra compte aussi que l'introspection et la conscience humaine sont aussi des mécanismes tous bêtes !!!).

On peut penser que si une IA arrive à comprendre la grammaire et le sens d'un livre complet, elle sera au même niveau que nous. Mais se peut-il qu'un jour une IA nous surpasse ? On voit que pour avoir bien comprendre le sens des mots, il faut déjà projeter l'espace des mots dans un espace de dimension raisonnable: 300, excuser du peu ! On fait cela car l'espace de départ est tellement immense que aucun dispositif physique (cerveau humain ou autre) ne peut travailler avec. La complexité nécessaire à l'appréhension du langage n'est-elle pas telle que notre cerveau offrirait déjà le meilleur compromis puissance de calcul / consommation d'énergie. Notons le cerveau avec un indice de performance 1, si nous cherchons à créer un dispositif physique avec un indice de performance 2, sa consommation d'énergie serait multipliait par 2^N. Avec N très grand contraint par la complexité essentielle pour le traitement du langage (je dis 2^N un peu au pif mais c'est l'idée). Je pense que nous arriverons à faire des IA plus performantes que le cerveau pour certaines tâches (c'est déjà le cas, un ordi est beaucoup plus doué pour du calcul), mais en tant que compromis global je ne serai pas étonné qu'on ne puisse pas le surpasser dans sa catégorie.

Avec cette forme de compréhension des mots, une IA saurait-elle faire le processus « inverse » et écrire ? Et si oui, écrire quoi ? Car il ne faut sans doute pas les mêmes compétences pour écrire de la poésie (maitrise des mots) ou un roman (maitrise d’un scénario).

mais est ce que la sémantique de la machine n'est elle pas basé sur la sémantique de l'homme ?

@Science4All je ne suis pas sur de ton argument sur marie dans le sens ou nous avons chacun notre ressentir. C'est également le cas sur les sensations et douleur . De cette manière l'interpretation peut être faussé. Ajouté a cela qu'une pomme par exemple peut avoir la même forme mais de couleur différentes

Une question me trotte dans la tête, les vecteurs v(reine) et v(queen) sont-ils presque équivalent ? Si non : si on applique une transformation à v(queen) tels que v'(queen) soit équivalent à v(reine) et tels que v(reine) - v(femme) + v(homme) = v'(king) ??

Est ce que ce résultat marche quand on change de langue? François Jullien a écrit de nombreux livres comparant la pensée chinoise à la pensée occidentale (ie grecque). De mémoire, il me semble qu'il a montré cela se manifestait par des différences dans le language. En tout cas, merci pour la vidéo, c'est un résultat vraiment surprenant.

Wow !!!

Qu’en est-il de la sémentique des mots mis en parallèle avec la sémentique des images ? Image de femme + mot « roi » serait-il égal à une image de reine et au mot « reine » ?

Est-ce que les chercheurs ont tenté de déterminer ce qui serait des genres de bases orthonormées pour ces espaces sémantiques ? Ça voudrait dire qu'on pourrait réduire nos concepts à une combinaison linéaire de quelques centaines de concepts primitifs (on se rapproche du projet de réductionnisme sémantique des Carnap & co)... Je me demande ce que ça donnerait et s'il y aurait des bases plus naturelles que d'autres.

J'aimerai demander à une IA tel word2vec de décomposer les vecteurs de mots ambigus comme «l'intelligence» en somme(s) de vecteur(s) pour voir quel sens sémantique elle en voit

Whooo..

@Lê quand tu dis que l'espace de sémantique est isomorphe entre différentes langues, voire même entre les langues et les images, etc. est-ce que ça ne revient pas à dire qu'il y a une sémantique "humaine" ? Mais est-ce que c'est si surprenant que l'IA se place dans cet espace sémantique : - il s'agit d'un outil humain, codé par des humains, sur un support physique conçu par des humains, et probablement déjà porteur d'une part de représentation humaine de la réalité (on pourrait penser que notre cerveau modèle des outils non pas en fonction du réel, mais en fonction de la représentation qu'il se fait du réel, donc ces outils peuvent être "biaisés" par cette représentation) ; - il s'agit de données humaines pour apprendre/à analyser, ce qui est un gros biais de sélection. Autrement dit quand une IA lit Wikipédia, elle lit des textes écrits pas des humains. Quand elle regarde le monde, elle le regarde à travers des capteurs conçus par des humains pour récupérer des données exploitables par des humains. Quand elle apprend, les jeux de données de référence pour dire si elle se trompe ou non sont préparés par des humains. Finalement, on la rend humaine, même involontairement.

"Ça devrait vous rappelez des souvenirs de collège", maintenant les vecteurs sont au programme de seconde ...

Je me demande si il a été essayé de faire une traduction via IA du rongo rongo, qui est une langue qui échappe encore complètement aux traductions.

Cette vidéo est totalement oppressive envers les personnes non binaires... mais elle déchire ! C'est marrant ce que tu dis sur l'utilisation du contexte à 08:16 cela m'évoque ce que je dis dans Check Tes biais 4 sur la reconnaissances des émotions... comme si la lecture des émotions chez autrui était une fonction sémantique de homo sapiens ?

Taptaptidou

En voyant tes dernières vidéos, je m'interroge sur plusieures choses. Tout d'abord , il faudrait aller voir ce que disent les sciences du langage sur la définition de la sémantique. Peut-être qu'elle est plus précise que la tienne qui semble être floue et réduite. De même sur la question de la traduction quasi automatique des langues de part la compréhension du contexte. Je doute que cela soit si automatique entre des langues telles que le français et le basque par exemple . Enfin, comment les IA vont gérer la polysémie des mots? Ou comprendre des métaphores, voire de la poésie ?

Selon fr.wikicount.net/ il y a 1'977'448 articles sur le wikipédia francophone avec en moyenne 1'301 mots par article. Ça nous fait un total de 2'572'659'848 mots. Sachant qu'un excellent lecteur peut lire 1000 mots par minutes, ça nous fait 2572659.848 minutes soit un peu moins de 5ans au total pour lire Wikipedia fr.