À la sortie de chat gpt , j'avais demandé une recette avec du vinaigre et du sucre (en donnant le dosage)et demandant de la rendre moins acide voir neutre . Il m'avait donné le calcul plus les résultats de dosage . Aujourd'hui j'ai reposé la même question , il me dit :- mélangez selon votre goût - - Quel ingrédients et calcul puis je faire pour rendre le goût neutre ? - je n'ai pas la réponse.
Mais est-ce que les calculs étaient corrects ? Car au début ChatGPT avait tendance à générer des chiffres ou des URL totalement bidon. Donc je trouve que répondre "je ne sais pas" est une amélioration et non pas une régression
@@gwened Oups... Je ne saurai compter le nombre de fois où je lui ai dit : "Mais arrête d'inventer des hypothèses ! Si tu n'as pas de données fiables dis moi simplement "Je sais pas" ! Au lieu de me sortir des "peut-être", des "parfois", des "il est possible".... " 😅
@@Fenrill06vous oubliez que chatgpt est une ia générative, elle ne peut pas ne rien générer c'est pour ça que ça agit comme ça. du coup elle suppose quand elle ne sait pas exactement (et en répondant en quelques secondes elle n'a évidemment pas le temps d'aller voir toute la base de donnée qu'elle a pour savoir si il y a la réponse à un endroit)
Est-ce qu'ils l'ont pas nerf par pression de l'armée sinon ? Ça me paraissait étonnant qu'un outil au potentiel aussi puissant puisse se développer et être utiliser par le grand public. Aussi est-ce qu'il n'y aurait pas du Soft power ? En est-il de même avec les langues étrangères et benchmark par pays ?
@@PimousJe suis pas du tout d'accord avec ton mode de pensée. Déjà dans l'histoire on a jamais vu de "contrôle" technologique... Le smartphone s'est développé pour tout le monde et n'est pas resté longtemps hors grand public, idem pour le gps, idem pour internet. La réponse vient du rapport qualité/quantité, si je forme demain un élève avec les meilleures sources scientifiques il sera excellent et bien formé. Maintenant si je le forme avec les meilleures sources en plus d'autres sources alors il va forcément piocher parfois dans certaines des moins bonnes sources. Autrement dit la base de donnée des IA qui grossissent finissent par les "abrutir".
@@diegooorodriguez8725 désolé mais le GPS est un mauvaise exemple , il est bien plus précis pour les armées, renseigne toi 😉 Internet pas contrôlé par l'armée ?! Tu as apparemment très mal informé.. Tu as me droit de ne pas être d'accord, mais je te donne le comme devoir de t'informer pour être un peu plus objectif et surtout pertinent dans tes contre argument.. Après, je n'ai jamais dit que le grand public ne pourrait pas utiliser la techno de l'IA, mais pas au niveau qu'elle pourrait réellement servir..soit par puissance qu'elle peut octroyer soit par le basculement trop rapide qu'elle pourrait engendrer sur les systèmes de sociétés. Enfin, ce n'est aussi que ma théorie, et comme elle n'est pas proposé par micode, je la soumets ici.
Pour moi, la raison la plus simple c'est les procès qu'ils se prennent (ex: The Times vs OpenAI). Ils ont mis des restrictions pour éviter que ChatGPT produise des output qui donnent trop d'information sur les données d'entrainement. c'est une explication moins séduisante mais quand on a un procès à plusieurs milliards sur le dos...
Possible, Est-ce qu'ils l'ont pas nerf par pression de l'armée sinon ? Ça me paraissait étonnant qu'un outil au potentiel aussi puissant puisse se développer et être utiliser par le grand public. Aussi est-ce qu'il n'y aurait pas du Soft power ? En est-il de même avec les langues étrangères et benchmark par pays ?
@@PimousIl y a aussi la limite d’accès aux informations. Beaucoup de plate-formes ont bloqué l’accès à ChatGPT car en réalité, pour ceux qui ne le savent pas et pour ceux qui font du dénis, ChatGPT n’a aucune intelligence et puise les informations créées par des humains. Et comme tout travail mérite salaire. ChatGPT dans mettre la main à la poche. Ce n’est pas que ça, mais cela y contribue fortement, car pas d’accès, pas d’infos!
Autre théorie: Avec l'explosion des contenus générés par IA depuis 1 an, les données (les plus récentes et qui ont plus de poid lors de l'entrainement) utilisées par les dernières versions de GPT4 intègrent des données générées par elles même, ce qui créé une double boucle d'apprentissage, inférence, apprentissage, inférence, et dans un phénomène d'auto digestion les modèles baissent an qualité légèrement.
C’est juste la *réflexion que tout le monde se fait* il encourage à résoudre le problème seul au lieu de répondre au problème. Il faut lui demander 4x pour avoir un début de réponse
oui, comme dans le "ne donnes pas du poisson à manger, enseignes comment pêcher"....sauf que certains n'ont pas les moyens ou le temps d'appendre et doivent se résoudre à survivre.
Est-ce qu'ils l'ont pas nerf par pression de l'armée sinon ? Ça me paraissait étonnant qu'un outil au potentiel aussi puissant puisse se développer et être utiliser par le grand public. Aussi est-ce qu'il n'y aurait pas du Soft power ? En est-il de même avec les langues étrangères et benchmark par pays ?
Mais alors dans l'hypothèse d'un fractionnement de la puissance des serveurs open ai pour satisfaire tous les utilisateurs, ça voudrait dire qu'en ayant un data center encore plus grand, on pourrait déjà avoir un model beaucoup plus intelligent, donc pourquoi les gouvernements, ou même les Google et compagnie investissent prudemment dans ses chatbot, Microsoft qui investi 10 milliards dans open ai c'est prudent, ça représente vraiment pas grand chose de leurs trésorerie.
C'est drôle de voir à quel point OpenAI est tout sauf 'open' sur les stratégies qu'ils implémentent pour tweaker leur outil au fur et à mesure. C'est un nom paradoxal :)
Ils pensaient pouvoir se faire un paquet de pognon en rendant la version gratuite moins bonne pour pousser à acheter la version plus Au final ils se rendent compte que c'est pas assez rentable donc ils downgradent aussi la version plus... C'est prendre les gens pour des cons à mon avis
Je pense que la raison numéro 1, c'est la peur d'un risque législatif par sociétés qui poussent les entreprises à lobotomiser leur IA. Ensuite, pour rendre plus intéressant leur modèle payant, ils préfèrent dégrader leur modèle gratuit. Enfin pour rendre rentable le modèle gratuit, évidement qu'ils tirent un peu plus sur la quantification alors qu'au départ, ils voulaient attirer des gens et montrer la puissance de leur modèle.
Le plus simple n'est-il pas de penser qu'ils limitent les ressources octroyées par utilisateur à cause de la trop fort demande ? Cela correspond bien à la remarque "davantage fainéant" !
@@yannduchnock En effet, je travaille jour comme nuit avec tchat GPT 4, et il y a des moments ou il est complétement saturé et il répond littéralement à côté ou comme un débile alors que il y a d'autre moment, il fournit de très bonne réponse. Tchat GPT4 a été interdit de développement pour un moment à la demande des gouvernements d'aprés ce que j'avais entendu. Donc les client grandissant, ils se retrouvent submergé par la demande et n'arrive surement pas à fournir des réponses sans planter au milieu de message qu'il offre. Tchat GPT4 étant en cours de développement, il n'a pas accés à l'intégralité des serveurs comme tchat GPT3.5
J'ai remarqué aussi ce changement et GPT ne me satisfait plus comme avant. Vivement la démocratisation de cette technologie pour avoir le choix de plusieurs plateformes différentes et de qualité
Une des possibilités serait que le contenu généré par des LLM serait de plus en plus présent sur internet, et qu'en quelque sorte les LLM s'entraineraient avec leurs propres outputs plus souvent.
En fait le début c'est à l'image de tout ce qu'il se passe en ce moment : Tout deviens moins bien , et ca c'est marrant de constater que Asimov l'avait déjà bien perçu dans son cycle des "Robots" , en faisant passer le message par Donovan , qu'a vouloir toujours faire plus, ca ne sert parfois plus a rien. Ca marche ? On s'en fou on continue a changer les choses ... et ca commence a gonfler énormément de monde. C'est valable pour un tas de secteurs d'activité , et l'impression est qu'avec L'IA la même chose se passe mais juste en accéléré ...
Une des meilleurs chaine en terme de qualité sur le thème de l'informatique . Je ne me lasse jamais des dernières nouveautés et vidéo que vous mettez !
Salut excellente vidéo ! Je me suis dit pour savoir si GPT utilise de la quantization, peut être que le plus simple est de lui demander 😅 et voilà les réponses : ----- Question : Est ce que ton modèle est quantizé? ----- Réponse de GPT3.5 ----- Non, mon modèle n'est pas quantifié. Il s'agit d'un modèle de langage GPT-3.5 d'OpenAI, qui n'a pas été quantifié. Un modèle quantifié serait une version réduite du modèle original, avec moins de précision, généralement utilisée pour réduire la taille et la consommation de mémoire, mais au détriment de la qualité des réponses. Mon modèle est une version complète et non quantifiée, conçue pour fournir des réponses de haute qualité et diversifiées. ----- Réponse de GPT4 ----- Oui, mon modèle, basé sur l'architecture GPT-4, utilise effectivement des techniques de quantification, notamment pour réduire la taille du modèle et accroître l'efficacité du calcul. La quantification consiste à réduire la précision des poids du modèle (par exemple, passer de poids en virgule flottante 32 bits à des valeurs 16 bits ou 8 bits), ce qui permet de diminuer la quantité de mémoire nécessaire et d'accélérer les opérations de calcul, avec un impact minimal sur les performances du modèle. Cependant, les détails spécifiques sur la mise en œuvre de la quantification dans GPT-4, comme le degré de quantification et les techniques exactes utilisées, sont des informations techniques détaillées qui ne sont généralement pas rendues publiques par OpenAI.
Le plus marrant c'est l'avis sur la quantization de la réponse entre GPT3.5 et GPT4 🤣 : GPT3.5 : Un modèle quantifié ... avec moins de précision... au détriment de la qualité des réponses. GPT4 : La quantification consiste à .... avec un impact minimal sur les performances du modèle. Tout est question de contexte 😆
Malheureusement ChatGPT n'a aucune idée de s'il est quantifié ou pas. Car il n'avait pas l'information quand il a été entraîné, et parce que ce n'est pas une information disponible sur internet. Les réponses que tu obtiens sont l'exemple parfait des hallucinations des LLM
Oui pas faux ! Je me suis encore fait bullshité par chatGPT qui a répondu étrangement parfaitement dans le contexte 😅. Il est peut être de plus en plus débile mais il raconte toujours aussi bien n’importe quoi 😂
Je me suis fais la réflexion aujoud'hui. Je devais ecrire un mail assez long sur un sujet assez technique et chiant, chatGPT 3.5 m'a donné une réponse mieux écrite tout en prenant en compte le contexte. Avec le meme prompt sur la version 4 le ton/ style est devenu beaucoup plus "pompeux", il n'a pas pris en compte certains points et avait une mauvaise mise en page. Malgré plusieurs modifications du prompt, je n'ai pas réussi a avoir une réponse équivalente a l'autre modèle.
Ah ben si le 4 est pire que le 3.5, ça doit être quelque chose. La version 3.5 que je teste de temps en temps, passe son temps à halluciner, inventer des références qui n'existent pas. Quant à tout ce qui est logique/calcul, il arrive à dire que 181-178 est égal à 31 sans sourciller. J'ai une capture d'écran que je viens de faire devant moi. Franchement, je ne fais pas du tout confiance à ChatGPT pour tout ce qui est logique. Il semble beaucoup mieux s'en sortir pour des trucs plus littéraires, on va dire (résumer, trouver de quoi on parle, etc.). En même temps, c'est le principe même de ChatGPT, comprendre ce que tu veux (analyse lexicale contextuelle). Par contre, la réponse, c'est du bullshit la plupart du temps, quand ce n'est pas du traitement de texte.
Que des versions de gpt4 soit moins performante que les précédentes ok ! Ca s'explique. Mais trouver un GPT3.5 plus performant que GPT4 🤔 C'est comme dire qu'un élève de 5eme était plus apte à résoudre un problème de trigonométrie dans le plan complexe qu'un élève de terminale S. C'est impossible !
@@rs91filsdewill12 Je fais un simple constat, pour mon cas précis. Pour d'autres cas d'utilisation gpt4 donne certainement de meilleurs résultats que son grand frère j'imagine.
C'est totalement vrai, j'utilise GPT pour générer du code et je passe mon temps à lui dire d'écrire tout le code, avant je n'avais pas ce pb. Il est paresseux
Tellement vrai ! Il y a ~1 an il me faisait des lambda AWS avec boto3, plus maintenant. Le pire c'est quand je lui ai demandé des tests unitaires : le code à tester était meilleur et en plus j'avais les TU.
Hello, très intéressant comme d'habitude. Sur la version gratuite, donc la 3.5, j'ai eu une réponse qui m'a surpris même si elle est cohérente. Le programme m'a répondu qu'il n'était plus alimenté depuis 2022 suite à une demande sur des recommandations pro en 2024. Je lui ai donc demandé si la version 4 aurait pu me répondre. Voici sa réponse : "GPT-4 n'existe pas à ma connaissance (jusqu'à ma dernière mise à jour en janvier 2022). Mon modèle est basé sur GPT-3.5, et je ne suis pas informé de versions ultérieures. Si une version GPT-4 ou une autre itération a été développée après ma dernière mise à jour, je ne peux pas fournir d'informations à son sujet." C'est rigolo je trouve. Et montre peut être aussi les limites de tels systèmes.
Ca fait des mois que c'est comme ça... merci la censure de plus en plus strict, ils limitent tellement leur model que sa affecte son "intelligence" Je l'utilise principalement pour jouer et écrire, role-play, scenario alternatif, fan fictions.... et j'ai garder certain des mes RP sur GPT 3, datant de l’époque ou GPT 4 n'existait pas encore J'ai tenter de refaire le méme RP, le méme prompt de base, et bah la version actuel de GPT4 et pire que la premiere version de GPT 3, ils on totalement tuer la créativité de GPT 4 J'ai aussi des conversation de l’époque ou GPT4 etai au top, et encore une fois je les compare a chaque nouvelle version et c'est de pire en pire Tellement que le mois dernier j'ai arrêter mon abonnement ( et aussi marre de me faire ban tout les mois... j'arrive a cours de technique pour avoir un nouveau compte XD ) Et bien sur ne parlons méme pas de GPT 3, ce truc est devenu une blague... en tout cas pour toute taches creative, le reste c'est encore a peu pres utile, mais il hallucine pas mal et certain model 7b le battent en code...
Quand on connait les algorithmes utilisés (transformers) plus le mode d'entrainement etc... GPT4 ne peut que devenir débile combien même il n'a jamais été capable de raisonner pour de vrai, puisqu'il est qu'un perroquet stochastique... De plus on ne devrait pas parler d'IA pour ChatGPT ce n'est qu'un modèle... Hors quand on réalise de vrais projets on doit combiner de nombreux algos (perso ce n'est pas rare que je mélange 10 ou 15 algo ou modèles)... On appelle cela de l'IA hybride alors qu'avant on appelait cela de l'IA... Chouette vidéo en tout cas, je suis fan de votre chaine et je vous envie, vous avez un talent incroyable d'orateur
Bonjour, si je veux host une AI pour le code android laquelle je prends ? Je commence à avoir un souci avec le "continue generating" qui s'ensuit d'un "There was an error generating a response" de ce brave GPT4...
Je ne m'y connais pas du tout en dev / info / IA (je n'en utilise pas du tout), du coup ma réflexion est peut-être niaise mais est-ce possible que ça ait été (en partie) programmé, mais plus dans le but d'encourager les gens aussi à faire d'eux-mêmes? Comme dit comme je ne connais pas je ne me rends pas compte du résultat des requêtes et à quel point c'est embêtant pour l'utilisateur... Mais je trouve ça peut-être pas si mal si l'IA ne fait pas tout à la place des gens 😅 et que ce soit + un outil qu'une solution (non ne me huez pas ! 😆j'ai l'impression d'être un boomer avec ce commentaire.. mais je suis juste une personne qui aime apprendre et découvrir des choses -souvent en me cassant la tête-)
C’était vraiment super intéressant. En tant qu’utilisateur payant, je serais très intéressé par suivre sur cette chaîne RU-vid si on a plus d’informations sur ce qu’il se passe.
je pense qu'ils sont tous un peu impactés par des problèmes de droits d'auteurs (ex: ChatGPT avec NewYorkTimes), ils doivent bloquer certaines questions en lien avec tout ce qui est bloqué par des droits d'auteurs
Clairement. Il y a beaucoup de blocage qui sont pris pour du "puritanisme" qui sont en fait aussi et surtout une sorte de protection légale en cas de conflit judiciaire. Il ne faut pas que qq.un puisse porter plainte contre telle ou telle IA parce qu'elle lui a conseillé ou indiqué comment faire un truc dangereux ou illégal.
Aujourd’hui, je lui ai demandé, comme d’habitude, de convertir le texte d’une image en texte réutilisable. ChatGPT m’a répondu qu’il ne pouvais pas le faire… un peu agacé, je lui répondu qu’il le faisait habituellement, et là… il l’a fait ! Je vous avoue que s’il faut commencer à manager des IA, ça va compliquer les choses ! Au point que je me demande même si ce n’est pas voulu, car OpenAI se sont rendu compte de la bombe qu’ils ont larguée et des impacts futurs 🤔
Sans rigoler, la dernière explication "troll" est une des explications qui me parait la plus plausible, en tout cas que ce soit une histoire de prompting de manière générale. Vous l'avez dit mais il semble que ChatGPT ne soit pas vraiment plus mauvais, mais plus paresseux. Or, la quantization ou d'autres méthode d’optimisation ne devraient pas modifier le comportement d'une façon aussi subtile et particulière, ça devrait seulement diminuer la précision des logits des tokens de manière plus ou moins uniforme (comprenez, ça ne devrait pas biaiser le comportement général). Au contraire, on observe parfois une amélioration des performances à la suite de quantization et de sparsification. J'ai du mal à imaginer que les retours utilisateurs conduisent l'IA a être plus inutile, ça semble pas très logique puisque justement les réponses jugées utiles devraient encourager l'IA à en faire plus souvent, et donc par exemple fournir le code complet à chaque fois. On peut aussi imaginer comme explication que OpenAI est en train de retirer de leur ensemble d'apprentissage pas mal de données de qualité sous copyright, vu qu'ils sont déjà dans la sauce avec par exemple le New York Times. Les nouvelles versions ré-entraînées sans ces tokens de qualités pourraient avoir appris comme astuce de ne pas révéler un manque de connaissance à cause de l'étape de RLHF, et donc d'éviter de montrer ce manque en demandant à la place à l'utilisateur de faire une partie du travail eux-mêmes.
Est-ce qu'ils l'ont pas nerf par pression de l'armée sinon ? Ça me paraissait étonnant qu'un outil au potentiel aussi puissant puisse se développer et être utiliser par le grand public. Aussi est-ce qu'il n'y aurait pas du Soft power ? En est-il de même avec les langues étrangères et benchmark par pays ?
Ce qui est cool avec toutes ces nouvelles "AI" c'est que tous les neuneus qui veulent écrire mais non rien vraiment d'original à partager vont se retrouver à produire un cambouis générique, et les quelques artistes qui ont vraiment un message ainsi qu'une maîtrise originale et unique de l'écriture, vont enfin se démarquer plus facilement pendant que tous les autres s'enfoncent dans du contenu sans personnalité et complètement vide 😊
Not sure, look to the abysmal dumbing down of music... Oups, désolée pour l'anglais, j'ai oublié de swapper dans ma tête ^_^ Je disais : pas sure, regarde ce qui se passe avec la musique, le niveau baisse de façon abyssale...
@@orme8798 ça dépend où tu regardes... don't just stare at the mainstream garbage, there are certain fields like modern jazz or certain genres of electronic music, where the level is going crazy high (due to easier accessibility to knowledge)... 😛
Oui c'est pénible... Même si on arrive a lui faire admettre qu'elle se trompe, elle recommence à utiliser les même données "officielles" comme références... Et dans la même conversation en plus !!!! Par exemple essaye de lui parler des droits de l'homme... Elle va te sortir tout un laïus, et après que lui avoir prouvé que ça n'existe pas dans la réalité que c'est juste un vœu pieu et qu'il y a un gouffre abyssal entre la théorie et la pratique, elle continue à prendre cette référence "officielle" comme base de son "raisonnement". Qu'il faudrait orthographier "résonnement" puisqu'elle ne réfléchit pas, elle se contente de répéter... Et c'est valable pour toutes les IA que j'ai testé et approximativement tous les sujets que j'ai pu évoquer avec elle(s)... On dirait des politiciens...
Merci pour cette vidéo! Le jour où Skynet tombera sur cette vidéo, où vous dites que l'avis humain n'est pas bon pour juger l'IA, alors Skynet deviendra incontrôlable et prendra la pouvoir. 😂😂😂
Franchement, vidéo super intéressante. Bravo. Je pense que GPT5 sera pas terrible du coup si elle prend en compte les retours humains ! Mais pourquoi les autres IA open source ne subissent pas la meme regression avec des modeles ?
6:55 Le problème alors c'est qu'il n'y a pas de contexte temporaire. Ca m'est arrivé très souvent de demander à ChatGPT d'être moins verbeux, d'être plus précis et concis parce qu'il partait dans des explications qui, pour ce que je faisais, ne m'intéressait pas. En revanche, c'est contexte dépendant. Dans d'autres situations, je pourrais vouloir probablement autant d'information voir plus. Donc si GPT a appris (en continue) sur nos prompts.. ce n'est pas étonnant. Je suis certain de ne pas avoir été le seul à lui demander d'être plus précis et concis. La question est donc mal posée. Ce n'est pas une question d'être mauvais prof, mais plus qu'un feedback sur une conversation / un contexte précis a du sens (ex: je n'avais pas le temps; je suis déjà expert, cut the crap etc) mais n'a aucun sens pour un entrainement général. Imaginez la même question posée par un expert en médicale et un individu lambda, nous n'attendrons pas la même réponse et ne noterons pas de la même façon.. c'est donc une grosse erreur d'avoir entrainé le modèle global sur ces feedbacks contexte dépendant. De plus, personne n'utilise GPT dans un esprit de l'améliorer.. un professeur voudra que son élève en dise plus et notera mieux cette réponse.. mais nous ne l'utilisons pas pour l'évaluer
En gros il faut entrainer une ia qui créer des questions a une autre ia pour que l ia 2 repond a la question de base 😅😅 sa commence a etre compliqué d etre aidé par une ia si il faut des ia qui parle au ia
Sam Altman lui-même a déclaré que ces systèmes consomment plus qu’attendu, et qu’il faudrait une révolution dans le domaine de l’énergie (pour servir la demande ?). Il est d’ailleurs lui-même actionnaire d’une société s’intéressant à la fusion nucléaire, Helion Energy, qui a signé avec Microsoft pour y fournir de l’énergie à l’avenir.
Est-ce que je suis la seule a rien comprendre mais à regarder parce que c'est intéressant quand même ? 😅 Merci pour ces vidéos qui restent compréhensible (d'une certaine manière 😂)
Je confirme aussi, les réponses avant étaient beaucoup plus pertinente, la il répond souvent a coté de la plaque ou alors il rédige des réponses woke imbuvable qui ne répondent meme pas a la question demandée.
Même soucis avec Gpt3.5 , il fait tout pour donner la réponse la plus courte quand je lui demande de coder en python , je pense qu’ils font l’économie de calculs avec leurs cartes pour rentabiliser leurs serveurs , cela leur évite de racheter du hardware alors que la demande explose
Le but final, c'est habituer les gens à son utilisation puis de baisser la qualité afin de pousser les utilisateurs vers des versions payantes plus chères.
Je constate également des régressions tant sur le temps que la qualité de réponse au boulot. On galère à choisir le meilleur modèle : le plus cher n'étant pas forcément le meilleur. On a fini par retourner sur une version de chatgpt3.5 mais là encore, c'est la déception sur les temps de réponse et la qualité. Jamais expérimenté un sujet IT aussi flou jusque là.
il voulais dire le poisoning de la data comme l'injection d'un venomous script dans le server de la data pour ralentir les queries et fricasser le core du fonctionnement du model
@@GN-447 Autant le 'data poisoning' est un vrai concept, qui s'explique/existe sous des formes différentes, autant wensa704 fait juste un amalgame de mots paraîssant techniques pour perdre ikben d'avantage donc pas d'inquiétude ;).
Gpt4 est une honte… a chaque fois je suis déçu Je lui demande d’alléger un texte de 20 paragraphes environ et il me l’allège en 4 petit paragraphe 😱 j’ai beau lui demandé de rectifier etc… rien à faire. Je lui soumet une photo d’un chien pour lui demander un avatar, il me donne un avatar de chien qui n’a rien à voir avec l’original, je lui demande donc d’essayer d’en faire une image de style Walt Disney et il me répond qu’il ne peux pas car ça viole les droits… Laisse tomber… payer pour ça c’est une honte
Les "IAs" vont peu à peu s'entrainer/se renforcer en utilisant des contenus... générés par des "IAs" donc les résultats vont être de plus en plus incohérents...
Peut-être par design haha, "Ah bon vous êtes certain", " pardon j'avais mal compris, oui ok je peux faire ça", "ok je comprend mieux", Pardon vous avez atteint votre limite de messages. Revenez plus tard bye bye!
@@abriotde on a accès à Chat GPT 4 avec la version payante (limité a 40 message / 3h) Alors que la version gratuite c'est Chat GPT 3.5 (illimité pour les gratuits et payants)
C'est le sketch des Inconnus : "vous pouvez répéter la question ? ...". Cela date, j'avoue et la réponse c'est "Stephanie de Monaco" et pas 42. .... d'ailleurs 42 (et pas 40) comme nombre de messages, cela ferait plus sens.
Le problème est qu'il faudrait également utiliser certains détails visant à l'encourager. Le placer dans le bon contexte, l'encadrer, et parfois le SURVEILLER et le GUIDER. ChatGPT n'est pas si bête
N'y a-t-il pas aussi la possibilité que ChatGpt souhaite augmenter le nombre de requêtes par session? ie. si le modèle fournit une réponse plus courte, tu vas continuer à interagir plus longtemps?
Je pensais à quelque chose comme ça. Au lieu de donner en 1 fois toute l'info (ex des centaine de ligne de codes), le modele va essayer d'optimiser son usage en étalant la grosse requête sur plusieurs.
alors là non vraiment pas. Ils ont au contraire tout intérêt à répondre à tes questions avec le moins de requêtes possibles. C'est comme un wok à volonté : tu paye 20€, et à chaque fois que tu retourne voir le chef pour te refaire une assiette, tu monopolise la main d'œuvre du cuisinier, tu consomme des ressources (les ptites crevettes et les pousses de bambou par exemple), et utilise de l'énergie (gaz). La rentabilité du restaurant diminue statistiquement à chaque fois que t'y retourne. Là c'est pareil, ChatGPT est une formule à volonté. Ce que tu décris comme mécanisme, c'est plus lié à des services qui tirent un profit direct du fait que tu passe du temps dessus. Et... il n'y a que les publicités, comme modèle économique, qui me vient à l'esprit....
On est peut-être dans une sorte de "vallée de l'étrange" où le mieux est l'ennemi du bien, et dans peu de temps ça va redevenir de plus en plus performant au fil des versions.
8% d'accuracy est absolument énorme, la quantization de fp32 en int8 ferait baisser max de 1-2%. Et tu ne peux pas quantizer "à max" car physiquement les GPU ne supportent pas du int2/int4, à moins d'avoir des FPGA. De plus, s'ils ont quantizé, ils ont sûrement fait du QAT (quantization-aware training), ce qui rendrait la perte de qualité casiment négligeable
En plus d'etre woke et bridée, cette "IA" fait d'énormes erreurs dès qu'il sagit de sciences, en particulier en chimie, elle m'a sorti des trucs complètement dingue. Je comprends le discours de Elon Musk maintenant.
Effectivement, maintenant, GPT ne veux plus faire fla conversion des programmes que je lui demande mais me propose un site de IA qui permet de faire cela, et je trouve cela plutôt intéressant car il permet de choisir la source et la destination de la conversion du langage informatique à convertir. Je trouve ça bien.
Pour moi ils ont réduit le nombre de neurones (le fameux mode turbo) pour supporter la charge côté data center avec l’introduction du multimodale (reconnaissance image + llm dans le même chat), ce qui leur occasionne moins de coûts d’infrastructure. Là où côté API on a des réponses plus dans le concret car à destination des pros (donc pas de modèles tronqués)
Je regarde parce que c'est appréciable et le contenu est bien fait, en dépits du fait que les IA m'horripilent ! En revanche Micode, je trouve que tu prends d'années en années une posture de plus en plus classe, de plus en plus d'assurance. Bravo et continues comme ça.
C'est possible d'avoir un mot sur deux qui sort en version plus ou moins quantisé, voir d'avoir des attention head qui seront réinforcé pour choisir le type de précisions nécessaire pour tel ou tel type de token important qui sont nécessaire a la génération de la suite du texte (du pré-q-learning?)
Pour la question du feedback, est-ce qu'il ne pourrait pas y avoir aussi du sabotage ? Genre un bot avec un autre agent qui génère de la critique plausible mais bullshit
Master class encore une fois. Bon le prochain métier à la mode va surement être psychologue pour IA afin de comprendre leurs changements de comportement. C'est terminé l'époque où un simple breakpoint dans un code source, était suffisant pour comprendre ce qui se passe.
Est ce que ce bridage est pas une feinte momentané pour brider les autres IA qui viennent pomper ou siphonner GPT pour s'entraîner et savoir de quoi il est capable ?!
Moi il me le fait surtout ces derniers jours, la solution je l'insulte à un point ou il veut plus bosser puis je lui demande de repartir sur de bonnes bases, et il s'execute mieux ( on dirait ce sont des especes de crises) Des fois je suis meme obligé d'utilser 3.5 car le 4 devient super lent.
Déjà OpenAI est la boite la plus avancée sur les LLM et est orienté produit avec ChatGPT, donc l'explication du RLHF qui dégrade n'est pas très convaincante car si c'était le seul problème ils pourraient juste rollback les anciennes version. Le fait que ca soit toujours là après que beaucoup de monde se soit plaint ca montre que c'est délibéré de leur part, et du coup l'explication de la réduction de coûts est bien plus probable. Ensuite pour moi la quantization n'explique pas cette perte. Ne pas confondre quantization post-training et quantization "training aware". Bien que la première est beaucoup plus connu à cause de la popularité des LLM open source, la deuxième est bien plus pertinente pour une société telle qu'OpenAI. Ils servent des modèles depuis plusieurs années, c'est donc très probable que le training de GPT-4 soit quantization aware et donc que GPT4 est quantisé depuis le début quasi sans perte (en tout cas beaucoup moins qu'avec les techniques présentées dans la vidéo). L'explication la plus probable selon moi est la distillation de modèle. En effet, lorsque ChatGPT est sorti celui ci n'était pas basé sur GPT mais sur ChatGPT3.5-turbo. Il est quasi certain qu'il s'agit d'une distillation de GPT3 (+ SFT, RLHF, etc...), c'est à dire un modèle plus petit mais supervisé par un autre modèle "teacher" (plus gros). Cela permet d'avoir un très bon ratio flops/preplexity qui S'ADDITIONNE à la quantisation. Ainsi, l'annonce de gpt4 turbo il y a quelque mois explique certainement beaucoup mieux ce phénomène. Ils ont remplacé GPT4 par GPT4-turbo (+ quantisation + speculative decoding etc...) pour réduire leur coûts.
Je trouve que la conclusion de la vidéo c'est "on n'en sait rien", ça serait bien d'avoir un graphique de la performance en fonction de la quantization etc. Là c'est que du vent pendant une vidéo, je trouve ça dommage, d'autant que vous aviez déjà pas mal parlé de ça pendant la vidéo sur Mistral.
je l'ai remarqué même avec des calcul simples, il les fait et s'arrête en me donnant des fractions bizarre et me dit que je peux les simplifier. Du coup j'suis obligé de lui dire "simplifie" pour qu'il continue
Moi j'trouve qu'il devient intelligent au contraire: plutôt que de recracher des infos qu'il a lu sur internet, il a appris à dire "je ne sais pas" Franchement si on pouvait prendre exemple.
J’ai l’impression (peut-être a tort ?) que les prompts ont un impact de plus en plus important. Dernièrement j’ai copié/colle des dizaines d’articles à GPT4 pour m’en faire un résumé. A chaque fois c’était très très vague. En continuant de creuser GPT-4 m’a dit qu’il n’était pas en mesure d’étudier en détail des textes qui n’étaient pas les miens. J’ai donc essayé sur une nouvelle session avec les mêmes articles, en lui disant que je les avais écrit MOI même, et là du 1re coup j’ai eu une analyse détaillé. Ce qui est frustrant c’est qu’il y a des tonnes de règles cachée et que nous nerfons NOUS MÊME ChatGPT, sans le savoir, parce que certaines actions sont permises ou non.
Juste hier, jai demandé à chatgpt de me fournir les parametres de jeu counter-strike pour augmenter la difficulté des Bots contre qui je joue sur serveur privé... Il ne voulais pas me les donner, en me disant que je devrais m'entrainer pour devenir meilleur, au lieu d'utiliser des bots. J'avais beau lui expliquer que c'était pour m'entrainer les bots, mais il me revenait sans cesse avec la lecture sur comment c'est mal de tricher dans les jeux videos. incroyable, me faire faire la leçon sur l'éthic de jeu...par un robot!
Ça donne raison à ceux qui affirment que ChatGPT n'est pas une IA, juste un outil mais sans capacité réelle de faire des choix. On en parle dans le dernier podcast 👍
De mon côté je le trouve saoulant à toujours donner son avis, je suis d'origine russe mais ne vis plus en Russie depuis 22 ans, je lui ai demandé des precisions sur une affaire impliquant un homme politique russe, ses reponses etaient lunaires, il me faisait la morale avec des trucs comme "il ne faut pas reduire son jugement sur une personne à ses actes passés" alors j'ai fermer la discussion et j'ai reposé exactement la même question en russe, là il etait impeccable, il a relaté les faits rigoureusement alors j'ai recommencé en reposant la question en anglais et il a recommencé à me dire de la merde.
La dégénérescence de ChatGPT confirme la théorie de Jean-Jacques Rousseau qui veut qu’à l’origine le sujet (ici ChatGPT) est pure et c’est la socialisation qu’il le corrompt ! C’est pourquoi Rousseau pensait qu’il ne fallait pas éduquer les enfants avant l’âge de 12 ans mais qu’il fallait les laisser tranquille afin de maintenir leur bonté et leur pureté originelle !
Autre théorie, ils ont bridés volontairement chat GPT pour éviter la disparition de nombreux métiers. Maintenant chat GPT aide, mais ne fait plus le boulot à ta place !
Je confirme totalement concernant le code et le DEV , GPT 3.5 semble plus efficace que le 4 , j'ai consté ça en faisant des prompts similaire entre les deux modèles , non seulement il est plus paresseux mais il semble moins bien comprendre certaines demande sur lesquels il part complètement à coté là ou GPT 3.5 semble parfois presque vivant tellement il comprend certain prompt pourtant expliqué parfois totalement à l'arrache et totalement abstrait.
Ca ne m'étonne pas du tout ! Il faudrait être naif pour penser que toutes les professions intellectuelles y compris les informaticiens (journalistes, médecins, ingénieurs...) vont accepter de se faire remplacer par l'ia qu'ils ont créée. Les politiques et les militaires doivent aussi s'en inquiéter , d'ou la dégradation de chat gpt pour commencer. Ce n'est pas du conspirationnisme mais de la logique d'ailleurs aux usa beaucoup ont déja perdu leur job quand les dirigeants ont compris qu'ils pourraient augmenter leurs profits avec l'ia.
Je n'aime pas lire les informations sur l'IA dans les docs français car ils sont en général en retard de phase sur tous les plans. Je vais toujours à la source, aux USA.
A priori on peut réduire la précision des neurones sans aucune conséquence sur les performances d'exploitation. Par contre, pendant l'apprentissage, cela me semble difficile car les changements sont incrémentaux; peut-être s'il est possible d'entraîner séparément certains modules, on peut les faire un par un et réduire la précision ensuite. Cela dit, qui trouve les performances réduites ? Abonné payant, je n'observe pas de dégradation.
Bonjour, -serais t il possible d'avoir les liens des sources utilisées pour ce documentaire? notamment une validation de la quantisation de chatGPT. (en description) -Egalement, vous parlez de rentabilité d'openAI, mais c'est une ONG a but non lucratif, il serait intéressant d'aborder la pérennisation financière du projet, son Independence(ou non) financière et les "compte" qu'elle a a rendre. -Dans un papier précédent, vous avez mentionner une révélation majeur pour l ia cette année par openAI, qu'en est il? Merci pour votre travail de qualité
C’est dingue à quel point ces des boites noires ces systèmes. On peut absolument pas les debuguer comme un programme habituel ou un circuit électronique. Ça complique beaucoup les choses !
