Ciao, che bel video! Sono partito dicendo “sentiamo un po’” e sono rimasto piacevolmente sorpreso, follow al canale! 2 appunti: il primo è che se fai una richiesta a chat-gpt (almeno la modalità a pagamento) che prevede un ragionamento logico-matematico, utilizza sempre e automaticamente python per ragionare e darti la risposta, quindi almeno su questo modello si è risolto il problema. Il secondo, mi hai fatto venire in mente un problema che non è menzionato nel video. Ovvero che i modelli ormai sono addestrati su una maggioranza di testo che è stato prodotto da modelli generativi. In pratica la percentuale di testi scritti da umani disponibile su internet, che i modelli non hanno ancora letto, è estremamente diluita in un oceano di testi ai generated. E questo è un grosso problema per un modello perché rischia all’infinito di ripetere alcuni bias
I bias cresceranno esponenzialmente e dopo le aziende assumono sempre più uomini che donne e in carcere ci finiscono le persone di colore perché nei paesi più sviluppati i chatbot sono usati anche per scopi giudiziari e per assunzioni
Ciao, perdona la mia ignoranza. In che modo il modello userebbe python per "ragionare"? Posso capire per effettuare operazioni matematiche (es. calcoli, derivate simboliche, etc. etc.), ma per ragionamento logico matematico, come menzionato nel video, intendo una catena di proposizioni logiche a partire da degli assunti. Il modello quindi usa delle librerie basate su algoritmi deterministici di calcolo simbolico-logico (ancora, sono ignorante a riguardo) codificando in esse ipotesi e tesi fornite in input e aspettando l'eventuale catena logica dell'algoritmo deterministico?
@@TrasoxOriginal non conosco tutte le parole che hai usato. Peró una volta avevo lavorato alla produzione di un corso di logica per la preparazione al test di ingresso per le facoltà scientifiche e mi ricordo che tutti gli operatori logici hanno un corrispettivo nei linguaggi di programmazione. Si puó partire da un assunto e valutarne la valenza logica con python, esatto. I valori delle variabili poi vengono assegnati dal modello
Scusa non fidarti di me, prova tu stesso. È possibile visualizzare tutte le operazioni logiche svolte dal modello dopo la richiesta per capire come è arrivato la soluzione
Non trovate paradossale che nonostante queste debolezze "by design" (attuali), sia nella presentazione di gpt 4o sia quella di Apple, spingano così tanto sull'utilizzo dell'AI come strumento dedicato alla risoluzione dei problemi matematici? Penso che ad oggi molta confusione sia data proprio dal marketing che ci sta dietro
Non hai parlato della fase di addestramento supervisionato con domande e risposte, che viene prima dell'apprendimento per rinforzo e dopo il pretraining. È una parte importante da menzionare.
cosa ne pensi del ChatGPT4O(mnimodale) che hanno fatto vedere OpenAI qualche settimana fa? Cioè quella che ti aiuta a fare i calcoli come se fosse un tutor grazie alla telecamera dello smartphone ?
@@giacomociarlini4557 anche per me sarebbe da provare se avessero messo quello prima gratuito. Se avessero messo quello secondo me avrebbero fatto un colpaccio, no ? O forse stanno aspettando che lo staff sistemi il chatgpt5 per poi mandare fuori quello omnimodale ?
Sulla base di cosa affermi che la fase di reinforcement learning abbia detto bias così grandi? Immagino che le persone coinvolte siano professionisti preparati; sapevo che ci si rivolge solitamente a dei linguisti in quelle fasi.
@@giacomociarlini4557 al netto degli errori sistematici, dal video non si capisce perché dovrebbero esserci quel tipo di bias specifici. Non penso abbiano preso gente a caso, ma professionisti formati adeguatamente.
