GPT4All: Open Source AI can already keep up with ChatGPT! 

Sowas wie "fold at Home" damals als man Proteine berechnen konnte.

gibt es für all LLM´s nennt sich KoboldAI zumindest fürs generieren der texte

@@thomasspornraft2612 Ja, oder "SETI@Home". Ich glaube, das gibt es immer noch.

yeaaa distributed computing

sehr gute idee

Kann ich mir auch sehr gut für Behörden vorstellen.

@@creytax9802 Behörden und Neuland... Ich glaube nicht. Die würden eine ChatGPT Fax Schnittstelle entwickeln...

Also einfach aus dem Haus raus, ohne Models, Lora, Embeddings etc. ist Stable Diffusion definitiv schlechter, genauso muss man viel genauer mit dem Prompts sein (inkl. Negativer), aber mit mehr Arbeit, ist Stable Diffusion definitiv besser.

Stable Diffusion kann schon ziemlich gute Ergebnisse erzielen, wenn man mit den Prompts umgehen kann. Zwischen SD1.4 und 1.5 ist auch ein ziemlicher Sprung, finde ich. Dazu kommt, dass Midjourney ja auf leistungsfähigen Servern läuft, während bei Stable Diffusion jeder mit seiner eigenen Hardware herhalten muss. Hat man wenig VRAM, muss man mit geringer Auflösung leben...

@@lars7898 +6GB VRAM Speicher reichen aus, um Ergebnisse, die Midjourney gleichen, zu generieren. Theoretisch würden auch +4GB VRAM ausreichen, läuft dann aber auch dem entsprechend instabil. Wenn man sich von einer KI dann einen Prompt generieren lässt und man sich minimal mit Models beschäftigt hat, kommt man auf mindestens gleich gute Ergebnisse. Midjourney ist dafür aber benutzerfreundlicher und wie du auch gesagt hast, besser für Leute mit schlechter Hardware.

Stable Diffusion ist schon deshalb besser, weil es lokal läuft und man kostenlos unbegrenzt viele Bilder generieren kann.

Ja! Bitte

Ich danke dir!

In China sind alle westlichen Chat/Social-Media Platformen komplett verboten. Genauso wie in Russland. OpenAI kann von deren normalen Einwohner garantiert nicht genutzt werden.

Für mich wäre interessant wie ich chatgpt sage, dass die Models einen anderen Pfad haben.

Komplett deiner Meinung

Hay ich hab mich nicht eingehend damit beschäftigt, aber auf meinem Steamdeck gehts sogar recht fix. Dachte daher, die Grafikeinheit wurde genutzt. Scheint auch so als sei die Oberfläche mit DirectX oder so, weil ich die Werte eingeblendet bekommen hab a la Steamdecktools (so wie rivatuner) Alsooo ich hab trotzdem keine Ahnung. EDIT: Oh und iwie war die CPU auslastung nur auf 40% aber bei meinem 24 kerner alles auf 100% das war echt komisch. Oder ich habs das nur geträumt.. hm ne ich bin so verwirrt.

Probier mal die Threads hochzusetzen in deinen Einstellungen. Bei mir hat er irgendwas nicht ordentlich erkannt und meine CPU war gerade mal zu 20% ausgelastet bei der Berechnung.

@@zwixx259 hab schon 24 Thread am start und die laufen alle auf 100% Vielleicht bin ich auch nur zu ungeduldig. zuviel Bard und ChatGPT genutzt 😂

Nö habs grad nochmal getestet. Es werden halt wirklich einfach nur die 8 Threads von der CPU genutzt und das scheint echt auszureichen. (bzw das ist auchdas einzige was das steamdeck zu liefern hat) Davor hab ich es auf nem kleinen Laptop mit nur 4 Kernen (und threads) getestet wo es wirklich sehr sehr langsam war. Da waren allerdings 12 GB ram verbaut. Beim Steamdeck jedoch 16 (wo aber (custom value) der Graka gehören (in dem fall 4 gb))... Hab aber ein anderes Programm verwendet. Da war das mit dem RAM management noch anders. Kurz gesagt: Auch das Steamdeck benutzt nicht die Grafikeinheit und es ist wirklich subjektiv wie schnell die Wörter errechnet werden.. Sorry dafür .-. Ich fand es für ein Handheldgerät echt schnell, weil ich diesen lahmen Laptop gewohnt war. Die endgültige Frage bleibt: Warum hat mein Hauptrechner 100% und errechnet das schnell, jedoch hat mein Steamdeck auch ne recht schnelle rechenzeit- ist aber währenddessen nur auf 40--50%!? Wenn unser guter Herr Morpheus will, dann schick ich ein paar benchmarks und Videobeweise nach. Auch wenn ich voll falsch liege, ich will hier nur Testergebnisse liefern.

man kann im programm ein verzeichniss angeben und der kann dann auf die enthaltenen dateien zugreifen. Aus irgendeinem Grund funktioniert das bei mir aber nicht so toll

Japp, bei mir auch nicht. Ich glaube das ist noch nicht ganz ausgereift. Schauen wir uns asap an

Genau. Wie kann man auf Basis bestehender LLMs eine eigene spezialisierte KI trainieren (auch kommerziell nutzbar!). Also ein konkretes Beispiel würde mich interessieren. Was ist mit wenig Geld möglich!?

*_"...weil’s sich gar nicht lohnt so was als Programmierer raus zu hauen?"_* Was? Jeder mit ner 'Hacker-Seele', schreibt sich solche Sachen doch selber, um sich die 'Routinearbeit' zu erleichtern... Ich hab es 'damals' gemacht, ... und vor einiger Zeit, in nem Video von 'Halbzwilling'(glaub ich) gesehen, das es andere wohl auch machen... Das müsste halt nur irgendwo hochgeladen werden, bzw. müsste man wissen wo man so Etwas findet, für genau solche Fälle wie deinen, u/o meinen, in anderen Bereichen... Aber man kann noch so viel 'potenzielles Talent' haben, ohne 'Autodidakt' zu sein, wie in meinem Fall, und der DAU-Version bzgl. Google u co, ist man einfach aufgeschmissen... Und Programmierer wie Mathematiker sind ja eingebildet wie nichts gutes, mit *_ganz wenigen Ausnahmen_* wie ich einen in 'Morpheus' vermute. Und um nochmal auf das von dir zitierte zurückzukommen... Als ich 'damals' im Forum des 'Q-Basic Cafe' unterwegs war, hab ich mir uA sogenannte 'Kochbücher' runtergeladen, die im Grunde ein Sammelsurium an 'Fingerübungen' und 'Alltags-Routinen' darstellten wie zB. das '99 Bottles of Beer' (glaub ich hieß das). Und ich versuche hier nur Etwas anzustoßen, falls Jemand mitliest, und versteht was ich meine, und dir damit hilft, weil ich denke das es doch heute Etwas gleiches Derart geben *_'muss'_* . . . !?! Auf 'GitHub' zB. ... ? Gruß

Das wäre ja schrecklich für den normalen Markt von unwissenden Leuten. Open Source klingt erstmal immer so als wäre es sicher für viele, aber gerade das ein oder andere kleine Projekt mag sich das zu nutzen machen und Schadsoftware so verbreiten, weil man denkt ja "Open Source, andere Leute überprüfen das schon!"

​@@Tudas Und Support von Firmen ist in der Regel besser bei Problemen. Dafür gibt es im Open Source Bereich manchmal schneller gewünschte Features.

Sehr unwahrscheinlich, dass da OpenAI überholt wird.

Dazu kommt was nächste Woche 👍

Derzeit braucht das einfach zu viel Rechenleistung, wenn man vernünftige Antworten haben will oder eben extrem ausgefeilte Software, die sowas auf kleinen Geräten möglich macht aber dafür bezahlt man derzeit halt noch gut Geld bzw. behalten die großen Firmen für sich.

Hab ne 5950x, 64gb RAM

Dankeschön

@@TheMorpheusTutorials Danke!

😂, extra einen up to 5GHz 12700H /12900H CPU, 64GB RAM … Laptop gekauft. Dann sind die Antwortzeiten vergleichbar mit ChatGPT.

Stimmt, bestimmt 😂

Leider nein 🥲 aber Llama gab's als docker. Ist etwas weiter vorne in der Playlist

@@TheMorpheusTutorials ja hab ich schon geteset lauft nicht auf meine synology leider

Nö. Tuxedo OS.

Tatsächlich sind das Themen, die ihr bei mir angefragt habt 😅

In der Beschreibung ist Bio Link verlinkt, da sind alle 😊

?xd

Na wenn das dein größtes Problem ist, ist ja gut 😊👍

@@TheMorpheusTutorials Come on... Findest du nicht, dass du manchmal Englisch "overused"? Erinnert mich irgendwie an Otto und Englisch für Fortgeschrittene (English for Runaways), ohne es böse zu meinen...!

Stimmt schon, aber das passiert vermutlich, wenn man 80% Englisch liest oder spricht. Ich finde es bei mir nicht so übertrieben, aber ich versuche drauf zu achten

@@TheMorpheusTutorials Ich kenne das Problem. Ich baue seit über 20 Jahren die Homebrew-Szene mit auf (speziell PS2-Sparte)... Da das eine internationale Kooperation ist, ist der Kontakt da auch Englisch. Ich finde es sehr gut, dass du versuchen möchtest etwas darauf zu achten. Die heutige Generation (Englisch gelesen xD) versteht das schon, aber da gibt es noch old-schooler und dann auch schlicht und einfach alte Leute... Alte Noobs sozusagen...!

​​@@tnaplastic2182 nein das hat weniger mit Oldschool etc. zu tun, sondern mehr mit Kulturgut. Es gibt Wörter wie Internet, die sich halt durchgesetzt haben, aber es gibt noch Wörter in den verschiedenen Sprachen, welche nicht obligatory mit englichen Begriffen unnötig ersetzt werden brauchen, total unnecessary! Das Deutsch, aber auch jede andere Sprache mit englichen Begriffen verunstlatet werden sollte. Speak Englisch, ose fol tjetër gjuh si për shembull shqip, hablamos en espanol, no problemo, aber bitte nicht Sprachen mit Englisch mehr mixen als nötig. Meine Mutter- und Vatersprache sind albanisch, trotzdem muss ich zusehen wie "ur-Deutsche" die eigene Sprache freiwillig aus Lust daran "verenglischen". Da hätte ich mir Deutsch lernen sparen können, gleich englisch, in Mülleimer mit Goethes Sprache. Es gibt auf jeden Fall Wörter, welche gerne genutzt werden, die nicht gut übersetzbar sind, cool, kosher, halal, haram, mashallah, sind ins deutsche schlecht übersetzbar, aber manche Begriffe haben sehr gute deutsche Pandants, da kommen sich manche Online-Aktivisten, aber auch Lehrer, Manager, Politiker bis zum Kanzler womöglich "cool" vor statt Heimbüro "homeoffice" zu sagen (muss das h groß geschrieben werden oher breibt es wie im englischen kleines h?). Oder statt Arbeitamt "Jobcenter", und mehr Verunstaltungen der Sprache, die sogar von höchsten Ämtern betrieben wird... Besonders nervig wird das ganze, den nicht Deutschen für Aufenthalt, Einbürgerung, etc. Deutsche Sprache aufzuzwingen, aber Politiker sagen mit gewissem Stolz "homeoffice", da könnt ich solchen hypocrite Politikern ein Bürotisch in die amerikanische Fresse klatschen. Totengräber sind weniger die Zuwanderer, wir scheinen Goethes Erbe mehr zu Beschützen als die Eliten des Landes... übrigens habe ich freiwillig in einer AG im Gymnasium Sütterlin lesen und schreiben gelernt, 90% der Deutschen:"was ist das denn?" 😂