Тёмный

Kernel Memory - Custom Embedding and local LLM with Python, Fast Api and LMStudio 

CodeWrecks
Подписаться 1,3 тыс.
Просмотров 432
50% 1

In this video I show how easy is to extend Kernel Memory to use a local Embedding model and a local LLM thanks to Python, Fast Api and LM studio.
The code is here: github.com/alkampfergit/Seman...
▬ Contents of this video ▬▬▬▬▬▬▬▬▬▬
00:00 - Introduction and Overview
00:22 - Customizing the Embedding Part
01:12 - Creating a Server with Python
04:34 - Testing the Model with Postman
06:04 - Integrating Models from Hugging Face into Kernel Memory
08:09 - Creating an External Embedding Generator Class
12:03 - Using Local Embedding for the G Part of the RAG
13:04 - Using LM Studio for Model Search
14:19 - Running the Whole Example Locally
17:59 - Configuration and customization
20:20 - Conclusion and Final Thoughts

Наука

Опубликовано:

 

29 июл 2024

Поделиться:

Ссылка:

Скачать:

Готовим ссылку...

Добавить в:

Мой плейлист
Посмотреть позже
Комментарии    
Далее
МЕГА ФОКУС С ЧИПСАМИ
00:42
Просмотров 283 тыс.
Why You NEED To Learn FastAPI | Hands On Project
21:15
Просмотров 155 тыс.
DSPy Explained!
54:16
Просмотров 54 тыс.
Replace Github Copilot with a Local LLM
5:43
Просмотров 128 тыс.
34 - Kernel Memory just beginning
14:16
Просмотров 558
iPhone socket cleaning #Fixit
0:30
Просмотров 16 млн
iPhone 16 - 20+ КРУТЫХ ИЗМЕНЕНИЙ
5:20