QLoRA: обучал нейросеть 20 ЧАСОВ В GOOGLE COLAB на РУССКОМ ДАТАСЕТЕ. Впечатляет 

QLoRA: обучал нейросеть 20 ЧАСОВ В GOOGLE COLAB на РУССКОМ ДАТАСЕТЕ. Впечатляет 00:00:00 Обучение чат-бота на домашнем компьютере • Автор рассказывает о возможности обучения чат-бота на домашнем компьютере с использованием Google Colab и графического процессора. • Ранее это было невозможно из-за необходимости больших вычислительных мощностей и использования шестнадцатибитных типов данных. 00:01:08 Метод обучения "Кьюлора" • Кьюлора - эффективный подход для файн-тюнинга, который позволяет обучать модель на небольшом наборе данных, сохраняя качество. • Кьюлора уменьшает потребление памяти и использует четырехбитные типы данных для хранения весов и параметров модели. 00:03:42 Результаты обучения • Автор демонстрирует результаты обучения модели "Гуанако" на русскоязычном датасете. • Несмотря на то, что модель не знает русский язык, она начинает осваивать его и генерировать осмысленные ответы. 00:08:08 Преимущества метода "Кьюлора" • Кьюлора позволяет обучать модели с большим количеством параметров на домашнем компьютере. • При небольшом количестве, но подходящем качестве данных, можно добиться лучших результатов.

Шалом, чувак! Тема очень интересная и полезная. Спасибо. Добра Тебе и позитива

Огонь, Спасибо! Очень интересно. Оставляю коммент)

хорошее видео, спасибо

Спасибо,здорово👍

Очень классная тема

Какие вы используете инструменты для автоматической оценки качества llm? Делать это в ручную каждый раз не очень эффективно

А будет сравнение результата обучения на yandex q и на втором датасэте?

Мне нравится голос! Такой аристокрктический. 🤵

Спасибо, а можно консультацию купить у Вас и сколько стоить будет?

а как сохранить дообученную модель?

+

так а за коллаб платить пришлось или нет? во сколько денег встало обучение?

Где можно найит ссылку на google colab?

Имеет ли смысл файнтюнить через open-source модели, или лучше не париться и сделаьт finetune через OpenAI API?

Звук подлагивает немного, из-за чего так?

Что за ужасный микрофон.