Тёмный

Машинное обучение: градиентный спуск для новичков с практикой в Python 

Дата Бой
Подписаться 6 тыс.
Просмотров 20 тыс.
50% 1

Расскажу простым языком как работает градиентный спуск, повторим линейную регрессию, а также пройдёмся на «пальцах» по практической части в Python. Особенно полезен данный ролик будет новичкам.
Ноутбук к лекции
colab.research.google.com/dri...
Приятного просмотра и эй, а ты знаешь градиентный спуск?!
Тайм коды:
00:00 - план, кратко
01:04 - линейная регрессия.
01:56 - практика.
12:09 - прогон созданного кода.
14:24 - самые лучшие результаты

Наука

Опубликовано:

 

12 июн 2024

Поделиться:

Ссылка:

Скачать:

Готовим ссылку...

Добавить в:

Мой плейлист
Посмотреть позже
Комментарии : 62   
@SneakView_russia
@SneakView_russia 2 года назад
мужик, возвращайся скорее! классный контент делаешь, не бросай канал
@FreemanFromSteppe
@FreemanFromSteppe 7 месяцев назад
возможно в данное время он херачит орков. будь проклята эта война и те русские, которые от нее тащатся.
@EZloy
@EZloy 7 месяцев назад
@@FreemanFromSteppe орк твоя мама
@JuliaKalashnikova
@JuliaKalashnikova Год назад
Крутой канал, жалко, что последнее видео так давно выложено. Возвращайся, не бросай! Полезное дело делаешь 👏
@DezzGen
@DezzGen Месяц назад
Мен, офигенное видео, спасибо большое. Делай ещё !!!
@user-eh6rq5zr2b
@user-eh6rq5zr2b Год назад
Удивительно, что так мало лайков. Очень рада, что попала на твой канал ❤
@user-pf6lv1bi8b
@user-pf6lv1bi8b Год назад
Спасибо тебе! Я как раз тот человек, который начинает изучать Data Science и ищет понятные ролики для новичков. Похоже, я поселюсь у тебя на канале. Жаль только что роликов мало
@user-wz4fn3nm3z
@user-wz4fn3nm3z Год назад
ну вот как только находишь что то понятное человек бросает канал здоровья тебе надеюсь все хорошо у тебя)) спасибо за те ролики что сделал
@user-vw9hf6bf2l
@user-vw9hf6bf2l 9 месяцев назад
Классно! Здорово, что наглядно показываешь подробно)
@user-zz8os3tv1f
@user-zz8os3tv1f 2 года назад
Очень круто получается, главное не останавливайся!!!
@Tunec_s_hlebom
@Tunec_s_hlebom 9 месяцев назад
думаю что это лучшее объяснение темы производных. Этот видос нужно показывать детям в школе чтобы они понимали для чего это нужно и как это можно применить
@noobygo
@noobygo 2 года назад
Ты классно объясняешь! Спасибо!
@oleggreen1244
@oleggreen1244 2 года назад
Молодец, но думаю непонятно пояснил. Линейную регрессию тут зря преплел. Наша цель найти минимум ф-ции, в общем случае многих, очень многих переменных. Но тут для примера берём 1параметр, т.е. у(х). Как это сделать? Например такой алгоритм(не градиентный спуск): мы тыкаем в любую точку графика, и смотрим соседние точки, они меньше нашей или нет. Если меньше, то переходим в них и там повторяем все сначала. И так пока не окажемся в точке меньше своих соседе, т.е. минимуме. В чем проблема этого алгоритма? Он привязан к точкам, т.е. встать между точками мы не можем. Ещё если точек оч много, то заходить в каждую точку это будет долго. Хотелось бы например, если мы далеко от минимума, то двигаться через точку или две, а ближе к минимуму уменьшать шаг. Вот тут нам и приходит алгоритм градиентный спуск из этого ролика, он решает эти проблемы. Мы тыкаем в точку графика и смотрим там производную. Ее модуль показывает как сильно наклонена кривая в этой точке. Если модуль производной большой, то наклон сильный, это значит мы далеко до минимума и шаг можно брать побольше, если слабо наклонена, то около минимума и шаг нужно брать поменьше. Т.е. размер шага зависит от модуля производной. А знак производной показывает в какую сторону двигаться. Т.е. если производная >0, то нужно отнять от х шажочек,
@morowenka9718
@morowenka9718 2 года назад
гений
@saitaro
@saitaro 2 года назад
> Если модуль производной большой, то наклон сильный, это значит мы далеко до минимума Нет, в общем случае значение производной в точке ничего не говорит нам о том, насколько они далека от минимума. Рассматривать отдельно модуль производной и её знак смысла тоже нет, - можно просто отнимать от аргумента антипроизводную (антиградиент). В случае отрицательных её значений минус превратится в плюс "автоматически".
@oleggreen1244
@oleggreen1244 2 года назад
@@saitaro Речь идёт не об общем случае, а именно об этом методе. Антипроизводная, антиградиент, говорите проще, не нужно придумывать ненужные тут термины.
@saitaro
@saitaro 2 года назад
@@oleggreen1244 Так речь и в видео, и в комментарии - о градиентном спуске. Антиградиент - это градиент с противоположным знаком, указывающий направление наибольшего убывания функции. Стандартный математический термин при обсуждении этого алгоритма. Его не я придумал :)
@alizhuban6227
@alizhuban6227 Год назад
Отлично объясняешь!👍
@aq_bulat
@aq_bulat 2 года назад
Блин, очень классно. Начал изучать Python, ранее работал в RGui, занимаюсь анализом экологических данных. Думаю сейчас расширять знания языка python, чтобы в дальнейшем пользоваться именно им, так как написание кода гораздо проще и графики красочнее. Рад, что наткнулся на твой канал, доступно объясняешь и без воды. Спасибо)
@user-ht8pm8fp3j
@user-ht8pm8fp3j 2 года назад
А почему в RGui, а не в Rstudio?
@user-xs9sw2fx7e
@user-xs9sw2fx7e 2 года назад
Как я рада, что наткнулась на твой канал! Спасибо, очень доступно все объясняешь, за одно видео закрыл кучу вопросов, которые пытаюсь уже неделю разобрать :)
@yrom6335
@yrom6335 3 года назад
Просто и понятно, класс
@qsr6840
@qsr6840 3 года назад
Ты красавчик, быстро и доступно всё объясняешь. Самое главное, что не боишься того, что ты и сам не эксперт в области, тем не менее реально всё очень круто доносишь. Респектуха и успехов тебе!
@irinastrel3796
@irinastrel3796 10 месяцев назад
Спасибо тебе, человек!!!
@anastasiak7875
@anastasiak7875 2 года назад
Спасибо, благодаря тебе получила автомат по ии))
@ds_sss_rank
@ds_sss_rank 11 месяцев назад
спасибо за труды
@rolandsto
@rolandsto 2 года назад
Красавчик, спасибо реально
@KentBrockman4
@KentBrockman4 3 года назад
Крутой видос, молодец! Только закрывай окно при записи, самолёты очень шумные :)
@user-qo7vx8zo7z
@user-qo7vx8zo7z 2 года назад
Привет, можешь подсказать, где ты брал данные для видео про линейную регрессию
@Alexey_Pe
@Alexey_Pe 2 года назад
14:32, вместо размера шага надо было изменить количество циклов, у него там 20 повторений ( range 20 ), если бы было больше повторений, то оно дошло бы c шагом 0.01
@technoskateboarding6501
@technoskateboarding6501 2 года назад
СПАСИБО ТЕБЕ!!
@vector5605
@vector5605 2 года назад
Доброе, будет видео про случайный лес и про обучение с подкреплением?
@DonzelOhio
@DonzelOhio Год назад
Пожалуйста ответьте на мой вопрос . Вы снимаете на макбуке видео???Какпя модель вашего мака и диагональ экрана
@falcon_wings_
@falcon_wings_ 2 года назад
Продолжай !!!
@Chumohola
@Chumohola Год назад
Спасибо ❤
@sturmann8122
@sturmann8122 2 года назад
Ну ты и молодец!!!!
@DuAlexy
@DuAlexy Год назад
Привет, расскажи как выстроить линейную регрессию ,используя только numpy , с градиентным спуском , с нуля. без sklearn.
@user-tb1kr3sf7s
@user-tb1kr3sf7s Год назад
Где видосы, Сеня? P.s. очень полезные ролики для начинающих ml- инженеров, всем советую смотреть и пересматривать
@FireFoxOnEarth
@FireFoxOnEarth 6 месяцев назад
Лучший
@magomeda.4576
@magomeda.4576 2 года назад
молодец,но казалось бы причём тут линейная регрессия, можно было объяснить на примере весов и ошибки(функции потерь), в названии ролика ведь Машинное обученение
@silvanaaramyan5255
@silvanaaramyan5255 2 года назад
А есть теория для градиентного спуска и стохастического градиентного спуска?
@datascience5487
@datascience5487 2 года назад
Не могу понять в чем математически смысл изменения аргумента функции (-8) на величину производной при таком аргументе (-16) или его части (0,1 * (-16)). Почему надо делать именно такое изменение? Понятно, что это сдвигает аргумент в нужную сторону, постепенно уменьшая или увеличивая его, но почему именно так, в чем его смысл? Это как из расстояния вычесть скорость. Правильно ли я понимаю, что 0,01 можно рассматривать как время?
@eugenedukatta9355
@eugenedukatta9355 9 месяцев назад
1) Потому-что математический смысл градиента это "вектор (в пространстве аргументов х) направленный в направлении наибольшего изменения функции и по величине равный этому изменению". В одномерном случае, как в этом видео, градиент равен просто производной. В многомерном случае (как в реальном ML) компоненты градиента (компоненты вектора) равны частным производным по каждому аргументу х. Так как надо найти минимум, а не максимум, надо двигаться в противоположном направлении, поэтому градиент (умноженный на 0,1) вычитаем. Если бы надо было найти максимум, тогда прибавляли бы. 2) 0,01 скорее это не время, а скорость. Часто в ML называют lr = learning rate (скорость обучения ~нейросети~).
@musup7194
@musup7194 2 года назад
Выпусти разбор уже математический переделы производные интегралы формулы с суммой среднее квадратичное дисперсия и тд
@user-wi4fv9hf6l
@user-wi4fv9hf6l 2 года назад
Жаль канал не обновляется, но спасибо!
@user-wi4fv9hf6l
@user-wi4fv9hf6l 2 года назад
очень доступно показал, понравилось
@grbak
@grbak 3 года назад
ЛАЙК
@kaiservonwien4826
@kaiservonwien4826 5 месяцев назад
Пацан красава , где ты ??? Появись мы тебе канал поднимем , задонатим
@user-fc6nr8cr4p
@user-fc6nr8cr4p 2 года назад
возьми меня в ученики)))
@Forward1
@Forward1 Год назад
когда новое видео?
@pl7771
@pl7771 2 года назад
Братишь откуда ты такой умный:) мне 34 года, толькотпогружаюсь в машинное обучение, так круто объясняешь, конечно опущено много математических подробностей, но это не мешает доступности и понятности видоса, красава
@ivanl7786
@ivanl7786 Год назад
То что знаю - понял. То что не знаю - не понял.
@eugenedukatta9355
@eugenedukatta9355 9 месяцев назад
Не понял при чем тут линейная регрессия для чего вообще было затронуто это понятие?
@user-db8ny4nk8l
@user-db8ny4nk8l 3 года назад
А разве условия остановки кроме количества эпох у градиентного спуска нет?
@romandevelopment568
@romandevelopment568 Год назад
КУДА ПРОПАЛ?!!!!!!
@wardog5260
@wardog5260 Год назад
для чего корчить лицо на обложке к видео? как по мне это лишнее
@user-zv6ct8sc2d
@user-zv6ct8sc2d 2 года назад
зашёл на канал,посмотрел название, и нихуя не понял про что ты расказываешь,лишь одно видео смог посмотреть который про 3 приложения и заработок на них.
@MsKhch
@MsKhch 2 года назад
Люди, которые пишут, что все поняли, вы что вообще поняли???? Вы точно что-то поняли??? Что он обьяснил, кроме постоянного мычания??? Для того, чтоб понять, что он говорит, надо понимать предмет разговора лучше, чем он сам.
Далее
А что если не умеешь играть?🥲
00:46
Автодержатель телефона
0:29
Просмотров 11 тыс.
iPhone 15 Pro vs Samsung s24🤣 #shorts
0:10
Просмотров 12 млн