Back propagation - алгоритм обучения по методу обратного распространения | #3 нейросети на Python 

мне 11 я низнаю других других преподователей такого уровня в 4 классе но очень здорово правда чуть ли не каждый второй термин смотрю в яндексе чтобы понимать

Лучший обучающий канал по нейронкам на всем русскоязычном ютубе! Всё максимально понятно и интересно. Спасибо большое за такой контент

Добрый день, Сергей! Решил еше раз пройти Ваш курс по данным видео. Обнаружил ряд неточностей: 1. В Функции гиперболического тангенса отсутствует показатель степени 2 в экспоненте: должно быть 2/(1 + np.exp(-x*2)) -1; 2. На мой взгляд функция производной от гиперболического тангенса должна быть другой: я взял такую 4/np.power((np.exp(x)+np.exp(-x)), 2) ; 3. В обучающей выборке последняя строчка должна быть: (1, 1, 1, 1)]. Т.е. когда у мальчика есть квартира, он симпатичный, но при этом рок-гитарист, он все равно симпатичен девочке. Тем более, в самом начале видео у Вас приведён такой расклад. Изменив программу я получил более стабильные результаты обучения и весовых коэффициентов. До этого они очень сильно "плавали". На видео тоже видно, что по результатам на первой выборке получилось значение 0.025, хотя должно быть ближе к -1. Я получаю у себя такие значения (на модернизированной программе): Выходное значение НС: -0.9999942675244059 => -1 Выходное значение НС: 0.9999942461944535 => 1 Выходное значение НС: -0.9999942080082161 => -1 Выходное значение НС: 0.9999942702756277 => 1 Выходное значение НС: -0.9999942702756276 => -1 Выходное значение НС: 0.999994208008216 => 1 Выходное значение НС: -0.9999942461944537 => -1 Выходное значение НС: 0.999994267524406 => 1

1) Backpropagation Algorithm, 5.06: логистическая функция (sigmoid) должна быть f(x) = 1 / (1 + e^(-x)) 2) Backpropagation Algorithm, 14.16: нейронная сеть обучилась, у нас нет никаких ошибок... А как насчет самого первого выходного значения?

Почему так мало просмотров?! Вы чудесно, четко, понятно объясняете. А самое главное - у вас хорошо поставленная речь без паразитов, и приятный тембр.

на 5:27 у логистической функции в знаменателе у экспоненты должен быть показатель с минусом, производная получается другая, да и в целом, постройте график, он не соответствует тому что в видео показано. А так видео очень качественное, все понятно, спасибо!

Сергей у Вас замечательные видео! Вы очень талантливый преподаватель. Просто, понятно и по существу. По этому видео - небольшая опечатка в программе ( выборка, последняя строка ) . Если подправить, почти идеальные результаты...

Большущее вам спасибо за ролики!

Суукаа... Лучший!!! Я каждый день пересматриваю эти видео

пример только получился неудачный. формаула сразу понятна y = x3. нейросеть должна научится игнорировать первые 2 параметра.

Огромное спасибо за урок. Думала, что до нейронок не доберусь никогда. Когда начинала по вашим видео учить питон, этот плейлист казался порождением инопланетного разума. В итоге я здесь, и, как всегда, восхищаюсь вашим даром фундаментально и понятно объяснять сложный материал.

Скажу что мне сложно это даётся, даже не смотря на такой приятный материал и рассказано как для обывателей, но всё равно тяжело. Спасибо за труд!

(y-d) это формула не ошибки, а производной от ошибки. Формула ошибки в данном случае будет 0.5*(y-d)^2. Если это не уточнить то те кто попытается вникнуть откуда что берется - не поймут зачем просто ошибку множить на производную активационной функции. Перемножая производную ошибки на производную активационной функции мы как раз получаем локальный градиент. А с точки зрения просто формул - они правильные.

Когда автор заговорил про производные, возникло сильное желание выключить видео, потому как не знал, как их применить для такой функции, хорошо что автор все правильно сделал. (Хотя производные - одна их моих любимых тем в математике))) Плейлист меня очень заинтересовал, не догадывался, как работают нейросети и тем более, как их написать. Думаю потом ещё изучу материалы, связанные с python, уверен, найду что-то новое. Спасибо за ваши видео и удачи вам в продвижении канала!

Похоже у вас ошибка при входе. Или было желание затупить машинное обучение. Последнии праметры должны быть (1, 1, 1, 1), тогда и результат будет чище. epoch = [(-1, -1, -1, -1), (-1, -1, 1, 1), (-1, 1, -1, -1), (-1, 1, 1, 1), (1, -1, -1, -1), (1, -1, 1, 1), (1, 1, -1, -1), (1, 1, 1, 1)] Выходное значение НС: -0.9331972464137225 => -1 Выходное значение НС: 0.932163001582075 => 1 Выходное значение НС: -0.9305318078371304 => -1 Выходное значение НС: 0.9331613565722048 => 1 Выходное значение НС: -0.9331613565722048 => -1 Выходное значение НС: 0.9305318078371303 => 1 Выходное значение НС: -0.9321630015820752 => -1 Выходное значение НС: 0.9331972464137226 => 1

Во первых, огромное вам спасибо! А так же хотел сказать, что когда мы строили нейронку, для определения того "понравится парень девушке или нет", если посмотреть обучающую выборку, то там будет два полностью противоположных варианта с одинаковыми целевыми значениями [-1,-1,-1] целевое значение => -1, и [1,1,1] целевое значение => -1. так вот при данной архитектуре нейронки, построить и обучить алгоритм данным методом просто не возможно, так как одни и те же веса для них будут выдавать противоположные занчения, Это при любом раскладе! Поэтому в данной задаче нужно обязательно вводить СМЕЩЕНИЕ, и тогда все будет корректно. Спасибо автору, что он научил нас как это делать)!!

Аааааааа..... Я ни хрена не понимаюююююю😭😭😭😭 Я пытаюсь, но это писец какой то!!!!! 😳 Господи, 🙏🙏🙏🙏помоги мне встретить инопланетянина(,или сожрать его мозги, )который этот гребаный ии сможет заставит на плюсах, посылать пешки " пощупать"пространство, для принятия решений"😭😭😭😢 P. S лайкните кто нить через неделю что б я удалила сей выброс эмоций.

Любопытно, что если взять набор epoch = [(1,1,1), (0,0,0), (1,0,1), (0,1,1)] как операцию ИЛИ - нормально. Потом как И - в последних двух поменять последние единицы на нули - нормально, а XOR - никак. epoch = [(1,1,1), (0,0,1), (1,0,0), (0,1,0)] В коде предполагал, что входов 2, соответственно

Больше спасибо за труд.👍👍👍 Очень хочется все понять. 😞😞😞 Если можно, обученные данные где и как сохранить, и как после использовать.

Спасибо большое за урок! Всё понятно, кроме одной вещи, надеюсь кто-нибудь сможет мне объяснить. Какова роль выходного сигнала в формуле на 6:37 (вычисление нового значения веса) ? Если роль шага сходимости это именно сдвиг, а градиента ( и закравшейся внутрь него ошибки) в направлении сдвига, то что нам даёт выходной сигнал? Какая-то корректировка сдвига? После того как я застрял на этом, я посмотрел урок по градиентному спуску, в нём мы позволили себе даже нормировать градиент, тем самым показав, что значение имеет лишь его знак. Если выходной сигнал влияет лишь на сдвиг, нельзя ли избавиться от выходного сигнала в формуле и оставить всё на шаг сходимости? Ведь таким образом выходной сигнал и ненормированный градиент создают шум, который неочевидным образом может подменить значение шага сходимости. (под подменить я имею ввиду, что мы указали например 0.01, а на деле получилось 0.28, это будет мешать, например, нашему творческому подбору следующих шагов сходимости). Заранее спасибо!

Хотелось бы подробный вывод формул

Благодарю! Идельно!! 🔥🔥🔥 Высший пилотаж!

ты лучший! я наконец-то понял после 3 мучительных дней.

У меня два вопроса 1 когда мы складываем два произведения веса и локального градиента на втором слое не получится ли слишком большой локальный градиент? Может лучше было бы найти среднее арифметическое? 2 обязательно производить коррекцию весов сразу после вычисления их локальных градиентов, или можно сначала вычислить все локальные градиенты и на всех весах сразу произвести коррекцию? Просто после коррекции веса изменится и значение локального градиента на следующем с конца слое и коррекция возможно будет неверная. Либо допускаются оба варианта?

Понимаю что зачистил, но ни у кого не было такой проблемы что нейронка при любых обстоятельствах выдает одно и тоже значение, может это какая-то ошибка в логике обучения, или в количестве невидимых слоев? Скажу сразу, делаю на С#, данный код мне не подходит немножко

я е совсем понял куда число ейлера делось из производной от функции?

Отлично. Всё сжато и без лишней информации. Впервые, мне в конце видео, пришлось замедлить воспроизведение.

все очень классно, но проблема в том, что я еще ничего не знаю про производную и не понял часть видео

"Не буду делать математическую выкладку... " - после этих слов я свернул видео и поставил лайк. Спасибо за это видео!

Автор спасибо тебе ты единственный кто обьяснил достаточно понятно

Почему для получения локального градиента производную надо умножать на ошибку??

Почему 2 лайка поставить нельзя)!? Спасибо, классное объяснение!

У меня чёт код об 1,1,1 и -1,-1,-1 запинается. На других всё нормально, а на этих ошибка в ~0.6-1.8 постоянно. В чём может быть причина?

График функции f(x) = 1/(1+e^x) выглядит несколько иначе, чем ваш. У вас нарисован график 1/(1+e^(-x))

1:31 2:58 3:58 обучение (корректировка весов) 4:17

Возможно я много требую, но было бы неплохо в последнем примере "в живую" показать, как там меняются числа, так было бы проще обучить нейронку, которая у меня в голове😆

а можно рассказать про то как векторно-матричное дифференцирование происходит для бэкпропа? Не искать же частные производные по элементам...

На моменте 6:25, где логистическая функция, там не -x в 1/(1+e^x)?

sigmoid is e^(-x)

3:45 Здравствуйте! Непонятна одна вещь, почему на данном моменте ошибка равна текущий результат минус желаемый? везде пишут, что наоборот, да и в принципе так более логично. Знаю, что уже куча времени прошло, но все же.

спасибо!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!

Очень хорошая подача материала, прочитал пару книг по нейронным сетям для ознакомления с предметной областью. Текущий курс обьясняет все принципы нейронки без сложных мат деталей , что помогает структурировать в голове информацию и быстрее двигаться к поставленной цели. Спасибо автору огромное !

Вы даёте индивидуальные уроки?

Почему-то минимум в 80% случаев при каждой новой прогонке программы, нейросеть дает как минимум 1 ошибку, и увеличение N на порядок особо не помогает. Возможно есть смысл на каждой итерации прогонки всех обучающих данных проверять верность работы сети и останавливаться, когда сеть обучилась? И наличие рандома тут не очень понятно, ведь с ростом N выборки будут выбираться поровну. В общем убрал рандом и перебираю выборки в цикле по очереди. for k in range(N): for i in range(0, count): x = current_epoch[i] При lmd=0.5 нейросеть обучается за 104(k=13) оюучения, при lmd = 0.1 нейросеть обучается за 408 (k=51) итераций обучений, при lmd = 0.01 за 8544 (k=1068) обучений. Лайк за видео!

С меня лайк, подписка и колокол, за все ваши уроки. Спасибо!

прошу прощения, но расчет гиперболического тангенса у меня такой получился: -2/(1 + np.exp(2*x)) + 1

хехе, помню где-то год назад смотрел это видео и ничего не понял. Теперь, через месяцев эдак 10 я смотрю это видео и лишь одно в голову лезет: "Боже, спасибо, как же он легко объясняет вещи"

Огромнейшее спасибо! Очень долго не мог понять, как работает обратное распространение ошибки... голова кипела от математики.Теперь понял!

Спасибо, очень круто сделано, всё понятно.

написал relu функцию активации, и тоже сработало, причем намного быстрее

офигеть, жму руку!

Скажите пожалуйста, почему ошибка, вычесляется как e = y - d, а не как e = d - y ?

Вы все такие тут умные, а у меня вообще ни в один глаз даже после третьего просмотра. С чего начать? Первая лекция был прикольная, идею уловил, но дальше просто плыву. Что посмотреть? НУЖЕН СОВЕТ!

Я весь интернет перелазил, и ничего приспособленного к восприятию не нашёл, и тут я решил поискать в ютубе...

У меня есть вопрос. Гиперболический тангенс почему он именно такой?

Автор ты написал ерунду! У тебя вес связей будет уходить постоянно в минус. В итоге конечная логистическая функция будет приближаться к нулю

Просьба скорее глупая, но можно юзать темную тему?) Учусь в основном ночью, сам сижу за темной, когда между видео и эдитором прыгаю глазки болят(

Очень хорошее объяснение. Спасибо. Прохожу курс по нейросетям, иногда некоторые вещи не улавливаются сразу, а это видео отлично проясняет

Большое спасибо за урок! А не подскажешь, какие разделы математики учить, чтобы глубже разобраться с нейронкой?)

ничего не понял, но очень интересно

5:49 производная посчитана неправильно. По идее производная логистической функции 1/(1+е^x) будет равна: -e^x/(1+e^x)^2 Не благодарите! :)

14:00 А почему 0.025 - это -1? Оно по значению ближе к 1

Просто великолепно, спасибо огромное!

Подскажите, когда у нас на выходе не один нейрон, а несколько, то мы вычисляем дельту для каждого, как дельта = (значение - ожидаемое) * значение * (1-значение) или же как и для скрытых слоёв мы здесь должны как-то просуммировать ошибку для всего слоя типа Е = е31 + е32 + ... + е3х?

А почему используется минус в формуле при прогонке весов?

Батя!

Шикарное изложение, ясное и логичное! Спасибо большое!

Все уроки по обратной ошибке поделились на два лагеря: у одних ошибка - это "Что получилось" минус "Что ожидалось", у других - наоборот. Приходится работать с двумя вариантами и долгими ночами искать верный.

почему градиент для последнего умножается на е?

Всё круто, но непонятно, почему вы не соблюдаете pep8, это же не сложно, пайчарм вам сам подсвечивает. Просто из-за этого потом люди мучаются всю жизнь, разве не стоит вам, раз уж вы беретесь других учить, соблюдать?

Готов предоставить услуги написания субтитров, ибо я конспектирую ваши видео в печатном варианте со вставочками картинок из видео, не знаю вообще зачем я это написал, но может кто-то такой же как и я :)

Отлично и очень наглядно объяснили! Спасибо большое, наконец поняла алгоритм!)

У меня вопрос. Формулу локального градиента на выходном нейроне мы получаем при дифференциировании функции ошибки? И конкретно в приведенном примере мы получаем формулу е*f'(..), где е - ошибка нейронки, выступает в качестве коэффициента. И при других функциях потерь такой красивой формулы (е*f'(..)) для локального градиента на выходном нейроне мы не получим?! Я же все правильно понял?

Здравствуйте! Хорошее объяснение. Но у меня все же возник один вопрос: вычисление локального градиента следующего слоя с конца производится уже по обновленным весовым связам первого слоя с конца или по не обновлённым ?

Очень качественное и понятное преподавание.

У меня вопрос на 8:58. Сказано, что т.к. у нас два выхода - мы сначала считаем взвешенную сумму входных нейронов. Я так понимаю, взвешенная сумма считается когда количество входных нейронов меньше количества нейронов на скрытом слое? Или взвешенная сумма входных нейронов считается всегда, независимо от количества входных нейронов? Надеюсь понятно объяснил. p.s. материал дико крутой. В ру-сегменте довольно мало такого контента

Если на входе имеется смещение, веса для него так же корректируются, или нет?

лайк и комментарий в поддержку канала.

По моему, у 2/(1 + exp(-x)) - 1 другая производная: 2*exp(-x)/(exp(-x) + 1)^2

Очень понятный и полезный урок

Я не понимаю, что значат выход для нейросети, вот это 0.025 => -1 что значит? Понятно что y - это результат функции активации суммы весов скрытых нейронов, но толку то мне от этого числа? Как мне его использовать? У нас же суть обучения нейросети в том, чтобы подобрать нужные веса. Далее мы должны входное число умножить на эти веса, пропустить через функцию активации и т.д. пока на выходном нейроне не получим то, что нужно, так? В чем смысл этого результата?

почему то нигде не говорят что новое значение W11=старое значениеW11*.....

вот настолько просто все? даже не верится

13:40

Хороший урок. А если добавить еще один слой нейронов, т.е. чтобы было три слоя взвешенных связей, какой будет код для обновления весов этих промежуточных связей?

Имеется вопрос, уместно ли будет запустить этот алгоритм в виде рекурсии с сохранением взвешенной суммы и локального градиента внутри нейрона, или это лишняя трата ресурсов?

Там в логистической функции e в степени минус икс должно быть

Благодарю вас за вашу работу!!!!

на 5:49 точно нет ошибки при задании логистической функции (e^{-x} вроде должно быть)?

Алгоритм не работает если есть 2 входа. Причём с другой функцией активации (например, x**2) веса вручную подобрать можно. А если при 1/1 и -1/-1 нужны одинаковые значения, алгоритм вообще не меняет веса в 1 слое

Возник вопрос с математикой. Если не сложно, то могли бы вы написать, какие темы нужны. Я сам в десятом классе, интересуюсь нейронными сетями в практических задачах (занимаюсь робототехникой, но на серьёзном уровне, а там как раз хочется подключить их). Я понимаю, что нужна высшая математика, но не понимаю с чего начать разбираться, какие темы нужны для нейронных сетей. Если вас не затруднит, то не могли бы вы написать базовые темы? P.s. я примерно понимаю, какие темы нужны, но в каком порядке? Я начал с производных, там какие-то правила дифференцирования применяются, то есть точно уж не с производных надо начинать

Добрый вечер, уважаемый Сергей! Момент: у вас обучение сети идет по batch и для каждой обучающей пары у вас считаются свои градиенты и back pass. Вопросы: 1) нельзя ли для всех пар обучающей выборки считать один усредненный градиент и back pass? 2) если да, то правильно понимаю что при forward pass нужно как выходы активационлых функций (out1, out2 и т.д.), так и выход сети (y) усреднить, а потом начать считать градиенты по ним? 3) eсли 1 вопрос да, то как усреднить вектор входных значений, когда в качестве мини batch-а они идут скользящим окном?

5+

Минус? Лучший результат даёт плюс, если ошибку предварительно прогнать через гиперболический тангенс.

Откуда d взять

Объясните, пожалуйста, как вывели формулу для локального градиента и что она означает...

объяснено нормально, но не до конца

6:34 рассмторим конечный слой и связть f21*w_11 = y. Если рассчитать так называемый локальный градиент для w_11, то будет y(1 - y) * f_21. То есть f_21 это часть локального градиента, а в формуле для обновления веса она указана как просто выход прошлого слоя и стоит отдельно от локального градиента, так ли должно быть? Опирался на понятие локального градиента(изменения функции y от веса w) от стэнфорского определения данного в лекции№4 от 2016 года, зима

+

Всем привет! Пожалуйста, подскажите, почему локальный градиент вычисляется как e*f'(v)?