Лекция. Сверточные нейронные сети 

50 минут связной лекции без склеек - одно это уже потрясающе. А ещё понятно и интересно :)

Обучаюсь в одном из топовых ИИ университетов страны, раз за разом обращаюсь к вашим лекциям за более ёмким и понятным объяснениям. Спасибо за весь цикл видео!

Хорошо бы чтоб эта прекрасная девушка еще и семинары вела. Очень хорошо объясняет и слушать приятно. И смотреть тоже)

Все и правда понятно, спасибо, Татьяна!

Лучшее объяснения что я когда-либо встречал.

Вы просто предугадывали все мои вопросы и тут же подобно отвечали на них! Спасибо за лекцию!

Очень классно! Спасибо большое за такое понятное объяснение 🙏🏻

ОЧень подробно и точно! Особенно понравилось про связь 3 слоя - 5 слоев, тоесть получается как и перцептроне все последующие слои связаны со всеми предыдущими.

Более понятного объяснения свёрточных сетей не встречала! Спасибо!

Замечательная лекция. Замечательный лектор. Замечательная подача. Браво!

блин как здорово и интересно, если б так нам в вузе объясняли на парах...все были бы отличниками))

Очень хорошее объяснение. Просто на редкость

Хорошая лекция. Местами даже слишком разжёвано (особенно, по сравнению с остальными лекциями курса), я немного скучал. Как бы то ни было - однозначно лайк: структурно, по полочкам всё разложила. Спасибо

Благодарю за объяснение 👍

Вы действительно очень хорошо объясняете

Если бы можно было миллион лайков поставить я бы это сделала! Очень понятное объяснение. Наконец то я знаю что такое сверточные нейронные сети!

Спасибо большое за подробное объяснение

Хорошо объясняете. Спасибо

Спасибо за лекцию.☺

Очень годный урок ! Благодарю! В целом достаточно исчерпывающий как мне кажется. Еще раз огромное спасибо!

Большое спасибо!

Нифига себе. А можно эта чудесная преподавательница будет мне все все так объяснять? Понимаю, что это видимо базовая лекция, но как-то теперь и понятно на стартовом уровне «что, к чему и почему». Я в восторге!

Прекрасное объяснение материала

Отличная лекция!

Отличная лекция, только осталось непонятно, как обучать ядра. Хотелось бы узнать более подробную информацию о том, как проходит этот процесс

22:53 перепутаны местами фильтры активации горизонтальных и вертикальных линий

Все подробно, класс!

Вы супер!

Какая Красавица и умница!

Очень подробно и понятно. Спасибо за вашу работу! Впервые хоть что-то поняла, а то уже дурочкой себя чувствовать начала

Лекция очень понравилась :)

Есть маленькие придирки к терминам- а так здОрово! Есть чему поучиться нам, стареньким преподавателям :)

Супер ! Спасибо большое за курс! А есть ссылка на презентацию?

Извините, но разве на 22:07 результаты работы горизонтального и вертикального фильтров на картинке не перепутаны местами?

Лучше и не раскажешь. Молодец!!!

Вы сначала сказали, что недостаток обычной нейронной сети, большое размер входного вектора полученного из изображения, а потом вы прогоняете изображение через фильтр и точно так же подаете результат в обычную сеть не уменьшив размерность, наоборот увеличив ее в разы если фильтров несколько.

смутило, что Хэтуэй цветная и не указана третья размерность. Видимо, предполагалось, что чб

Берем фильтер собеля или градиентный XY и пропускаем в рельтате получает свертки по Х и по Y. Обычно добавляют к изображению с каждой стороны величина фильтра разделить на 2 и округлив в меньшую сторону.

В начале видео было сказано, что минусом использования полносвязной нейросети является большое количество фич. Но в сверточной нейросети фич либо чуть меньше, либо столько же. Мы все равно так же конкатенируем строки в 1д массив. Этот момент я не понял.

Лучшая!!!

31-33 минута. Картинка 3 канала у нас 5 ядер 3*3, получаем 5 плоских карт активации. как так выходит? Когда уже в следующем слое мы для 5-и каналов используем ядра 3*3*5 и получаем 3 плоских карты.

А как подбирать параметры фильтров в свертках? Прогонять все возможные наклоны линий, чтобы сеть сама выбирала нужные? Сколько вариантов фильтров нужно подавать? Или есть какие-нибудь четкие рекомендации по настройке фильтров?

Татьяна, если слой свертки подсвечивает паттерн в виде больших по модулю чисел на карте активации, а после карт активации стоят ReLU, то не потушит ли эта функция сам паттерн? Например, на карте активации у нас по итогам -300, далее ReLU и на выходе 0. Такой же 0, как и после -1. Что делают в таких случаях?

Большое спасибо за урок! Только одно осталось неясным: В видео вы говорите, что можно сделать фильтр, который будет реагировать на вертикальные линии и если этим фильтром свернуть картинку на которой много вертикальных линий, то карта активации будет иметь высокие значения. Допустим у нас есть одноканальная картинка на которой изображено 4. Предположим, что картинка (линии четверки) изображена полностью черным цветом. Это означает, что все значения, где расположены вертикальные линии, будут равны нулю. А это как раз таки приведет к тому, что фильтр при умножении на вертикальные линии (которые забиты нулями) примет значение 0 и не будет "активен" тогда как по логике вещей должно быть наоборот... Может такие изображения следует как-то предварительно обрабатывать,?

Если фильтр активируется, то в нем числа "очень большие" по модулю или по значению?

22:00 Почему этот фильтр реагирует на горизонтальные, а не на вертикальные линии?

Благодарю за отличную лекцию!!!🔥 Возник только вопрос по примеру с 31 минуты : как получается свернуть цветную картинку(32*32*3) двумерным фильтром и получить только двумерную карту активации 30 на 30?

А эти фильтры в свёрточных слоях, они как появляются? Откуда берутся? Они готовые или сеть формирует?

Но ведь если мы в итоге трансформируем наши карты активации в векторы и конкатенируем их, то во входном слое полносвязной нейронной сети по-прежнему будет очень много нейронов, разве нет? Проблема, указанная в начале, по сути остаётся. Или надо использовать большой stride, чтобы размеры карт активации были существенно меньше размера исходной картинки, и, соответственно, итоговый вектор, полученный в результате конкатенации всех карт активации, получился небольшим? UPD: посмотрел следующее видео про пулинг, вопрос отпал.

На слайде про несколько сверточных слоев входная картинка цветная, а ядра как для одного канала- плоские 3x3x1. И количество карт активации 5, то есть, каждый канал по отдельности не обрабатывается. Видимо имелось в виду, что картинка черно-белая?

Хммм.... Как именно складываются карты признаков цветовых каналов в одну карту признаков? (18:17) Просто суммировать?

Спасибо за лекцию! Вы упорно объясняли, что в картах активации не может быть никаких рисунков. Но откуда взялись рисунки с ваших примеров (на которых видно силуэты человеческих лиц)?

Очень сложно, но всё понятно!

Спасибо за лекцию. У меня вопрос по поводу момента, когда последний слой свёрток попадает на вход полносвязной сети-классификатора. Я так понимаю, что при разном размере картинок на вход классификатора тоже будет подаваться разное кол-во нейронов. Как тогда сеть, у которой связи обучены под определенное кол-во входных нейронов, может работать с другим кол-вом, если мы хотим скормить нейронке картинку другого размера?

Как показывает практика, лучшие результаты получаеются с нормализированными картинками в сером формате, не бинаризированном

Спасибо за отличную лекцию. У меня возникла пара вопросов - 1) пробовали ли в литературе комбинировать обучаемые фильтры с фиксированными, имеющими понятную интерпретацию? Обучаемые фильтры изначально, как я понимаю, в зависимости от инициализации какой-то шум, который в процессе градиентного спуска превращается в что-то, способное реагировать на желаемые свойства или части картинки. Но тем не менее, для человека это будут скорее всего не более чем какой-то случайный набор чисел в матрице. А фильтры типа выделения горизонтальных и вертикальных линий на первых слоях вычленяют тоже полезную информацию и скомбинировавшись уже в средних слоях или нижних слоях с обучаемыми фильтрами могут потенциально улучшить качество. 2) сверточные слои в каком то смысле осуществляют преобразование изначальных данных на основе карт активаций к какому-то формату более ёмко хранящему в себе высокоуровневые понятия, вроде наличия носа или ушей на фотографии и перед входом классификатора (полносвязной сети), картинки, отвечающие разным классам, будут отображаться в какие-то хорошо разделяемые кластеры, которые оставшийся полносвязный кусок легко классифицирует, при условии, если сверточные слои хорошо обучены. Имеет ли смысл пробовать вместо полносвязной сети ставить другой классификатор вроде градиентного бустинга или SVM? 3) По поводу того, что активации сверхточной сети не имеют ничего от исходной картинки - вообще, как подчёркивалось неоднократно, фильтры реагируют на какое-то свойство картинки, а не преобразуют ее. Но для некоторых фильтров выход будет очень похож на исходную картинку, простейший пример - свертка,где в центре единица, а остальные элементы нули по сути будет действовать как тождественное преобразование. Свертка с оператором Лапласа будет выглядеть как исходная картинка, но более резкая.

22:30. А пример точно правилен? Карта активации получается размера 7x7, а не 6x6. А еще, она представляет совсем другой вид. У меня получилось, что только 6 ячеек с нулями, в отличии с карты на слайдах, где почти все нули.

33:37 разве во втором свёрточном слое не 3 ядра 3x3x3?

Татьяна в базе mnist изображения цифр имеет размерность 28 на 28 а не 32 на 32...

Танюха классная, дзякуй!

А как получился такой фильтр как на 7:30? UPD: все ядра - параметры, поддающиеся обучению (43:54) И тем не менее, вопрос: как выглядят фильтры на самой первой эпохе? Они нулевые?

10:13 а по какому принципу меняется матрица фильтра? Разве она не должна быть константной в рамках операции свертки?

6:33 Я на секунду подумал, что я под чем-что и у меня горизонт поплыл)

а что такое бэк пропогейшн

Я влюбился :)

Сложности возникают в случае глубокого обучения, в этом случае есть проблема переобучения.

у чайника тоже есть носик!

еее

Эта методика очень похожа на то, как работают каскады Хаара

Не очень поняла логику положительных и отрицательных значений в фильтре. В остальном идеальная лекция

Ведущая - сестра Милли Боби Браун ?

4 на 4 (чётная сторона фильтра) - такие никто не использует

Привет, а ты знаешь Тимофея Фёдоровича Хирьянова?

Меня терзают смутные сомнения, что докладчик неполностью понимает то, о чем рассказывает, глядя на слайд 22:05 с картинкой фильтра вертикальных линий, но наблюдая подпись про реакцию фильтра на горизонтальные линии + карту активации по фильтру горизонтальных линий. Читает слайд и нисколько не смутившись повторяет голосом ошибку. Поэтому она так настойчиво утверждает, что карта активации не содержит фрагментов исходных изображений?

Осталось непонятым, как обучать фильтры

понятно, я думал эти сети работают хитрее, а это оказывается тупо фильтры

какая красивая умная девушка!, я даже забыл зачем я сюда пришел)

Что-то девушка или автор лекции напутал. 12:07 не выйдет так. Исходная картинка 16х16, матрица 18х18, фильтр 3х3. Фишка в том, что в результирующей матрице мы устанавливаем число, находящееся под значением [0, 0] фильтра матрицы на прогоняемой матрице. Итак путем простого подсчета элементов на результирующей матрице, может кто-то пояснить, откуда взялись 19 значений в первой строке, если даже расширенная матрица состоит из 18 строк. Только я считать не умею, или в комментариях одно тупье?

Так и не рассказала, как ядра обучать.

Ну что там за мерзавец в конце пакетом шуршит, подождать нельзя было

50 минут размусоливают одни и те же достаточно простые поверхностные вещи, а когда дело доходит до обучения сети сказала 2 слова - "градиентный спуск". Не слова о обучающей выборке, о том как обучаются ядра в комплексе со всей сетью или отдельно. Какая функция ошибки.

Очередная хрень на 50 минут про свертку, которой уже пруд пруди ; и ничего про детальное обучение сети - особенно фильтров, в которых сами рассказчики ни черта ничего не понимают.

Плагиат

ужасно много неправды.

До науки тут похоже далеко. Пока метод тыка. Даже разделение патернов по слоям возникает непонятно почему.

Спасибо лектору, но извините, я бы лично не рекомендовал это видео как материал для обучения. Есть оговорки и неточности в повествовании и терминологии, ошибки в примерах. Много повторений о простых вещах и недосказанность о более сложных. Т.е. можно было уложиться в меньшее время, либо рассказать гораздо больше за тоже самое. По-честному, одна единственная англоязычная статья в Википедии о свёрточных сетях en.wikipedia.org/wiki/Convolutional_neural_network кажется равносильной, а то и лучше, чем полноценный учебный курс в подобных data science школах.