Персептрон - возможности классификации образов, задача XOR | #2 нейросети на Python 

Он преподаёт в университете)

@@Sweet_Bibaleh Это заметно :-)

=)

@@selfedu_rus почему мне тогда 14 и я ничего не понимаю( (знаю, что нужно высшую математику знать)

@@user-hd3ov5lj1u тут нет высшей математики

@@user-hd3ov5lj1u потому что не вникаешь, и не знаешь базовый основ машинного обучения

@@user-hd3ov5lj1u мне 15, всё понятно, если вникать.

Привет! Как успехи? К чему пришла за 3 года?

Та же история

Спасибо за такое лестное сравнение с самим Фейнманом! ))

@@selfedu_rus подозреваю, что понятие разделяющей гиперплоскости выводится таким же образом как и разделяющей прямой?

@@dmitrelkin9256 да, именно так!

Для понимания только математика, без нее - никак! )

Не знаю как это зайдет 10-ти класснику, но лучше начинать с плейлиста "Основы машинного обучения". Успехов!

@@selfedu_rus спасибо, скорее всего послушаю ваш совет

Мы смещаем границу, чтобы расстояния от классов образов было наибольшим. Это увеличивает обобщающие сопосбности сети и уменьшает число ошибок при эксплуатации.

часто используют связку через uWSGI - ПО, связывающее WSGI-приложение с web-сервером

Это в телегам-канал по машинному обучению (ссылка под видео).

Это и есть работа нейрона: он к полученной сумме (вместе с bias (смещением)) применяет функцию активации. Полученное значение - это выход последнего нейрона. В результате, у нас всего 3 слоя: входной, скрытый и выходной.

@@selfedu_rus Точно, про выходной слой забыл, нужно внимательнее смотреть ваши ролики))

можно и другие величины, это как пример

Просто я так расположил образы, что они разделяются прямой с угловым коэффициентом k=1. Вполне могут быть другие варианты, например, с k = -1 и т.п.

selfedu спасибо

это как бы биты, они могут быть 1 или 0

Создается несколько разделяющих гиперплоскостей

​ @selfedu Значит, нейронов второго слоя будет уже 5?

@@JluMoSHa Если хотите, чтобы сеть на выходе выдавала классы принадлежности для входного наблюдения, то да, на выходе делаете 5 нейронов, обычно, с функцией активации softmax.

C1, C2 - это матрицы 2xN и хранят координаты N точек на плоскости. Конструкция C1[0][:] берет координату x, а C1[1][:] - координату y

@@selfedu_rus Если указать просто C1[0] и C1[1] вместо C1[0][:] ничего не поменяется, вроде это имелось в виду

Это вес связи, а не выходное значение нейрона.

нет, см. базу по Python

x1 это всего-лишь ссылка на np.random.random(N)

да, на функцию поступает значение W*X + B, где B - вектор смещений (биасов)

Ошибка связаная с несовпадением размерностей векторов, что вы перемножаете. А s=10, насколько помню - это размер кружочков (сокращение от size).

@@selfedu_rus спасибо! Но ведь я полностью переписал ваш код с экрана, никакой импровизации, но все-равно ошибка. Перепроверил все несколько раз уже. Сначала выдавал ошибку синтаксиса как раз в части s=10, после того, как пробежался по коду, исправил некоторые опечатки, стал выдавать ошибку размерности...

@@selfedu_rus Все, разобрался, спасибо. Вместо точки запятую поставил )

А если один из весов w отрицательный? А такая прямая нарисована как общий случай - ее поворот может быть любым!

"нейрон смещения" - это новый термин? )) смещение - один из входов и его заменить чем-либо другим нельзя и он нужен обязательно

to get a number between 0 and 1

y = 0 = x1*w1+x2*w2+x3*w3 из этой формулы все и вытекает

@@selfedu_rus спасибо, буду думать)

Подумал, дошло) Другой вопрос: здесь у нас веса омега 1 и омега 2 равны в абсолютном выражении, отличается лишь знак. Поэтому при построении функции линии через x1 = ... или через х2 = ... не влияет на угловой коэффициент. Однако если омега 1 и 2 будут иметь разные значения, скажем 2 и 3, то угловой коэффициент будет 2/3 и 3/2, разделяющие линии будут разными. Это значит...ммм обе подойдут? Или нужно всегда выражать через х2 - почему?

@@hh_english Это был лишь пример, когда нужно разделить два класса образов линией с угловым коэффициентом k = 1. Поэтому и веса эти одинаковы. В общем случае, конечно, они будут разными и это определяется в процессе обучения НС.

@@selfedu_rus спасибо!

это как? функцию активации такую взять? если так, то она не практична, т.к. уходит в бесконечность и не дифференцируема в крайних точках.

возможно, это поможет ru-vid.com/video/%D0%B2%D0%B8%D0%B4%D0%B5%D0%BE-1ET7v3ElBnk.html

@@selfedu_rus спасибо

С примерами они не очень )) Если с уровнем математики, то лучшая, на мой взгляд, среди русскоязычных - это С. Николенко "Глубокое обучение".

@@selfedu_rus спасибо)

А как сделать круг? Вот к примеру в круга и на нём это клас С1, а все что снаружи С2.

Смотри: когда ты меняешь минус на плюс как ты это сказал, то значение k=(-w1)/w2 не поменяется. То-есть по логике программа не должна ломаться, но прикол в том что меняя эти две штуки на нейронах, они станут хранить в себе другие данные. Из-за этого на выходе с нейронов тоже поменяются знаки. Ну ок, знаки на нейронах поменялись и что дальше? Значение k всеравно будет = 1. И чё? Почему все поламалось? Проблема в том, что на весах ты поменял знаки, и на нейронах останутся суммы с другими знаками. Когда эта сумма будет идти к выходу, она умножится на другие весы, но на этих весах которые стоят у самого выхода ты знаки НЕ ПОМЕНЯЛ! А они там были тоже разные. В итоге раз ты не поменял знаки, то в ответе получится та самая сумма с не правилным знаком. Из-за не правильного знака нейронная сеть класифицирует точку (допустим) как С1, но должна была сказать что это С2! Просто ты на одних весах знаки поменял, а на конечных весах не знал что тоже надо поменять. В итоге у тебя ответ наоборот получился. То-есть ты можешь поменять местами минус и плюс перед нейронами, но после нейронов тоже надо поменять!

@@user-oy7vn6mk1t вы имеете ввиду знаки равенства в функции активации?

@@kirilllevin5372 Я не знаю как вам ответить. Забросил изучение нейросетей. Подумал "Ну щас перечитаю, вспомню что написал и объясню", но фиг там. Я нишиши не понял что писал))) Как же легко все забылось

не согласен, выходной сигнал как вероятность можно интерпретировать только при логистической функции потерь (см. курс по машинному обучению)

@@selfedu_rusДа , машинное обучение только планировал посмотреть , посмотрю оценю суждение. Так или иначе , спасибо за столь качественный контент!

практику самому придумывать можно, как я, мучаясь как найти ошибку

еще как!!!

pycharm

метку времени укажите, я ж на память все это не помню где что было ))

@@selfedu_rus ru-vid.com/video/%D0%B2%D0%B8%D0%B4%D0%B5%D0%BE-t9QfcFNkG58.html

@@Rusia-16 это мы просто так генерируем множество точек для второго класса C2, чтобы они отличались от точек класса C1, вот и все

x2 = y, x1 = x => y = x

да, без разницы!

@@selfedu_rus спасибо

курс высшей математики а именно матрицы

@@user-vd2lj1nb2k А именно Линейная алгебра