Канал создан для освещения деятельности Росатома в области цифровизации и обсуждения современного развития Цифры в целом.
Цифровая стратегия корпорации, участие в построении цифровой экономики в РФ, развитие современных цифровых технологий и создание конкурентных цифровых продуктов…
#ЦифровойРосатом - это уникальные эксперты, масштабные проекты, колоссальный опыт атомной отрасли, который в новом - цифровом - качестве продолжает служить стране и человеку. #ЦифровойРосатом - это предприятия и организации Росатома, создающие цифровые решения для промышленности и вступившие в глобальную научно-техническую гонку по направлениям, определяющим будущее человечества. #ЦифровойРосатом - это сообщество, которое верит в большой потенциал Цифры и стремится использовать его на основе ценностей гуманизма: Цифра для Человека!
Всех, кто не стоит на месте, приглашаем присоединиться к нам на этой площадке! #ВремяДействоватьВместе
Скорее правильно назвать не импульсная сеть, а конденсаторная. Дендриты, аксон, телодендрии - это локальные переменные конденсаторы (вариконды). Весь нейрон глобально тоже конденсатор (вариконд), но уже побольше. Нейрон ничего не вычисляет. В задачу нейрона входит создание в своей структуре связей (варикондов) своего собственного резонанса к патерну (комбинации) принимаемых (стекаемых) зарядов на входе дендритов. Так как конденсатор при определенной частоте может становиться индуктивностью. Место где конденсатор является минимальной индуктивностью и минимальной емкостью и есть собственная резонансная частота нейрона, так сказать "не рыба не мясо". Для изменения структуры и достижения собственного резонанса всех элементов нейрона служат химические нейромедиаторы - автоподстройка всех узлов (элементов) нейрона. Сама структура, то есть параметры всех элементов у нейрона и есть память. В итоге нейрон становится селективным фильтром к определенной группе сигналов (патернов), обладая при этом небольшим диапазоном пластичности и избирательности, в зависимости от количества и частоты спайков. Ключевое слово здесь собственный резонанс, а не вычисления. То есть минимум затрат энергии ионов и максимум избирательности (результата). Другими словами смотря на изображение или слушая звук мы узнаём комбинацию резонансов данного внешнего явления на своих сенсорах, а не биты. Для этих целей служит неокортекс как база данных различных резонансов. То же самый принцип используется и для выходной информации (моторных нейронов) - короткий код (намерение), разворачивается в большой (например движение руки). Собственно входные и выходные патерны в неокортексе физически находятся рядом. И забыл добавить нейрон имеет не один выход, а дерево емкостно-индуктивных выходов итоговая комбинация которых на синапсах тоже изменчива. Использовать один выход и сигнал проходящий по аксону это уже автоматически ошибка и заблуждение. Вы спросите почему резонанс? Потому что мозг это частный случай нервной системы для адаптации всего организма к среде, то есть по итогу резонанс тела к внешней среде. Своего рода преализация дуализма частица-волна во всех физических проявлениях.
Во-первых, не очень понятны проблемы т.н. вами сверточных сетей. Надо ли полагать, что к их классу вы относите и декодеры с сотней млрд весов или это немного не так?.. Во-вторых, не кажется ли вам, что вы просто рассказываете о функциях активации вместо объяснения нюансов архитектуры? Поправьте меня пожста В-третьих, непонятно, какие задачи призваны решать подобные алгоритмы и насколько эффективно по сравнению с другими подходами это удаётся
Сверточными сетями я называю, как и принято, широкий класс нейросетевых архитектур, где нейроны с одним же и тем набором весов равномерно покрывают своими рецептивными полями массив выходов нижележащего слоя.
По 3ему... Я вроде немного затронул этот вопрос. Применения потенциально очень широкий. Сравнение - по многим задачам пока не дотягивают до SOTA в терминах точности, зато, например, сильно превосходят обычные сети в терминах энергоэкономичности. Надеюсь, что SNN будут иметь сильное преимущество в широком классе задач RL.
Спасибо за критику. Был бы еще более благодарен за конструктивную критику. Если Вы укажете на конкретные места, где неясно сформулировано, буду благодарен.
Работаю ит-инженером в нефтегазовой отрасли. Отличная лекция. Почему у канала так мало подписчиков? Удивительно! Дед строил Белоярскую АЭС. Росатому пламенный привет и всяческих успехов! Молодцы. Сына своего планирую направить учиться на атомщика.
15:06 Нет, Вы - НЕ ЗНАЕТЕ. Внутри нейронов связь осуществляется в ОБОИХ направлениях. Такое ощущение, что Вы строите свои модели, опираясь не на знания, а на слухи 50 летней давности. Ребята, Вы так далеко не продвинетесь.
11:05 Да как же не имеют... импульсы очень сильно различаются, и они имеют И длительность, И частоту, И амплитуду, И даже дискретное кодирование, то есть могут иметь рисунок, очень похожий с битовым преставлением данных.
Про частоту речь не шла. В некоторых исключительных случаях импульсы действительно различаются по амплитуде и продолжительности, но это скорее исключение. Поэтому в лекции употреблен оборот "как правило".
10:24 Ой как Вы ошибаетесь, там есть целый ряд механизмов, позволяющих выполнять локальные и глобальные синхронизации. При чем некоторые из них давно обнаружены, Вы явно не следите за темой. НО, если бы не было синхронизации, то не было бы и мозговых волн. Уже исходя из этого можно было понять, что синхронизации в мозге есть.
9:05 Вы ошибаетесь, память не размазана по состояниям связей, и более того - у мозга есть отдельное огромное хранилище данных. То, что Вы его не нашли, еще не значит, что его не существует. Другой вопрос, что доступ к этой памяти осуществляется по огромному количеству шин и со значительно превышающей электронные системы скоростью.
Виталий, приглашаю продолжить диалог в тг (ссылка на последнем слайде). Некоторые Ваши комментарии весьма провокационны, было бы интересно послушать на кого Вы ссылаетесь.
4:20 Кэши занимают столько площади только потому, что быстрая статическая память требует намного больше вычислительных элементов и, соответственно, - площади, чем динамическая. Кроме того, чистая динамическая память организовывается в многослойных массивах, в то время как статическая - только в однослойном.
Начать стоило с разработки теории Нейронных Сетей. А пока ее не существует, невозможно разрабатывать никакие адекватные модели. Без полноценной теории так и придется дальше действовать методом научного тыка...