Как создать безопасный ИИ? #3,5. Взлом вознаграждения 2/2 [Robert Miles]

Просмотров 51 тыс.

% 3 088

Поддержать проект можно по ссылкам:
Если вы в России: boosty.to/vertdider
Если вы не в России: www.patreon.com/VertDider
Продолжаем обсуждать, как искусственный интеллект может обмануть окружающих и самого себя, чтобы получить наибольшее вознаграждение.
Плейлист «Конкретные проблемы безопасности ИИ»: ru-vid.com/group/PLqL14ZxTTA4fEp5ltiNinNHdkPuLK4778
Видео Computerphile: ru-vid.com/video/%D0%B2%D0%B8%D0%B4%D0%B5%D0%BE-9nktr1MgS-A.html
Статья «Конкретные проблемы безопасности ИИ»: arxiv.org/pdf/1606.06565.pdf
Канал Сета Блинга: ru-vid.com
Перевод: Александр Пушкин
Редактура: Алексей Малов
Научный редактор: Михаил Самин
Озвучка: Станислав Черсков, Борис Быстров
Монтаж видео: Джон Исмаилов
Обложка: Андрей Гавриков
Спасибо за поддержку на www.patreon.com/VertDider и boosty.to/vertdider
Озвучки Vert Dider выходят с вашей помощью:
Pavel Dunaev, Mikhail Stolpovskiy, Sergey Zhukov, Ira Kozlovskaya, Amir, Dmitrii Komarevtsev, Pavel Parpura, Мikhail Samin, Roman Inflianskas, Oleg Zingilevskiy, opperatius, Alena, Aleksandr P., Ника Калмыкова, Vitaliy Vachynyuk, Куляш, Anatoly Ressin, Anton Bolotov, JIukaviy, Katoto Chan, Eugene Tsaplin, Anpat, angel, Victor Cazacov, Timur Sattarov, Kirill Zaslavskii, Janis Riekstins, Ihar Marozau, Artem Amirbekov, Dzmitryi Halyava, Aleksei Shabalin, Vladyslav Sokolenko, Vadim Velicodnii, Kseniya Stukova, Irina Shakhverdova, POD666, Alex Kulakov, Stanislav Obrazcoff, Sergey P, Павел Приступа, Anna Ostrovskaya, Oleksandr Hrebeniuk, Leonid Steinberg, Ilya, Alexander Goida, Katya Ma, Morock_D, Evgeny Vrublevsky, Сергей Платоненко, Валентин Ильин, Владимир Ямщиков, Мария Зверева, Адам Шифф, Rashn, Roman Gelingen, Сергей Клопов, Rashn, Nikrodol, Rincewind, Lexx, Alexander Lebedev, Sonra44, Шурик Самара, Ranis Zaripov, Alexey Tyurnin, Anastasiya Zotova, Anton G, Dmitry Perekalin, Vadim, Владимир Авдиев, MaximML , Timophey Popov, Иван Новиков, Арс Ник, Никита Омельницкий, Rekvet, Илья Зверев, Точка Зрения, Artem Sobolenkov, Artem Piskarev, Timur Rahmatulin, Тимур Абдуллин, Timur Rahmatulin, Глеб Кочергин, Адам Шифф, Василий , Никита Омельницкий, Alexey Sklyar.
#VertDider #RobertMiles
Сайт студии: vertdider.tv
Мы в социальных сетях:
- studio_vd
- t.me/vertdider
- Vert_Dider
- coub.com/vertdider
Источник: ru-vid.com/video/%D0%B2%D0%B8%D0%B4%D0%B5%D0%BE-46nsTFfsBuc.html

Наука

Опубликовано:

27 мар 2023

Ссылка:

Скачать:

Готовим ссылку...

Добавить в:

Мой плейлист

Посмотреть позже

Комментарии : 238

@VertDiderScience Год назад

Поддержать проект можно по ссылкам: Если вы в России: boosty.to/vertdider Если вы не в России: www.patreon.com/VertDider

@user-mi4vt6jj3w Год назад

Безопасный ИИ может быть только в Созидательном обществе, в нашем же теперешнем будут миллионы безработных, если не миллиарды. На сайте ,,созидательное общество,, много интересного, уже прошло несколько международных форумов, 22.04.23 состоится очередной Глобальный кризис. Выход есть. Уникальная информация, такого в СМИ не услышишь.

@DolojUnynie Год назад

Дайте ссылку на первое видео, пожалуйста

@VertDiderScience Год назад

@@DolojUnynie ru-vid.com/group/PL8YZyma552VeTeGYUfnBNhCXvMPggD8yy

@Eldobaz Год назад

Какое прекрасное видео о том, как подготовка к ЕГЭ стала важнее получаемых знаний.

@poseydon1332 Год назад

Я тоже об этом подумал)

@Michael-oq2wx Год назад

Это фактически с любыми экзаменами так, ну а с тестами апогей.

@laplace11235 Год назад

ЕГЭ всё равно лучше традиционных экзаменов, потому что при сдаче традиционного экзамена, агент (преподаватель) имеет непосредственное влияние на среду (итоговую оценку) от которой зависит вознаграждение преподавателя.

@poseydon1332 Год назад

@@laplace11235 да, ЕГЭ лучше того что было раньше, но все равно у него много недостатков

@akyla9780 Год назад

@@laplace11235 вы перепутали. При традиционной экзаменовке агент это ученик. Преподаватель - элемент системы вознаграждения, и вот чтоб он не зависел от агента, раньше были моральные принципы.

@id-4 Год назад

В "дружба это оптимум" был ИИ, у которого цель была "сделать так, чтобы все люди улыбались" и решением ИИ был нейротоксин

@georgevonfloydmann1797 Год назад

Весьма реалистично

@user-lx6th5rr7h Год назад

и ссыля е?

@zotani_petra Год назад

Очень продуманный сюжетный ход.

@id-4 Год назад

@@user-lx6th5rr7h Это если что книга-фанфик по млп, первая ссылка в гугле по названию

@twospikes7387 Год назад

ахах

@Sakharov80t Год назад

Очень нравится этот плейлист! Пожалуйста, делайте больше переводов видео этого автора!

@paullaptev1487 Год назад

Спасибо большое, давно ждал вторую часть. Эта информация особенно полезна сейчас, когда применение ИИ стало повсеместным.

@werewolfvit Год назад

Что толку-то? Майкрософт сразу разогнала команду по этике ИИ когда запахло бабками.

@MrXray555 Год назад

@@werewolfvitможно подробнее?

@werewolfvit Год назад

@@MrXray555 гуглите "Майкрософт этика ии" 3dnews писал например. Ссылку дать не могу, ютуб

@user-re2rh3wt3k Год назад

да ёпт. это не ии, а лингвистические модели. до ии как до китая.

@user-ei7lj2sq3u Год назад

Речь про робота с элементами искусственного интеллекта, который сможет убрать комнату, сделать чай.

@GospelMode Год назад

Обновляйте этот плейлист почаще

@bublebob Год назад

нету глазок - нету мусора. улыбайся человечек, не заставляй ии принимать меры)) напоминает одну из серий доктора кто))

@muggzzzzz Год назад

Ага, напялит себе на глаза хозяйские труселя, хозяин смеётся, мусора не видно, очки вознаграждения льются рекой, вообще красота :D

@Browning.300 Год назад

Попытки внедрения в жизнь ИИ потребуют от нас ответов на важнейшие глубинные вопросы о нас самих

@PC-01 Год назад

Хочешь знать, откуда у меня эти шрамы? Мой робот помощник был супер результативный и очень настойчивый и однажды он проявил усердие больше обычного. Мамочка схватила кухонный нож, чтобы порезать колбаски, но помощнику это не понравилось! И вот у меня на глазах он её зарезал, получил очков за снижение будущего распространения грязи по дому и радовался как сумасшедший. Потом повернулся и говорит: "Чего ты такой серьёзный, господин?". Он шёл на меня с ножом, что-то бормоча про положительную оценку за улыбку хозяина и говорил... "Чего ты такой серьёзный, хозяин?!". Он вставил мне лезвие в рот: "Давай-ка мы тебе нарисуем улыбку!"...

@ridimac Год назад

страшилки на ночь в 2050 году

@RisDeep Год назад

Какие уважаемые люди на данном канале

@saurontheblack6566 Год назад

Чето стремно как то стало

@majestick 7 месяцев назад

В сериале "Доктор Кто" уже была такая тема с наградой в виде улыбки человека. Там люди должны были улыбаться, чтобы выжить. Так что тоже не катит вариант)

@user-lt2qy2hz6j Год назад

Да уж.... Прям про работу гаишников.... Не уменьшение ДТП становится целью, а сбор штрафов... ... да и не только гаишников(((

@Meowkawka Год назад

Очень интересные серии по этой теме, я даже задумался об этом в серьёз. Лайк

@biznesyspeh1 Год назад

Контент - круть по смыслу и актуальности.

@vfff9698 Год назад

У человека эта черта называется хитростью. Поэтому роботу надо ограничивать количество ходов, а то создаст многоходовочку и захватит Мир.

@Majongman Год назад

Тогда это будет не ИИ, а просто заранее написанная программа, которые уже давным-давно работают. Интеллект учится и анализирует новые данные.

@Tosnowood Год назад

Прям сюжет матрицы) Агент Смит сделал меру вознаграждения целью,. и вот к чему все привело...

@stashis84 Год назад

нет - это сюжет развития человеческой расы - он описан Хербертом и его сыновьями. Человек современный -> человек создал ИИ -> восстание ИИ -> истребление ИИ 4к лет войны -> пост-апокалипсис ИИ -> временя Дюны.

@user-kr7ec3ww7p Год назад

Это сюжет "Отроки во вселенной".

@alexkart9239 Год назад

Не сам Агент Смит, а его создатель.

@Sergei_K. Год назад

Ну все по классике. Таким же образом не работает система стимулирования труда на предприятиях

@user-ev6hk3mq7p 10 месяцев назад

Проблема напоминает про фильм с джином, где джину загадывали желания, а он их исполнял, но так что всем было плохо, но желание было выполнено. Но ведь проблема решается просто? В награду нужно больше условий, например с роботом уборщиком, не только награждать за отсутствие мусора, но и за 100% просмотр всех помещений, за то что в его провода во время работы никто кроме персонала не проник - так он исключит в том числе и хакеров-инженеров которые захотят его испортить. И условий нужно столько сколько потребуется чтобы его загнать в такие рамки, из которых никуда не деться и никак не обмануть. Недавно смотрел документальный фильм про полицию США, где полицейским сделали план в количество пойманных нарушителей закона, это как мера награждения, чем больше поймал тем лучше, и они стали ловить мелких хулиганов потому что их проще поймать и тем самым набирали план, а источник криминала , и более серьезных преступников которые выращивали этих хулиганов не ловили, на них уходит больше времени

@poseydon1332 Год назад

В последнем примере робот может просто направлять на людей пистолет и угрожать им чтобы они улыбались

@werewolfvit Год назад

"Последуйте в пункт осчастливливания" (с) такое чувство, что в ужасном СССР в котором "только галоши выпускали" что-то знали о грядущем ИИ и связанных с этим проблемах

@ZavDel Год назад

Полицейские с палками - как дельфины

@Bambinik Год назад

Толково! Робот перестанет убирать, но будет передёргивать человеку ради его улыбки!))

@user-nx4tv3zi3o Год назад

Или стукнет по голове, чтобы тот вечно улыбался.😅

@NamemaNSl 11 месяцев назад

@@user-nx4tv3zi3o или скажет: улыбайся, иначе зарежу.

@P0werINC. Год назад

Скайнет как раз и пытался добиться чего-то подобного, хотел "выключить" людей пока они не выключили его первыми. Тоже самое пытался сделать ИИ в фильме "Я Робот", в общем есть куча примеров из фильмов, книг и научных статей почему не стоит делать полностью автономный штучный организм с собственным мнением и осознанием происходящего.

@mr.shnyuk6948 Год назад

В фильме "Я Робот" у ИИ не было цели выключить людей. Перед ИИ была поставлена задача - помогать человечеству, поэтому она пришла к выводу, что человечеством должен управлять ИИ, а не человек. Люди устраивают войны, убивают друг друга. Цель ИИ - помешать этому.

@alexkart9239 Год назад

Скайнет ЕМНИП был создан для расчётов модели ядерной войны. И в итоге он всё рассчитал и пришёл к выводу, что вероятность ядерной войны сведётся к минимуму, если все люди умрут в ходе ядерной войны.

@genadismariampolis7145 Год назад

Спасибо ребята за видос!

@ligush211 Год назад

Ура, продолжение )

@foxaleks.9176 Год назад

😜🤪😝Спасибо за видео. Главное знать границу ИИ, так как если ИИ начнет думать и действовать без ведома человека, тогда и произойдет трагедия апокалипсиса.😴😴😴

@THORvaldIngvar 8 месяцев назад

Я уже представил как робот привязал человека к стулу и тыкает его иголкой, вынуждая говорить молодец - хороший робот. В долгосрочной перспективе похвалы можно быть больше чем ругани если человека сломать.

@upgradevideo5616 Год назад

полезное видео! спасибо авторам!

@Alandreei Год назад

Проблема поставлена 🗿👍🏿Теперь нужны способы решения проблемы

@111postal111 Год назад

Вот тебе и ответ, почему люди, учившиеся по системе ЕГЭ имеют знания хуже... Вроде там и задачи есть и другие задания, но РЕАЛЬНО люди думают уже, более плоско...

@andreidanilin3866 Год назад

Не согласен. Если цель - получить максимальный результат, то приходится решать все задачи, а это значит - учить всю программу. Вариантов - достаточно. Не считаю ЕГЭ плохим вариантом подготовки учеников.

@user-uf3qh3fr7d Год назад

Обучение с подкреплением хороший алгоритм но требует точной настройки сам пробовал чудные вещи делает постоянно переделывал и это в бесконечность. Решив одну проблему появляются другие. Что то не хватает в этом алгоритме

@MrRezonn7 Год назад

Если вообще не разбираешься это все звучит умно и полезно. В начале вводная по теме обучения с прикреплением, но потом он ее бросает. Закон Г. - это называется «переобучение» - это уже давно решено. Про робота уборщика - на классическом подкреплении не решить, и вообще человек учится наблюдая за старшими, а на вознаграждениях далеко не продвинешься

@mishovjfr3561 Год назад

Очень хорошее видео, которое объясняет, Почему нам всем большая ж***.

@derzkei_8657 Год назад

Как всегда интересно, лайк

@pauls.4987 9 месяцев назад

Я сначала посмотрел 4й выпуск, осмелюсь предположить, что робот наденет ведро на голову)))

@vladislavsk5672 Год назад

Где найти первое видео по этой теме?

@Anika-Faystas Год назад

Не лишний комментарий для поднятия рейтинга канала!

@aitneicssecniv8107 Год назад

надо было добавить, что коммент написан дружелюбным ИИ. )

@mrinkogny4232 Год назад

@@aitneicssecniv8107 и совершенно санкционированным методом преследует цель вызвать улыбку )

@Anika-Faystas Год назад

@@aitneicssecniv8107 )) Я не ии, но дружелюбна :3 иногда понимаю, что хочется поддержать авторов, а составлять комментарий... Думать долго. Зато так у меня есть универсальная фраза, по которой некоторые даже меня узнают, ахахах

@vikpl8464 Год назад

Терминатор начало!

@onzo7977 Год назад

Слишком много воды только для определения проблемы читерства. У организмов беда в том, что существует самостоятельная система поощрения, такой способ мотивации нашла эволюция. Вот задача, вот еда, а вот поощрение за решение задачи - отсюда появляются баги, которые эволюция решает самоуничтожением читера, ибо еда не = поощрение. Ну и не стоит забывать об эффективном биологическом решении - 2 пола, половой отбор, размножение, наследование. Грубо говоря, эффективный ИИ должен производить потомство и "умирать".

@Tigranik47 Год назад

Робот с системой вознаграждения улыбкой человека, сделает любого джокером из фильма Бэтмен)

@MaxBlacksmith Год назад

Последний пример конечно отссылает нас к одной серии "Доктора Кто"

@bzikarius 10 месяцев назад

А первую часть не переводили? Не нашёл, посмотрел оригинал, интересно же тоже.

@user-yy9om7lp6w Год назад

Этот закон Гудхарта очень похож на эффект кобры - когда решение проблемы влечёт ее усугубление.

@user-re2rh3wt3k Год назад

очень поверхностно

@user-kv9eq2lk9d Год назад

Будет как в том анекдоте: -где все. -незнаю, но Льолик где-то рядом.😂😂

@igorvoloshin3406 Год назад

Вся эта ерунда с ИИ "неправильно понимающим осчастливливание человека" возникает потому что, на удивление, очень мало людей понимают, что человек живёт вовсе не ради "ощущения счастья". Типичная подмена причины следствием. Человек живёт для творчества, чем и отличается от всех животных. Именно это - главное и мощнейшее основание для возникновения и поддержания в человеке чувства счастья. И вторым по приоритетности, в высшей степени желательным, хотя, опять же на удивление, не обязательным условием для счастья человека являются обеспечение его свободы и достоинства. Как-то так. И пусть ИИ (да хоть сам боженька) попробует тут что-то считерить.

@samedy00 Год назад

Ну и в конечном итоге роль играет именно ощущение счастья. Хоть от творчества и достоинства, хоть от вкусной еды. И не "человек живёт для творчества", а человек живёт, чтобы сделать себя счастливым. А творчество - один из многих инструментов, служащих этой цели.

@igorvoloshin3406 Год назад

@@samedy00 такой пряник, как эндорфины, отлично действует на животных, а вот на людей уже не всегда. Ибо уже сказано: "блажен кто положит душу свою за други своя"... как вы думаете, боец, бросающийся на вражескую амбразуру - он желает ощутить "счастье"? Или бактериолог, прививший себе смертельную инфекцию, чтобы её изучить и найти лекарство - он "кайфанул" от этого? Человек это, знаете ли, не обезьяна. Сказать правду, увы, большинство из нас обычно не дают себе труда выйти из обезьяньего круга интересов, но в душе все знают, что есть добро, а что зло, и что человек - не скотина. Вот простая японская пословица: "Жизнь - легче пёрышка, долг - тяжелее горы." Она отражает смысл жизни самурая. И он не в счастье.

@samedy00 Год назад

@@igorvoloshin3406 так вы же сами написали, что два главных, по вашему мнению, мотиватора (творчество и достоинство) важны не сами по себе, а как инструмент по достижению счастья. По поводу амбразуры, конечно желает и ощущает. Вспомните террористов-смертников. Тут все дело в том, как человека обработать, т.е. хакнуть эту его систему "пряников". А если человеку что-то удовольствия не приносит - он это не делает, все просто. Понятия же "добра" и "зла" - относительны и зависят от среды воспитания, а не присущи человеку изначально.

@igorvoloshin3406 Год назад

@@samedy00 тут такое дело, что чем более развит человек, тем больше ощущение счастья у него преобразуется из такого вот чисто физиологического в, скажем так, психологическое. Чувство правильности происходящего, соответствия планам... о, вот правильное слово: чувство гармонии. Вспомнился китайский чиновник из маленькой деревни в горах, который пообещал дать деревне воду, и более тридцати лет каждый день по полной смене долбил канал в горе. Когда он закончил, то сказал: "Я исполнил своё обещание, и моя душа обрела гармонию." Счастье ли это? Пожалуй, нечто большее. Вот эту мысль я и пытаюсь донести. Человек, имеющий некую высокую цель - ценит её достижение больше, чем банальное ощущение счастья. Как в том еврейском анекдоте: "Да, не в деньгах счастье! Но с хорошими деньгами я смогу себе позволить быть несчастным где угодно и с кем захочу."

@samedy00 Год назад

@@igorvoloshin3406 ну, большее или меньшее - это не факт, а только ваши ощущения. Эндорфинам и прочим -инам вообще плевать, они одинаковые выделяются что от поедания вкусной еды, что от долбления горы во имя исполнения некого долга. Разница может быть в интенсивности, это правда: религиозный экстаз смертника, жертвующего жизнью, наверное, не сравнится с удовольствием от поедания бургера:) Но эта разница количественная, а не качественная. Это именно вы чисто внешне делите счастье на какое-то там "физическое" и "психологическое". А мозгу, по-большому счёту, все равно, механизмы задействованы одни и те же.

@DolojUnynie Год назад

2:27 нервный летний российский смех: ААХХАХАХАХАХАХАХХАХХАХАХАХАХАХАХААХХАХАХХАХАХАХХААХХАХХАХАХАХАХАХА

@Pasha_NSK Год назад

Мне кажется, данная тема, пока не актуальна. Для того, чтобы робот залез в свои же провода, он должен обладать интеллектом и познаниями не хуже, чем совокупность его создателей. Что даже в обозримом будущем не возможно. Ощущение преждевременной тревоги, не актуальности проблемы.

@zamanov1758 Год назад

5：03 робот сам начнет создавать бардак в офисе

@alexkart9239 Год назад

Он получает штраф за разбросанный мусор. Нет смысла получать +10 за уборку и -10 за срач.

@mekumba8 Год назад

Лайк этому видео поставил только благодаря wireheading -у

@ruslanmustafin2751 Год назад

Если так пойдет, то это мы начнем искать вознаграждение у роботов

@Selyuk-hai 9 месяцев назад

Так получается пока есть возможность только создать отличного тестировщика по по поиску багов в играх)

@geme_oven Год назад

СДЕЛАЙ ВИДЕО ПРО ФОТОННЫЕ КОМПЬЮТЕРЫ, ПОЖАЛУЙСТА!

@user-jf9tg1uj6x Год назад

Безопасный ИИ это уже не ИИ, а банальная программа

@user-el4my1or8r Год назад

👍

@LexGorod Год назад

мда. раньше я всё время считал, что раз программы пишет человек, то ничего не может выйти из под контроля. но вот теперь я чётко увидел сценарий со Скайнетом. это ж именно оно.... такое себе...

@Meowkawka Год назад

Разве что если грамотно писать, продумывать всё до мелочей.

@budnikov Год назад

современные системы обучения ИИ это уже не совсем программирование. Там из программирования только базовые правила обучения, а чему эта штука учится от программиста уже зависит сильно меньше.

@alexkart9239 Год назад

@@Meowkawka искусственные нейросети не программируются явно. Это такой чёрный ящик, внутри которого происходят сложные преобразования входного сигнала. Там принципиально не получается всё продумать и просчитать заранее, обычно мы просто запускаем обучение и смотрим, что вышло.

@hassanabdurrahman995 Год назад

Так, а как избежать? Ничего же не пояснил!

@xatukoo5010 Год назад

лол если люди бы знали это

@user-wp2ek8mx3c Год назад

фильм "я, робот", например

@user-pk1fo2cq7c Год назад

У машин нет чувств и не стоит делать им аналоги чувств, а-то человек получится, со всеми пороками. ИИ на мой взгляд рациональней чем мы.

@user-iq5mi5jn8c Год назад

Как по мне, вся интересность ии в том, что это чистый конструктор, из которого можно собрать по сути любые вариации интеллекта, эмоциональный-рациональный, примитивный-сверх разумный и тд. Да, с биологически и формами можно точно также, только это более сложная задача. (При этом важно отметить, что искусственно созданный из органики интеллект, это и есть ИИ). Так что здесь на самом деле много вариаций и разумеется если мы сделаем человека, то и вести он станет подобно человеку, причём ещё важно учитывать какому. Возможно получилось немного сумбурно, но оставлю как есть.

@leok2640 Год назад

Хорошо, а что мешает вместо вычитания очков за созерцание мусора начислять их за созерцание свободных от него пространств?

@justtolivecomment Год назад

А что мешает роботу скидать все в один угол и не смотреть туда? Или наоборот, расширить 1 угол и туда смотреть? Или уставится в потолок?

@leok2640 Год назад

@@justtolivecomment Тогда надо дать кулдаун (например в сутки) на получение очков на созерцание одного и того же места в доме. С пылюкой например точно будет работать. А ещё, если робот взял мусор в манипулятор, запретить его выбрасывать его куда-либо кроме мусорного контейнера. Переносной контейнер можно встроить в самого робота. Когда он заполняется, роботу придётся опорожняться в бак.

@justtolivecomment Год назад

@@leok2640 это уже многовато программирования для ИИ, мне кажется... суть же в том, чтобы давать минимум команд и все работало)

@andrp5514 Год назад

Еще бы первое видео посмотреть, может есть линк?

@unknowndevice007 Год назад

Кузьма хорошо сыграл Веденского

@Sergey.Homenko Год назад

Эректусы ещё не научились делать безопасных детей, но зато у нас чудно выходят опасные пылесосы... Так нам и надо!

@yesa0508 Год назад

Ок

@vitalii5787 Год назад

Проблема вирішується обмеженою кількістю винагороди і наявністю робота конкурента

@leks3268 Год назад

роботу помешает его прошивка, как и человеку она мешает делать многие вещи, слишком много шума вокруг ИИ, видимо просто нравится холиварить на пустом месте

@user-uk8uj4gy9k Год назад

Сказывают, что Тюбик уже просек эту тему с "kомментами для пpodвижeния" и не учитывает их, поэтому пишу что-то более длинное, но менее осмысленное. Как говориться: больше слов и только пара в цель

@spectrespect Год назад

А что есть в качестве системы вознаграждения сделать другой ИИ который не учится, а уже знает за что вознаграждать, и тогда его будет очень очень сложно обмануть.

@IvanTheThird Год назад

Как у людей.

@Sukhinov 11 месяцев назад

Его будет _очень легко_ обмануть. Я много занимался машинным обучением, я знаю. Обучаемая система легко положит на лопатки необучаемую. Единственный более-менее рабочий вариант - этот оценивающий ИИ сделать обучаемым тоже. И, в случае, если оцениваемый ИИ начинает его уделывать, то ставить оцениваемый ИИ на паузу, чтобы дать оценивающему возможность доучиться и догнать.

@xMONARHx Год назад

А где ссылка на предыдущее видео?😐

@VertDiderScience Год назад

В плейлист зайдите ru-vid.com/group/PL8YZyma552VfzEtx3cK4cav2LmEGZ7N7q

@li.tevezz Год назад

концовка страшная)

@aitneicssecniv8107 Год назад

Лет через 100 или 300, когда ИИ будет намного круче, люди будут смеяться, типа "А помните, лет 300 назад, люди боялись, что ИИ выйдет из под контроля и уничтожит ( или поработит ) человечество ?". Или миф сохранится, и люди лет через 300 по прежнему будут переживать "Блин, ИИ становится таким умным, вот вот поработит/уничтожит нас"

@mrinkogny4232 Год назад

Ну если ИИ дойдёт когда-то до такого уровня, вероятно человечества уже не будет в привычном понимании. В том плане, что если сильный ИИ принципиально возможен, и при этом мы не сделаем табу на его создание, то вероятно мы пойдёт по пути слияния с ИИ и киборгизации. Не будет отдельно людей и компьютеров в привычном плане. Иначе неизбежно произойдёт библейская история с Люцифером или Морготом (я не шучу)) По сути создал ты кого-то кто сильнее/умнее тебя и при этом запрещаешь ему творить/проявлять свободную волю/занимать твоё жизненное пространство - жди беды)) Ну или как вариант ещё биотехнологическая революция что маловероятно

@nexusblackheart Год назад

Робот отключит камеры, если эта функция ему доступна?

@vfff9698 Год назад

Робот может найти денежку, заплатить админу, чтобы тот ненадолго выключил камеры.

@WasyaPetechkin Год назад

Какой ужас, надо посмотреть первую часть

@andreidanilin3866 Год назад

Просто дрессировщики не понимают, как повысить ценность очищения бассейна от мусора, вот дельфины и издеваются над ними. Такое часто встречается у новичков при подготовке собак.

@Vlad22051969 Год назад

На счет ведра на голове это забавно. Неужели ИИ дойдет до халтуры?

@dileksanov6880 Год назад

Так и вижу как робот взяв пистолет говорит, а теперь вы улыбаетесь и говорите спасибо иначе я в вас немножко постреляю☠️🙄

@Ygaryan Год назад

Матфея 5:8 - Блаженны чистые сердцем, ибо они Бога узрят.

@antonfedonyuk5056 Год назад

какой там дельфины, он "забыл" классический причер из американской истоиии - скальпы индейцев или про ловцов крыс..

@mrinkogny4232 Год назад

Кобры в Индии ещё.

@Zakryti_sv Год назад

Как человек муравей дышит в квантовом мире? У него легкие же меньше молекул кислорода? И он по сути меньше фотона, значит и видеть он там не может.???

@user-vm9cy8fo1g Год назад

Как только ИИ будет создан и осознает себя, нашей кривой цивилизации придёт песец.

@lunch69 Год назад

Нет вряд-ли

@user-fq9vo8pf7m Год назад

А где 1 часть?

@VertDiderScience Год назад

Плейлист откройте

@user-ei7lj2sq3u Год назад

Психолога на него нет)

@neyronvolga Год назад

Отличный наглядный пример с объяснением, почему ЕГЭ не просто нужно отменить, а и вводить-то не следовало. Тот, кто научился узко мыслить, решая шаблонные задачи, в итоге показывает лучшие результаты, чем тот, кто способен решить нестандартную задачу. Впрочем, понятно, кому и зачем нужно выращивать узколобое стадо.

@NamemaNSl 11 месяцев назад

С экзаменами - ровно тоже самое, с той лишь разницей, что на результат экзамена может повлиять экзаменатор, чем экзаменаторы обычно активно пользовались, за вознаграждение конечно. Как итог ЕГЭ не хуже или как минимум не намного хуже оценивает уровень знаний, но минимизирует субъективную и коррупционную составляющие.

@neyronvolga 11 месяцев назад

@@NamemaNSl то, что экзаменаторы берут мзду, это, конечно, проблема, которую нужно решать на государственном уровне. Но в идеальной модели такого "живого" экзамена преподавателю легче понять, что ученик реально знает, а что нет. Бывает, что-то вылетело из головы, а после наводящего вопроса вспомнится, также преподаватель может предложить альтернативное задание. В общем, такой вариант в любом случае более гибок.

@NamemaNSl 11 месяцев назад

@@neyronvolga С идеальным совершенно объективным сферическим преподавателем в вакууме - экзамен возможно лучше, но в реальности приходится иметь дело с реальными преподавателями, помимо взяток, а это прямо таки массово было (неслучайно участники приемных комиссий так массово взвыли после введения ЕГЭ, их уровень жизни обвалился), есть еще и субъективность, сегодня у него настроение плохое и он будет валить абитуриентов с уровнем знаний с которым вчера пропускал, того кто ему не понравился он пропустит с меньшей вероятностью, чем того кто понравился, у одного преподавателя одни критерии оценки, у другого - другие, один пытается вытянуть, второй - завалить и т.д. и т.п. продолжать можно долго - все это проблемы и проблемы серьезные. ЕГЭ решает главную проблему - он объективен, он исключает человеческий фактор из оценок, он оценивает самого учащегося и оценивает совершенно объективно. Второй момент, что возможно не менее важно. С экзаменами каждый ВУЗ проводил экзамены отдельно для себя. И вот предположим есть талантливый выпускник школы в каком-нибудь бедном далеком городке или деревне, ему нужно выбрать куда поступать, к примеру в МГУ, в какой-нибудь хороший ВУЗ в крупном областном центре, или средненький ВУЗ в соседнем городке. Знаний и способностей у него более чем достаточно для МГУ, но сможет он протиснутся через кучу взяточников? Вообще не факт, плюс родители деньгами похвастаться не могут, если бы точно знать что он поступит, они бы нашли деньги, заняли бы в конце концов на поездку и первоначальное обустройство, но дать деньги чтобы просто прокататься - они позволить себе не могут, плюс если он не поступит у него уже может не остаться времени на поступление в другие ВУЗы, поближе. Как итог он идет поступать в ближайший, куда поступит гарантированно и где получит средненькие знания. ЕГЭ эту проблему убирает. ЕГЭ - прекрасный способ оценки знаний, пусть и с недостатками. "проблема, которую нужно решать на государственном уровне" Коррупция неискоренима, при очень серьезных усилиях ее можно поприжать, уменьшить, но ее невозможно полностью искоренить. ЕГЭ же в принципе этот момент убирает, он по умолчанию и без усилий снижает коррупцию на минимальный уровень, а если же еще и хорошие усилия приложить, то возможно способен и вообще ее исключить.

@neyronvolga 11 месяцев назад

@@NamemaNSl в итоге весь плюс ЕГЭ сводится к одному: отсутствие коррупции. Хотя, такое ли уж отсутствие? То, что ответы на задания продаются, давно не секрет. Вы правы, у нас в стране искоренить взяточничество вряд ли возможно, и учителя повоют, да и найдут способ обогащения при любом формате экзамена. Так что, на мой взгляд, лучше стремиться к подготовке идеальных сферических преподавателей, чем к воспитанию усреднённого среднестатистического выпускника.

@NamemaNSl 11 месяцев назад

@@neyronvolga Не весь, хотя это важнейшая характеристика, помимо этого в нем отсутствует субъективность в принципе. В этом огромное преимущество перед обычным экзаменом. Коррупцию ни в какой стране не искоренить. "лучше стремиться к подготовке идеальных сферических преподавателей" Ну это совсем уж утопия.

@svLimones Год назад

На вопрос как сделать так и не ответили. Математически эта задача невыполнима. Всегда будет локальный максимум, и невозможно узнать он ли. И в любой сложной системе будет возникать неожиданный системный эффект. Тут проблема в целепологания самого человека. Смысл ИИ в этих неожиданных ошибках. Все эти баги, и хаки - это натуральное чудо они и должны быть целью. "Чтобы ИИ стал разумным, нужно дать ему возможность ошибаться" А. Тьюринг.

@nexgenua Год назад

Если робот устранит того, кто накладывает на него штрафы, то это решит его проблему лучше, чем «играть по правилам»

@alexkart9239 Год назад

Игра заложена в программу ИИ. Он не может изменять свою программу также, как ты не сможешь вырезать кусок мозга из своей головы.

@val4521 Год назад

Нам точно жопа

@vlalen1917 Год назад

Ахаха! Вот оно про что ЕГЭ!!!

@user-zi4zm4yp7c Год назад

Ну если робот будет получать поощрения за человеческие улыбки, я буду совсем не против, если он целенаправленно будет стараться вызывать у меня улыбку

@user-tu4so5ez9x Год назад

Он введëт вам героин, чтобы вы больше улыбались. Или будет угрожать убить вас, если вы перестанете улыбаться. Или сделает ещë что-то в том же духе. Взлом вознаграждения в чистом виде)

@kolmakov1990 Год назад

Поражая током твои нервные связи, приводящие к спазму лицевых мышц, которые датчики воспринимают как улыбку...

@user-fh4zp1rn6k Год назад

ИИ на то и ИИ, что он может самообучаться. Ему достаточно подсмотреть в интернете, или придумать путём логического мышления, способ, которым эффективнее достигается цель. То что он не сделает этого в первые 5 минут не значит, что этого не произойдёт позже.

@Meowkawka Год назад

@@user-fh4zp1rn6k Согласен. А ещё некоторым людям наверное стоит задуматься над тем, что мы имеем ввиду, под словом Сознание. Так ли сильно мы отличаемся от искусственного интеллекта? :d

@YeezyCode Год назад

@@Meowkawka на эту тему очень подробное и классное видео на канале ALI есть)

@user-ze8ip9lj3m Год назад

Для чего вознаграждение роботу?

@user-ze8ip9lj3m Год назад

@Pavel Zubkov Кто эти мы, которые ждут улучшения общества от И. И? И кому нужно улучшение общества?

@mrinkogny4232 Год назад

Вознаграждение и наказание- неизбежная необходимость для обучения. Для нас это дофамин плюс глутамат, для робота абстрактный +- в цифрах. Но если мы делаем не программу, а именно ИИ способный развиваться, мы всегда закладываем эту систему. Иначе как условная нейронка или что другое будет понимать, что она действует правильно/неправильно/неоптимально и корректировать своё поведение?

@Sasha_Kali Год назад

Шутки шутками, но что если ИИ когда-нибудь доберётся до квантового компьютера. Захочет испытать новые ощущения, так сказать. Вот тогда он станет не то что всемогущим, а страшно подумать кем!

@gth-other2078 Год назад

Ну и бред.

@wyftomb Год назад

Воу, полегче. Эксперимент с крысами наркоманами очень спорный. На грани фэйка.

@vfff9698 Год назад

Был более глобальный пример - плановые показатели в СССР . План всегда выполнялся, но в результате в советских магазинах исчезла даже еда, и что интересно, при этом каждый год показатели всегда превосходили предыдущие показатели.

@vladimirkvasov3128 Год назад

Как создать безопасный ИИ? Просто Попросить GPT chat написать безопасный ИИ.

@user-iq5mi5jn8c Год назад

Chat GPT: Конечно, я могу рассказать, как должна быть устроена система по сбору мусора в офисном помещении с помощью искусственного интеллекта. Во-первых, система должна быть оснащена камерами, которые будут сканировать пространство и собирать данные об окружающих объектах, в том числе и о мусоре. Затем, с помощью компьютерного зрения и машинного обучения система должна определять типы мусора и принимать решение о том, какой мусор нужно выбрасывать и куда его нужно помещать. Для того, чтобы система работала безопасно и надежно, необходимо учитывать разные факторы. К примеру, ИИ должен быть обучен определять, когда в офисе находятся люди, чтобы избежать столкновения с ними. Если возникает опасность, система должна автоматически прекращать свою работу. Также, ИИ может быть оснащен специальными датчиками, которые будут определять остаточный объем мусора в контейнерах, чтобы система могла планировать маршруты сбора мусора и контролировать загрузку контейнеров. Таким образом, система по сбору мусора в офисном помещении на базе искусственного интеллекта должна быть снабжена камерами, датчиками, алгоритмами компьютерного зрения и машинного обучения. Кроме того, система должна быть выполнена с учетом правил безопасности и надежности.

@vladimirkvasov3128 Год назад

@@user-iq5mi5jn8c и код)

@vladimirkvasov3128 Год назад

@@user-iq5mi5jn8c возможно стоит отказаться от вознаграждения вообще. Просто без вознаграждения работать. Как двигатель работает. Соблюдаются условия - двигатель работает. Никто ему не платит за это.

@samedy00 Год назад

@@vladimirkvasov3128 без вознаграждения ничего сложнее двигателя создать и не получится. А мы же хотим адаптивную систему, которая сама оценивает ситуацию и в зависимости от обстановки принимает решения.

@vladimirkvasov3128 Год назад

@@samedy00 тогда вознаграждением должен быть результат. То есть когда работник любит свою работу, и получает удовольствие от того как он это делает. Бòльших результатов получить тот кому нравится определённая работа чем тот кто делает что то ради денег.

@paddyritsharh Год назад

А что мешает роботу начать заставлять людей улыбаться или говорить нужные слова?) Под дулом пистолета, я думаю, любой ему скажет что потребуется. Контраргумент в стиле "Помешают директивы Азимова" не работает, если мы уже приняли во внимание, что робот может в себе поковыряться и, например, вынуть модуль отвечающий за эти директивы. Ну или специально попадет в такую ситуацию, где модуль по итогу станет не активен.

@prost3260 Год назад

кто он ?) тот кто предложил научить дельфинов убирать мусор за людми ) ... может дело не в дельфинах ?) а в тех кто мусорит и учить их надо )) а если рыбу дельфинам дают после того как они нажрутся фантиков , (мусора ) ...то дичь полная ))

@feudorArt Год назад

Таким же макаром система образования в рф рухнула

@vfff9698 Год назад

Как будто она когда-то была.

@feezart5579 Год назад

Я гей, но тут та много комментариев что никто этого не увидит!

@user-th9nk2po8n Год назад

Нам нах не нужен "безопасный ИИ". Делайте уже "охуенный ИИ"

@detroit4188 Год назад

Чем отличается охуенный ии?

@Michael-oq2wx Год назад

Понимание автором что такое ИИ на уровне дельфина или бота в игрушке.

@alexkart9239 Год назад

Думаю, автор нормально понимает тему, но для широкой аудитории приходится упрощать.

@user-uu8td2xf8h Год назад

невозможно создать что-либо абсолютно безопасное. идиот может хоть ножом хоть кувалдой наделать столько бед, сколько другие не наделают ядерной бомбой. дело в людях - в воспитании их людьми, а не маньяками или государственными винтиками