В этом видео мы разберем этическую сторону вопроса создания искусственного интеллекта. Мой инстаграм : Artur_TW / artur_tw Мой твич : / artursrv Я ВК : arthurhennessy Группа ВК : artmath По вопросам рекламы : artvladgg@gmail.com
Только чистокровный педоратст, коим являлся Алан Тьюринг мог обмануть в игре Мужчина или Женщика, а тем более на основании этой игры создать тест, назвать его своим именем и тестировать компьютеры на человечность. О птичках: "тест Тьюринга" уже давно прошли одеситы со своей программой "Евгений Гусман". С таким же успехом эта прога могла и намеренно завалить этот тест даже с использованием только нескольких кластеров тех суперкомпов, на которых она его прошла.
Простите за такую задержку и немного скудный монтаж. Как только сдам экзамены, буду пилить видосы куда чаще, успею надоесть) Пока, к сожалению, только так.
Как думаешь, если люди захотят создать единое государство. То кто-то должен его возглавить. Кто это будет? Президент какой-либо страны или всемирно известная личность? В заключении хочу сказать. Этот вопрос с целью создания опроса. Я никак не смогу увидеть статистику. Но у тебя будет более реальное представление, если сделаешь это.
Артур, в мысленном эксперименте с ограниченным выбором между собой и матерью с ребенком упущен очень важный момент. Если ИИ обрабатывает террабайты информации в миллисекунду, то как получилась такая безвыходная ситуация? Если машина может прогнозировать последствия поворота налево , то почему она минуту или 10 секунд назад не спрогнозировала опасную обстановку и не снизила скорость? Я понимаю, что всегда можно придумать синтетический пример, когда выбор будет так жестко и трагично ограничен. Однако каждый раз, когда нам удастся придумать такой пример, мы должны в первую очереь думать как избежать такой и похожих ситуаций. Более того, наш замечательный быстрый и умный ИИ тоже должен постоянно прогнозировать, и искать решения, недопускающие таких необратимых и фатальных ситуаций. И если наша программка действительно получится "годной", полезной и конкурентноспособной по отношению к человеку, то прогнозировать такие ситуации у нее будет получаться достаточно хорошо. Уж куда лучше чем у человека. Выходит, что заостряя внимание на тех самых этических проблемах выбора "кого убивать" мы решаем не ту задачу, которую должны и попадаем в ловушку закна Паретто. Вероятность столкнуться с проблемой "выбора кого убить" должна быть настолько мала, что о ней не стоило бы и думать, как сейчас не стоит бояться летать на самолетах, если каждый день проводишь несколько часов в автомобиле. Купил машину с автопилотом - усвой: вероятность, что она тебя убьёт об стену спасая мамашу с ребенком меньше, чем вероятность споткнуться насмерть об коврик в ванной. Не ходите в ванную.
+Максим Хачатурян учет возможности и вероятности отказов, учет вероятности появления мам с детьми в опасной зоне... за 10 сек можно снизить скорость до нелетальной при лобовом в стену (учитываем деформацию кузова и подушки), можно притереться к бордюру, можно включить сигнал. 10 секунд это много, когда речь идёт о жизни и смерти, а наш ИИ обрабатывает "терабайты в миллисекунду"
Будем ли мы готовы выйти на улицу, зная, что там разъезжают роботы, которые в случае экстренной ситуации предпочтут убить меня, нежели своего хозяина? А готовы ли ты выйти на улицу, зная, что там разъезжают люди, которые в случае экстренной ситуации предпочтут убить тебя, нежели самого себя?
Правдиво мнение. Я полностью согласен. Просто убийство людьми людей считается, как бы, нормально, а вот если ИИ убъёт человека, то всё, это скандал. Так уже было с автомобилем Тесла. Сколько автомобилей разбилось с обычными людьми за рулём? А с Тесла? Неужели люди не понимают, что ИИ имеет право на ошибку, сбой, если сами люди это делают невероятно часто.
ИИ не имеет права на ошибку. Для того он и нужен. ИИ имеет право сделать единственно правильный выбор в определённой ситуации. Проблема в том, что бывают ситуации, когда даже человек не знает, какой выбор будет правильным.
@@dartwelder7295, согласен, но всё же, мы слишком критично относимся к ошибкам ИИ, хотя он ещё на стадии разработки и очень долго будет там находиться...
Аргумент "Какая разработка, если он уже продаётся" не принимается, ибо кампания не ручается в 100% защите покупателя. В конце концов, если мы, например, купим электро-мясорубку, что может случиться? Но вдруг, отскочит острая деталь, потому что совпадение, глюк. Виноваты производители, что вы не очень аккуратно пользуетесь ею?
По поводу автомобиля: автомобиль скорее всего будет просто проверять работоспособность всех деталей каждую ночь и не запускаться в случае опасной поломки. И тогда если пользователь обойдет это ограничение, за убийство будет отвечать уже он.
Генератор случайного выбора будет запутывать его. Изначально это должна быть программа которая должна будет выбирать, допустим в случае возможной аварии, те шаги и действия в которых значение dead не будет равно 1. Если хочется наделить ИИ человечностью, чувством сострадания и одновременно инстинктом самосохранения, то дальше носа не увидишь. Нужно в приоритет ставить задачу оптимального применения ИИ. Нельзя давать машине выбирать жить нам или нет. Если ИИ и должен появиться, то только с узконаправленной задачей.
если речь о софтверном рандоме - да, но существует так же и харверный рандом, который основывается на кварцевых колебаниях и вот тут никто его предсказать не сможет, потому что каждый кристал кварца уникален и колеблется с индивидуальной скоростью.
Nursultan Kangeldiev такие штуки, называемые вами "видео" у нас - раритет, ископаемый образец древности, хранящийся в архивах; как и у вас были резные таблички и фрески
Не... Бро есть опупенно большой шанс, что это не сработает. Некоторые люди в состоянии шока впадают в ступор, а гудок поезда, который на тебя несется, это неплохой такой повод для шока. Так что пятеро виноватых или один не виновный.
Ответ на этическую задачу с поездом весьма прост: Выживать должны те, кто СОБЛЮДАЕТ ТЕХНИКУ БЕЗОПАСНОСТИ! Один парень её соблюдал, пять придурков - нет. Их хотелки тут не важны. Даже если парень альтруист, и отдал бы жизнь ради спасения пятерых, или сам переходит ж/д в правильном месте с желанием сброситься с моста - это не важно, ибо он соблёл ТБ, а они - нет. И для страховки от мнительных, нервных и сердобольных машинистов (людей) на такой случай должна быть разработана инструкция. Если нарушить это простое правило, смертей будет куда больше. Все перестанут даже задумываться о соблюдении ТБ, ибо это даже минимально перестанет гарантировать выживание. А это повлечёт такое, что никому не поздоровится. В ситуации, когда все соблюдают ТБ (или наоборот - никто не соблюдал), нужно стремиться к минимизации жертв. Что может быть ценнее человеческой жизни? Две человеческие жизни. Вопрос с машиной и автопилотом ещё проще: Я решил не пройтись на своих двоих, и даже не рулить самостоятельно, а откинуться в кресле, и прокатиться. Я РЕШИЛ. Это ответственность, о которой все забывают. Даже моё стремление ехать и на обычной машине без автопилота - это тоже ответственность, о чём многие забывают. А это значит, что за моё стремление к комфорту должен буду заплатить тоже я, а не мать с ребёнком, идущие куда-то (если соблюдали ТБ). Даже если платить придётся встречей с бетонной стеной. Причём будучи лично за рулём - я не уверен, что мои инстинкты дали бы мне въехать в стену, а не в женщину с ребёнком, или не повлияли бы в тот момент на моё сознание. И это была бы ошибка водителя - МОЯ ОШИБКА, которую ИИ совершить не должен. За что я отдал деньги, покупая автопилот? За то, что я, во-первых, предпочёл комфорт и удобство. Во-вторых, этот автопилот меня долго спасал, обнаруживая неисправности, не допуская моих собственных ошибок при вождении и т. д. Если автопилот сократил аварийность, например, в 200 раз, то сколько лет жизни он мне подарил? Несколько дополнительных лет, я надеюсь, стоят каких-то денег? К сожалению, в капиталистической системе подобное решение принято быть не может. Найдутся люди, желающие доплатить за возможность в случае подобной вилки спасти свою шкурку. Государственный запрет на это ничего не решит. Во-первых, это можно будет обойти противозаконными методами за большие деньги. Во-вторых, для корпораций алгоритм спасения невиновных за счёт водителя (не смотря на то, что решение поехать на транспорте и его исправность - его ответственность) - очень плохая реклама, и они смогут пролоббировать любые законы в свою пользу. Что неизбежно приведёт к созданию дополнительных точек напряжённости, подкашивающих капиталистическую систему. Если кто-то считает себя нее***ься циником, и что, будучи в машине, однозначно предпочли бы давить мать с ребёнком, спасая свою ценную шкурку - это вы на диване такие крутые. А если вы, не приведи случай, превратите в фарш бабу с дитём, которые вам ничего плохого не сделали, посмотрите на это, почувствуете, увидите их родных - хрен его знает, как вам психику вывернет. Не факт, что вы сами себе жизнь сохраните, даже если ИИ вам её оставит таким вот способом. Ну а если вы, всё таки, полным отморозком оказались, что вам и на это похер будет... Ну так у той женщины и ребёнка может оказаться муж и отец, соответственно. Да и другие близкие. И уж вас, сделавшего выбор кататься с комфортом на железяке, убивающего других людей ради спасения собственной шкурки, от встречи с ними ИИ не спасёт. И как знать - возможно бетонная стена была бы предпочтительнее.
Рассуждения и доводы у вас вполне логичные, но вот с последним пунктом могу поспорить. О том, как тяжело будет смотреть в глаза родственникам погибших матери и ребёнка это ваше личное моральное суждение. Во-первых, в момент критический, как было сказано, работают исключительно инстинкты, и их цель - спасти вас. А далее, у части людей (далеко не у всех) может сработать что-то вроде "психологической подушки" - аффект, провалы в памяти, искажение фактов в памяти виновного - все, что бы облегчить эмоциональное и психическое состояние. виновного. Или же просто человек до последнего был бы искренне уверен в том, что поступок оправдан (тоже психологический момент), несмотря на давление общства. Также же для части людей убийство, даже умышленное, не является особо обременяющим жизнь фактом, иначе бы не было такой статистики убийств и переполненных тюрем. Отсюда следует вывод, что большая часть людей сбила бы мать и ребёнка в угоду своему существованию, и не сильно парилась бы после этого, ибо людей с высокими моральными устоями довольно мало.
зачетно. а если там не пять человек? Скажем 10 или 100. Да, все сто человек нарушили ТБ. Но их же целая сотня, против одного. В любом случае придерживаться парадигмы: кто нарушил ТБ? А если всё человечество против одного
"будете ли вы готовы выйти на улицы, зная, что по улицам разъезжают автомобили с автопилотом, который будет готов убить вас чтобы спасти своего владельца"... пффф. все готовы, естетвенно. никого же не заставляет сидеть дома тот факт что каждый владелец автомобиля с большей вероятностью задавит вас чем убьется сам, и что еще хуже - с большей вероятностью задавит вас, чем просто не будет торопиться сидя за рулем, болтать по мобилке, красить ногти не держа руль, путать педали или право/лево, употреблять алкоголь, наркотики итд итп.
А) ресурсы планеты ограничены, население большое --> убить женщину с коляской для сохранения стабильной популяции успешных людей Б) наступил катаклизм унесший 90% населения, количество важнее качества --> убить водителя В) есть технологии --> отправить женщину на другу планету до того как она выйдет с коляской на дорогу Г) хозяин неисправим --> спасти его от него, не выпускать из автомобиля, до вставки корректировочных имплантов в мозг
д) водитель болен неизлечимо.... е) мать и ребенок переносчики опасного вируса.... г) на дне обрыва водоем больше 20 метров глубиной мне кажется чтоб описать все то, что может использовать машина ИИ придется потратить реально много времени...
тут я поспорю.Сюжет игры-не бред.Это одно из возможных наших будущих.Нельзя отрицать то,что андроиды смогут восстать против нас.В интернете куча всякого материала об этом.Можешь почитать на досуге.
Miio Kim ну во-первых, наш всеми любимый революционер по имени Маркус, будучи явно одним из самых хорошо живущих андройдов, из неоткуда устраивает революцию. Я понимаю, что его ни за что пристрелила полиция, но он мог убежать, мог объясниться, почему его же хозяин не остановил их, если выбрать путь убийства его сына? Какого хрена он смог себя собрать, почему полиция не вытащила работающий источник энергии? А я знаю почему, чтобы всеми доступными способами показать людей мразами, которые сбрасывают ещё активных андройдов в мусор. Вообще все люди там показаны мразами, которым насрать на свой же продукт. Вот ты разобьёшь свой телефон или компьютер? Нет. Так какого хрена люди на право и на лево разбрасываются дорогими андройдами, да ещё и избивают, тупо чтобы потом доплачивать за ремонт. Но это ещё пол беды, полиция тупая как вата. Да после первого же случая девиации весь Киберлайф со всеми андройдами утилизировали. А в конце игры им всё норм, если выбрать "Плохую" концовку. Хотя и хорошая не очень. Потому что блин ЛЮБОВЬ СПАСЛА МИР. Нет, я не против, если такое будет в обозримом будущем, но блиииин, два андройда засосались и их сразу отпустили. Ну не так это работает! Самый адекватный персонаж - Коннор, да и то, если за него выбрать сторону девиантов он без промедления, без выбора игрока, убьёт несколько человек. Почему Хэнк и Коннор сразу не пошли к создателю андроидов. И какого зрена они его просто не связали и не увезли допрашивать, а вместо этого слушать, как он предлагает убить другого андройда, чтобы расскащать. Да это они ему условия ставить должны, а не он им! Но да ладно, длпустим, что люди там полные мрази и сволочи, но это низрена не так. Сейчас мы же осознаём, что это плохо. Блин, есть люди, которые на анимешках женятся!! Да такие люди бы в андройдах души не чаяли! В Японии пенсионерам выдают механических собачек, так они от них потом оторваться не могут! Человек способен к симпатии по отношению к невоодушевлённым объектам, особенно если эти объекты могут разговаривать, ходить и думать. Даких ублюдклв, как в игре, было бы единицы! И не говори, что я придераюсь просто так к игре, ты сам только что сказал, что это типо возможно. Я не спорю, игра хорошая. Во многих таких играх такого же жанра зачастую даже выбор мало что решает, а здесь абсолютно разные истории. Но из-за этих недостатков, это больше похоже на фанфик, написанный 10-и летним пацаном или девчонкой, которые вообще не понимают, как работают человеческие отношения, полиция и власть.
справедливости ради отмечу, что Артур тоже в своё время учился в школе, но не в майнкрафт гонял, а именно УЧИЛСЯ! Поэтому не перекладывайте ответственность на школу
Очень интересную тему затронул Артур,хоть и прошло 2года. Интересно насколько изменится человечество в будущем, если кибернетика будет вживляться в организм
Ты человек третьего тысячелетия, философски мыслишь. жаль таких людей мало, надоела быдлятина кругом, которым кроме пивка и футбика ничего не интересно.
Вад Ильин ну это понятно, но зачем делать целую кучу ИИ, если как-раз централизованность обработки информации является одним из главных преимуществ ИИ.
Привет из 2023 года. У нас тут появился gpt4 и bingchat, с которым можно разговаривать и он может всю рутинную работу в пк сделать за тебя. Также появился midjourney - ИИ который может нарисовать вообще все что угодно. И мы сейчас вплотную подошли к созданию общего искуственного интеллекта.
Артур забыл одну очень простую но вместе с тем важнейшую вещь в задаче про автомобиль. ИИ, раз уж он умеет управлять автомобилем, уж точно должен суметь провести автоматическую диагностику автомобиля перед его выездом. А значит он выявил бы поломку и сообщил о ней водителю или же сообщил о возможных высоких шансах поломки и попросту не позволил бы тронуться с места. А если бы даже позволил то ИИ окажется прав убив такого водителя нежели прохожих вокруг так как тот наплевал на свою и чужую безопасность и поехал на неисправном авто.
Вообще как то странно говорить о таких задачах которые по сути являются следствием просто недопустимых ошибок ИИ. Что означает одно из двух: 1-у нас ИИ мыслит как дефолтный человек неспособный вообще ни на что. 2-вместо ИИ у нас японец в металлической коробке готовый убить себя и побольше людей вокруг. Всегда когда решаете такие задачи думайте а как вообще можно было придти к такому условию и возможно ли это вообще?
Я против искусственного интеллекта (ИИ), но за кибернетический интеллект (КИ). Разница в том, что КИ точно знает, что ему делать из-за тех алгоритмов, которые в него запрограмировали. А ИИ начинает творчески мыслить из-за, чего его и может каротнуть. В случае с поездом, КИ переедет тех пятерых, так как они нарушают правила, даже если там будет стоять родственник машиниста. А в случае с машиной въедет в стену, так как пасивную безопасность авто никто не отменял и у водителя больше шансов выжить, чем у женщины с ребёнком. Тут все дело в том КАК запрограммировать КИ. А вот ИИ как не программируй, он со временем напишет для себя свои алгоритмы к действию.
Это если мы вообще сможем создать то, чем в твоем понимании является ИИ. Хотя если нам таки удастся и он сможет "писать собственные алгоритмы" то-есть будет обладать неким самообучением, то и "обьяснить" ему, как ребенку, как делать хорошо а как плохо будет довольно просто и в таком случае он будет лучшим решением чем КИ.
Александр Иванов В том та и проблема, что когда ИИ начнёт принимать решения самостоятельно то на законодательном уровне он начнёт нести ответственность за свои действия. И мы опять возвращаемся к началу. Кого ИИ выберет для смерти, а кого оставит жить?! Человеку приходится с этим жить и некоторых мучает совесть, вплоть до суицида. А как поведёт себя ИИ? Может он тоже захочет себя после такого убить и при это в тот момент, когда он за штурвалом пассажирского самолёта? КИ же напротив ни о чём не жалеет, потому как не умеет. Это просто набор скриптов и кодов, которые диктуют ему, как и что делать в той или иной ситуации. При том, что создаётся эмуляция интеллекта. Но всё же это просто набор нулей и единиц.
+Iss Ars убить себя, будучи за штурвалом будет нерационально), не забывай, что каким бы творческим и похожим на человека его не сделали это все же будет ИИ, следующий понятиям не только "приоритетов", "законов" и "морали" но и рациональности. Ну а КИ слишком ограничен чтобы его допускать до таких ситуаций, ибо неспособность жалеть о своем решении, особенно если оно было неверным это совершенно не хорошо
Александр Иванов Совершенно согласен! Однако преимущество КИ в том, что его можно контролировать. А вот ИИ может выйти из под контроля. Где гарантия, что ИИ не станет неуравновешенным психопатом, как один из людей?! Кажется у Гугл был печальный опыт, когда они свой "недо ИИ" выпустили в просторы инета и тот стал "дурачком"?!
Артур- светлая голова.Хорошо знает о чём хочет нам сказать. образованный человек хорошая дикция. умеет завладеть нашим вниманием.Логика и продуманнось материала.МОЛОДЕЦ.
Возможно я просто придираюсь, но в конкретно той философской ситуации с выбором между матерью и ребёнком и пожертвованием водителя стоит учитывать ещё несколько обстоятельств. Например, не сможет ли водитель выпрыгнуть из машины до того, как врежется в стену? Да и в реальных условиях будет гораздо сложнее, ведь, например, водитель решит пожертвовать собой и погибнет, хотя если бы он врезался в женщину с ребёнком, то все бы остались живы пусть и не без травм. Но, пожалуй, самое главное обстоятельство - это уровень технологий. Если технологии будут достаточно продвинутыми, то и такие ситуации будут фактически невозможными (или почти невозможными). Это в том случае, если, например, в машине бы предусматривался, условно говоря, некий "аварийный режим", позволяющий тем или иным способом гарантированно спасти жизнь водителю. Или может машины станут настолько надёжными, что авария на полной скорости никак не навредит водителю. Этот условие настолько важное, что может заставить переписать всю правильность действий в таких ситуациях.
но самый возможный способ телепорта просто ужасен, просто идет копирование атомов твоего тела - их удаление - и воспроизведение в другой точке, то есть это будешь не ты, а твой дубликат(
Тут сама фигня как раз с сознанием ,с душой . Сможет ли клон мыслить как ты ,иметь те же воспоминания...Или ты был гением ,а после телепортации стал алкашом-деградантом )
С матерью и ребенком модно и без жертв. Лично я бы попытался 1. Отключить двигатель что бы сбить скорость. 2. Переключить с передачи на передачу на Кпп что бы еще сбить скорость. 3. И в конце врезать машины в правую стену или об забор или в столб. 4. Прыгать можно, но только если машина замедлилась!
Смысл того вопроса не в том , как выйти именно из той ситуации с машиной, а если вдруг передИИ встанет выбор: убить вас и спасти мать с ребенком, или убить мать с ребенком и спасти вас. А машина это просто пример, дабы иметь представление что примерно может случиться
Илья Полезин Я знаю. Ии возможно либо даст сбой (специально что бы отвлечь от себя приступление), либо выбирет рандомно кто попало того и спасет. Может даеж у себя в приложении использовать как бы альтернативу русской рулетки. Если 1 то спасет водителя, если 2 то мать с ребенком.
как я тебя очень хорошо понимаю. сам от этого восторгаюсь. то что может современный человек не все к сожалению понимают и не всех так тянет к звездам. иногда охото увидеть вживую другие планеты, звезды, даже пренебречь биологическими недостатками и оказать на этих других мирах. ну вот как люди (не все конечно) могут об этом не мечтать?!
Заменить в теле все не получится. Мозг незаменим. Существует большая разница между нейронами и транзисторами в том, что связи между нейронами могут образовываться и разрушаться случайным образом. Т.е. чтобы компьютер был похож на мозг необходимо каждый день чуть чуть изменять фрагменты его архитектуры. Правда можно компьютер и на нейронах сделать. Но в таком случае это будет не искусственный интеллект, а настоящий =). А значит проблемы с принятием решений у него будут точно такие же как и у людей.
Как ни странно, Топлес уже рассуждал на эту тему (естественно, намного позже этого видео). Парадокс Китайской комнаты вроде называется. Состоит в том, что в комнате сидит кто-то. Ему дают письма на китайском, а у него есть китайский разговорник. Он отвечает в соответствии с тем, что написано в нём, ибо сам он не разговаривает на китайском. И можем ли мы считать его при этом живым и осознающем себя? А насчёт того, кого убивать, очень прост. Он не имеет решения, при котором никого нельзя было бы обвинить. То есть с таким же успехом можно назвать человека, готового задавить женщину с ребёнком ради себя, плохим. Или робота на его месте. Просто замени каждое слово машина или робот на слово человек, и всё. P.S. Дату видео знаю.
Если это искуственный интеллект, который будет каждую миллесекнду обрабатывать сотни террабайт данных, то будет ли он вообще ехать вперед, зная, что ему надо будет делать выбор? Вы считаете, что к тому времени, когда искуственный интеллект будет в таком развитии, люди не будут готовы к таким ситуациями? Стакан изобрели раньше чайника.
Мне кажется человечество остановилось в развитии . Все что у нас есть - придумали давно , мы просто улучшаем то, что у нас есть , нового ничего не придумываем
Vyles IID с этого то и надо было начинать ) Честно , не знаю как объяснить , может быть то, что есть только в умах людей. В общем , лучше вы скажите , что такое новизна , потому что я ничего нового не вижу , только улучшение
