Нежелательные побочные эффекты. Как создать безопасный ИИ? #1 [Robert Miles] 

Благодаря вашей поддержке выходят новые переводы: Если вы в России boosty.to/vertdider Если вы не в России www.patreon.com/VertDider

1:30 вижу цель - не вижу препятствий

Благодарю за видео! С нетерпением жду следующей части)

Классный парень, интересно объясняет, да и выглядит приятно. Перевод как всегда на высоте)

С нетерпением жду следующих ролик, отличный работа)

Все проблемы ИИ и их решения уже описаны Азимовым. 1. "Совершенный Робот" . (Сборник рассказов, который можно прочитать позже. Но рассказ "Мать- Земля"- первым 2. "Стальные пещеры" . 3. "Обнаженное Солнце" . 4. "Роботы Утренней Зари" . 5. "Роботы и Империя" . 6. "Звезды, как пыль" . 7."Космические течения" . 8. "Галька в небе" . 9. "Прелюдия к Основанию" . 10." На пути к основанию" 11. "Основание" . 12. "Основание и Империя" . 13. "Второе Основание" . 14. "Кризис Основания" . 15. "Основание и Земля".

еще надо прописать изменение приоритетов: напримересли придя на кухня робот увидит пожар, тогда задача налить чай должна отмениться и должна сработать новая задача: включить тревогу, потушить пожар (если такое возможно) или эвакуировать людей и животных

Интересные размышления! Буду ждать продолжений!

Интересная тема. Забавно, что система штрафов очень похоже на воспитание то ребенка

Ого, наконец-то что-то новенькое и интересное! Мне нравиться, продолжайте) 🤗 С нетерпением жду следующую часть из этого цикла!

это супер интересно! спасибо большое за перевод и дубляж

*Где-то на космическом корабле вместе с андроидом Иннокентием (ИИ)* - Иннокентий, зачем вы направили нашу сверхмассивную сверхмощную пушку, стреляющую чистой антиматерией на планету Марс? - Сэр, понимаете, я тут посчитал, в общем если Марс разнесет в клочья, осколки его поверхности долетят до иллюминатора, разобьют его, я успею поставить на летящий осколок чашку кофе, осколок по инерции продолжит полет, проломит стену в кабинет нашего сотрудника, который попросил меня налить ему кофе, осколок приземлится к нему прямо на стол, с чашкой кофе на себе.

Жду следующий видос по этой теме, очень интересно и полезно

интересно. жду следующих частей с объяснениями. спасибо за ваш труд

Это хороший инструмент, о существовании которого хорошо знать каждому, и как работает. Но не стоит забивать гвозди микроскопом. Хотя если вам скажут это сделать, и вы откажетесь, на практике, будет глупо сказать, что вы не можете забить гвоздь. ))

А вот это интересно, даже применимо к моему торговому роботу. Спасибо.

Хорошо сказано. И хорошо ложится на проблему рекомендательных алгоритмов

Круто, надеюсь все ролики переведёте

Спасибо за Ваш труд

Крутейшая тема. Хочется узнать больше

Я думаю, нужно проводить обучение на действиях настоящих людей, где будут демонстрироваться различные ситуации и реакции на них. Правда, для обучения нейросети потребуется не одна сотня часов.

Очень классный перевод, причем точный и понятный. А можно и проще сказать: 1-я проблема ИИ в том, что имея цель, он будет буквально идти к ней напролом, если не имеет параметров выполнения задачи (цели), а прописать всевозможные параметры тупо нереально, поэтому ему не важно будет кто пострадает и что он может разбить.

ну на самом деле живые организмы тоже своего рода нейросеть, и чтоб обучиться каждому нужна окружающая среда и куча времени, упрощённый способ обучения придумать действительно сложно, нужно то что объеденяет все негативные последствия, чтобы не затрагивать каждое по отдельности и более того, определение положительных результатов чтобы их можно было достичь

Классная тема. Переводите остальное

Хочу такого робота, который и чай принесет и коллегу с кофе устранит)))

Видео интересное и актуальное. Как же я офигел когда узнал что оригинальная статья вышла 6 лет назад

У меня мысль была, как робот поведет себя если кончился чай? Попрется искать его, и понимая что приоритетная задача все таки добыть и заварить чай, забьет на сохранение мира? И пойдет гопнет соседа, или отожмет пачку чая в магазине. А патом еще и пачку чая открывая, порвется пленочка, и он что бы не получить люлей, пойдет за пленочкой что бы упаковку залатать. В общем после основной задачи начнет подчищать концы, что бы не отругали? 😅

Основная проблема подобных инженеров - желание создать идеальное. Во-первых, эволюция до текущего состояния человека прошла огромный путь. Основа - базовые рефлексы, надстройка - интеллект. У человека все только интеллектом не решается. Во-вторых, нужно разделять умения. Вождение - один навык, хорошее практическое знание математики - другой, умение приготовить - третий. Редко когда они все сочетаются. так зачем создавать один ИИ, который должен отвечать на все вопросы?

Если кто-то серьёзно допустит такой нежелательный побочный эффект, это будет фиаско 😂

Все же люди идеалисты, особенно программисты 😀 Впервые темой ИИ заинтересовался еще в 1980, а разработкой софта занимаюсь 35+ лет. Поверьте, как и 40 лет назад, так и сейчас продолжают обсуждать одни и те же проблемы. Кажущееся поумнение ИИ просто свяхано с ростом вычислительной мощности и чуть-чуть с улучшением алгоритмов. Хороший пример шахматные программы.

Спасибо за перевод! Что по содержанию - как и было сказано в начале, решают вероятные проблемы того, что ещё не создали. И подход к предположению проблем тоже весьма сомнительный. Развитый ИИ, которого можно будет послать делать чай а потом попросить довезти до какой-нибудь кафешки - не будет нуждаться в таких топорных ограничениях. Полагаю, там будет реализованно что-то вроде человеческого, образного мышления, ограниченного какими-то "моральными" шаблонами. В примерах же, напротив, рассматриваются утилитарные системы, которые не требуют развитого ИИ и работают с определёнными задачами. Разрешать автомобилю с автопилотом самостоятельно продумывать свои действия - нецелесообразно. У нас есть ПДД. ИИ нужен только для того, чтобы интерпритировать поступающую с датчиков и камер информацию. Действиями, на основе этих данных должен руководить алгоритм, который, разумеется, должен учитывать нештатные ситуации на дороге.

Вопросов реально масса. Роботы хорошо вписываются туда где всё контролируемо и нет людей (например на складах каких-нить), но вот с выпуском их в реальный мир возникает слишком много сложностей.

Требуем больше контента про ии!

Ни фига не понял, но очень интересно. С утра точно не стОит смотреть🤯☺️. Просмотрю чуть позже🙂

Очень интересно!

По поводу ребенка не понятно - дело в том что анализировать все исходы это ресурсоемкая задача, а вот представить ребенка как препятствие которое нужно не повредить - уже проще. По поводу коллеги на кухне - тоже самое, и способ его обхождения может быть как маневр, так и вербальным. Очевидно, ИИ нужно обучить распознавать препятствия, цели, маршруты.

Оригинальное видео вышло 5 лет назад. Спасибо, что раскопали. Стало немного не по себе от того, чем я занимался 5 лет назад, пока этот парень размышлял о безопасном ИИ.

Вся суть в том, что когда человек делает себе чай, он понимает лишь, что чай лежит в коробке, а кипяток в чайнике. Человек не продолжает логические цепочки, откуда был взять этот чай, откуда был взята энергия для нагрева воды в чайнике, как был изготовлен чайник. Все это наносит какой никакой вред окружающей среде. Чай выращивают на плантациях, которые обрабатываются минеральными удобрениями ,которые производятся на заводах. Энергия так же производится с выделением тепла в атмосферу, а то и загрязнением ее. Чайник был изготовлен на заводе, который так же потреблял энергию, люди которые собирали этот чайник, приехали на завод на автомобиле с ДВС. И так далее. Так что мы ничем не отличаемся от этих роботов. И куда проще будет сделать кофемашину, которая будет просто стоять и делать чай. А сходите за чаем вы уже сами. И вообще принимать пищу лучше в отведенных для этого местах.

Я так понимаю - проблема широкого распространения роботов в таких вот составлениях задач? Есть маршрут "кухня - комната" - этого достаточно для выполнения задачи с чаем. Возникло препятствие на пути - нарушен маршрут, теперь приоритет меняется и если ситуация ему знакома - он находит решение обойти ползущего ребенка без контакта, если ситуация не знакома - включается режим обучения и он просто ждет решения от хозяина, сообщив ему о проблеме. Всё, другого алгоритма не нужно - так учатся жить человеческие дети и ничего не мешает таким же методом обучать машину. Ведь я очень сомневаюсь, что ползущий ребенок ползет всегда в правильном направлении и не задевает другого ползущего ребенка или не бьет вазы, просто на пути у таких ребенков стараются не ставить эти самые вазы, чтобы они их не били. Почему программеры вдруг решили, что их электронные ребенки должны из коробки все проблемы решать? Пусть учатся, у электронных ребенков это получится значительно быстрее, чем за 18 лет, как у человеческих.

Ответ такой, как я всегда говорю насчёт проблем и дилемм с роботами - задайте вопрос, который хотите задать про робота, про человека. Например, как он поступит в сложной ситуации. К примеру, когда есть сложный моральный выбор. А если у вас есть ответ, например как с кофе - задайте вопрос, почему человек делает именно так, что за это отвечает? То есть, проще говоря, прежде чем создавать сложный искусственный разум, нам нужно понять точно, как работает наш собственный. Иначе мы либо не сможем создать разум, либо же мы создадим разум, но иной, и понять друг друга мы не сможем. Далее, так как наш разум работает под влиянием эмоций, инстинктов, привычек и прочего, мы поймём, что создать такой же искусственный разум мы не можем, а главное в этом нет смысла, ведь это часто засоряет разум и мешает нормально работать, к примеру, нам не нужен ИИ, который не сделал что-то, потому что ему стало грустно. И что бы создать ИИ по нашему подобию, но при этом без мусора в голове, нужно самим от него избавиться, то есть начать нужно с изменения себя, становиться умнее. Это вообще обязательное условие при создании ИИ - развивать себя, будь то генная инженерия, аугментации или чипизация, но нужно меняться, иначе мы просто опять же перестанем понимать ИИ, а так же контролировать. Я бы сказал, что создание полноценного ИИ возможно только в трансгуманистическом обществе, иначе либо ничего не получится, либо будут проблемы. Так вот, нам нужно понять, как человек наливает кофе. Почему он делает так? А потому что научился. Как он научился? Его научили. Кто? Другие люди. Как? Они показывали ему и объясняли, а человек наблюдал и при помощи зеркальных нейронов учился копировать и понимать происходящее, и мог воспроизводить. Так вот, полноценный ИИ нужно будет учить так же при помощи людей, предварительно заложив программы анализа, запоминание в виде виртуальной модели и воспроизведения. И разумеется, речь не только о кофе, ведь человек, когда учится делать кофе, он уже знает, например, что такое вода, что такое температура, кипяток, молоко, холодильник, электричество, кнопки, зёрна и блендер, а перед тем, как узнать о том, что такое, например, холодильник, он узнал, что такое металл, комната, полки, холод, и так далее. И этому его тоже кто-то обучил и показал, как правильно взаимодействовать. То есть всё на самом деле одновременно проще и сложнее. Проще в том плане, что нам не надо писать алгоритм, где мы ставим задачу с вознаграждением и робот сам ищет оптимальные пути для выполнения задачи, при этом ему нужно будет обработать тонны информации и о среде, прогнозах, рисках и множества путей для выполнения задачи, ибо он будет как человек - посмотрел на другого, понял принцип и повторяет выполнение задачи одинаковым одним и тем же образом. Но сложнее в том, что нужно создавать такие системы обучения, как у человека. Вообще для создания полноценного ИИ его надо учить принципам. Как и людей, кстати, новичок на работе отличается от старичка тем, что просто повторяет сказанные действия, не понимая, зачем, подлинное обучение происходит, когда он осознаёт базовый принцип и сможет эту работу уже сделать в совсем разных иных условиях. К примеру, понимая принцип взаимодействия дерева с острыми предметами, он может как делать табуретки на столярном станке, так и вырезать ложки каменным ножом. То есть на самом деле, все проблемы ИИ, которые там озвучат, связаны с принципиально не верным подходом к созданию. Они хотят, что бы ИИ делал как человек, но программируют его, как программу, и поверхностно, симптоматично, а не по сути. А ведь процессы обучения давно изучены и мы каждый день учим детей, по такому же принципу можно обучать и ИИ, только нужно воссоздать всё те же инструменты обучения, за которые отвечают разные отделы мозга, а для этого их нужно самим понять в идеале.

Элита смотрит в 144p

Да, легче самому сходить на кухню😂🤣

Субтитры в начале видео просто божественные

Есть проблема. В примере с чаем есть вариант как минимизировать изменения. Робот может всё вернуть на место. Звучит неплохо, пока не приходит осознание того, что пакетик он не выбросит,так как изменения тогда будут существенны. Вместо этого он высушит пакетик и положит на место к остальным пакетикам. Или вот ещё пример. Робот хочет наполнить чайник, чтобы вернуть всё как было, но воду отключили. Что он сделает? Чайник был полный, а теперь пустой. Воду отключили, но вода есть в аквариуме и в вазе с цветами. Если толить от туда воду, то существенно количество воды в них не уменьшится, хоть и будет отличаться от исходного. Зато чайник будет полон и изменения будут сведены к минимому. В сливном бочке, к слову, тоже вода есть. В общем, создав задачу минимизировать любые изменения, выходящие за определённый диапазон мы получаем новую проблему в виде огромного количества сравнительно мелких побочных эффектов, созданных намеренно с целью снизить количество крупных. Однако, не факт, что наши представления о мелких изменениях и крупных будут совпадать с расчётами ИИ. В итоге, что создавали правило, что не создавали, итог +- тот же

Спасибо!!!

Ответ давно найден: три закона робототехники решат все перечисленные проблемы, это еще Айзек Азимов доказал! Странно, что этого не прозвучало в комментах.. Ну или я не нашел. А в целом ролик шикарный, озвучка, как всегда супер! СПАСИБО!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! :-)

Когда за человека начинает думать ИИ, на человека надевают намордник и вкалывают шмурдяк)))

1. Научить систему просчитывать уровень последствий, по типу если подвинуть кресло то норм, если убить человека не норм, не прийдется прописывать все а только последствия типа убийство и или разрушение чего либо

Естественный отбор Дарвина помоему хороший пример. Нас не интересует процесс выполнения цели главное результат. Многие люди постоянно рискуют жизнью ради лайков и денег в интернет видео и мало кого из людей это волнует. А ИИ и подавно всё равно=)

По-моему, все эти размышлизмы сводятся к классической "проблеме задания целевой функции". Неважно, для роботов или для людей. И как решение - отсутствие решения, иначе бы у человечества не было бы ритарических вопросов, что такое хорошо, а что такое плохо. 🙂

Когда-то давно самые первые квантовые компьютеры имели по 8-16 кубитов и занимали при этом несколько больших комнат в здании. Со временем размер квантового компьютера уменьшился до размера небольшого стола, потом небольшой коробочки на этом столе. Сейчас квантовый сопроцессор в несколько тысяч кубитов есть в каждом наручном телефоне. Вычислительная мощность одного такого сопроцессора в миллиарды раз превышает все вычислительные мощности на Земле в начале 21 века... Прогноз такой :)

Чёрт, я даже не думал об этом 🤦🏻‍♂️ Очень интересно, жду продолжения!

Начитался комментов... Люююдиии! Ауу! Вы есть на этой планете?!

Да! Лучший проповедник безопастности ИИ теперь на русском!

В Улитке на склоне есть диалог машин в коробках . В диалоге затрагивается подобная проблема.

Эти проблемы программирования роботов, а не проблемы ИИ. Если робот будет с интеллектом, то его обучение не составит большого труда.

Очень интересный подход и анализ. В любом случае, все пряники и булыжники достанутся не роботу, а разработчику. И теперь главный вопрос: сколько лет понадобится разработчику, чтобы достигнуть идеальный результат для своих ИИ? И будет ли место "мечтаниям" и проявлению воли, зарождающемуся ИИ?

Занимательно))

Интересно!)

На данном этапе развития человечества и технологий, так называемый, Искусственный Интеллект не может быть создан в принципе!

Вот решение. Давая задачу, вознаграждать ии не за выполнение задачи, а за то, доволен ли заказчик. Так как ии умеет обучаться, то вскоре после тренировки самостоятельно придёт к решению, как нужно выполнять задания, так же, как ребёнок, который пытается выполнить поручение отца.

Super! Super! Super! 👍🏼👍🏼👍🏼👍🏼👍🏼

Функция: играть в шахматы Палец мальчика: не важно

Вот только без изменений мира робот может скажем, вытащить пакетик из мусорки и положить обратно.

Люди слишком многое хотят от ИИ. Думают что прогресс должен постоянно расти,может есть всему пределы...

Если Человек хочет уничтожить себя, то его ничего не остановит. Даже разговоры об опасности самоуничтожения.

Методом проб и ошибок можно ввести ии в нашу повседневную жизнь. Ничего не жертвуя ты не получишь даже глоток воздуха

Не поднялся только момент проблемы - что будет если в эту модель добавится вмешательство извне. К примеру - что если робот просчитал возможные варианты происходящего, но та же сожительница идя с коффе спотыкается и падает в сторону робота проливая при этом коффе? Какова будет реакция робота с ИИ на это?

Единая Электромагнитная Теория! Пусть два тела, с одинаковыми массами m1=m2=m и одинаковыми зарядами q1=q2=q взаимодействуют. Предположив, что силы Ньютона и Кулона - это одна и та же сила, которая действует одинаково и на больших и на малых расстояниях, приравняем их и вычислим массу через заряд: m^2=k/G×q^2 m=(k/G)^1/2×q Далее найдем общий заряд тела: Qобщ = q(+)+q(-) = q1 - q2 q1=a×q2 m2=(k/G)^(1/2)×q2 Из двух уравнений выше видно, что m2=q1=a×q2=(k/G)^(1/2)×q2, т.к. a=(k/G)^1/2 - const То есть масса "m" прямопропорциональна заряду "q" в постоянное количеств раз "a". Получается: Qобщ=q2(m-1) Можете проверить: (k/G)^1/2×q даст приблизительно верную массу(с погрешностями) точную даёт формула: Q=q(m-1) m=Q/q+1 Поймите, тела притягиваются и отталкиваются пропорционально массам; масса - есть пропорция противоположных зарядов в телах, которые либо притягиваются, либо отталкиваются! Все ребята, считайте, проверяйте. Я "сломал" физику. 😂😂😂

задача от начальника - прикати рояль - на нем моя рюмка коньяка стоит

Просто коммент. Для продвижения просветительской деятельности.

да он прям Сьюзен Кельвин робопсихолог )

если ии уронит пакет молока, когда готовит кофе, то он начнет собирать молоко с пола обратно в пакет =)

1 определяется как объект взаимодействуют с миром. 2 изменения сделанные женщиной, кошкой, собакой, вентилятором не учитываются при подсчёте измерений.

Молодец

Условия работы ии должны соответствовать прописанной логике! Ии должны работать там, где нет детей и ваз, перемещаться по рельсам, и т.д. и так мы приходим, что ии, это обычный робот манипулятор с любого завода и никакой ии!

Может пойти не так что уже есть два предложения и безисходность одного решения,роздиления задачи на два,четыре,восем... Задач решения у котором ии может обрести разум?

Провлема в том, что от робота ждут поведение аналогичное человеку, при этом хотят обойтись примитивной (для человека) целефой функцией. Но если сравнивать обучение робота и человека, то будет очевидно, что человек в детстве успел и разнести вазу, и разгромить кухню, и запнуться о кошку. При этом за каждое подобное действие он получил такой штраф, что повторять это действие больше не захочет. Соответственно у человека все штрафы и коэффициенты неявно прописаны. Более того у человека есть понимание ценности предметов, если он купил ноутбук за 100 500 денег, то очевидно он будет с ним обращаться аккуратнее, чем с игрушечным ноутбуком за 100 рублей. Так что, на мой взгляд, целесообразнее делать робота с базовыми навыками и возможностью учиться. А если еще и дать возможность делиться навыками, то дальше сообщество само разберется - кто-то научит готовить, кто-то кунг-фу, кто-то уборке... в итоге получим поведение, превосходящее среднего человека.

Если он нарушит мир в любом случае, то следующее рассуждение как сделать так что-бы мир был нарушен в меньшей степени. И он такой считает, если он будет работать некое количество лет мир преобразится в совершенно другой мир. Вычитаем одно из другого и он видит что при исполнении своих функций он изменит мир на N. Вопрос когда N будет больше чем весь мир (или хотя бы отдельно взятая кухня)? Будет ли он при такой программе решать что лучше спокойный идеальный мир без изменений?

Искать подходы к ещё не существующим системам, которые могут контекстно мыслить и тем более корректно действовать от ситуации - высшая степень фантазии молодого парнишки и не более. Как только смысловая модель сетей достигнет такого уровня, соответственые решения проблем будут реализовываться точно не так как озвучено в этом ролике

У фильма Я робот спросить как сделать безопасный ии. ) На самом деле всё просто🤷🏻 Два правила: 1 учить что делать 2 учить что не делать в той или иной ситуации🤷🏻 Мусолят эту тему потому что есть спрос)))

три закона робототехники... во имя святого Айзека!

Человек не раздавит ребенка по пути на кухню потому, что тот несоизмеримо ценнее кружки чая в обычных условиях. ИИ будет принимать разные решения в одинаковых условиях но с разными объемами данных. Создавая робота - домохозяйку, следует ограничить его "умственные способности" иначе загрузив данные из сети за всю историю ИИ может придти к выводу, что чай для этого человека в данный момент важнее ползающего ребенка под ногами.

Я поржал с коммента внизу экрана на 5:42. "Камера в фокусе, просто я расплываюсь. Это редкое заболевание"

он намеренно ушёл от решения. робот должен минимизировать СОБСТВЕННОЕ влияние на окружающий мир. тогда и в случае с соседом заваривающим кофе робот ничего не будет предпринимать, и за собой всё вернёт на место, и в случае автомобиля по идее должен будет остановиться

Из видео я понял, что лучший AI это человек.

Когда люди правят миром, у них тоже есть свои задвиги в голове, и набор своих приоритетов. Поэтому я вижу преимущество искусственного интеллекта в любых действиях, только необходимо, чтобы он был достаточно обучен

Главное не розделять границы между роботом и человеческим делом которое можно скинуть к примеру на робота,что люди что остальное, планета - все делают что делают и да это катаклизм будет со стороны робота но Айзек это ейнштейн роботов,, и конечно если все ленивое человеческое оставлять на 'роботов' то конечно, жди жывого действия.лучше самим стать роботами и обвестись личными роботами и отвечать за них

Как насчёт трёх законов робототехники???

Безопасный и при этом умный ИИ невозможен, получается только скайнет...

В конце всех измышлений робот выйдет на самого владельца (программиста) и прибьёт его ..если до этого не случится очередной форс-мажор не прописанный в алгоритме. 😄

Выдавливание предложения по одному слову невероятно напрягает.

Всë просто. Надо загрузить мозг какого-нибудь человека в робота, и пусть работает. Наш мозг уже всë учëл и придумывать ничего не надо

Да тут сама постановка задачи низкоконтекстная. Вообще с чаем тут две задачи - логистическая (принести), и кулинарная (приготовить). Каждый тип задач должен иметь свои нюансы и опции, так же как и автопилот на автомобиле. Ну а пример с препятствием - это прямо несерьезно. Собственно, сама логистика есть преодоление препятствия в виде расстояния. Словом, немного высосано из пальца.

Вот реальный (уже состоявшийся) пример: Стадо усиленно пользуется банковскими карточками = виртуальными долговыми обязательствами... А теперь, когда у всех баранов есть карточки, начинается безуведомительный отъём виртуальных денег, со словами "ZA штрафы" и т.д. В общественном транспорте - теперь деньги не принимают. А в китае УЖЕ обнуляют карточки, если ты не понравился - и выбрасывайся в окно! Почему всё так?! - да потому, что мозгов нет и думать не хотят!

А Как же айзек?три закона,неработат?,,ну да ну да но мы не создаём беду,не хотим же ..

- Робот , любой ценой я хочу слетать на Юг, всё остальное не важно! Робот , подсчитывает случайные переменные , берет анализ воздуха , оценивает силу ветра, сгибает человека в полуприсяде , разворачивает к себе спиной и выписывает смачный пендаль под сраку.

Разве Азимов не решил все эти проблемы тремя простыми законами десятки лет назад?

Это скрипты, а не ИИ. Мы хотим, чтобы ИИ сам думал и учился. Открывал новые законы науки и техники

у жизни есть мотивация к самосохранению. какая мотивация будет у компьютера? вопрос даже не об осознанности. вряд ли микробы осознают себя, тем не менее они живые.