Философия сознания: Китайская комната 

Мария абсолютно правильно сказала,нужны определения для слов которые они используют в беседе.Как вообще можно что либо выяснить если нет понимания слов и их семантики?Сделали определения,ведем дискуссию,по мере необходимости добавляем слова и определения,завершаем дискуссию и идем работать над искусственным интеллектом.

Ведущая находится в Китайской комнате)

Благодарю за видео. Очень понравилось как рассказывает Дмитрий Волков

разговор о каком-то искусственном интеллекте. А что мы подразумеваем под интеллектом в целом? Почему отрицаем интеллект у сири, например? Интеллект не есть ли синоним для вычисления? Или вычисление, активизирующееся от постороннего источника? Или что? Может упразднить это понятие или определить его как способность к вычислению у живых существ - проблем станет гораздо меньше.

Интерьер крут

Интеллект - это часть психики. Сюда же входят инстинкты, эмоции, чувства, воля. Все эти вещи не исследованы полностью, как тогда их можно воспроизвести искусственно? Как можно воспроизвести то, что знаешь частично? То о чем ученые не знают, может очень сильно влиять на общую картину

Так, у них в 2015 ещё ни один *человек* не доказал теорему Пункаре. Что знают о Перельмане они, чего не знаем мы ?

Курт Гёдель в своей теореме доказал, что невозможно изнутри системы доказать или опровергнуть её ошибочность, нужно выйти пределы системы. Целеполагание как критерий разумности и наличия сознания слабо применим, какое целеполагание у младенца или у плода внутри матки? Автоматически-запрограммированный рост и развитие. Какое целеполагание у машин Тесла? Самообучение, т.е. развитие. Есть ли сознание у беспилотных машин? Так можно договориться до того, что дети до ХХ сознанием не обладают, и поэтому на них не должны распространятся правила и законы созданные для разумных существ, это кстати к вопросу о том, что некоторые законы не применимы к детям до их совершеннолетия. Грубо говоря есть разные типы сознаний, Человеческое, животное, растительное, минеральное и т.д. Те кто думают, что только человек разумен ибо у него своеобразное понимание мира и некая уникальная личность и психический окрас - заблуждаются, существуют типизации по типам личностей, исходя из которой можно сказать что все люди похожи друг на друга, существуют исследования доказывающие что растения обладают интеллектом, что они общаются друг с другом, например посредством химических веществ, в общем разница между сознанием Человека и растений в том, что у психики растения уже диапазон осознаваемых им факторов среды, почва, воздух, удобрения, свет, человеческому же сознанию доступен более широкий диапазон факторов, в том числе виртуальных - вымышленных гипотез и фантазий. Древние индейцы знали что у камня, травы, дерева есть душа (сознание-интеллект), а современные учёные на их фоне просто неучи.

Наше сознание и работает как китайская комната, просто у нас много китайских комнат, которые передают друг другу карточки.

Спасибо за Марию!

Супер! Формат хороший

Справедливо сказано про склонность наделять всё вокруг разумностью. Но ещё есть другая склонность. Наделять именно свой мозг, так похожий (если смотреть с далека) на мозги других животных, в особенности млекопитающих, какой-то особой категорией СОЗНАНИЕ и отказывать в ней всем остальным системам допускающим хоть и зачастую более сложное, но не требующее привлечения дополнительных сущностей объяснение. Уже феерически бомбит от этого бородатого ad hoc-ка.

невероятно интересно!

Может пора задать вопрос "а что есть понимание и какие его критерии, и есть ли оно у человека"? Мозг человека тоже можно считать китайской комнатой, которая выполняет определенные инструкции, получая входящие сигналы и выдает какие-то реакции на них.

А вы не думаете, что эти трое на самом деле являются философскими зомби?

Очень интересно.

Комната в целом представляет собой организм наподобие нашего. Мозг человека функционирует также согласно заложенным программам. Электрические импульсы, идущие по нервным волокнам, действуют так же как человек в китайской комнате(без понимания). Тут и возникает логическая ошибка ложной аналогии. Внутри комнаты функция передатчика возложена на существо, уже обладающее сознанием, в то время как в нашем организме эту функцию выполняет совокупность бессознательных элементов. То есть противоречия тут нет. Вопрос в том, что если в комнате, вместо существа, обладающего сознанием, эту функцию будет выполнять нечто им не обладающее, можно ли тогда считать комнату в целом им обладающей? Кажется, что да. Но в то же время, если нет, то обладаем ли сознанием мы?

У человека (у личности, субъекта) есть способность формировать самостоятельные желания, интерес. Искусственный интеллект может быть производительнее человеческого разума, но он не имеет своих желаний, не имеет своего интереса. Может его изображать, если того ПОЖЕЛАЮТ его создатели, программисты, но самостоятельно создать его не может. Если сможет, то в этот момент искусственный интеллект действительно станет личностью, самостоятельным субъектом.

Тем не менее спасибо ПостНауке - за всё ! Нельзя выпустить миллион пуль и каждой попасть точно в цель. #светнауки

Очень наглядная аналогия через которую легко поставить вопрос ребром и отобразить, насколько неосознанны и безразличны действия вычислительной машины, который просто дали алгоритмы. При этом вся эта система целиком, может сойти за сознательный разум, хотя бы потому, что алгоритмы то ей должен писать именно он.

Позвали бы самого Васильева, о котором упоминает Волков. Вот уж харизматичный лектор и приятный человек, ну и специалист по фф сознания крупный)

Здравствуйте. Вопрос по Китайской комнате: Когда человек, находящийся внутри комнаты, пользуясь книга и инструкциями на английском языке, Он отвечает правильно, на поставленные ему вопросы (на китайском языке), или нет?

Человек подобен магнитофону. Что записал, то и слушаешь. Бывает человек так и проживает всю свою жизнь с одной песней в голове.

Китайская комната получается вопросом изоляции одного процесса обработки информации от других (в данном случае обработка китайского языка инструкциями и всех свойственных работающему в ней субъекту). Будет ли больной с расщеплённым сознанием её примером? Они ведь тоже иногда не могут добавить к речи данные от других процессов в их голове.

Интересно, но звук хромает. Очень тихо, в транспорте слушать невозможно. И судя по комментариям к другим видео, не у меня одного такая сложность.

Ведущая похожа на одноклассницу из далёкого 95го, просто 🔥🔥🔥🥰

Почему Мария на 06:25 как-то странно заявляет, что все философы соглашаются в том, что наличие субъективного опыта у человека сомнению не подлежит. Про иллюзионизм не слышала? Ну и Дэниел Деннет смеётся над этими её словами.

Так же положительно отношусь к самому занятию -- задавать (зачастую на первый взгляд) сложные вопросы. Они делают нас умнее, дают более чёткое понимание научных идей, углубляют мировоззрение. Просто с точки зрения большинства философов и учёных, как отмечено в видео -- тема исчерпана. А меньшинство вместо того, что бы вступить в конструктивную беседу с этим большинством и попытаться опровергнуть очевидные контр-аргументы -- изолируется от него в свой мирок расплывчатых понятий и скрытых аксиом. Видимо тут большинство должна была представлять психолог, но не срослось.

Если компьютер выключить из розетки, то он не умрёт, а заснёт как делают люди при кратковременной эпилепсии (будет провал сознания, но не смерть). А когда код Элизы переписывают, то она просто меняет свою память, свой характер (ведь даже человека в течении жизни переписывают обстоятельства и другие люди). Ну или можно сказать что мы все умираем постоянно и не замечаем этого.

Все просто - человек в комнате китайского языка не знает, но система "комната+человек" его знает. Точно так же как отдельный нейрон в мозгу не обладает сознанием, но система из N миллиардов таких нейронов - уже им обладает. Сейчас уже не вспомню как называется, давно это было, но в теории систем для этого даже специальное название есть - для свойств, не присущих каждому элементу в отдельности, но присущих системе в целом.

Жду статей, написанных роботами о неискусственном интеллекте и может ли он захватить мир и все такое.

> мы создаем некоторую интеллектуальную систему которая в чем-то похожа, но она просто симулирует, просто похожа, но НА САМОМ ДЕЛЕ эта система не может быть сама по себе рациональна А если она во всём похожа и её поведение статистически не отличимо (тест тьюринга и ему подобные), то, лол, что тогда значит НА САМОМ ДЕЛЕ ?

Вопрос не в "разуме", вопрос - в "личности". Неужели это так трудно увидеть. Не в сознании, а в самоосознании

23:23 Где сказано, что на строгом формальном уровне доказано, что невозможно экспериментально решить проблемы сильного ИИ? Любая гипотеза проверяется эмпирически (скажем предположение в СТО о постоянстве скорости света в вакууме). Фантазии Серла дают повод предсказывать возможности технологий будущего??

Такое чувство, что психолог своим выражение лица просто смеётся с философа.

> его аргумент [..] показал , что существует некоторая проблема и мы должны решить её на теоретическом уровне. Это проблема существует только в коллективном воображении некоторых групп мыслителей и не имеет отношения к реальности.

До тех пор, пока компьютер работает четко по введеной программе, пока нам точно понятен принцип его работы, механизм и механика его работы, пока мы можем точно предсказать его следующее действие - компьютер является для нас неразумным автоматом. Но вот если появится компьютер, работу которого мы до конца не понимаем, ни программа, ни механика работы нам точно не известны, и мы не можем предсказать его последующие действия... Вот тут нужно задуматься, что внутри спрятан разум. И возможно сознание. Сами мы такой сделать не можем. И еще долго не сможем.... Ну если только родить ;)

да, и добавлю, - что теорема Пуанкаре, о которой упомянула Мария, вроде как была доказана М. Перельманом, ещё в 2007 году. Как-то так.

В ответ на предположение о невозможности компьютерной программы обладать интеллектом я предлагаю следующий мысленный эксперимент: эмулировать работу 83e+9 нейронов головного мозга человека, обладающие некоторым субъективным опытом, схожим с человеческим. Это будет осознавать себя таким же человеком и реагировать будет так же. По сути человеческое сознание - это лишь очень сложная нейронная сеть. Также хочется вспомнить интересную вариацию Китайской комнаты из фильма Ex Machina - человека запирают в черно-белой комнате, в которой он живет всю свою жизнь. Ему дают возможность изучать физическую природу цвета, его воздействие на сознание, то, каким образом устроены человеческие глаза и т.д. , но лишь по чб книгам. По окончании курса обучения его выпускают в цветной мир и лишь тогда он на самом деле понимает, каково это, ощущать цвета. Стоит ли считать, что в этот момент человек обрел больший интеллект вместе с этим пониманием?

А сейчас нейросети - отличная иллюстрация Китайской Комнаты, где нет ни сознания, ни понимания. И сейчас куда легче сформулировать идею о проблеме понимания: нейросеть не понимает, не анализирует, она воспринимает входящие данные как запускающую команду для угадывания (а точнее, имитирования) похожего на живой ответ реакции. И причем часто этот ответ совершенно невалиден, содержит артефакты и ошибки "инструкции" (модель нейронки, та самая инструкция с иероглифами). Да, можно представить куда более совершенную модель нейросети (GPT-x+1), но даже тогда - это будет более совершенная версия угадайки. Эта система: компьютер+обученная модель+святой дух чего-либо - абстрактно даже не существуют до тех пор, пока на них не оказываются воздействия извне. Пока "китайцы" не толкают в прорезь бумагу с вопросами на китайском. Если рядом не будет ни одного "китайца", то из прорези не появится бумажка с вопросом на "китайском" - Кто я? Ау? Где я? Только если такое поведение не запрограммировать (та же имитация). Тут легко демонстрируется отсутствие реальной "научаемости" - здесь даже иллюзии субъективного опыта нет. На примере нейросетей абсолютно хорошо проглядывается синтезированность при попытке ведения осмысленного диалога, где в конечном итоге ты понимаешь - общение происходит со сложной динамической инструкцией, а не с разумной машиной. Нейросетевой арт, звукогенерация, программный код, текст из GPT-4 - всё это очень наглядно демонстрирует отсутствие сознания. А вот роль сознания на себя берет промт-разработчик (человек, который задает команды для генерации нейронкой чего-либо), обладающий мотивацией и субъективным восприятием и ожиданием для конечной цели.

А квалиа это и есть сознание или сознание находится внутри квалиа, или квалиа находится внутри сознания?

Неужели нельзя было найти ведущую, хоть на капельку обремененную интеллектом?

klass

Приятно услышать знакомый голос ведущего)

К К это наивный аргумент в пользу того , что человек "единственный и неповторимый ".

Последняя фраза психолога -- золото. По итогу : ни к кому претензий нет, ничего личного, уважаю и мс слева, и мс справа просто у меня есть определенные причины (см другие комментарии) считать, что вы говорите глупости. P.S. Меньше всего глупостей сказала ведущая

Чтобы в китайской комнате появилось понимание, достаточно лишить её инструкций, а человека поощрять по принципу кнут и пряник. Т.е. то что человек называет пониманием, на самом деле просто болевой и эмоциональный отклик.

25:35 "...В общем, нет решения у этой проблемы!..." Рассуждения очень интересные, их стОит послушать. Но если кому столько не осилить, то я привёл слова Юлии Полевой, которые резюмируют всё сказанное во время беседы. 😄

Чем симуляция отличается от эмуляции?)))

Теорема или гипотеза Пуанкаре доказана... Человек ли Перельман - это конечно вопрос!

Аргумент с отсутствием целеполагания у ИИ не совсем справедлив. У человека, по сути, тоже нет целеполагания и вся деятельность сводится к ответной реакции на окружающую среду

Очень интересно. И хорошая аналогия. Эта тема гораздо важнее, чём покорение космоса.

А что если осмысленность появляется не в процессе, а в результате (как и сознание)?

13:54 лучший момент видео.

15:50 Ха, а ведь я самостоятельно пришёл к идее, что компьютер не может иметь личность, поскольку у него нет своих желаний. И чувств тоже нет. Даже тех, что я испытываю сейчас...

ведущая сильно портит впечатление от замечательной дискуссии.

Не совсем понятно, чем эксперимент с китайской комнатой отличается от обычного общения, особенно на расстоянии. Откуда я знаю, что человек, с которым я говорю по телефону, действительно понимает то, что я ему говорю? Что такое "понимание", кроме как свойство, которое человек решил приписать самому себе?

А что если представить Антикитайскую комнату (назовём её Уйгурской комнатой). В Уйгурской комнате находится уйгур с китайско-уйгурским словарём, подучает вопросы на китайском, переводит для себя, но ответ даёт ответ на уйгурском языке. У китайцев уйгурско-китайского словаря нет. Получив рац она ный ответ, китайцы его не поймут. Но разве это делает Уйгурскую комнату нерациональной? Кстати, а разве до начала письменности у людей не было рациональности и семантики?

Кстати, если человек внутри китайской комнаты не справится... И китайцы решат, что они не получают разумных ответов на обращение к комнате... И забросят внутрь гранату.... То они уничтожат настоящего живого разумного и обладающего сознанием человека, проблема которого была лишь в невозможности выстроить нормальную коммуникацию. То есть если нам не известен точно принцип работы китайской комнаты, мы не можем быть уверены в отсутствии сознания внутри, даже если комната ведет себя несознательно с нашей точки зрения.

А что всё упёрлось в Сёрла? Д. Чалмерс так наоборот отметал все основные возражения против ИИ

Хорошо в конце дискуссии заметила Мария Фаликман - всё зависит от того, как определять само понятие разумности. Здесь речь велась о разумности как свойстве самой комнаты (компьютера, человека). Но это ведь, мягко говоря, некорректно. Разумность сама по себе не существует в отдельном человеке. Разумность это свойство сообщества в целом. По большому счету все члены сообщества имитируют некую форму разумности, принятую в культуре данного сообщества (в том числе и используемый для этого язык). Отсюда следует, что ИИ вполне может имитировать разумность, если снабдить его всеми когнитивными и поведенческими шаблонами данного сообщества. Но вот чего он никогда не сможет имитировать, так это творчество. Для этого он должен уметь оперировать не только символами, но и идеями, на что способен видимо только человек.

На мой взгляд феномен сознание невозможно разгадать. Возможно это такое же фундоментальное явление, как гравитация к примеру. Вероятно сама материя и есть сознание.

11:30 говорит "ладно я выучу карточки, но всё равно буду отвечать так КАК БУДТО я понимаю". НО ведь это не значит что в этом действии не появилось сознание, просто сознание этого учёного находится под этим новым сознанием, либо параллельно ему (как и подсознание). То есть новое сознание в таком случае появилось поверх этого учёного, возможно оно глупое, однако всё равно это НОВОЕ сознание и даже главнее предыдущего более умного (ведь подсознательно мы обрабатываем куда более сложные объекты чем сознание, даже при повреждении зоны обрабатывающих лиц, сознательно мы не можем взять на себя всю работу этой подсознательной части, а значит сознание может быть глупее, но оно всё равно может быть при этом главнее).

20:10 Днепров предвосхитил эксперимент с кк.

качество "сознание" (в том смысле, каким его знает общечеловеческая культура) есть только там, где реакциями на внешние раздражители есть страдание/удовольствие , сознание невозможно без этих качественных реакций на действительность.

Дилемму про "отключение искуственного сознание равно смерть" можно предположить не верной ......так как человека тоже можно отключать и включать, если не имеется ограничения обусловленной биологическим системой жизниобеспечения....как тебе такое Илон Маск?!

*о ПРИВЕТ ВЕДУЩИЙ(ДИКТОР) ИЗ ИГРОМАНИИ !!!!*

> когда вы выключаете вы убиваете А когда обратно включаю, воскрешение ебать? Сорян, но убийство выглядит не очень хорошо, только потому что на данный момент немного необратимо. Да значительная необратимая потеря памяти -- это в соответствующей степени смерть. Но если вся (в том числе оперативная) память после включения остаётся на месте т.е. система восстанавливается к состоянию в момент выключения, то ИИ права которого вы защищаете не узнает о своём выключении (и о существовании такового в принципе) ничего до тех пор пока вы ему об этом не скажите.

а.днепров Игра "Знание - сила", 1961, ©

Когда включил видео чтобы узнать что-то новое и понял, что знает больше чем "учёные"

> но мне кажется что большинство философ и (не знаю как) учёных с большим скепсисом относятся к этому эксперименту Закономерно.

Медиатор или ведущая, так и не понял, подитожила: в общем, нет решения этой проблеме

Главная проблема этого эксперимента в его умозрительности. Реализовать такую систему невозможно, она имела бы бесконечную сложность. В итоге, рассуждаем о том, что в принципе невозможно в материальном мире. Философский зомби невалиден как идея, значит, и проблема надумана. Это то же самое, что придумать концепт бога, а потом спорить, существует ли он, всемогущ ли, как соотносится с материей и т.д.

ведущая - прелесть, в эту сухую академическую дискуссию вливала струйки ...ммм позитива своими милыми репликами.

про "одесского мальчика" 22century.ru/popular-science-publications/cheating-on-the-test

Тяжело смотреть, когда у ведущей тяжелый случай

Не понимаю почему у программы нет цели..?

Чересчур много повторений звука в заставке в конце

Вот я орнул в голос, когда эта замечательная парочка все разжевала, и тут - бах! Ведущая спрашивает: так где же все таки здесь столкновения?

"тело" сложнее определять. Определить сознание не сложно, оно компенсация бесполого Тела, тогда как само "тело" не действует в отличие от бесполого Тела. Сознание начинает действовать по пробуждению ото сна, но это "действие" уже пассивное в отличие от действия бесполого Тела дающего программу сознанию, которая имеет целью уравновесить бесполое Тела в среде обитания и действия. Стоит ли придавать значение сознанию, нет, вторичное и зависимое вне цели, а значит важнее бесполое Тела и его "действие", которое определяется "средой". Почему "тело" действует во многих концепциях? связано с незрелостью мысли, и например в философии с механицизмом до сих пор господствующим среди философов, а в психологии с интересом также, чтобы клиент "двигался" к ним, ведь рынок знает только деньги, и где многие вещи ради прибыли существуют. Ведь любому идиоту понятно что вселенная никуда не двигается, и если глянуть в учебник физики, где и напрашивается принцип простой аналогии к "индивиду", и ясно что политикам идиотам это неизвестно, иначе бы они делали ставку не на "политэкономию", и принимали бы более взвешенные, разумные, решения.

Наглядная реализация такой комнаты - Google Translate и другие машинные переводы.

Мыслить рационально, как мне кажется, за частую крайне сложно ввиду эгоистичной сущности человека.

Китайская комната не обладает памятью, что легко проверяется вопросами. Как можно говорить про сознание в таком случае?

Сейчас вам зададут по-китайски вопрос: "你喜欢咖啡吗?". Переводить его я не буду, но надо ответить "是的", если вы любите кофе, и "不", если не любите. Нет, в самом деле, почему никто не пытался перевести эксперимент из мысленного в реальный? Хотя бы на примере детских книжек и словарного запаса в 20-50 слов. Я подозреваю, что в тот момент, когда человек выучит все инструкции, он довольно много начнет понимать. Можно было бы дать человеку все инструкции к беседе на определенную тему, "побеседовать", а потом на родном языке спросить - какие предположения у него могут быть по поводу использованной темы?

> она может ставить цели ? Да, иначе она отличима от здорового человека. //Я создал ИИ-аутиста, КАРЛ !

Привет от chatgpt

Такая хорошая дискуссия. Убрали бы ведущую и было бы все вообще замечательно.

в данном случае признаком разумности , но увы, еще не доказательством будет факт искаженной интерпретации вопроса, и соответственно неточности ответа - довесок разрушающейся плоти, туман чувственности умирающего мяса от желания интерпретации, подключения второго смысла со стороны тела, как того, что неспособно интерпретировать, но способно внести помехи случайным искажением собственного разложения. своеволие, невыполнение задания, непреднамеренный бунт, выраженный например в отказе, или вариациях почерка, если иероглифический ответ будет записан на бумаге. как же непонятно, что машина дает ответ без искажений, или с прочитанными , ожидаемыми искажениями, в отличи от человека, который, в отличии от машины будет выдавать в ответ гораздо большее, чем его спросили - симптом. ведь ответ человека -- это не просто нули и единицы, это запись на бумаге - мятой, ровной, загнутой от волнения, это знаки, написанные разным почерком. куда вы денете этот самый важный довесок? машину можно запрограммировать , человека нет, он всегда будет выдавать искажения. мы не можем запрограммировать машину на искажения, поскольку искажение не высчитываемый контекст, в первую очередь не высчитываемый контекст саморазрушения.

Когда-то белые люди не считали чернокожих людьми. Данная дискуссия как раз об этом. Когда чернокожие люди заставили белых считать себя людьми, то белым больше ничего не осталось, как с этим согласиться. Проблема с ИИ схожая, но еще более сложная, так как у ИИ может появиться желание считать людей более примитивными существами, не заслуживающими того, чтобы им вообще что-то доказывать. Мы же не доказываем крысам, что мы люди.)

Мне вот интересно,ведущая за красоту или за ум попала туда?

Язык имеет синтаксис, грамматику. Поэтому, если инструкция не позволяет понять смысл вопросов на китайском, то нельзя дать связный ответ. Интеллектуальный эксперимент предельно некорректен, в нём нет описания того, как работает инструкция по расшифровке неизвестного языка или хотя бы объясняющую, как можно, не зная языка, дать ответ на нём - сам механизм действия. Поэтому всё это вообще не имеет отношения к философии, все эти спекуляции - тут нет собственно мышления, а только игра с некими готовыми элементами, тогда как мысль возникает из ничего, без внешних влияний, она ничем не обусловлена.

При просмотре испытывал испанский стыд за ведущую. И, кстати, а как же Перельман?

Жалкие людишки - ошибка Вашей логики в том, что Вы сравниваете интеллект со своим виртуальным псевдо-интиллектом *металлический смех*

МАШИНА ИИ ЭТО КОМБИНАТОРИИКА...НО БЕЗ ДУШИ. МАШИНА ИМЕЕТ ПРЕИМУШЕСТВО В СКОРОСТИ ВЫЧИСЛЕНИЯ ИСПОЛЬЗУЯ ИСКЛЮЧИТЕЛЬНО ИНФОРМАЦИЮ ВЛОЖЕННУЮ В НЕЕ!! ВЫВОД: МАШИНА МОЖЕТ ОПТИМАЛЬНО ВЫВОДИТЬ МНОЖЕСТВО ВЕРНЫХ КОНЦОВОК, ЕСЛИ ЭТО МАТЕМАТИКА ИЛИ ФИЗИКА ТО ИТОГ АДИНОЛИЧЕН ИЛИ В СЛУЧАЕ С ФИЗИКОЙ НУЖНА АПРОБАЦИЯ В ЛАБАРОТОРИИ ИЛИ НА ПРИРОДЕ В НЕВЕСОМОСТИ. СТОП! СМОЖЕТ МАШИНА ИИ БЕЗ ЧЕЛОВЕКА ПРОВОДИТЬ ЭКСПЕРИМЕНТЫ (ПРАКТИКУ) СВОИХ ВЫВОДОВ? НЕТ ОДНОЗНАЧНО! ОПЯТЬ СОЗНАТЕЛЬНОЕ"ЖИВОТНОЕ" ПРЕВОСХОДИТ ИИ В УМЕНИИ ПЕРЕДИСЛОКАЦИИ УМСТВЕННЫХ СПОСОБНОСТЕЙ ПО ХОДУ ПРОЦЕССА, Т.Е КОРРЕКЦИИ. ЧЕЛОВЕК РЕШАЕТ ВЛОЖИТЬ В ИИ НОВУЮ ИНФОРМАЦИЮ, А НЕ ИИ РЕШАЕТ ДАННОЕ В ОТНОШЕНИЕ ЧЕЛОВЕКА. ДУША/СОЗНАНИЕ У ИИ ОТСУСТВУЕТ, ПРОБЛЕМА В ЭТОМ. ГЕНЕРАЦИЯ ЭТО КОМБИНАТОРИКА ГДЕ ИИ КОРОЛЬ А ЧЕЛОВЕК ПЕШКА В ШАХМАТНОЙ ДОСКЕ

мыслить рационально можно только относительно чего то!

а что если искусственный разум (интеллект) - это не человек (машина-поцессор), который сидит в комнате и не комната (набор вариантов), а тот кто НАПИСАЛ изначально все карточки, предвосхитив все вопросы. То есть создатель (программист), грубо говоря "скопировавший" свой разум в чистом виде. Такой разум продолжает жить уже самостоятельно и вполне осмысленно.

Если философы могут оставаться в рамках языка, не лишая себя, тем не менее, разумности, то какой принцип дает им основания сомневаться в разумности гипотетической программы, строящей карту и иерархическую структуру окружающей её информации? Начальное целеполагание у человека не отличается от целеполагания червя - продолжиться гену. Все остальные целеполагания вторичны. Существование именно этого целеполагания - казус, в чём-то близкий антропоморфному принципу.

Лол, ну что значит "у него нет, того что мы называем сознанием". Как отличить мир в котором у слабого интеллекта "есть сознание" от мира в котором нет ?

Не понял я смысла китайской комнаты. Человек получает вопросы и утверждения на китайском языке, после переводит на английский и пишит ответ на китайском. Почему считается, что человек ничего не понимает? Он не понимает только язык. Ответы же он откуда-то берет. Из "личного" опыта, например. Он же понимает, что отвечает и понимает вопросы так как делает перевод с китайского. Могут быть ошибки и недопонимания, но у себя в башке этот человек видет картину происходящего и действует "рационально" (что это вообще такое). Другое дело нужно ли это все самому человеку. Какого ляда он сидит в комнате и занимается этим... действием.

По поводу воссоздания человеческого сознания с помощью компьютера, типа поведения как человека, не учитывают разнообразность людей.