Нейросети можно проверить на проверяемых примеров и нейросеть может просто фантазировать. Мне ни разу не удавалось заставить GPT признаться, что он чего - либо не знает. Когда он заходил в тупик и не мог мне противоречить - он просто отключался. Было, что я потом не мог его разговорить более недели. Поэтому и заключаю - он не может признать, что кто-либо может быть умнее его или, что он не может что-либо объяснить и на этот случай, у него включается функция хоть како-нибудь "объяснения", по сути - придумки небывальщины. Затем он начинает извиняться за свои "ошибки" и оправдываться, что де он только учится и т. п.. Таким образом - непознанное человеком познаться ИИ не может, но он может сделать вычисления - собственно этим его умением он нам и нужен, но не познанием того, что человечество не знает. Нейросеть, - просто высокотехнологический калькулятор, не более.
Это точно! Тем не менее - это классный тренажер по практике ведения спора-диалога. Если правильно и осторожно вести диалог, его можно привести к согласию с самыми смелыми гипотезами. Более того, даже можно получить одобрение.
@@dvz72 Скорее всего он работает в рамках логики или парадигмы,, которую в него загружают. Т.е. кто чему его обучил, так он и "мыслит". Все в руках разработчиков. Хотя мне удавалось "переучить", но результат сохраняется только в рамках текущего чата.
@@dvz72скажете ограничиваться одной - будет ограничиваться одной, скажите скажите ограничиваться 3мя, будет ограничиваться 3мя. Хотя... Я когда "общялся" он выдал один ответ, но при просьбе посмотреть с точки зрения теории б и с, он только после просьбы принимал их во внимание...
Похоже на разговор с журналистом, который всё знает, потому что он воспринимает свои ассоциации за знания, ему всегда есть что сказать по любой теме. Нейросеть всегда будет подобна тупому журналисту.
Складывается впечатление, что нейросеть иногда как-будто дает ответ на вопросы о функционировании как органических структур живого мозга, так и собственных - имеющих иную природу. Словно пытается дать более универсальный - подходящий к описанию мышления, как такового, ответ 🤔
А реально ли ограничить рассуждения GPT рамками, скажем, одной теории или даже одной книги, если загрузить ему текст? Не могу понять, придумывает ли он что-то от себя, берёт ли где-то ещё или всё же следует только заданным ограничениям... может, кто-то пробовал проверить?
