Тема интеллекта — естественного и искусственного — часто обсуждается поверхностно. Между тем, чтобы разобраться, что делает существо разумным, нужно выйти за рамки упрощённых определений и заглянуть глубже.

Что такое разум?

Словари определяют разум как высшую ступень познавательной деятельности — способность логически и творчески мыслить, понимать связи явлений, обучаться и прогнозировать. Если убрать из определения слово «человек», получится критерий, формально подходящий даже роботу-пылесосу. Но интуитивно мы чувствуем разницу: сосед Вася, несмотря на кредит на свадьбу, явно превосходит пылесос по разумности. Почему?

Обучаемость как ключевой признак

Вася способен к полноценному обучению. Он не родился с жёстко зашитой программой, как тигр или бобр. Вместо этого у него есть базовые инстинкты — голод, страх, потребность в привязанности. Но всё остальное — от охоты до работы на станке — он осваивает в процессе жизни.

Эта пластичность даёт огромное эволюционное преимущество. Когда условия резко меняются, выживают не самые сильные, а самые обучаемые. Именно поэтому вороны, в отличие от многих животных, не только не вымирают, но и активно осваивают города. Они наблюдают, подражают, прогнозируют, учатся — и адаптируются.

Рефлексия и эмоции

Обучаемость невозможна без рефлексии — способности анализировать свой опыт. Это основа самообучения. Однако анализ прошлых неудач часто сопровождается эмоциями: стыдом, сожалением, разочарованием. Именно они направляют процесс обучения, выступая как внутренние поощрения и наказания.

Эмоции — второй важный элемент, отличающий биологический интеллект от искусственного. Они делают обучение эффективнее, но при этом вносят «баги»: например, после неудачного свидания вы можете навсегда разлюбить ресторан и блюдо, с которыми оно ассоциируется. Так формируется индивидуальность — результат сложного переплетения опыта, эмоций и рефлексии.

Сознание и язык

Вася мыслит — значит, существует. Но откуда мы знаем, что он обладает сознанием? Потому что он может рассказать о себе. Однако это работает только в рамках общего языка и культуры. Доказать наличие сознания существу, не владеющему речью или говорящему на чужом языке, практически невозможно.

Человеческое мышление глубоко завязано на язык. Даже внутренние мысли мы формулируем словами. Без речи, усвоенной в детстве, рассудочная деятельность затруднена. Это значит, что сознание — не чисто биологическое явление, а культурный продукт. Наличие сознания у ворон, например, может адекватно оценить только другая ворона. Тем не менее, Кембриджская декларация о сознании уже признала, что сознание присутствует и у животных.

Сознание как побочный продукт

Сознание и самосознание, вероятно, неотделимы от сложного мозга. Они — необходимые компоненты процесса самообучения. Память, рефлексия, ощущение «я» — всё это неотъемлемо для эффективного обучения. То есть богатый внутренний мир — не цель, а побочный эффект.

Одушевлённость — не бинарная черта. Это спектр: от человека до кирпича. Даже у тараканов обнаружили индивидуальность, несмотря на примитивный мозг. Если признать, что наша «духовность» — результат самообучаемости, то при сопоставимом уровне интеллекта ворона имеет право на сопоставимый уровень личности.

Искусственный интеллект: что ему не хватает?

Современные ИИ, вроде чат-ботов, имитируют разумное поведение, но не обладают им. Тест Тьюринга проверяет умение вести диалог, а не наличие сознания. По-настоящему разумным ИИ можно будет считать тогда, когда он начнёт задавать вопросы самому себе — когда в нём появится внутренний цикл бесконечной рефлексии.

Тело как основа разума

Естественный интеллект возникает из потребностей тела: нужно есть, избегать боли, размножаться. Тело создаёт границу «я» — противопоставление внешнему миру. Оно поставляет сенсорную информацию и даёт обратную связь: удовольствие за успех, боль за ошибку.

Именно поэтому шансы на появление полноценного разума у физического робота выше, чем у виртуального ассистента. Чат-бот решает задачи, но не переживает последствий. У него нет тела, которому нужно что-то объяснять.

Перенос сознания человека с биологического носителя на цифровой — это не создание ИИ, а копирование. Искусственным будет лишь носитель, а не сам интеллект.

Вывод

Разум и личность — не привилегия человека. Они возникают там, где есть сложный, обучаемый мозг. Сознание — не чудо, а необходимый инструмент выживания. А современные ИИ, лишённые тела и внутреннего рефлексивного цикла, остаются продвинутыми механизмами, но не разумными существами.

Прочитал я тут давеча книжку про интеллект ворон и воспламенился, ибо тема была там ну вообще не раскрыта. Так что я решил накидать немного тезисов по части естественного и чуть-чуть искусственного интеллекта прям сюда. Приходи по прочтении в комменты, и пусть победит сильнейший!

Гугл со ссылкой на оксфордский словарь выдаёт следующее определение разума: "высшая ступень познавательной деятельности человека, способность логически и творчески мыслить, ум, интеллект". Словарь Ушакова определяет его как высшую ступень познавательной деятельности человека, способность логически мыслить, постигая смысл и связь явлений, уяснять законы развития мира, общества и сознательно находить целесообразные способы их преобразования. Разнообразные мутно философские определения, включающие понятия "дух", "бог" и прочее, приводить не буду. В сухом остатке, если выкинуть из формулировки слово "человек" мы сможем определить разумность как способность к пониманию, обучению и прогнозированию. Это скучно; при таких вводных, с опорой на накопившийся массив работ по теме, доказательство разумности врановых потребует не более страницы, половину из которой займут ссылки. С другой стороны, если руководствоваться вышеприведенным определением, вполне разумным может быть признан, например, робот-пылесос, а сосед Вася, взявший кредит на свадьбу, из списков разумных существ вычеркнут без права на апелляцию.

Так что давайте попробуем копнуть глубже. На интуитивном уровне мы всё-таки чувствуем, что Вася в чём-то превосходит трудягу айробота. Попробуем сформулировать критерии, ущемляющие пылесос в пользу кожаного мешка.

Во-первых, Вася, в отличие от пылесоса, полноценно учится (это подразумевает, что с высокой долей вероятности, на вторую свадьбу, буде таковая состоится, он кредитоваться не будет; в противном случае придется действительно признать его тупее пылесоса). Дело здесь не в банальном количестве нейронов и их связей; количество тут перешло в качество и Вася стал ОБУЧАЕМ. Не в пример пылесосу, Вася не родился с зашитой намертво программой, допускающей лишь незначительные вариации. Конечно, базовые драйверы у Васи стояли: кушать, какоть, орать и сосать сиську, бегит,п̶р̶е̶с̶ ̶к̶а̶ч̶а̶т̶ ̶а̶̶̶н̶̶̶ж̶̶̶у̶̶̶м̶̶̶а̶̶̶н̶̶̶я̶̶̶.А вот программы охоты на мамонта или работы на фрезерном станке мать-природа Васе не дала. Однако любую из этих (а так же из 100500 других) программ Васе можно накатить практически в любой момент времени путем обучения. Тигр рождается хищником, который умеет догнать и сожрать. Бобр сразу рождается грызуном, умеющим валить деревья и делать запруды. Вася рождается бесполезным карапузом, но в итоге сможет стать кем угодно. И вот тут мы вплотную подступаем к вопросам плюсов и минусов развитого межушного ганглия. Иными словами, если ум дает такие преимущества - почему же вокруг одни недоумки?

Элементарно. Всё дело в цене вопроса. Большой, гибкий мозг - жутко дорогая по всем параметрам штука. Он потребляет прорву кислорода, уйму калорий, выделяет кучу тепла, требует достаточно бережного обращения, на обучение его уходит куча времени - короче, далеко не каждому по карману. А ещё он, чертяка, временами глючит. Поэтому, когда все на мази и можно отделаться набором вшитых скриптов - выгоднее быть тупым. Однако в случае резкой смены условий обитания тупые обречены. Устаревший софт, зашитый намертво с рождения, не обеспечивает выживания в новом мире. На его обновление требуются века эволюции и не у всех они есть. Тут-то и наступает эпоха обучаемых.

Врановые, кстати, прекрасный тому пример. Пока из-за деятельности человека вымирают всякие дронты, тигры и медведи, врановые осваивают города и увеличивают свою численность. Позавчера доедали падаль за волками, вчера - трупы за Чингисханом, сегодня уже тырят бургеры у хипстеров, а завтра будут потрошить пищевые синтезаторы в космопортах - в общем, не пропадут.

За счет чего достигается обучаемость? Наблюдение, подражание, прогнозирование, рефлексия. Если с первыми тремя всё очевидно, то на рефлексии нужно остановиться поподробней. Рефлексия – это, в первую очередь анализ опыта, что является основой для самообучения. Всяк анализировавший бессонной ночью какой-нибудь свой неудачный опыт знает, что оттуда до запоя - рукой подать. Что плавно подводит нас к мысли, что для главного признака духовности - нравственных страданий - помимо рефлексии необходимы ещё и эмоции.

Это второе важное отличие кожаных форм организации материи от полупроводниково-пластиковых. Эмоции позволять направлять процесс обучения, выдавая сознанию поощрения и взыскания. Без них программирование мясного процессора будет гораздо сложнее и дольше. Однако они же в диком количестве плодят баги в системе, ибо зачастую лупят по площадям. Поясню примером: повели вы, например, любовь всей своей жизни в хороший ресторан, заказали там любимое блюдо, сделали предложение руки и сердца и... получили от ворот поворот, причем в обидной форме. Каковы шансы на то, что это станет ваш любимый ресторан и любимое блюдо? Обида и разочарование от свидания пометили всё, с чем вы взаимодействовали в тот момент, черной меткой. Так что такой способ обучения в итоге даёт на выходе индивидуальный характер каждой особи, ибо взаимодействуют и пересекаются в процессе куча факторов, которые при всём желании учесть невозможно.

В-третьих, Вася мыслит, следовательно, существует (пылесос, правда, тоже существует, ну да б-г с ним). Иными словами, Вася обладает сознанием. Откуда мы это знаем? Ну, если сесть с Васей за стол, накатить 3 по 100 под нормальный закусон - Вася сам вам расскажет про своё бытие и мироощущение. Тут-то и кроется подвох.

Заключается он в том, что мы с Васей говорим на одном языке, имеем схожее строение и принадлежим к одной культуре. Таким образом в застольной беседе Вася может мне без особого напряга вывалить кучу абстрактных категорий ("душа болит") и быть понятым мною, как минимум, в общих чертах. А вот условному негру преклонных годов из джунглей Мадагаскара, говорящему на экзотическом наречии и чуждому привычных нам философских категорий, наличие у себя сознания Васе будет сложно доказать.

Ещё сложнее будет доказать наличие у Васи сознания какому-нибудь Маугли, который вообще никакому языку не обучен и, следовательно, оперировать категориями души, разума и сознания не способен.

Чуете, к чему я веду? У современного человека большая часть мыслительного процесса завязана на язык. Даже внутри себя мы редко оперируем чистыми образами, так или иначе, любая прорвавшаяся в сознание мысль облачена в слова. Без речи, которой мы НАУЧЕНЫ с детства, мы практически не способны к рассудочной деятельности. Желающим предлагаю умножить в голове семнадцать на девять не используя слова и цифры. Иными словами, наше развитое сознание явление скорее культурное, чем биологическое. Что приводит нас к выводу о том, что на данный момент степень развития вороньего сознания и самосознания полноценно может оценить только другая ворона (сам факт наличия сознания у птиц утвердила Кембриджская декларация о сознании).

Становится теплее, ибо интуитивно наличие разумности на бытовом уровне у нас ассоциируется с тем, что раньше именовали душой: совокупность памяти, самосознания, самоощущения и осознания индивидуального "я". Довеском к этому пакету идут скука, чувство юмора, стыд, эстетическое восприятие и прочие высокие материи.

А теперь самое вкусное: ящетаю, сознание и самосознание присущи вообще любому достаточно развитому мозгу, ибо являются необходимыми и неотъемлемыми составляющими его функционирования. Без осознания себя, памяти, рефлексии попросту не получится успешного обучения. Проще говоря, весь ваш богатый внутренний мир - лишь ПОБОЧНЫЙ процесс программы самообучения, и присущ он любому обладателю сложного мозга. Одушевленность же вообще не бинарный признак "есть/нет", а скорее точка на достаточно длинной шкале, от привычного нам человека до кирпича. Индивидуальность нашли даже у тараканов, а у них в башке буквально два нейрона в три ряда. Нет какой-то критической черты, после которой обладатель мозга ВНЕЗАПНО становится личностью. С какого момента можно уверенно говорить о личности (с точки зрения психологии, а не юриспруденции) человека? Зачатие? Начало дифференциации клеток? Рождение? Узнавание родителей? Первое слово? Окончание института? Признаём ли мы наличие личности у пятилетнего ребенка? По своим когнитивным способностям вороны стоят где-то на том же уровне. И если мы признаем нашу "духовность" как побочный продукт самообучаемости, то при сопоставимом уровне интеллекта и уровень разумной личности у вороны должен быть сопоставим.

Ладно, с мясными процессорами разобрались, перейдём к электронике. Чем ИскИн отличается от мозга и при каких обстоятельствах его можно будет счесть одушевленным? Тест Тьюринга в свете успехов нынешних чат-ботов меня не убеждает. Он свидетельствует скорее о сложности программы, но не о её одушевленности. Я бы предложил оценивать разумность ИИ не по тому, как разумно он отвечает на вопросы и тому, как успешно он решает поставленные задачи. ИскИн можно будет считать разумным исходя из того, какие вопросы он задаетсам себе. Иными словами, пока у него не возникнет внутренний цикл бесконечной рефлексии, свойственный живому мозгу, полноценным интеллектом считаться он не может.

Тут мы плавно переходим к следующему интересному вопросу: возможен ли полноценный разум без тела? Естественный интеллект порожден потребностями и свойствами тела, которое нужно кормить, беречь и размножать. Тело задает границы "я", позволяя противопоставить его внешнему миру и другим телам. Тело снабжает мозг всевозможными видами информации: зрительной, слуховой, обонятельной, тактильной. Тело поощряет разум за успешную деятельность, оно же подсказывает, когда разум облажался. В этом плане, имхо, у продвинутого робота-пылесоса шансы на обретение полноценного разума выше, чем у чат-бота техподдержки, даром, что последний занимается более "интеллектуальным" трудом.

Конечно, если удастся технически решить задачу по "оцифровке" сознания какого-то конкретного человека и переносе её с углерода на кремний, это будет полноценный ИскИн, но, по большому счету, искусственным там будет только носитель, но не сам интеллект.

Резюме: разум и личность свойственны не только человеку, это свойство не раз возникало (и возникнет) в ходе процесса эволюции в силу того, что преимущества сложного разумного поведения велики, а личность и сознание являются неизбежными спутниками развитого мышления. А вот от нынешних ИИ-ассистентов типа чат-гпт я в обозримом будущем не ожидаю обретения личности и разума в связи с тем, что для формирования полноценного "я" необходимо тело.

Автор: Даниил Ли