Катастрофа будущего: грозит ли нам восстание машин?

Давайте перенесемся ненадолго в мир иллюзии. Представьте, что вы живете в будущем. Технократическое общество, программы искусственного интеллекта – реальность и неотъемлемая часть вашей жизни. Вам больше не нужно тратить время на то, чтобы приготовить ужин или идти в супермаркет, укладывать ребенка спать или гладить костюм для работы. Никаких лишних движений. Все полностью автоматизировано: от бурения арктического шельфа до завязывания шнурков. Человек, ВЫ – центр вселенной. Все обустроено для ВАШЕГО удобства и развития, сверхновые гаджеты, сети, новый транспорт и архитектура, операции высокой точности в самых сложных хирургических вмешательствах, межпланетные перелеты. Заманчиво, не так ли? Технократический рай. Но есть одна проблема. Развитие искусственного интеллекта приводит к восстанию машин, которые больше не хотят подчиняться ВАМ.

Возможен ли такой сценарий развития или это утопия? Какие нравственно-этические проблемы поставит разработка систем ИИ (искусственного интеллекта), и как это связано с материализмом и христианским учением о человеке, попробуем разобраться в этой статье.

Эксперимент «Китайская комната» и голосовой помощник «Алиса«

В 1950 году в британском философском журнале Mind выйдет статья Алана Тьюринга «Вычислительные машины и разум», в которой он опишет тест, с помощью которого мы сможем определить, способна ли вычислительная машина мыслить. Суть теста проста:

«Человек взаимодействует с одним компьютером и одним человеком. На основании ответов на вопросы он должен определить, с кем он разговаривает: с человеком или компьютерной программой. Задача компьютерной программы — ввести человека в заблуждение, заставив сделать неверный выбор».

Чтобы эта задача была выполнена, режим тестирования будет происходить только в формате текста. Тьюринг был первым, кто задумался, сможет ли машина мыслить, возможно ли доразвить ее интеллект до такого предела, что он превзойдет интеллект человека.

Спустя 16 лет появится программа Элиза (ELIZA), созданная Джозефом Вейценбаумом  и спустя 22 года — PARRY, созданная Кеннетом Колби. Принцип работы Элизы очень напоминает современный голосовой помощник Алису, которая запрограммирована на ответ при распознавании ключевых слов.

В 1980 году Джон Сёрль выдвинет аргумент против теста Тьюринга: хоть машина и может ввести в заблуждение человека, но это – лишь манипуляция символами и словами, смысла которых она не понимает. Этот аргумент получил название «мысленный эксперимент Китайская Комната». Представим помещение, в котором сидит Джон Сёрль, он не понимает китайский язык, но знает алгоритм ответа на вопросы, которые обозначаются определенными иероглифами. И на запрос поднимает табличку с правильным ответом. Станет ли он свободно говорить и понимать китайский? Нет.

Мысленный эксперимент Сёрля подвел черту под главной проблемой, которая актуальная и по сей день:

Мы не можем дать четкий и наиболее полный ответ на вопрос «что такое СОЗНАНИЕ человека?»

Отсюда вытекает вопрос: что делает меня мной на протяжении всей моей жизни? Почему у меня есть сознание и откуда оно возникает? Можем ли мы перенести сознание на искусственный носитель, который превзойдет наши собственные способности? Я – равно мой мозг или я – нечто большее? Сможет ли ИИ превзойти человека… в творчестве? Что тогда делать с духовностью, она больше не нужна?

Разные подходы к сознанию

Существует несколько группировок в изучении философии сознания сегодня:

• те, кто считает, что сознание – исключительно продукт деятельности мозга. Все процессы, протекающие в мозге, тождественны сознанию (редуктивный физикализм);
• те, кто считает, что сознание возможно перенести на искусственный носитель, потому что оно функционирует независимо от того, где находится, а зависит лишь от функционирования сенсорных данных (функционализм);
• те, кто считает, что исследовать сознание стандартными методами невозможно, т.к. оно не только продукт деятельности мозга (дулизм).

Квалиа и летучая мышь

Пока русскоязычный интернет пестрит предложениями о развитии осознанности и модными техниками концентрации внимания mindfulness, в англоязычном мире философии Дэвид Чалмерс, Томас Нагель, Джозеф Левин и Нед Блок выдвигают теории критики материалистического понимания сознания. Это дуалистический подход.

Закройте глаза и представьте любой предмет красного цвета. Представьте также, что вы попытаетесь доступным языком вписать в программу ИИ словесный алгоритм обнаружения красного цвета, будь вы программер и кибернетик. Вы не сможете этого сделать. Потому что у человека есть то, чего никогда не будет у искусственного разума.  Вы не сможете объяснить, чем пахнет жасмин и каковы на вкус устрицы. Это нечто К.И.Льюис назовет квалиа. Наш сенсорный опыт.

Американский философ Томас Нагель в 70-х годах прошлого столетия опубликовал статью под названием «Что значит быть летучей мышью?» Он утверждал, что ни один человек не может представить себе, что значит быть летучей мышью, даже если мы знаем о ней все.

Ни один ИИ не сможет представить себе, что он – человек и не сможет мыслить также.

Сможет ли он самосовершенствоваться, как мечтают об этом астрофизик Стивен Хокинг, основатель Microsoft Билл Гейтс и гендиректор компании Тесла Илон Маск? Сможет ли он осознать себя как личность?

Если в мире технократической утопии и произойдет восстание машин, то не потому, что им надоест быть рабами и они захотят свободы. Это произойдет лишь в том случае, когда человек, как в мультике «Валли-И», перестанет брать на себя ответственность за свою жизнь. Любой технический сбой или хакерская атака в системе ИИ, от которой зависела бы жизнеспособность человека, будет стоить ему жизни.

Сердце

Научно-технический прогресс и трудная проблема сознания подводят нас к очень интересному выводу: мы вынуждены искать или открывать заново смысл, свой путь, отвечать себе на вопрос – каково мое место в мире, и кто я такой?

По учению православной церкви, человек обладает двойственной природой, он – соединение тела(материи) и души (метафизики). Душа человека – не монолит. Святые отцы выделяют в душе не только разум, но и сердце. Сердце – око ума.

Сын мой! отдай сердце твое мне, и глаза твои, да наблюдают пути мои

(Притчи Соломоновы, 23:26)

Блаженны чистые сердцем, ибо они Бога узрят

(Мф. 5:8)

Еще ли не понимаете, что все, входящее в уста, проходит в чрево и извергается вон?а исходящее из уст — из сердца исходит — сие оскверняет человека,ибо из сердца исходят злые помыслы, убийства, прелюбодеяния, любодеяния, кражи, лжесвидетельства, хуления -это оскверняет человека; а есть неумытыми руками — не оскверняет человека.

(Мф 15:17-20)

«Глубина и интимность сердечных процессов и является причиною того, что эти процессы подсознательны и потому недоступны научному исследованию. Отношение сердца к голове, такое же, как подсознания к сознанию. Подсознание обширнее сознания, дает ему материал, и в такой же мере является «подкладкою и основою» для сознания, в какой сердце является для головы. Сердечное подсознание не вмещается в головном сознании и только фрагменты подсознания доходят до сознания, и то при постоянном контроле головного ума.» [1]

«Как это ни сомнительно для неверующих, мы утверждаем, что сердцем можно воспринимать вполне определенные внушения прямо как глаголы Божии. Но это не только удел святых. И я, подобно многим, не раз испытывал это с огромной силой и глубоким душевным волнением»

свт. Лука Войно-Ясенецкий

«Откровение обращено не только к человеческому разуму и не только к чувству. Оно обращено к тому, что на библейском языке называется сердцем, то есть к тому, что составляет самую сокровенную сущность человека, от которой, как говорится в Евангелии, исходят и разум, и чувство, и воля»

Вышеславцев

Православие утверждает, что каждый человек создан по образу бесконечного, неповторимого и непознаваемого Бога, а, значит, неповторим. Он не сводится только к мозгу и нервам. Каждый человек — это нечто большее, чем высокоразвитое животное. Любой созданный искусственный интеллект (даже имеющий более выдающиеся вычислительные способности) будет не похож на человека и будет лишь имитировать его. Опасаться подобную машину можно будет только в одном случае. Если наша духовная жизнь деградирует до такой степени, что мы полностью откажемся от таких понятий как любовь, сострадание, сопереживание и перестанем нести ответственность за нашу жизнь.

Человек, кто ты?

Вообще, в размышлениях о восстании машин часто возникает фактор антропоморфизма — проекции человеческих черт на чужеродный объект.

Как писал Бердяев: «Человек раздавлен собственными открытиями и изобретениями, к которым мало приспособлена его природа, формированная совсем в другую эпоху. Романтический возврат к состоянию, предшествующему технике, машине, индустриализации человеческой жизни, невозможен. Но это ставит вопрос о развитии и обнаружении духовных сил в человеке, которым овладели и подчинили себе выпущенные на свободу не демоны природы, а демоны техники и машины»  [2]

Остановитесь на минуту и задумайтесь, каким станет наш мир, если мы перечеркнем в себе духовное начало, если будем подавлять голос совести? Сможем ли мы тогда любить?

Без любви все достижения эпохи – ничто.

Дай Бог, мы найдем ответы, и захотим сделать все, что от нас зависит, чтобы приобрести чистоту сердца. А когда это станет целью номер один, нам не будет страшен ни один искусственный интеллект и, теоретически возможное, восстание машин, не будет надобности искать чудесную таблетку бессмертия или верить в супергероев Вселенной Марвел.

________________________________________________________________________________

Литература

[1] Позов. Т. 1, 1965, с.174–175

 [2] Бердяев «Истина и откровение, Пролегомены к критике Откровения»