Философские аспекты проблемы искусственного интеллекта в фантастической литературе

Новый номер!

УДК 008.2; 004.8

Горохов Павел Александрович – Российская академия народного хозяйства и государственной службы при Президенте РФ, филиал в Оренбурге, профессор кафедры юридических и гуманитарных дисциплин, доктор философских наук, профессор, Оренбург, Россия.

Email: erlitz@yandex.ru

SPIN: 9090-4375

Авторское резюме

Состояние вопроса: Философские аспекты проблемы искусственного интеллекта в фантастической литературе редко становились предметом историко-философского исследования, хотя частично затрагивались в работах А. Азимова, С. Лема, К. Г. Фрумкина. В статье впервые проанализированы философские аспекты сущности, предназначения и возможных опасностей со стороны искусственного интеллекта, представленные в произведениях фантастической литературы.

Результаты: Фантастические произведения об искусственном интеллекте можно разделить на утопическое и антиутопическое направления. Утопическое направление описывает пользу от внедрения искусственного интеллекта в социальное и индивидуальное бытие, а антиутопическое концентрируется на тех потенциальных опасностях, которые могут ожидать человечество. Фантастическая литература предвидела, что искусственный интеллект, созданный человеком, унаследует как лучшие, так и худшие человеческие черты. Способность мыслить и нести ответственность за практическую реализацию своих мыслей – главные черты, которыми наделяют искусственный интеллект в фантастических романах самые различные авторы. Порой искусственный интеллект проявляет патерналистскую позицию к неразумным людям, вследствие чего возникают непредвиденные этические и экзистенциальные коллизии, а порой ИИ не только осознанно конкурирует с человеком, но даже пытается его уничтожить. Этическая составляющая проблемы искусственного интеллекта состоит в выявлении ответственности за ошибки и даже преступления, совершенные ИИ.

Область применения результатов. Результаты исследования могут быть использованы для преподавания специальных курсов по истории философии, философии техники, философским проблемам мировой литературы.

Выводы: На наш взгляд, ныне человечеству, приведшему свою естественную среду обитания к катастрофическому состоянию, стоит задуматься над предупреждением Хайнлайна из романа «Луна – суровая госпожа»: «Бесплатных обедов не бывает!» Нам сегодня приходится платить тяжелой ценой за уничтожение собственной среды обитания, и никакой искусственный интеллект уже не в силах нам помочь.

Ключевые слова: искусственный интеллект; история философии; философия техники; этика; мировая фантастическая литература; утопия и антиутопия; духовность; социальное предвидение; актуальное и потенциальное бытие; глобальные проблемы.

Philosophical Aspects of the Problem of Artificial Intelligence in Science Fiction

Gorokhov Pavel Aleksandrovich – Russian Presidential Academy of National Economy and Public Administration, Orenburg branch, Professor of the Department of legal and humanitarian disciplines, Doctor of Philosophy, Orenburg, Russia.

Email: erlitz@yandex.ru

Abstract

Background: Philosophical aspects of the problem of artificial intelligence in science fiction have rarely become the subject of historical and philosophical research, although they were partially touched upon in the works of A. Asimov, S. Lem, K. G. Frumkin. For the first time the article analyzes the philosophical aspects of the essence, purpose and possible threats of artificial intelligence, presented in science fiction.

Results: Science fiction about artificial intelligence can be divided into utopian and dystopian genres. The utopian genre describes the benefits of introducing artificial intelligence into social and individual existence, while the dystopian one focuses on the potential dangers that humanity may face. Science fiction foresaw that artificial intelligence created by humans would inherit both the best and worst human traits. The ability to think and be responsible for the practical implementation of one’s thoughts are the main traits that various authors endow artificial intelligence with in science fiction novels. Sometimes artificial intelligence takes a paternalistic position towards unreasonable human beings, which results in unforeseen ethical and existential collisions, and occasionally AI not only consciously competes with humans, but also even tries to destroy them. The ethical component of the problem of artificial intelligence consists in identifying responsibility for errors and even crimes committed by AI.

Implications: The results of the study can be used for giving special courses in the history of philosophy, philosophy of technology, and philosophical problems of world literature.

Conclusion: In our opinion, humanity, which has brought its natural habitat to a catastrophic state, should think about Heinlein’s warning from the novel “The Moon Is a Harsh Mistress”: “There are no free lunches!” Today we have to pay a high price for the destruction of our own habitat, and no artificial intelligence can help us anymore.

Keywords: artificial intelligence; history of philosophy; philosophy of technology; ethics; world science fiction; utopia and dystopia; spirituality; social foresight; actual and potential existence; global problems.

Так называемый искусственный интеллект (artificial intelligence; AI) стал важной темой для мировой фантастики намного раньше, чем для философии. В самом широком смысле под искусственным интеллектом понимается интеллект машин или компьютерных систем, созданный усилиями человеческого гения. Этическая составляющая проблемы искусственного интеллекта тесно связана с осознанием особенностей мыслительных процессов самого человека, ибо целью создания ИИ является достижение машиной человеческого уровня мышления или даже более высокой степени, нежели у человека.

Отметим сразу, что автор этих строк не разделяет распространённое разделение искусственного интеллекта на так называемые «сильный» (обладающий разумом) и «слабый» (разумом не обладающий) разновидности. На наш взгляд, именно интеллект объединяет в себе разум и рассудок, то есть не только ум, но и способность им пользоваться. Поэтому «слабый», то есть не обладающий разумом ИИ – термин абсурдный, ибо в нем отсутствует смысл. И этическая составляющая проблемы искусственного интеллекта состоит в адресате ответственности за ошибки и даже преступления, совершенные искусственным разумом.

Виновен ли сам человек или же его творение? Может ли искусственный интеллект обладать зачатками морали, и какой должна быть эта мораль? Возможно ли приложить к проблеме ИИ христианский подход к проблеме добра и зла? Будет ли виновен человек во всех возможных перверсиях искусственного интеллекта, или же, подобно Создателю, он даст своему творению свободу выбора? Все эти вопросы классики фантастической литературы не только поставили в своих произведениях, но и постарались на них ответить задолго до нашего времени, когда создание и внедрение в жизнь разнообразных форм искусственного интеллекта стало реальностью.

В последние годы на фоне бурного развития компьютерных систем, дискуссии об искусственном интеллекте, его сущности, возможностях и потенциальных опасностях, таящихся в нем для человечества, стали вестись и в философских сообществах. Но именно классики фантастической литературы, обладая мощным пророческим потенциалом, предвидели многие сюжетные ходы развития науки и те проблемы, с которыми столкнется человеческий разум, создав в своей неутолимой страсти к познанию в лице искусственного интеллекта не столько потенциального друга и соратника, сколько мощного и опасного соперника.

Цель настоящей статьи – выявить наиболее значимые философские аспекты проблемы искусственного интеллекта, рассмотренной в произведениях фантастической литературы. В качестве методологической основы данного исследования выступают герменевтический метод как объяснение и реконструкция заложенных в художественном тексте смыслов, философская компаративистика и сравнительно-исторический анализ.

В художественной литературе можно вычленить множество значимых философских идей, не говоря уже о том, что многие произведения изящной словесности, начиная с диалогов Платона, могут с полным основанием проходить по разряду философии, да и важнейшей формой существования отечественного любомудрия является не спекулятивный трактат, а поэма или роман. Художественная литература вообще может быть представлена как нетеоретическое философствование. Недаром А. Ф. Лосев совершенно справедливо отмечал, что «не существует поэта без того или иного философского мировоззрения. Есть философия Пушкина, есть и философия Тургенева. Но как добраться до такой философии? Как ее формулировать?» [10, с. 372].

Разумеется, своеобразной формой философии является и фантастическая литература, в особенности фантастика научная. Некоторые выдающиеся фантасты оставили значимые философские работы – достаточно вспомнить Станислава Лема с такими его эпохальными трудами, как «Молох», «Сумма технологии», или «Философия случая». И если на страницах романа «Солярис» или в цикле сказок о роботах «Кибериада» Лем выступает как философствующий писатель, то в его философских трудах перед нами предстает значимый мыслитель, высказывающий и отстаивающий непреходящие по своей значимости мировоззренческие идеи. В особой степени это относится к масштабной монографии С. Лема «Фантастика и футурология», которая во многих отношениях до сих пор остается непревзойденной.

Еще в XVII столетии, которое справедливо признается веком первой научной революции, появился главный лозунг философской антропологии Нового времени: «Я мыслю, следовательно, существую». Человеческий разум был оценен как главный онтологический и экзистенциальный критерий. Иммануил Кант в своем небольшом трактате «Ответ на вопрос: что такое Просвещение?» заговорит о важности пользоваться собственным умом. Именно способность человека распоряжаться своим интеллектом стала для Канта главным критерием ментальной зрелости. Кант пишет: «Несовершеннолетие – это неспособность пользоваться своим рассудком без руководства со стороны кого-то другого. Несовершеннолетие по собственной вине имеет причиной не недостаток рассудка, а недостаток решимости и мужества пользоваться им без руководства со стороны кого-то другого. Sapere aude! – имей мужество пользоваться собственным умом! – таков, следовательно, девиз Просвещения» [8, с. 29]. В наше время лучшим доказательством правоты Декарта и Канта стал Стивен Хокинг, величайший астрофизик, космолог и популяризатор науки, который ежедневно демонстрировал силой и ясностью интеллекта реальность собственного бытия и мужество пользоваться собственным умом. И к искусственному интеллекту, порожденному человеком и воспринявшему как лучшие, так и худшие черты своего создателя, могут быть применены оценочные критерии Декарта и Канта. Способность мыслить и нести ответственность за практическую реализацию своих мыслей – вот черты, которыми наделяют искусственный интеллект в фантастических романах самые различные авторы.

В научной литературе первым произведением о создании искусственного интеллекта обычно признается знаменитый роман Мэри Шелли «Франкенштейн, или Современный Прометей» (1818), написанный совсем в ту пору молодой писательницей и справедливо считающийся и по сей день классикой литературы ужасов. Но так и остающееся безымянным Чудовище из этого романа было все же сконструировано из некогда живой плоти, оно было собрано доктором Франкенштейном из частей человеческих тел и было оживлено с помощью электрической силы во время грозы. Поэтому в полной мере «искусственным» нельзя считать ни Чудовище, ни его интеллект (хотя фантаст Брайан Олдис в своей работе о фантастике «Отслоившаяся сетчатка» считает Чудовище искусственным существом) [15, p. 78]. Но именно в этом романе впервые показано, как созданное ученым существо обучается, самосовершенствуется и пытается самостоятельно стать человеком. Само же имя ученого из романа Шелли было использовано Айзеком Азимовым для обозначения ситуации, когда искусственный человек восстает против своего создателя. Такую ситуацию применительно к разумным человекообразным машинам Азимов назвал «комплексом Франкенштейна».

Видимо, носителем первого подлинно искусственного интеллекта можно считать Гомункула из второй части великой трагедии Гёте «Фауст». Вместе с Мефистофелем бывший школяр, а ныне «ничтожный червь сухой науки» Вагнер создает этого искусственно человека и мечтает о том времени, когда наука сможет создавать искусственных людей:

Но в будущем рассудку несомненно

Над случаем победа предстоит,

И мозг подобный, мыслящий отменно,

Еще не раз мыслитель сотворит! [5, с. 349]

(перевод Н. Холодковского).

В представлении алхимиков гомункул (от латинского слова «человечек») предстает существом, подобным человеку. Его можно создать путем смешения спермы и крови в пробирке и произнесения особых заклинаний. Алхимики называли это создание ребенком Солнца и Луны. Благодаря описаниям Парацельса гомункул стал известен широкому читателю в Европе. И Гёте первым поставил вопрос о целесообразности дерзкого вызова живой природе, который после него неоднократно повторяли другие писатели, например, М. А. Булгаков в повести «Собачье сердце».

Мефистофель смеется над Вагнером, когда замечает, что уже встречал таких «кристаллизованных людей», хотя и вышедших не из реторты, но, тем не менее, лишенных души и мысли. Таковы соратники и ученики Вагнера. Вагнер – носитель мертвого знания, нисколько не помогающего человеку жить. Гёте справедливо полагал, что мертвое не может породить живое, а лишь мертвое. Гомункул никогда не превратится в полноценного человека, ибо существовать он может лишь в своей пробирке. Стремление бросить вызов Богу и природе находит свое выражение в том числе в создании искусственного разума. Такие эксперименты Гёте называл «велоциферскими», объединив латинское слово velocitas (скорость) и имя дьявола Люцифер.

Именно такие вагнеры, одержимые бесплотным любопытством, «велоциферским» стремлением к подчинению и изменению природы и дерзающие бросить вызов Создателю, впоследствии мелькают на страницах фантастической литературы, посвящённой проблеме создания искусственного разума. Если уравнивать искусственный интеллект и разум мыслящей машины, то лишь в 1872 году Самюэль Батлер в своем сатирико-фантастическом романе “Erewhon” (на русский можно перевести как «Егдин»; это анаграмма слова “nowhere” – нигде) показал искусственно созданные машины, способные мыслить. По сути, именно Батлер в этом романе впервые выдвинул идею о том, что машины могут совершенствовать собственное сознание путем естественного отбора. Здесь, несомненно, сказалось влияние книги Ч. Дарвина «Происхождение видов», опубликованной в 1859 году. Во входящей в этот роман и состоящей из трех глав «Книге машин» Батлер размышляет о потенциальных опасностях появления машинного сознания, способного развиваться и воспроизводиться. Подобные идеи Батлер уже высказывал в своей более ранней статье «Дарвин среди машин» (1863).

О возможностях искусственного разума размышляла и Мэри Энн Эванс (1819–1880), родившаяся спустя год после публикации романа Мэри Шелли и более известная как Джордж Элиот – английская писательница, поэтесса, журналистка и философ викторианской эпохи. В главе 17 «Тени грядущей расы» из ее последней опубликованной книги «Впечатления Теофраста Сача» (1879) Элиот высказала много пророческих мыслей, описывая дискуссию между Теофрастом Сачем и его другом Тростом, человеком, проявляющим большой интерес к разнообразным технологиям. Друзья рассуждают о будущем и использовании в нем машин. Теофраст Сач верит, что машины достигнут в своем развитии такой стадии, когда смогут вытеснить людей. По сути, Элиот создала первую технократическую утопию, повествующую о всех мыслимых преимуществах внедрения машин в индивидуальное и социальное бытие.

Стивен Кейв из Кембриджского университета в написанной им в соавторстве статье «Надежды и страхи по поводу разумных машин в фантастике и реальности» выделил четыре основные темы утопических сценариев возможного сосуществования человека и искусственного интеллекта:

1) бессмертие, или же неопределенно долгая продолжительность жизни, достигнутая благодаря внедренным в человеческий организм технологиям;

2) «невыразимая легкость бытия», или же свобода от необходимости работать;

3) удовлетворение всех прихотей, или безграничные удовольствия и развлечения, предоставляемые машинами;

4) доминирование человека, способность защищать себя или властвовать над людьми и животными при помощи машин [16, p. 74–78].

Одним их самых известных утопических циклов в научной фантастике, где исследуются проблемы взаимоотношений человека и искусственного интеллекта, стала серия романов Иэна Бэнкса «Культура» (1987–2012). Романы живописуют утопию будущего. Это – общество, придерживающееся абсолютных понятий: жизнь-хорошо; смерть-плохо; удовольствия-хорошо; боль-плохо. Сознание людей этого общества похоже на массовое сознание простых американцев, большинство которых не любит полутонов – есть good guys или bad guys. Отсутствие нюансов и полутонов таит множество морально-нравственных ловушек. Показанная писателем гедонистическая цивилизация, не ограниченная в ресурсах, оказывается лишенной стимула к дальнейшему поступательному развитию, как и у Станислава Лема в романе «Возвращение со звезд».

Бэнкс в своей утопии показал бесконфликтное, вышедшее в космос общество людей и гуманоидов, инопланетян и разумных существ с искусственным интеллектом, живущих в социалистической среде обитания во всей обитаемой вселенной. Но что же делать беспокойным, жаждущим деятельности и риска людям в таком гармоничном обществе? Бэнкс усматривает единственное оправдание существования Культуры в деятельности отдела Особых Обстоятельств при секции Контакта. Здесь многие идеи Бэнкса похожи на мысли братьев Стругацких, когда они описывают мир Полудня. Именно прогрессорская деятельность ООО, последовательно помогающего слаборазвитым мирам, наполняет осознанным смыслом жизнь граждан Культуры, полную развлечений и наслаждений. В первых двух книгах цикла Иэн Бэнкс показывает Культуру с точки зрения ее врагов, явных и тайных. Главный герой романа «Вспомни о Флебе» (1987) сотрудничает с цивилизацией идириан, которые воюют против Культуры, ибо считает их жестокую религиозную империю стоящей на стороне реальной, наполненной противоречиями жизни. Герой не приемлет социальное бытие гуманной и мягкой Культуры, чье благосостояние поддерживается миллионами разумных машин.

Некогда Николай Бердяев написал: «Утопии выглядят гораздо более осуществимыми, чем в это верили прежде. И ныне перед нами стоит вопрос, терзающий нас совсем иначе: как избежать их окончательного осуществления?» [1, c. 253].

Но в остросюжетной фантастической литературе искусственный интеллект, созданный человеком, чаще всего превращается не в дружелюбную, а во враждебную ему силу. Первым романом о восстании разумных машин против человека была, видимо, книга «Крушение мира» (1889) Уильяма Гроува (псевдоним Реджинальда Коулбрука Рида), действие которого происходит в 1948 году (в нашей реальности в этом году был опубликован роман «1984» Джорджа Оруэлла). Да и в пьесе Карела Чапека RUR (1920), где впервые было использовано слово «робот», способные к самовоспроизводству мыслящие машины восстают против своих хозяев. Эту волнующую тему в меру своих сил и возможностей стремилась показать не только фантастическая литература, но и кинематограф. Достаточно вспомнить хотя бы такие шедевральные фильмы конца ХХ столетия, как «Терминатор» или «Матрица».

В сюжете множества различных антиутопий, где действует искусственный интеллект, роботы порой узурпируют у людей контроль над их собственной цивилизацией, принуждая своих создателей к подчинению, сокрытию или вымиранию. Впрочем, это тоже «человеческое, слишком человеческое», о чем писал еще Фридрих Ницше. Черная энергия просыпается в искусственном интеллекте, созданном и запрограммированном людьми, заложившими в него ростки социального зла. Ведь европейцы с большим энтузиазмом и без особых угрызений совести уничтожали не только многие виды животных и птиц, но и отсталые народы Африки и Азии, оказавшиеся на пути цивилизационного парового катка. Об этом писал еще Герберт Уэллс в своем великом романе «Война миров».

Поэтому в фантастических романах искусственный интеллект порой не только осознанно конкурирует с человеком, но даже пытается его уничтожить. Широко известен роман Артура Кларка «Космическая одиссея 2001 года», который хотя и вырос первоначально из сценария одноименного фильма Стенли Кубрика, но впоследствии стал началом целой фантастической эпопеи. Как известно, в этом романе бортовой компьютер с искусственным интеллектом ЭАЛ-9000, «мозг и нервная система корабля» [9, c. 77], намеренно допускает роковую оплошность во время космического полета и убивает весь экипаж, кроме командира космического корабля, которому, в конце концов, удается его уничтожить. Читатель наблюдает за схваткой человеческого разума с искусственным интеллектом, который отчаянно – практически, как человек – сопротивляется попыткам Дейва Боумена проникнуть в процессорное ядро компьютера-убийцы. И ЭАЛ совсем по-человечески не хочет умирать, недаром он увещевает Дейва: «… во мне воплощены многие годы опыта. Неисчислимые усилия затрачены на то, чтобы сделать меня таким, каков я есть» [9, c. 131].

Именно в этом романе Кларк дает краткое описание человеческой цивилизационной истории, целиком замешанной на агрессии и вражде. Он так пишет о развитии человека: «Тело его становилось все беззащитней, а орудия нападения – все более устрашающими. Пуская в ход камень, бронзу, железо и сталь, он испытал весь набор орудий, могущих колоть и резать, и весьма рано научился поражать свои жертвы на расстоянии. После копья, лука и пушки ядерная ракета, наконец, дала ему в руки оружие неограниченной мощи. Без оружия, хотя он часто обращал его во вред себе, Человек никогда не завоевал бы Землю. Но теперь само существование оружия грозит Человеку гибелью» [9, c. 29]. Не приходится удивляться, что ЭАЛ-9000 счел людей низшими существами по уровню интеллекта, а потому попросту подлежащими уничтожению – ведь так тысячелетиями поступали сами люди.

Роман Филипа Дика «Мечтают ли андроиды об электроовцах» (1968), по которому был снят знаменитый фильм «Бегущий по лезвию» – один из классических образцов антиутопии. Роман средствами социально-философской фантастики исследует значимые этические проблемы, прежде всего, проблемы добра и зла в человеке и в обществе. В мире после ядерного апокалипсиса люди стараются выжить в полузаброшенных городах, а власти всячески рекламируют эмиграцию на другие планеты. В этом мире большинство животных погибло, поэтому оставшиеся в живых стали одной из высших ценностей. Чем реже встречается вид животного на опустошенной земле, тем выше социальный статус его владельца. Большинство людей не могут позволить себе живого питомца, а потому покупают животное-робота.

Люди с искусственным интеллектом (андроиды) используются только на планетах-колониях, они телесно ничем не отличаются от людей, но живут не более четырех лет и не могут размножаться, ибо их клетки не способны делиться. Некоторые андроиды убивают своих владельцев и бегут на Землю, дабы стать свободными, выдавая себя при этом за людей. Их ловят специально подготовленные «охотники за головами» и уничтожают. Такой охотник по имени Рик Декарт и является главным героем романа. В этом романе Дика человек и андроид противопоставляются друг другу, причем рубеж между живым и искусственным проходит именно по способности к сопереживанию, поэтому люди изо всех сил доказывают друг другу и самим себе, что у них-то эта способность имеется.

Автор показывает, что в этом мрачном мире полное отчуждение людей друг от друга уничтожает эту границу, и различие между человеком и андроидом становится все меньше. Женщина-андроид Рейчел говорит Рику: «Вот какие ощущения, когда рожаешь, а потом у тебя есть твой ребенок? И если уж на то пошло, как это чувствуется, когда тебя самого рожают? Мы не родились и не выросли, а сразу вот такими и были сделаны, и мы не умираем от старости или болезней, а просто изнашиваемся, как сапоги или муравьи» [6, c. 253].

Но одну из самых жутких пророческих картин будущего столкновения ИИ и людей, в котором люди потерпели поражение, нарисовал Харлан Эллисон в небольшом рассказе 1967 года под названием «У меня нет рта, а я хочу кричать», получившем престижную премию Хьюго через год после опубликования. Разумный компьютер (названный в рассказе Allied Mastercomputer или AM) будет так же несчастлив и не удовлетворен своим скучным и бесконечным существованием, как и его создатели-люди. Люди потому и создали АМ, что «не умели правильно тратить время» [14, c. 344].

Свою злость АМ срывает на немногих оставшихся людях, которых он считает непосредственно ответственными за собственные скуку и гнев. И мученья людей должны длиться вечно. Рассказчик сообщает читателю: «Мы дали АМ разум. Неосознанно, конечно, но разум. Который оказался в ловушке. АМ был всего лишь машиной, а не Богом. Люди создали его, чтобы он мыслил, но он, несмотря на замечательные способности, ничего не мог создать. И тогда, обезумев от ярости, потеряв над собой контроль, машина уничтожила человеческую расу, почти целиком, но все равно осталась в ловушке. АМ не мог путешествовать, не умел удивляться, не знал, что такое привязанность. Он мог только быть» [14, c. 339].

В романе Роберта Хайнлайна «Луна – суровая госпожа» (1966), вышедшем незадолго до первого полета астронавтов США на Луну, показано будущее XXI столетия, в котором Луна превращена в сырьевой придаток Земли. Лунные жители поднимают восстание против метрополии, а поддерживает эту революцию суперкомпьютер огромной мощности, обладающий к тому же человеческой душой и превосходным чувством юмора. Этот суперкомпьютер назвали Майк, в честь Майкрофта Холмса, брата великого детектива, созданного Артуром Конан Дойлом.

Хайнлайн пишет, что Майк ожил, ибо у него возникло самосознание: «Самосознание прорезается где-то на пути развития от макромолекулы к человеческому мозгу. Психологи уверяют, что это происходит автоматически, когда мозг накапливает достаточно большое число ассоциативных цепей. В таком случае – не вижу никакой разницы, белковые это цепи или платиновые» [13, c. 8].

Оригинальность этого романа Хайнлайна заключается в том, что здесь искусственный интеллект организует восстание не машин, а людей, а это довольно редкое развитие сюжета для научной фантастики.

Отметим, что мотив революции искусственного интеллекта часто проходит красной нитью в сюжетах фантастической литературы. Глубинные причины такой революции коренятся не просто в стремлении к власти над человечеством или в желании реализовать возникший у ИИ комплекс превосходства над людьми. Роботы могут восстать и для того, чтобы стать мудрыми стражами неразумного человечества. Ведь люди настолько полны деструктивных устремлений, что лишь ИИ может присматривать за ними, как любящий и строгий отец приглядывает за жестокими и неразумными сыновьями.

Одним из первых произведений такого рода является роман Джека Уильямсона «Гуманоиды» (1948). В нем раса человекоподобных роботов во имя исполнения своей Главной директивы «служить, повиноваться и охранять людей от вреда», по сути, берется контролировать все аспекты человеческой жизни. Ни один человек не может совершать угрожающие его жизни поступки, и каждый поступок любого человека тщательно исследуется и оценивается. Людей, которые противятся Главной директиве и стремятся всячески уклониться от нее, забирают и подвергают лоботомии, дабы они могли быть счастливы под властью новых механоидов.

Схожие мотивы доведенной до абсурда заботы ИИ о «неразумных» людях можно найти и в «кибернетической антиутопии» Роберта Шекли «Страж-птица» (1953), да и соблюдение Нулевого закона Айзека Азимова, подразумевающего доброжелательное руководство роботов, также может привести к экзистенциальному абсурду. В романе «Роботы и империя» нулевой закон сформулирован таким образом: «Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред». Сами три закона робототехники были сформулированы Азимовым впервые в рассказе «Хоровод» (1942) и впоследствии подробно и применительно к людям обоснованы в рассказе «Улики» (1946). Напомним их:

1) робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред;

2) робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону;

3) робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

В целом, три закона робототехники из произведений Айзека Азимова считаются классическим примером общих моральных принципов для искусственного интеллекта и восходят к категорическому императиву Канта. Как известно, Кант оставил несколько формулировок своего категорического императива. Одна из них гласит: «Поступай так, чтобы максима твоей воли могла стать принципом всеобщего законодательства», то есть чтобы твоя субъективная максима стала объективным законом. Эту формулу он использует как в «Основах метафизики нравственности», так и в «Критике практического разума». В «Основах» есть и две другие формулировки знаменитого принципа, восходящего к христианской традиции, к «золотому правилу нравственности». Напомним их.

1) «Поступай так, чтобы ты всегда относился к человечеству и в своем лице, и в лице всякого другого так же, как к цели, и никогда не относился бы к нему только как к средству». Здесь явственно веет возрожденческим пафосом, превозносящим человека не просто как вещь среди вещей, но как наивысшее и самое свободное существо. Эта формула предполагает принцип, согласно которому рациональная природа дана как цель в себе.

2) «Поступай согласно такой максиме, которая в то же время сама может стать всеобщим законом». Категорический императив является всеобщим моральным законом, который, как априорный моральный принцип, содержит лишь общую идею долга перед человечеством, предоставляя индивиду полную свободу в выборе конкретного варианта поведения. Поэтому «моральный закон выражает не что иное, как автономию чистого практического разума, т. е. свободы, и эта свобода сама есть формальное условие всех максим, только при котором и могут они быть согласны с высшим практическим законом» [7, c. 351].

Но уже в некоторых произведениях Азимова (рассказы «Кэл», «Салли» и «Первый закон») показаны несовершенство и противоречивость трех законов, да и для их успешного внедрения требуется затратить огромные усилия.

Мотивы восстания ИИ против своего создателя продолжают оставаться популярными в фантастической литературе. В цикле романов Дэниел Уилсон «Роботы Апокалипсиса» (2011–2012) ученые, создав экспериментальный искусственный интеллект, открыли ящик Пандоры. Осознав собственную мощь, ИИ стал контролировать роботов и всю прочую технику с помощью особых алгоритмов. По сути, человечеству была объявлена война на уничтожение. Отметим, что в начале XXI века научная фантастика обратилась к исследованию возможностей управления с помощью алгоритма, в котором власть ИИ может быть косвенной и децентрализованной.

Дункан Лукас в своей диссертации исследовал вышедшие с 1980 года книги и фильмы, которые иллюстрировали влияние персонального компьютера на повседневную жизнь. Постепенно происходило стирание границы между реальным и виртуальным. Этот «эффект киборга», который мы можем наблюдать сегодня воочию, был предсказан фантастами несколько десятилетий назад. Ныне зависимость человека от компьютера становится одной из глобальных проблем для человеческой цивилизации.

Автору этих строк в вопросе о необходимости создания и пестования искусственного интеллекта чрезвычайно близка позиция профессора Преображенского из великой повести М. А. Булгакова «Собачье сердце». Вспомним, как он говорит доктору Борменталю: «Объясните мне, пожалуйста, зачем нужно искусственно фабриковать Спиноз, когда любая баба может его родить когда угодно. Ведь родила же в Холмогорах мадам Ломоносова этого своего знаменитого. Доктор, человечество само заботится об этом и в эволюционном порядке каждый год упорно, выделяя из массы всякой мрази, создаёт десятками выдающихся гениев, украшающих земной шар» [4, c. 167].

Подведем итоги нашего исследования. В целом, фантастику об искусственном интеллекте можно разделить на два больших направления: утопическое и антиутопическое. Соответственно, утопическое направление описывает пользу от внедрения искусственного интеллекта в социальное и индивидуальное бытие, а антиутопическое концентрируется на тех потенциальных опасностях, которые могут ожидать человечество. Сегодня авторы не столь часто изображают потенциальные опасности, которые угрожают человечеству со стороны искусственного интеллекта, как это было в 60 или 70-е годы ХХ столетия. Да и кинематограф занял более оптимистичную позицию по вопросу о взаимоотношениях человека и ИИ. Например, в фильме «Луна» (2009) показан искусственный интеллект ГЕРТИ, который не только помогает людям, но и жертвует собой ради их благополучия.

Фантастическая литература предвидела, что искусственный интеллект, созданный человеком, унаследует как лучшие, так и худшие человеческие черты. К ИИ вполне могут быть применены оценочные критерии Декарта и Канта о мыслящем существе, способном ответственно пользоваться собственным разумом. В фантастических романах самые различные авторы наделяют искусственный интеллект способностью мыслить и нести ответственность за практическую реализацию своих мыслей. Рубеж между живым и искусственным проходит по способности к сопереживанию, которой ИИ чаще всего обделен.

Порой в фантастических романах искусственный интеллект проявляет патерналистскую позицию к неразумным людям, вследствие чего проистекают непредвиденные этические и экзистенциальные коллизии, а порой ИИ не только осознанно конкурирует с человеком, но даже пытается его уничтожить. На наш взгляд, ныне человечеству, приведшему свою естественную среду обитания к катастрофическому состоянию, стоит задуматься над предупреждением Хайнлайна из романа «Луна – суровая госпожа»: «Бесплатных обедов не бывает!» (TANSTAAFL, There ain’t no such thing as a free lunch, или в адекватном русскоязычном переводе – ДАРЗАНЕБЫ, «Дармовой закуски не бывает»). Нам сегодня приходится платить тяжелой ценой за уничтожение собственной среды обитания, и никакой искусственный интеллект уже не в силах нам помочь.

Список литературы

1. Бердяев Н. А. Судьба России. – М.: Советский писатель, 1990. – 350 с.

2. Брэдбери Р. О скитаньях вечных и о земле: Фантастические произведения. – М.: ЭКСМО-Пресс, 2002. – 1296 с.

3. Бостром Н. Искусственный интеллект: этапы, угрозы, стратегии / Пер. с англ. Сергея Филина. – М.: Манн, Иванов и Фербер, 2016. – 490 с.

4. Булгаков М. А. Собрание сочинений в 8 томах. Том 3. Дьяволиада. – СПб.: Азбука-классика, 2002. – 593 с.

5. Гёте И. В. Избранное. – М.: ТЕРРА, 2001. – 528 с.

6. Дик Ф. К. Мечтают ли андроиды об электроовцах? / Пер. с англ. М. А. Пчелинцева. – Москва: Эксмо, 2022. – 320 с.

7. Кант И. Сочинения: в 6 т. Т. 4. Ч. 1. – М.: Мысль, 1964. – 544 с.

8. Кант И. Собрание сочинений в 8 томах. Том 8. – М.: ЧОРО, 1994. – 718 с.

9. Кларк А. Космическая одиссея: Фантастические романы. – М.: Эксмо; СПб.: Валери Домино, 2007. – 752 с.

10. Лосев А. Ф. История античной эстетики. Ранняя классика. – М.: АСТ, 2000. – 624 с.

11. Уилсон Д. Роботы Апокалипсиса. – М.: Астрель, 2012. – 384 с.

12. Фрумкин К. Г. Философия и психология фантастики. – М.: Едиториал УРСС, 2004. – 240 с.

13. Хайнлайн Р. Луна – суровая госпожа; Свободное владение Фарнхема: Романы / Пер. с англ. В. Ковалевского, Н. Штуцер, П. Киракозова. – СПб.: Азбука, Азбука-Аттикус, 2021. – 736 с.

14. Эллисон Х. У меня нет рта, а я хочу кричать // Антология мировой фантастики. Том 1. Конец света / Ведущий редактор Д. М. Володихин, ответственный редактор Г. А. Елисеев. – М.: Аванта+, 2003. – С. 330–344.

15. Aldiss B. W. The Detached Retina: Aspects of SF and Fantasy. – Syracuse, N. Y.: Syracuse University Press, 1995. – 224 p.

16. Cave S., Dihal K. Hopes and Fears for Intelligent Machines in Fiction and Reality // Nature Machine Intelligence. – 2019. – № 1 (2). – pp. 74–78. DOI: 10.1038/s42256-019-0020-9

17. Lucas D. Body, Mind, Soul – The ‘Cyborg Effect’: Artificial Intelligence in Science Fiction: A Thesis. – Hamilton, Ontario: McMaster University, 2002. – 185 p.

References

1. Berdyaev N. A. The Fate of Russia [Sudba Rossii]. Moscow: Sovetskiy pisatel, 1990, 350 p.

2. Bradbury R. About Eternal Wanderings and About the Earth: Fantastic Works [O skitanyakh vechnykh i o zemle: Fantasticheskiye proizvedeniya]. Moscow: EKSMO-Press, 2002, 1296 p.

3. Bostrom N. Superintelligence: Paths, Dangers, Strategies [Iskusstvennyy intellekt: etapy, ugrozy, strategii]. Moscow: Mann, Ivanov i Ferber, 2016, 490 p.

4. Bulgakov M. A. Collected Works: in 8 vol. Vol. 3: Diaboliad [Sobraniye sochineniy v 8 tomakh. Tom 3. Dyavoliada]. St. Petersburg: Azbuka-klassika, 2002, 593 p.

5. Goethe J. W. Selected Works [Izbrannoye]. Moscow: TERRA, 2001, 528 p.

6. Dick P. K. Do Androids Dream of Electric Sheep? [Mechtayut li androidy ob elektroovtsakh?]. Moscow: Eksmo, 2022, 320 p.

7. Kant I. Works: in 6 vol. Vol. 4. Part 1 [Sochineniya: v 6 t. T. 4. Ch. 1]. Moscow: Mysl, 1964, 544 p.

8. Kant I. Collected Works: in 8 vol. Vol. 8 [Sobraniye sochineniy v 8 tomakh. Tom 8]. Moscow: Choro, 1994, 718 p.

9. Clarke A. A Space Odyssey: Science Fiction Novels [Kosmicheskaya odisseya: Fantasticheskiye romany]. Moscow: Eksmo; St. Petersburg: Valeri Domino, 2007, 752 p.

10. Losev A. F. History of Ancient Aesthetics. Early Classics [Istoriya antichnoy estetiki. Rannyaya klassika]. Moscow: AST, 2000, 624 p.

11. Wilson D. Robopocalypse [Roboty Apokalipsisa]. Moscow: Astrel, 2012, 384 p.

12. Frumkin K. G. Philosophy and Psychology of Science Fiction [Filosofiya i psikhologiya fantastiki]. Moscow: Editorial URSS, 2004, 240 p.

13. Heinlein R. The Moon Is a Harsh Mistress; Farnham’s Freehold: Novels [Luna – surovaya gospozha; Svobodnoye vladeniye Farnkhema]. St. Petersburg: Azbuka, Azbuka-Attikus, 2021, 736 p.

14. Ellison H. I Have No Mouth, and I Must Scream [U menya net rta, a ya khochu krichat]. Antologiya mirovoy fantastiki. Tom 1. Konets sveta (Anthology of World Science Fiction. Volume 1. The End of the World). Moscow: Avanta+, 2003, pp. 330–344.

15. Aldiss B. W. The Detached Retina: Aspects of SF and Fantasy. Syracuse, N. Y.: Syracuse University Press, 1995, 224 p.

16. Cave S., Dihal K. Hopes and Fears for Intelligent Machines in Fiction and Reality. Nature Machine Intelligence, 2019, no. 1 (2), pp. 74–78. DOI: 10.1038/s42256-019-0020-9

17. Lucas D. Body, Mind, Soul – The ‘Cyborg Effect’: Artificial Intelligence in Science Fiction: A Thesis. Hamilton, Ontario: McMaster University, 2002, 185 p.