Сова Минервы вылетела утром
Член Совета Ассоциации российских дипломатов, доктор политических наук, профессор кафедры дипломатии МГИМО, профессор РГГУ Владимир Пряхин - о страшилках Илона Маска по поводу искусственного интеллекта.
Ученые забили тревогу. Более тысячи экспертов, включая таких, безусловно, авторитетных, как Илон Маск и Стивен Возняк, обратились к правительствам с настоятельным предложением срочно остановить научные исследования и опытно-конструкторские разработки в области совершенствования искусственного интеллекта. Иначе, утверждают яйцеголовые, искусственный разум превзойдет естественный, что чревато непредсказуемыми последствиями.
Впрочем, некоторые последствия нам уже известны. Студент Российского государственного гуманитарного университета успешно защитил выпускную квалификационную работу с помощью как раз той системы Chat GPT-4, которая поименно упоминается в тревожном предупреждении Илона Маска со товарищи.
Естественно, что у любого человека при этом возникает вопрос: а что, если плодами когнитивных исследований высшего порядка воспользуется не студент для защиты диплома, а свихнувшийся оператор систем контроля стратегической безопасности. Да и мало ли других отраслей и сфер человеческой деятельности, в которых уже сейчас мы фатально зависим от компьютеров и прочих наукоемких продуктов.
Вот только что могут сделать правительства в области контроля над этими технологиями? Да и вообще, возможен ли этот контроль? В 2008 году семнадцатилетний американский юноша Тиаго Олсон на чердаке своего дома собрал установку термоядерного синтеза. К счастью, родители юноши и сам он оказались законопослушными гражданами, без каких-либо преступных намерений. А что, если бы они захотели продать свое изделие? Не нашлись ли бы у них выгодные покупатели в криминальном мире, среди международных террористов?
За время, прошедшее с того события, в мире резко возросло число всякого рода не зависимых ни от кого исследователей в области высоких технологий. Обычно их называют хакерами или биохакерами. Никто толком не знает, чем и как занимаются эти домашние вундеркинды. Но известно, что сильные мира сего охотно нанимают их для биологических исследований с целью изобретения всякого рода средств для продления жизни. И не безрезультатно. Но где гарантии того, что никому не подконтрольные вундеркинды не изобретут что-либо такое, что может пагубно сказаться на жизни всего человечества?
На Западе возникло идеологическое течение трансгуманизма, адепты которого поставили задачу создания нового человека, наделенного по сравнению с гомо сапиенсом более совершенными качествами. Член Совета по биоэтике при президенте США Фрэнсис Фукуяма предупредил, что, бездумно продвигаясь по пути совершенствования человека, трансгуманисты могут пересечь черту, за которой человечеству придется платить за видимость комфорта неподъемную этическую цену.
Тревожные сообщения типа упомянутого выше обращения Илона Маска и Стивена Возняка обычно пролетают мимо обывательских ушей. Есть даже модное понятие doom scrolling, под которым понимается болезненное погружение в новостную ленту, где преобладают плохие вести. Это пагубно сказывается на общем тонусе человека и общем качестве жизни. В целом, говоря словами маркизы де Помпадур, после нас хоть потоп - лучше закрыть глаза на то, чего мы все равно не понимаем и что все равно неизбежно. Как сказал великий Гегель, сова мудрости Минервы вылетает поздно в сумерках, т.е. осознание того, что человек открыл и изобрел, приходит к человеку позже, когда уже невозможно избежать отрицательных последствий от плодов им сотворенного. Как в случае с ядерной энергией.
Но если мы не считаем, что наша цивилизация все равно так или иначе обречена на самоуничтожение, то стоит задуматься над тем, что же можно сделать для того, чтобы не оказаться под бездумной властью созданных нами киберсуществ. Ясно, что какие-то меры контроля над наукой тщетны. Остановить прогресс еще никому не удавалось. Но вот направить его в разумное русло можно и нужно. Для этого лишь необходимо обозначить перспективы будущего, прояснить, к чему мы идем и чего хотим.
История дала нам пример того, как выдающиеся ученые-мыслители – К.Э. Циолковский, В.И. Вернадский, А.Л. Чижевский, Н.Ф. Федоров – поймали сову мудрости Минервы на рассвете, когда сегодняшняя действительность еще едва просматривалась в туманных очертаниях будущего. Русские космисты (под этим именем вошли в историю науки упомянутые выше ученые) были оптимистами, они верили в бесконечность разума в бесконечной Вселенной. Для того, чтобы поставить науку на службу человеку и предотвратить его самоуничтожение, они предложили толковать религию как эмоциональную фольклорную концепцию научно-технического прогресса или, по выражению К.Э. Циолковского, «смутную догадку о будущем человечества», а сакральные понятия всех конфессий – бессмертие, воскрешение, душа – «расшифровать с космической точки зрения».
Это были отнюдь не абстрактные теоретические выкладки. «Московский Сократ», сотрудник Московского архива царского МИДа Н. Ф. Федоров предложил обозначить патрофикацию, т.е рукотворное воскрешение «преждеживших» (термин Ф.М. Достоевского) «Общим делом», объединившись вокруг которого человечество преодолеет все распри, урегулирует мирным путем все конфликты и достигнет высшей цели – продолжит горение земного очага Разума во Вселенной.
Н.Ф. Федоров и в современной большой российской энциклопедии называется мистиком. Легко представить, как его титуловали в конце XIX века, когда впервые был опубликован в типографии Семиреченского казачьего войска первый том его бессмертного труда «Общее дело». И вот в первой четверти уже двадцать первого века мы подошли к тем рубежам научно-технического прогресса, когда можно утверждать, что сакральные религиозные понятия действительно могут толковаться как задачи прикладной науки: бессмертие – искусственное увеличение видовой продолжительности жизни людей, воскрешение – построение антропоидентичных бионических моделей «преждеживших», рай – продолжение мышления как формы существования всеобщего разума.
До сих пор концепция Общего дела сталкивалась только с одним существенным научным контраргументом. Когда пропагандист федоровских идей Лев Николаевич Толстой выступал с докладом перед московскими психологами, ему был дан был задан вполне резонный вопрос: «а где вы, Лев Николаевич, разместите на Земле эти десятки миллиардов бессмертных и воскрешенных?
Вопрос, на который великий Толстой не смог найти убедительного ответа, и сейчас остается актуальным, так как гипотеза о гигантских космических кораблях, преодолевающих гигантские пространства Вселенной за тысячи световых лет, оказалась всего лишь красивой сказкой. Но реалии научно-технического прогресса дают нам основание высказать другую гипотезу. Не кто иной, как другой компьютерный гений нашего века и преуспевающий американский бизнесмен Марк Цукерберг обозначил перспективу развития своей социальной сети как установление телепатической связи между людьми через соцсети. Вы только подумаете о чем-либо, а ваш партнер по другую сторону инфосферы уже будет знать ход ваших мыслей. Можно вообразить, о каких суммах прибылей мечтал Марк Цукерберг, выступая с подобным заявлением. А вот прагматики из управления по научно-исследовательским и опытных конструкторским разработкам Министерства обороны США (DARPA) уже сделали ученым заказ на телепатические шлемы, посредством которых военнослужащие смогут общаться на поле боя.
И никто из прагматиков не подумал о том, что если людей наделить способностью бесконтрольной телепатической передачи мыслей друг другу на расстоянии из мозга в мозг, то рано или поздно вся эта огромная инфосфера «схлопнется», сосредоточится в минимальном объеме, в одной точке. Не об этом ли свидетельствует постоянное сокращение объемов наших гаджетов? При постоянном возрастании накапливаемой в них информации они становятся все меньше по объему. И где финиш этого процесса?
Ответ на этот вопрос может быть дан другим вопросом, на который еще не дала ответа наука - откуда вообще возникла наша цивилизация и что такое Первовзрыв? Мы знаем, что четырнадцать миллиардов триста миллионов земных лет тому назад из некой точки во Вселенной произошел колоссальный выброс энергии. Благодаря ему в космосе постепенно появились атомы, молекулы, химические элементы, коацерватные капли, биологические организмы, а затем и мыслящее существо – Гомо Сапиенс. Нельзя ли предположить, что этот всплеск энергии был как раз средством реализации той программы, посредством которой наши предшественники до Первовзрыва вышли в открытый космос и согласно этой программе повторились в нас.
В таком случае и наша перспектива - продолжить это Бесконечное путешествие Разума во Вселенной, вывести его на новый более высокий виток спирали совершенствования. И тогда страх перед кибернетическим супермонстром на базе искусственного интеллекта можно будет заменить созидательный мечтой о рукотворном воскрешении наших прежде живших предков в форме бесконечно близких к оригиналам антропоидентичных бионических моделей или словами «Московского Сократа» Николая Федорова: «рассеянное сложить в тела отцов». Не об этом ли мечтают полмиллиона человек, выходящих на Тверскую с портретами своих родителей, дедов и прадедов в шествии «Бессмертного полка»?
