13 МАРТА 2012
«СИНГУЛЯРНОСТЬ ЭВОЛЮЦИИ И БУДУЩЕЕ ФУНДАМЕНТАЛЬНОЙ НАУКИ»

 

Александр Панов, астрофизик, автор «кривой Снукса – Панова», описывающей Сингулярность: «... Зона сингулярности – это фактически концентрация кризисов, и мы это время будем ощущать как кризисы, наползающие друг на друга... Поэтому в постсингулярной стадии, если человечество живет, то оно живет, поддерживая множество механизмов компенсации кризиса. Это не будет простая жизнь».


Думаю, что я буду выглядеть таким немного скептиком на этом конгрессе, потому что буду больше говорить не столько о грядущих наших победах, сколько о возможных проблемах. Конкретно я хочу рассказать сейчас о трех основных вещах. Во-первых, обрисовать немножко, что такое сингулярность эволюции, та пресловутая вертикаль, которая здесь обсуждается. Во-вторых, обсудить немного возможную судьбу науки в сингулярной и постсингулярной фазе эволюции. И, в-третьих, коснуться возможной роли искусственного интеллекта в связи с проблемами науки.

 

Эволюция представляет собой ускоряющийся процесс, с чем сейчас согласны практически все. Причем это не просто ускоряющийся процесс, а процесс, ускоряющийся в режиме с обострением. Это означает, что в течение конечного времени скорость процесса формально должна была бы достигнуть бесконечной скорости и всякие линейные прогнозы после этой точки становятся невозможны.

 

К понятию сингулярности эволюции можно прийти различными путями. Исторически один из первых путей был в виде демографической сингулярности. Что это такое? Оказывается, что население Земли растет не по экспоненте, как предполагал Томас Роберт Мальтус, а быстрее. Население Земли растет по гиперболе и существует некоторая точка t* (которая как раз и называется точкой сингулярности), где эта гипербола формально обращается в бесконечность. Это положение сингулярности нетрудно вычислить, что было сделано уже в 1960 году Хайнцем фон Фёрстером и его соавторами, и получилось значение «2026 год». Затем это было сделано Иосифом Самуиловичем Шкловским в 1965 году, он получил значение «2030 год», как видите, очень близкое. Если вместо гиперболы нарисовать значение для единицы на n, то получится просто линейная функция времени, которая должна в некоторой точке обращаться в ноль. И Шкловский нарисовал как раз вот эту кривую, где видно, что получается линейная функция для единицы на n, которая в точке t* действительно обращается в ноль.

 

Второй путь к сингулярности – это так называемая технологическая сингулярность. Про нее здесь столько всего было сказано, что я просто не буду повторяться. Она связана с именами Ирвинга Гуда, Вернора Винджа, [Ханса] Моравека и Рэя Курцвейла, который здесь уже перед нами выступал, я чуть позже, возможно, к этому вернусь.

 

Третий путь к сингулярности – это понятие сингулярности как общей эволюционной сингулярности. Значит, здесь было несколько предшественников. В 1996 году Грэм Снукс, ученый-эволюционист из Австралии, представил эволюцию биосферы и затем человечества как единый процесс, выразив ее в так называемых волнах жизни. «Волны жизни» – это некие качественные переходы. И оказалось, что этот процесс происходит в режиме ускорения с коэффициентом «тройка». То есть каждая следующая фаза примерно в три раза короче предыдущей. Главное, что Грэм Снукс рассмотрел процесс эволюции биосферы и человеческого общества единым образом, хотя он не ввел понятия сингулярности. Затем сам Рэй Курцвейл в 2001 году, по крайней мере, не позже, тоже рассмотрел процесс эволюции биосферы и человеческого общества как некий единый процесс. Он выразил этот процесс в так называемых парадигмальных сдвигах.

 

Затем очень важный шаг сделал Игорь Михайлович Дьяконов: в 1994 году он рассмотрел так называемые восемь фазовых переходов Дьяконова в человеческой истории. Он также обратил внимание, что эти фазовые переходы следуют в режиме с ускорением, т.е. промежуток времени между каждыми двумя последующими переходами уменьшается. Дьяконов в 1994 году ввел понятие исторической сингулярности. Это был совершенно независимый способ введения понятия сингулярности вот по сравнению, например, с технологической и демографической сингулярностью. На этом графике нарисованы положения точки этих восьми фазовых переходов Дьяконова, а по оси ординат отложена частота фазовых переходов на единицу времени. Ну и видно, что здесь возникает эта характерная вертикальная асимптота, о которой, собственно говоря, и идет речь.

 

Сергей Петрович Капица в 1996 году добавил к фазовым переходам Дьяконова еще несколько точек, которые покрыли уже всю историю человечества. И потом я обнаружил, что так называемые границы между геологическими эпохами, которые на самом деле являются границами между биологическими эпохами, гладко ложатся на ту же самую кривую.

 

Получилось 19 точек, промежутки между точками образуют очень точную геометрическую прогрессию. В том, что это геометрическая прогрессия, легко убедиться после небольшого математического преобразования: должна получиться прямая, и вот эта прямая совершенно замечательно видна на этом рисунке. Коэффициент ускорения получился 2,67, что почему-то близко к числу e – если кто-то знает, что такое число e, поймет, о чем речь. И нетрудно было вычислить, где находится предел этой последовательности – сингулярность эволюции. Для всех точек, начиная от момента возникновения жизни и кончая последней точкой, так называемой информационной революцией, эта сингулярность оказывается равной 2004 году. А если сделать экстраполяцию только по точкам новой эры, получается 2015 год. То есть значение получается не очень точное, но это, как правильно говорил Акоп Назаретян, первая половина XXI века.

 

Что я хочу сказать, в чем суть вот этих самых точек? Важно, что каждая точка – это, конечно, качественное изменение эволюционирующей системы. Но это не только качественное изменение, которое возникает в ответ на преодоление некоторого эволюционного кризиса. (Там существуют два основных типа таких эволюционных кризисов – это кризисы эндо-экзогенные и кризисы техно-гуманитарного баланса. Я не буду об этом рассказывать просто потому, что на это сейчас нет времени.) Еще важно, что во время этих фазовых переходов используется так называемый фактор избыточного многообразия. То новое, что возникает в новой фазе, не возникает в момент фазового перехода. Используется то, что возникло до того, но существовало где-то на периферии эволюционирующей системы. Например, млекопитающие возникли задолго до того, как вымерли динозавры, но лидерами эволюции они стали после того, как вымерли динозавры, и вот произошел очередной фазовый переход.

 

Еще важен закон Седова (закон иерархических компенсаций): когда возникает новый лидер эволюции, старые эволюционирующие системы не исчезают, они только меняют свое место в эволюционирующей системе, уходят где-то немножко на ее периферию, может быть, несколько редуцируются.

 

В чем смысл этой общей эволюционной сингулярности? Это сингулярность всего эволюционного развития, начиная с момента возникновения жизни. Во-первых, это не точка, это некий период, который занимает, ну, грубо говоря, действительно первую половину XXI века, может быть, первые две трети XXI века. Что происходит в это время? В это время обязан сломаться прежний режим эволюции, потому что просто чисто математически эволюция не может ускоряться тем же самым способом. И предсказание, чисто механически и математически, за эту зону сингулярности, невозможно.

 

Но можно ли, тем не менее, что-нибудь сказать о том, что будет потом, избегая вот этой прямой линейной экстраполяции, которая становится невозможной? Кое-что сказать можно. Здесь нужно вспомнить, чем были эти фазовые переходы, и вспомнить, что точка сингулярности, или зона сингулярности, – это фактически концентрация кризисов, концентрация этих самых фазовых переходов. Поскольку зона сингулярности – это фактически концентрация кризисов, и мы вот это время сингулярности будем ощущать как кризисы, наползающие друг на друга, то, если человечество выживает в постсингулярной стадии, обязаны быть выработаны компенсирующие механизмы для каждого кризиса. Поэтому в постсингулярной стадии, если человечество живет, то оно живет, поддерживая множество механизмов компенсации кризиса. Это не будет простая жизнь.

 

Можно перечислить много разных примеров таких механизмов компенсаций: ну, например, исчерпание минеральных ресурсов влечет неизбежность введения замкнутых технологических циклов, что сложно. Это могут быть разные запреты, например запрет на определенные виды научных исследований. Например, может возникнуть запрет на любые опыты с живыми существами. Представляете, как это затормозит развитие наук о живом. Еще одна важная проблема, с которой мы столкнемся, – это резкое торможение освоения космоса, о чем говорил Кричевский. Темпы освоения космоса сейчас упали очень резко по сравнению с тем, что было в предыдущем веке. И, по-видимому, в ближайшие десятилетия, а может быть, даже и дольше, основная часть эволюции будет ограничена только планетарными масштабами, что переводит нас в ситуацию ограничения ресурсов.

 

Теперь я бы хотел сказать о том, что у меня больше всего болит. Я, как ученый- астрофизик, больше всего беспокоюсь о судьбе науки. Вот что можно сказать о судьбе науки в постсингулярной стадии. Во-первых, можно кое-что сказать из неких таких общефилософских предположений сразу. Любое прогрессивное явление в эволюции не может быть прогрессивным вечно, лидеры в эволюции сменяют друг друга. В этом смысле наука – типичное прогрессивное явление, она возникла в ответ на некие кризисы и служила для их преодоления. Так вот, наука как основа формирования вектора развития человеческой цивилизации не может быть вечным лидером. Отсюда следует, что произойдет смена лидерства, значит, науке на смену должен прийти какой-то другой лидер, о котором мы пока ничего не знаем. Закон Седова говорит о том, что наука при этом не исчезнет полностью, она перейдет в некое более подчиненное состояние, просто она займет иное место в человеческой цивилизации.

 

Это общефилософские утверждения, но можно сказать и кое-что более конкретное. Станислав Лем еще в 1963 году ввел понятие информационного кризиса, связанного с наукой. Это что такое? Каждое новое открытие приводит к возникновению новых научных проблем, на которые еще нет ответа. Поэтому количество нерешенных научных проблем растет экспоненциально. Но количество ученых в том же режиме расти не может, поэтому ученых через некоторое время будет не хватать на возникающие научные проблемы. Возникает то, что он назвал «разрывом фронта науки»: не все научные проблемы, которые должны быть исследованы, реально исследуются, наука теряет свою целостность и начинает деградировать.

 

Хочу обратить внимание, что это один из видов недостатка ресурсов. Другой вид недостатка ресурсов можно более прямо связать с наиболее фундаментальными науками – это наука о микромире и наука о космосе, такие как астрофизика и космология. Дело в том, что стоимость научных исследований вот в этой наиболее фундаментальной области непрерывно возрастает. И более того, улучшение методов, развитие новых технологий и т.д. не позволяет преодолеть эту тенденцию. В частности, можно упомянуть, например, все растущий и растущий размер коллайдера. Сейчас построен огромный коллайдер LHC, и коллайдер еще больших размеров, возможно, построить уже будет просто невозможно. Все растущие и растущие телескопы и т.д. Однако земные ресурсы ограниченны, и поэтому должен быть положен предел вот этому самому росту.

 

Ограничение ресурсов и рост научных исследований ведет к тому, что количество научных исследований в единицу времени начинает падать. Падение количества новых открытий в единицу времени снижает интерес к науке, снижение интереса к науке снижает финансирование науки. Снижение финансирования науки еще более сокращает поток научных открытий, возникает петля положительной обратной связи, которая может привести к внезапному коллапсу финансирования фундаментальной науки. Это очень простой процесс, можно построить математические модели этого процесса, я это сделал. Вот здесь описание модели, я на нем не буду останавливаться, покажу сразу результаты.

 

В том конкретном варианте предполагается, что финансами науку ограничат сверху, просто, как показано на этой кривой, они сначала растут, растут, а потом во что-то упираются, логистическая кривая. Это необязательное предположение, модель работает и в других предположениях. И вот что получается для количества научных результатов в единицу времени. Сначала они растут, вместе с ростом финансирования, а потом возникает такой участок, когда финансирование растет, а количество результатов начинает падать из-за того, что единица научного исследования становится все более дорогой. И потом внезапно наступает коллапс финансирования, который связан как раз вот с той петлей положительной обратной связи, о которой я говорил.

 

Вот эту модель я построил в 1996 году, у меня не было экспериментальных данных, с которыми я мог бы ее сравнить. И вот недавно, в 2010 году, удалось найти данные по количеству публикаций в год, начиная с 1817 года и кончая 2010-м. Видите, такая вот растущая кривая, и у нее есть несколько интересных очень мест. Ну, во-первых, я не могу не показать вот это место, связанное с 1950-м годом, здесь находится одна из точек моей кривой, которая называется информационной революцией. Вы видите, как в момент информационной революции скакнуло внезапно количество публикуемых научных статей. А вот другое важное место: вы видите, что в последние несколько лет количество научных публикаций внезапно стало падать. Этот процесс начался в 2007 году, и естественно попытаться его связать с наступившим экономическим кризисом. Но это далеко не первый экономический кризис в истории человечества. Была и Великая депрессия 1930-х годов и др., и никогда раньше количество научных публикаций не падало, оно упало впервые. А финансирование науки, как видно на этой кривой (это, правда, Соединенные Штаты), продолжает расти. То есть получается что-то очень похожее как раз на ту фазу, которую я показывал в своей модели, – финансирование растет, а количество результатов уже начало падать. Естественный вопрос: может быть, падает только количество обыкновенных журнальных публикаций? Ничего подобного. Вот известный электронный журнал, архив препринтов, в нем количество публикаций тоже начало падать. То есть оно начало падать везде, это некий тотальный процесс.

 

Как может быть преодолен этот кризис? Я пока не знаю, как это сделать. Я хочу только обсудить, можно ли использовать искусственный интеллект, о котором здесь много говорили, для преодоления этого кризиса. Ну, например, недостающее число ученых заместить роботами. Или внедрить какой-то способ выращивания знаний, вместо натурных обыкновенных экспериментов. Мое мнение состоит в том, что надежды на искусственный интеллект очень сильно переоценены.

 

В основном надежды на возникновение искусственного интеллекта, более сильного, чем человеческий, связаны с понятием технологической сингулярности и с законом Мура, ростом мощности аппаратной базы. У меня возникают два вопроса к этой кривой. Первый вопрос: как оценивалась мощность мозга, скорость, с которой работает мозг? Она оценивалась на количестве нейронов, количестве синапсов и частоте срабатывания синапсов. Это очень примитивная оценка. Вот возьмем амебу. Там вообще нет нервной системы, никакой, а она обладает, тем не менее, очень сложным поведением. И все эти информационные аспекты, которые есть у амебы, должны присутствовать и в мозге. Поэтому, скорее всего, это очень сильно недооцененная величина, может быть, на десяток порядков. И самое главное, что закон Мура, рост мощности аппаратной базы, дает только необходимые, но не достаточные условия возникновения мощного искусственного интеллекта.

 

Я просто прочитаю одну цитату: «За прошедшие 15 лет разум наших электронных вычислительных машин улучшился в миллионы раз. В течение нескольких десятилетий следует ожидать увеличения характеристик разума машин, по крайней мере, в несколько десятков тысяч раз. Разум таких машин по основным параметрам будет заведомо превосходить разум человека». Это было написано в 1975 году, и такие слова говорили непрерывно на протяжении развития компьютерных технологий. И говорят сейчас в той же самой форме и теми же словами. С чем связана эта ошибка? А ошибка связана с тем, что необходимое программное обеспечение гораздо более консервативно, на много порядков величин, чем развитие аппаратной базы.

 

У меня тут несколько примеров такого консерватизма, я на этом останавливаться не буду. Хочу только отметить, что те технологии, которые сейчас используются при программировании искусственного интеллекта – нейронные сети, эвристическое программирование, экспертные системы, эволюционное программирование, – были изобретены между 1955 и 1961 годами. Это произошло значительно более пятидесяти лет назад, и с тех пор не было придумано ничего принципиально нового. В области программирования искусственного интеллекта наблюдается глубочайший застой. И дело в том, что мы просто не понимаем, как на самом деле думает человек.

 

Проблема здесь вот в чем, я бы так сформулировал: компьютер обрабатывает информацию, человек обрабатывает смыслы. По умолчанию предполагается, что смыслы могут быть выражены информационным образом, но никто никогда не доказал, что это так. Я приведу простой примитивный контрпример: если смысл представляется квантовыми состояниями, то это не есть информация. Потому что важнейшим свойством информации является то, что она может быть скопирована, сдублирована. А квантовые состояния не копируются по теореме не-клонирования состояний.

Это простейший контрпример, но на самом деле ситуация может быть еще гораздо хуже. Мы совершенно не понимаем, каким образом представляются вот эти самые смыслы. Более того, существует теорема Роджера Пенроуза. Утверждение Роджера Пенроуза состоит в следующем: существует очень много активностей человеческого мозга, которые не могут быть представлены активностью компьютера, но очень трудно доказать, что это действительно невозможно.

 

Есть один вид активности – специальный тип математической активности мозга, когда можно доказать абсолютно строгую теорему, что любой конечный автомат, основанный на любых известных физических принципах в настоящее время, не может представить некоторые формы математической активности мозга. Это математическая теорема, ее опровергнуть просто невозможно. На самом деле она является родственницей первой теоремы Гёделя о неполноте. На этом я уже не буду останавливаться, но что из нее следует? Из нее следует, что для того, чтобы создать искусственный интеллект, превосходящий по мощности человеческий, нужно открыть вот эти самые неизвестные физические принципы, а невозможно предсказать, когда мы их откроем.

 

Пожалуй, я на этом закончу. Я хочу сказать, что не надо особо надеяться на искусственный интеллект, что он нам поможет преодолеть кризис, который нарастает в науке. Я не знаю ни одного надежного пути, который может преодолеть этот кризис. Хотя есть несколько путей, которые должны обсуждаться. Я, может быть, смогу о них поговорить на наших круглых столах, если будет соответствующее время.

Спасибо за внимание.


Новости
07.06.2012
В Москве в рамках Конгресса Global Future 2045, который состоялся в феврале 2012 года, прошел круглый стол «Диалог конфессий».
21.02.2012
Конгресс “Глобальное будущее 2045” после трех дней пленарных заседаний завершился 20 февраля круглым столом, посвященным формированию…
20.02.2012
В дни проведения международного конгресса Global Future 2045 в Москве, Министерство обороны США и Агентство передовых оборонных…
20.02.2012
Александр Болонкин, астрофизик, старший научный сотрудник NASA, обратился к руководству и участникам международного конгресса «Глобальное…
19.02.2012
Манифест Барри Родрига на конгрессе GF2045: "Будущее – это измерение, к которому стремятся все формы жизни".