Мы живём в такое время, когда идея озвученная американскими кинематографистами в блокбастерах «Робокоп» и ему подобных вполне может стать реальностью.
Уже сегодня машины получили сверхчеловеческую силу, скорость и выносливость — и в один прекрасный день они будут обладать сверхчеловеческим интеллектом. Единственная причина, по которой этого может не произойти, — это если мы сперва сами себя убьём с помощью некоторой суперопасной технологии, ну или станем жертвами некой глобальной катастрофы. Если же предположить, что научно-технический прогресс будет продолжаться, машинный интеллект человеческого уровня, скорее всего, будет разработан в самом ближайшем будущем. Потом придёт черёд сверхинтеллекта.
Спрогнозировать, сколько понадобится времени на разработку такой машины, крайне трудно. В этом вопросе нёт черных и белых ответов, мол, «машины глупые и никогда не станут людьми» и «машины станут умнее нас крайне скоро, вон — искусственный интеллект уже родился и готов убивать».
Опрос среди ведущих исследователей искусственного интеллекта предполагает, что есть 50% вероятности того, что машинный интеллект достигнет уровня человека к 2050 году*. Такое мнение не выглядит абсолютно безумным. Но есть масса неопределённостей по обе стороны этого вопроса: это рано или поздно должно случиться
Точно так же окутан тайной вопрос, как мы доберёмся до этой точки. Есть несколько путей развития, которые помогут нам попасть туда в конце концов, но мы не знаем, какой из них выстрелит первым.
У нас есть конкретный пример интеллектуальной системы — человеческий мозг — и одна очевидная идея заключается в том, чтобы выяснить, как он работает. До полного понимания мозга нам ещё очень далеко, но может так случиться, что мы выведем ряд основных вычислительных принципов, которые использует мозг, а программисты смогут адаптировать их к компьютерам без лишней необходимости изучать биологические нюансы.
Мы уже знаем несколько вещей о том, как работает человеческий мозг: это нейронная сеть, он обучается за счёт повторения, у него иерархическая структура, он основан на восприятии и так далее. Возможно, есть ещё несколько основных принципов, которые мы должны открыть, и всё это в конечном итоге сложится в некий «нейроморфный искусственный интеллект»: основные принципы будут биологическими, но завернуты они будут точно не в биологию.
Другой путь — более математический подход «сверху-вниз», который мало что заимствует из биологии и просто пытается заставить работать базовые принципы. Это более желательный путь развития, нежели нейроморфный искусственный интеллект, потому что программисты будут хорошо понимать, что происходит на глубоком уровне. Сравнить это можно с тем, что сдавать экзамены самостоятельно лучше, чем просто списывать у одноклассника или однокурсника.
Короче, нам нужны разработчики искусственного интеллекта, которые будут выращивать его из семени до размеров сверхинтеллекта, хорошо понимающие, что делают. Параллельно с этим мы могли бы проверить математические теоремы о системе и о том, как она ведёт себя, поднимаясь по карьерной лестнице интеллекта.
Можно также представить себе пути, которые будут больше полагаться на грубую вычислительную силу, например, за счет использования генетических алгоритмов. Такой путь развития будет нежелателен по той же причине, что и нейроморфный искусственный интеллект, поскольку он может привести к успеху и без полного понимания того, из чего он сделан. Наличие большого массива аппаратного обеспечения в определённой степени могло бы заменить глубокое математическое понимание.
Мы уже знакомы с кодом, который мог бы при достаточном количестве вычислительной мощности стать сверхинтеллектуальным агентом. Модель AIXI, например. В лучшем случае она уничтожит мир. К счастью, необходимые объёмы вычислительных мощностей просто физически невозможны.
Путь полной эмуляции мозга логически приведёт к полной цифровой копии конкретного человеческого разума. Идея заключается в том, чтобы заморозить или витрифицировать мозг, нарезать его тонкими ломтиками и скормить эти ломтики микроскопам. Автоматизированная система распознавания изображений затем воссоздаст карту нервных соединений оригинального мозга. Трёхмерная карта будет сочетаться с нейровычислительной моделью функциональности разных типов нейронов, а вся вычислительная структура будет работать на достаточно ёмком суперкомпьютере. Этот подход выглядит крайне сложным, но гарантирует определённые теоретические прорывы.
В принципе, можно предположить, что получится достаточно качественно эмулировать цифровой мозг, сохранив все убеждения, желания и личность загруженного индивидуума. Но прежде чем технология достигнет такого уровня совершенства, эмуляции будут крайне грубыми. И прежде чем эмуляция мозга приведёт к определенному успеху, скорее она выльется в нейроморфный искусственный интеллект.
Пожалуй, самый привлекательный путь к машинному сверхинтеллекту будет непрямым, в процессе которого мы хорошо изучим собственную биологическую структуру. Это может быть достигнуто за счёт, скажем, генной инженерии и институциональными инновациями, улучшающими наш коллективный разум.
Нельзя сказать, что так или иначе это позволит «идти в ногу с машинами» — конечные пределы обработки информации в машинных мозгах намного выше, чем у биологического мозга. Но когнитивное развитие человечества тесно связано с развитием машин: оно приближает день, когда машины обгонят нас в развитии, поскольку умные люди способствуют прогрессу в области компьютерных наук.
Спрогнозировать, сколько понадобится времени на разработку такой машины, крайне трудно. В этом вопросе нёт черных и белых ответов, мол, «машины глупые и никогда не станут людьми» и «машины станут умнее нас крайне скоро, вон — искусственный интеллект уже родился и готов убивать».
Опрос среди ведущих исследователей искусственного интеллекта предполагает, что есть 50% вероятности того, что машинный интеллект достигнет уровня человека к 2050 году*. Такое мнение не выглядит абсолютно безумным. Но есть масса неопределённостей по обе стороны этого вопроса: это рано или поздно должно случиться
Точно так же окутан тайной вопрос, как мы доберёмся до этой точки. Есть несколько путей развития, которые помогут нам попасть туда в конце концов, но мы не знаем, какой из них выстрелит первым.
У нас есть конкретный пример интеллектуальной системы — человеческий мозг — и одна очевидная идея заключается в том, чтобы выяснить, как он работает. До полного понимания мозга нам ещё очень далеко, но может так случиться, что мы выведем ряд основных вычислительных принципов, которые использует мозг, а программисты смогут адаптировать их к компьютерам без лишней необходимости изучать биологические нюансы.
Мы уже знаем несколько вещей о том, как работает человеческий мозг: это нейронная сеть, он обучается за счёт повторения, у него иерархическая структура, он основан на восприятии и так далее. Возможно, есть ещё несколько основных принципов, которые мы должны открыть, и всё это в конечном итоге сложится в некий «нейроморфный искусственный интеллект»: основные принципы будут биологическими, но завернуты они будут точно не в биологию.
Другой путь — более математический подход «сверху-вниз», который мало что заимствует из биологии и просто пытается заставить работать базовые принципы. Это более желательный путь развития, нежели нейроморфный искусственный интеллект, потому что программисты будут хорошо понимать, что происходит на глубоком уровне. Сравнить это можно с тем, что сдавать экзамены самостоятельно лучше, чем просто списывать у одноклассника или однокурсника.
Короче, нам нужны разработчики искусственного интеллекта, которые будут выращивать его из семени до размеров сверхинтеллекта, хорошо понимающие, что делают. Параллельно с этим мы могли бы проверить математические теоремы о системе и о том, как она ведёт себя, поднимаясь по карьерной лестнице интеллекта.
Можно также представить себе пути, которые будут больше полагаться на грубую вычислительную силу, например, за счет использования генетических алгоритмов. Такой путь развития будет нежелателен по той же причине, что и нейроморфный искусственный интеллект, поскольку он может привести к успеху и без полного понимания того, из чего он сделан. Наличие большого массива аппаратного обеспечения в определённой степени могло бы заменить глубокое математическое понимание.
Мы уже знакомы с кодом, который мог бы при достаточном количестве вычислительной мощности стать сверхинтеллектуальным агентом. Модель AIXI, например. В лучшем случае она уничтожит мир. К счастью, необходимые объёмы вычислительных мощностей просто физически невозможны.
Путь полной эмуляции мозга логически приведёт к полной цифровой копии конкретного человеческого разума. Идея заключается в том, чтобы заморозить или витрифицировать мозг, нарезать его тонкими ломтиками и скормить эти ломтики микроскопам. Автоматизированная система распознавания изображений затем воссоздаст карту нервных соединений оригинального мозга. Трёхмерная карта будет сочетаться с нейровычислительной моделью функциональности разных типов нейронов, а вся вычислительная структура будет работать на достаточно ёмком суперкомпьютере. Этот подход выглядит крайне сложным, но гарантирует определённые теоретические прорывы.
В принципе, можно предположить, что получится достаточно качественно эмулировать цифровой мозг, сохранив все убеждения, желания и личность загруженного индивидуума. Но прежде чем технология достигнет такого уровня совершенства, эмуляции будут крайне грубыми. И прежде чем эмуляция мозга приведёт к определенному успеху, скорее она выльется в нейроморфный искусственный интеллект.
Пожалуй, самый привлекательный путь к машинному сверхинтеллекту будет непрямым, в процессе которого мы хорошо изучим собственную биологическую структуру. Это может быть достигнуто за счёт, скажем, генной инженерии и институциональными инновациями, улучшающими наш коллективный разум.
Нельзя сказать, что так или иначе это позволит «идти в ногу с машинами» — конечные пределы обработки информации в машинных мозгах намного выше, чем у биологического мозга. Но когнитивное развитие человечества тесно связано с развитием машин: оно приближает день, когда машины обгонят нас в развитии, поскольку умные люди способствуют прогрессу в области компьютерных наук.
©
dr. Konstantin A. G.
von Kesslerдоктор медицины
© Перевод с немецкого:Дитрих фон Штеглиц
журналист
* Под ним понимается тот, который способен выполнять большую часть действий обычного человека и заменит большую часть человеческих работников
