Технологи́ческая сингуля́рность - гипотетический момент, по прошествии которого, по мнению сторонников данной концепции, технический прогресс станет настолько быстрым и сложным, что окажется недоступным пониманию, предположительно следующий после создания искусственного интеллекта и самовоспроизводящихся машин, интеграции человека с вычислительными машинами, либо значительного скачкообразного увеличения возможностей человеческого мозга за счёт биотехнологий.

Вернор Виндж считает, что технологическая сингулярность может наступить уже около 2030 года, в то же время Рэймонд Курцвейл даёт 2045 год. На Саммите Сингулярности в 2012 году Стюарт Армстронг собрал оценки экспертов, медианное значение этой выборки составило 2040 год.

Мы живем в интереснейшее время. Каждый день происходят различные научные открытия. Ждет ли нас технологическая сингулярность ?

Технологии обещают полностью поменять нашу жизнь. В ближайшее время:

Биотехнология обещает практически до бесконечности удлинить нашу жизнь.

Технологии ИИ помогут людям существенно улучшить свои интеллектуальные и физические возможности.

Нанотехнология сделает более доступным необходимые ресурсы для каждого человека.

Ученые обсуждают возможность достижения некой точки, называемой, технологической сингулярностью , которая определяется как момент времени, после которого технологический прогресс станет невообразимо сложен, что окажется непостижимым пониманию.

По прогнозам, данный момент может наступить уже через 14 лет, а именно в 2030 г. Основной популяризатор этой идеи является Рэймонд Курцвейл.

Однако, не все ученые поддерживают данную концепцию и утверждают, что технологическая сингулярность недостижима. Они заявляют, что развитие происходит по S-кривой, и в конце прошлого века началось замедление данного процесса.

На данный момент четко видятся три направления, которые выступают катализаторами сингулярности:

1. Биотехнологии.

2. Нанотехнологии

3. Информационные технологии.

Данные процессы влияют и на мировоззрение людей. Так в конце прошлого века появилось новое философское течение, называемое трансгуманизмом.

Трансгуманизм - это радикальное мировоззрение, основанное на использование результатов технологий для существенного улучшения физических и умственных возможностей человека, а также максимального замедления процессов старения и смерти.

Трансгуманисты поддерживают мнение, что человек достаточно изучил процесс эволюции и способен контролировать и управлять в дальнейшей данным процессом.

Они рассматривают выход человека за пределы возможного благодаря научному прогрессу. И задумываются над тем, кем может стать человек, рассматривая его текущее развитие только как начало пути.

Т.к. 2030 г. не за горами думаю мы скоро все увидим своими глазами.

Критика концепции технологической сингулярности

Ряд учёных (из наиболее известных российских, например - один из основоположников клиодинамики А. В. Коротаев и биолог А. В. Марков) выступают с критикой данной концепции, утверждая, что явно выраженной точки сингулярности, с острым кризисом, не будет. Ими утверждается, что развитие идёт по S-образной (логистической) кривой, и уже с начала 1970-х годов началось торможение, то есть Мир-Система «точку сингулярности» в процессе модернизационного фазового перехода уже прошла; при этом под точкой сингулярности здесь подразумевается такая точка на графике развития, в которой скорость максимальна (середина S-образной кривой).

Коротаев в своей статье рассматривает и даёт оценку понятию сингулярности в различных областях (экономической, технологической, культурной и т. д.). Так как гипербола переходит в бесконечность за конечный промежуток времени, то можно вычислить момент обострения, в который некий показатель развития приобретает бесконечное значение. В реальных процессах никогда не наблюдается ухода в бесконечность, а вместо этого система испытывает качественную трансформацию (фазовый переход) перед достижением точки сингулярности. На примере кривой экономического развития, уже находящейся в режиме обострения, Коротаев иллюстрирует характер движения прочих гиперболических кривых, в которых ожидается сингулярность. В своём примере он исходит из предположения, что экономика тесно связана с демографией, и эта зависимость главным образом определяет характер движения экономической кривой.

Однако при анализе технологической сингулярности Коротаев не учитывает тот факт, что развитие передовых технологий опирается, прежде всего, на научный прогресс в наиболее развитых странах, где он определяется не численностью населения, а уровнем образования и активностью научных исследований. Это означает, что в технологической кривой преобладает качественный фактор, а не количественный, который выражается через демографические показатели всех стран мира. Таким образом, если оценка технологической сингулярности проводится, основываясь на темпе демографического роста (интенсивность которого выше в менее развитых странах), то наблюдается её сильное смещение из-за пониженного влияния качественного фактора. Как следствие, представляется не вполне корректным анализировать развитие технологий по аналогии с экономической кривой и поэтому Коротаев признаёт, что в трансгуманистическом контексте понятие технологической сингулярности может приравниваться к понятию фазового перехода.

Транспорт будущего

Думаю, многие, читающие эти строчки, на сегодняшний день видят, что прогресс с каждым днем ускоряется. Еще в начале XX века многие не верили в самолеты и думали, что «завтра будет сегодня». Эта тенденция в обществе была всегда и наблюдается сейчас. Завтра будет сегодня. В принципе, это простое эмпирическое наблюдение, однако если сравнить то, что было год назад, и что есть сегодня, становится виден этот прогресс. Если бы наблюдатель провел такое наблюдение в начале XIX века, очевидный прогресс он вряд ли бы увидел, разве что попал бы в переломный момент. Сейчас же различные научные достижения, мелкие и большие, происходят каждый день. Интернет стал катализатором этого процесса. Свободный обмен информацией объединил ученых со всего мира и лишил одной из главных проблем - повторного изобретения, чем часто страдал прошлый век. Конечно, сейчас данная проблема наверняка сохраняется из-за секретности некоторых государственных программ, однако такие проекты - это капля в море тысяч энтузиастов. Разумеется, сейчас наблюдаются не лучшие тенденции государственного контроля, но я, пожалуй, буду обсуждать в макромасштабе и не буду разбирать такие детали.

Уже вот 49 лет как выполняется закон Мура, а Intel готовит нам новые техпроцессы и новые подходы. Разрабатываются параллельно квантовые компьютеры, ДНК-компьютеры, нейронные сети… Все это произошло буквально за 30 лет.

Все неизбежно указывает на дальнейшее ускорение прогресса и движение к некой точке - технологической сингулярности.

Теория

Экспоненциальный рост технологий и прогресса, который наблюдается сейчас, ведет к точке во временном промежутке от 2020 до 2070 года. Многие ученые и писатели, например, Вернор Виндж, больше склоняются к 30-ым годам нашего века. Имеется огромное количество различных методов прогнозирования этой даты, некоторые методы пессимистичны, а некоторые - наоборот, слишком оптимистичны. Различные методы имеют свои точки, на которых они основываются, например, запасы нефти и газа, население, политические движения и тенденции нынешнего века, а некоторые исходят из сугубо логического мышления. Например, одной из основных опор теории технологической сингулярности можно считать эволюцию и естественный отбор. Если посмотреть на всю историю жизни на Земле, то можно заметить несколько закономерностей. Одна из них - это наращивание ёмкости биологических носителей. Эволюция нас провела по такому пути: РНК -> ДНК -> Простейшая нервная система -> Мозг -> Речь -> Письменность -> Компьютеры и Интернет (причем заметьте, что каждый следующий этап наступал намного быстрее предыдущего (!)) Что же последует дальше? Давайте потерпим с ответом на этот вопрос.

Если немного подумать, то можно сделать простой вывод: Если мы хотим и дальше совершенствовать существующие технологии и создавать новые фантастические, то мы должны преодолеть границы нашего сознания. Что я имею в виду, говоря это? Я имею в виду, что человечество скоро упрется в некий тупик своих мыслительных способностей и, вероятно, будет погружено в многолетний застой и даже «второе средневековье». Для того, чтобы этого избежать и продолжать этот быстрый рост, люди должны что-то предпринять для повышения потенциала своего интеллекта. Это я и опишу ниже.

На данный момент четко видятся три ветви науки, которые могут привести человечество к сингулярности:

1. Информационные технологии.
2. Нанотехнологии.
3. Биотехнологии.

Информационные технологии

Именно это направление в последние годы претерпевает самые значительные изменения и подвижки в целом. Информатика продвигается по всем фронтам, которые ей становятся доступны. Примерами можно назвать квантовые компьютеры и биокомпьютеры. Если бы не достижения в других областях науки, то эти направления бы не появились. Информатика постепенно и сама открывает новые направления - биоинформатика. Влияние информатики огромно, и она по сути является самым главным катализатором сингулярности и прогресса в целом. Еще бы, ведь информатика - это наука об информации.

Информационные технологии (в кооперации с другими) могут дать нам два главных продукта: Сильный ИИ или (и) Интерфейс Человек-Компьютер. Примерной датой революции может стать названный выше 2030 год.

ИИ

В контексте технологической сингулярности под ИИ подразумевается именно Сильный ИИ, возможно, он будет являться точной копией человеческого сознания или же будет создан более рациональными методами, если это вообще возможно. Искусственный Интеллект явно является предметом более большого и всеобъемлющего обсуждения, но я, пожалуй, напишу немного вводной информации.

Польза

Разработка и успешное внедрение дружественного ИИ должно в корне изменить нашу жизнь.
Его польза сведется к тому, что умный ИИ придумает все сам за нас и при возможности будет щедро делится своими достижениями, уводя нас далеко в дебри сингулярности.
Теоретически это гипотетическое существо должно из нынешнего хаоса создать абсолютный порядок, например: полной автоматизацией транспорта и абсолютным контролем дорожного трафика, всегда стабильным ростом экономики, отсутствием войн, постоянным внедрением новых технологий и предотвращением экономических застоев, а также перспективной колонизацией космоса.

Вред и риски

Лично мне кажется, что ИИ искореняет одну из самых главных потребностей людей - вечное любопытство. Создав ИИ, люди должны будут смириться с тем, что создали существо, превосходящее на порядки самих создателей. Смириться с тем, что передали эстафетную палочку своему творению. Возможно, такой подход кого-то радует, но, думаю, большая часть населения такого подхода истребления не одобрит. Нужно будет научиться как-то существовать с таким «большим братом». Если, конечно, ИИ будет дружественный. Так, например, одним из главных рисков может быть полностью неконтролируемый сверхчеловеческий интеллект, который может не увидеть пользу в человечестве как таковом, трактовать свое существование эволюцией и доминированием и объявить подобие геноцида. Можно очень долго рассуждать на эту тему, описывать методы создания дружественных форм сознания и т. д. Но никаких гарантий нет. Интеллект, который умнее самого человека, невозможно предсказать.

Интерфейс Человек-Компьютер

Это направление не настолько туманно, как ИИ, и в нем имеются более реальные и дающие результат перспективы. По сути, в области данного направления пока что нет настолько сложных и объёмных вопросов, как в вопросах о создании ИИ. Сейчас наблюдаются очень активные исследования в области компьютеризированных протезов, а также различных имплантантов прямо в мозг.

Польза

В целом и общем данный интерфейс должен открыть такие возможности: кооперация на телепатическом уровне посредством сети Интернет (или более перспективных сетей будущего), мгновенный доступ к материалам Интернета (например, через дополненную реальность), создание модуля постоянной памяти для сохранения важных заметок, а также интеграция зрительного нерва с ресурсами интернета и создание зрения Терминатора абсолютной дополненной реальности с анализом всего увиденного (как, например, в играх Deus Ex или Syndicate). Перед человеком откроются горизонты, новые способы организации работы, новое видение мира, наука стремительно поползет вверх.

Вред и риски

Исследованиям в этой области сейчас мешают некоторые этические вопросы, так как в случае даже самого малого распространения этой технологии начнется быстрое фрагментирование общества. Трансгуманисты против консерваторов.
Рисков, связанных с появлением «сверхлюдей», также много. Эти люди станут более влиятельными и будут явно мешать стандартному течению жизни. Модификация организма может стать серым и неконтролируемым процессом и привести к колоссальным непредвиденным катастрофам в будущем.

Нанотехнологии

Сейчас практически все исследования в области нанотехнологий сводятся к созданию новых нанополимеров на базе графена, фуллеренов, изучению концепций нанодвигателей, механизмов, а также созданию теоретической базы для будущих наработок. Основной продукт, который может нам дать нанотех - машины фон Неймана.

Машины фон Неймана

Машины фон Неймана - это роботы, способные к саморепликации и управлению материей на разных уровнях, в зависимости от их миниатюрности. Торжеством нанотеха может стать управление физической материей на субатомном уровне. В рамках нынешних технологий это чистой воды НФ. Для их создания придется преодолеть очень много барьеров, и как раз торжество нанотехнологий может наступить очень поздно. По некоторым прогнозам - от 2050 до 2100 года. А в целом это 2070-ые годы. Не решены вопросы энергообеспечения, контроля миллионов реплицирующихся машин, ориентация в пространстве (ведь даже для самого маленького гироскопа или камеры нужны триллионы молекул). Есть также высокая вероятность того, что эти роботы вообще технически не реализуемы, во всяком случае, на нашем веку. Сейчас речь идет о создании «простых» роботов, которые, например, смогут работать с биологическими клетками и стать более интеллектуальным помощником нашей иммунной системе.

Польза

Как было сказано выше, данная технология может иметь прекрасное медицинское применение: лишить человека большой части известных заболеваний и удалять уже существующие. Также, вероятно, нанотехнологии помогут реанимировать криопациентов. С дальнейшей миниатюризацией технологии и уменьшением уровня работ будут доступны новые возможности. Например, работа на клеточном уровне. В кооперации с биоинформатикой и цитологией можно будет запросто достигнуть физического бессмертия организма, отключив механизмы старения, или же править ошибки, появляющиеся в процессе старения.

Помимо медицинского применения, у нанотеха есть огромный потенциал в строительстве огромных астроинженерных сооружений космического лифта или даже сферы Дайсона. Помимо астроинженерных сооружений, должен быть решен вопрос постройки огромных небоскребов из композитных наноматериалов. Этим может быть решен вопрос перенаселения и многоуровневых ферм и полей.

Вред и риски

Как у любой развитой технологии, и у этой есть огромнейшие риски. При попадании ее в чужие руки могут создаваться вирусы, которые будут действовать еще пагубней, чем обычные биологические. Также это может открыть огромные возможности для шпионажа.

Биотехнологии

В технологической сингулярности биология играет две роли: Помощь в достижении физического бессмертия организма для реализации неограниченного потенциала человеческой личности и создание эффективных ноотропов для раскрытия огромного потенциала мозга, как, например, у людей с синдромом саванта (или опровержение существование этого потенциала).

Физическое бессмертие

Бессмертие создает огромную почву для моральных и этических вопросов. Однако не стоит отрицать, что для государства всегда была важна ценность жизни его граждан. Для этого создавались и создаются министерства здравоохранения. Однако вместе с растущей продолжительностью жизни поднимаются вопросы «старения» общества. Этот вопрос актуален в таких развитых странах, как Япония. Вечно молодое общество сможет постоянно накапливать опыт и аккумулировать знания, полностью освободит государство от пенсионных выплат и неработоспособного населения. Помимо популяризации бессмертия, с огромнейшей вероятностью человек будет избавлен от наследственных болезней, уродства и инвалидностей еще на этапе рождения. Уже сейчас есть ЭКО.

Помимо вопросов этики, в обсуждениях про бессмертие часто поднимается вопрос перенаселения. Лично я считаю, что люди, утверждающие, что после достижения бессмертия население резко пойдет вверх - сильно заблуждаются. Достаточно просто посмотреть статистику и посмотреть в животный мир. В странах с низким уровнем жизни высокая рождаемость, а в развитых странах типа Австралии, Германии, Исландии, Финляндии и других виден абсолютный контроль над уровнем населения. В животном мире наблюдаются точно такие же тенденции. Например, различные насекомые живут день, но рождаются каждый день миллиардами по всему миру, а долгоживущие существа имеет потомство максимум из двух-трех особей.

Ноотропы

В последних исследованиях все чаще подтверждается информация о том, что у мозга человека разумного есть огромный потенциал, который по каким-то причинам выключен. Возможно, включение этого потенциала приведет к быстрому «выгоранию» мозга, однако этот вопрос в целом абсолютно неизучен и требует дальнейших исследований. Также возможно, что помимо огромных возможностей появляются ненужные отклонения вроде аутизма. В истории уже были и есть такие люди. Например, Ким Пик, который запоминал до 98% прочитанной информации, или Дэниел Таммет, который, цитирую:

Может производить в уме сложнейшие математические вычисления, оперируя с числами, состоящими из более ста знаков. Также он доказал, что за неделю может выучить совершенно незнакомый ему язык (на примере исландского языка).

Для описания данного явления ученые придумали термин «математическая синестезия».

Таким образом, разработка ноотропов, способных открыть эти разделы мозга, выведет интеллект на новый уровень и сопроводит новыми рисками. По сути, это биологический интерфейс человек-компьютер, а поэтому на него действуют все те же опасности, в частности, уже упомянутая фрагментация общества.

Вывод

Что же последует дальше? Не знаю. Вероятно, люди все же придут к созданию искусственного интеллекта. Возможно, это произойдет в 2030-ых, а возможно - никогда. Нужно осознать, что если ИИ будет создан, то палочку нам всё-таки придется передать рано или поздно.

Эту статью я задумал как статью, которая должна что-то переменить в сознании людей. Я хочу, чтобы мы все поняли, что живем в очень интересное и замечательное время, думаю, что именно нашему поколению предстоит либо погрузиться во тьму, либо вырваться в фантастическое будущее фантастических технологий.

P.S. Думаю, что комментариях найдутся к моей статье замечания и вопросы, готов оперативно их выслушать и поправить недочеты:)
Спасибо пользователю

Буквально недавно только писал статью о влиянии . Тема меня немного увлекла, и я захотел еще глубже копнуть в данном направлении, и нарвался на термин .

Сначала, традиционно терминология. Технологическая сингулярность это такой момент в истории человечества, когда развитие технологий достигнет такой скорости и уровня сложности, что будет не доступна для нашего с Вами понимания. Т.е. буквально – технологии будут развиваться в независимости от нашего с Вами знаний и участия в их создании. И это станет возможным сразу же в момент появления настоящего искусственного интеллекта.

Однако, сам по себе искусственный интеллект это еще не единственный фактор. Второй важный момент – это появление самовоспроизводящихся машин-роботов. Т.е. человек будет буквально не нужен для развития и будет выброшен в свалку истории, как неандертальцы и кроманьонцы.

Технологическая сингулярность. Пугающее будущее.

По данным самых разных ученых-исследователей в данной области, такая может наступить уже скоро, в диапазоне лет от 2030 до 2045 годов. Т.е. мы с Вами вот-вот станем свидетелями перехода человечества в другую эпоху. Не знаю как Вас – но лично меня такая перспектива откровенно пугает. И причин тому две.

Во-первых, никто из нас не знает, как поведут себя суперкомпьютеры с искусственным интеллектом по отношению к людям. Вполне возможно, что «Скайнет» из серии фильмов о «Терминаторе» станет далеко не выдумкой. Невозможно предсказать развитие нашей цивилизации, опираясь только на опыт социального поведения, ведь теперь не человек будет доминирующей фигурой на Земле.

Во-вторых, для меня как то странна потеря контроля за технологиями и их развитием. Посмотрите – даже сейчас мы, являясь умнейшими представителями на этой планете, ведем себя крайне не разумно, развязывая войны, уничтожая целые народы и культурные наследия. А как поведут себя машины, не обремененные такими чувствами как любовь, патриотизм, сострадание, милосердие и так далее? Что если миром начнет править сугубая практичность? Есть ли место в таком мире для людей и даже для остальных животных?

С другой стороны, развитие технологий вероятнее всего подстегнет и развитие человеческих возможностей, путем интеграции микроэлектроники в тело человека (симбиоз органики и технологий). Например, это позволит излечивать сложные смертельные болезни, или будет развивать способности к мышлению, вычислительных способностей мозга и запоминанию информации, или значительно повысит возможности организма вплоть до бессмертия. Сейчас у нас нет ответов на эти вопросы.

Идея возникновения технологической сингулярности основывается на законе Мура, в котором утверждается, и на текущий момент она полностью подтверждается, что каждые восемнадцать месяцев происходит удвоение вычислительных транзисторов в компьютерах. И скоро их мощность достигнет уровня возможностей человеческого мозга: 10 в 17 степени операций в секунду.

Любопытно, что упоминание об ускоряющемся темпе роста знаний встречается в работах аж у Фридриха Энгельса.

Последствия.

Идет просчет различных сценариев последствия технологической сингулярности . И как обычно, ученые разделились на два лагеря. Одни его страстно ждут и считают, что эти последствия будут только положительными. Другие сильно опасаются и стараются предупредить людей об опасности. Но, при этом все понимают, что прогресс уже не остановить, и рано или поздно мы достигнем точки технологической сингулярности, что, безусловно, станет поворотной точкой в развитии человечества. А вот хорошей или плохой – покажет время.

Нужно понимать, что инициатором возникновения сингулярности является именно человек. И, по идее, мы могли бы подготовиться к переходу к постсингулярному миру, сделав его более позитивным, плавным и контролируемым. А сделать это можно лишь основываясь на законах нравственности, осознав возможные последствия и приложив немало ресурсов.

Интересно, кто из Вас ждет с нетерпением этого события и почему? Какие мысли у Вас по этому поводу – делитесь в комментариях.

P.S: Все сказанное тут – сугубо мое личное мнение. Нагнетать страхи не планировал, и не имею такого желания.

Думаю, многие, читающие эти строчки, на сегодняшний день видят, что прогресс с каждым днем ускоряется. Еще в начале XX века многие не верили в самолеты и думали, что «завтра будет сегодня». Эта тенденция в обществе была всегда и наблюдается сейчас. Завтра будет сегодня. В принципе, это простое эмпирическое наблюдение, однако если сравнить то, что было год назад, и что есть сегодня, становится виден этот прогресс. Если бы наблюдатель провел такое наблюдение в начале XIX века, очевидный прогресс он вряд ли бы увидел, разве что попал бы в переломный момент. Сейчас же различные научные достижения, мелкие и большие, происходят каждый день. Интернет стал катализатором этого процесса. Свободный обмен информацией объединил ученых со всего мира и лишил одной из главных проблем - повторного изобретения, чем часто страдал прошлый век. Конечно, сейчас данная проблема наверняка сохраняется из-за секретности некоторых государственных программ, однако такие проекты - это капля в море тысяч энтузиастов. Разумеется, сейчас наблюдаются не лучшие тенденции государственного контроля, но я, пожалуй, буду обсуждать в макромасштабе и не буду разбирать такие детали.

Уже вот 49 лет как выполняется закон Мура, а Intel готовит нам новые техпроцессы и новые подходы. Разрабатываются параллельно квантовые компьютеры, ДНК-компьютеры, нейронные сети… Все это произошло буквально за 30 лет.

Все неизбежно указывает на дальнейшее ускорение прогресса и движение к некой точке - технологической сингулярности.

Теория

Экспоненциальный рост технологий и прогресса, который наблюдается сейчас, ведет к точке во временном промежутке от 2020 до 2070 года. Многие ученые и писатели, например, Вернор Виндж, больше склоняются к 30-ым годам нашего века. Имеется огромное количество различных методов прогнозирования этой даты, некоторые методы пессимистичны, а некоторые - наоборот, слишком оптимистичны. Различные методы имеют свои точки, на которых они основываются, например, запасы нефти и газа, население, политические движения и тенденции нынешнего века, а некоторые исходят из сугубо логического мышления. Например, одной из основных опор теории технологической сингулярности можно считать эволюцию и естественный отбор. Если посмотреть на всю историю жизни на Земле, то можно заметить несколько закономерностей. Одна из них - это наращивание ёмкости биологических носителей. Эволюция нас провела по такому пути: РНК -> ДНК -> Простейшая нервная система -> Мозг -> Речь -> Письменность -> Компьютеры и Интернет (причем заметьте, что каждый следующий этап наступал намного быстрее предыдущего (!)) Что же последует дальше? Давайте потерпим с ответом на этот вопрос.

Если немного подумать, то можно сделать простой вывод: Если мы хотим и дальше совершенствовать существующие технологии и создавать новые фантастические, то мы должны преодолеть границы нашего сознания. Что я имею в виду, говоря это? Я имею в виду, что человечество скоро упрется в некий тупик своих мыслительных способностей и, вероятно, будет погружено в многолетний застой и даже «второе средневековье». Для того, чтобы этого избежать и продолжать этот быстрый рост, люди должны что-то предпринять для повышения потенциала своего интеллекта. Это я и опишу ниже.

На данный момент четко видятся три ветви науки, которые могут привести человечество к сингулярности:

1. Информационные технологии.
2. Нанотехнологии.
3. Биотехнологии.

Информационные технологии

Именно это направление в последние годы претерпевает самые значительные изменения и подвижки в целом. Информатика продвигается по всем фронтам, которые ей становятся доступны. Примерами можно назвать квантовые компьютеры и биокомпьютеры. Если бы не достижения в других областях науки, то эти направления бы не появились. Информатика постепенно и сама открывает новые направления - биоинформатика. Влияние информатики огромно, и она по сути является самым главным катализатором сингулярности и прогресса в целом. Еще бы, ведь информатика - это наука об информации.

Информационные технологии (в кооперации с другими) могут дать нам два главных продукта: Сильный ИИ или (и) Интерфейс Человек-Компьютер. Примерной датой революции может стать названный выше 2030 год.

ИИ

В контексте технологической сингулярности под ИИ подразумевается именно Сильный ИИ, возможно, он будет являться точной копией человеческого сознания или же будет создан более рациональными методами, если это вообще возможно. Искусственный Интеллект явно является предметом более большого и всеобъемлющего обсуждения, но я, пожалуй, напишу немного вводной информации.

Польза

Разработка и успешное внедрение дружественного ИИ должно в корне изменить нашу жизнь.
Его польза сведется к тому, что умный ИИ придумает все сам за нас и при возможности будет щедро делится своими достижениями, уводя нас далеко в дебри сингулярности.
Теоретически это гипотетическое существо должно из нынешнего хаоса создать абсолютный порядок, например: полной автоматизацией транспорта и абсолютным контролем дорожного трафика, всегда стабильным ростом экономики, отсутствием войн, постоянным внедрением новых технологий и предотвращением экономических застоев, а также перспективной колонизацией космоса.

Вред и риски

Лично мне кажется, что ИИ искореняет одну из самых главных потребностей людей - вечное любопытство. Создав ИИ, люди должны будут смириться с тем, что создали существо, превосходящее на порядки самих создателей. Смириться с тем, что передали эстафетную палочку своему творению. Возможно, такой подход кого-то радует, но, думаю, большая часть населения такого подхода истребления не одобрит. Нужно будет научиться как-то существовать с таким «большим братом». Если, конечно, ИИ будет дружественный. Так, например, одним из главных рисков может быть полностью неконтролируемый сверхчеловеческий интеллект, который может не увидеть пользу в человечестве как таковом, трактовать свое существование эволюцией и доминированием и объявить подобие геноцида. Можно очень долго рассуждать на эту тему, описывать методы создания дружественных форм сознания и т. д. Но никаких гарантий нет. Интеллект, который умнее самого человека, невозможно предсказать.

Интерфейс Человек-Компьютер

Это направление не настолько туманно, как ИИ, и в нем имеются более реальные и дающие результат перспективы. По сути, в области данного направления пока что нет настолько сложных и объёмных вопросов, как в вопросах о создании ИИ. Сейчас наблюдаются очень активные исследования в области компьютеризированных протезов, а также различных имплантантов прямо в мозг.

Польза

В целом и общем данный интерфейс должен открыть такие возможности: кооперация на телепатическом уровне посредством сети Интернет (или более перспективных сетей будущего), мгновенный доступ к материалам Интернета (например, через дополненную реальность), создание модуля постоянной памяти для сохранения важных заметок, а также интеграция зрительного нерва с ресурсами интернета и создание зрения Терминатора абсолютной дополненной реальности с анализом всего увиденного (как, например, в играх Deus Ex или Syndicate). Перед человеком откроются горизонты, новые способы организации работы, новое видение мира, наука стремительно поползет вверх.

Вред и риски

Исследованиям в этой области сейчас мешают некоторые этические вопросы, так как в случае даже самого малого распространения этой технологии начнется быстрое фрагментирование общества. Трансгуманисты против консерваторов.
Рисков, связанных с появлением «сверхлюдей», также много. Эти люди станут более влиятельными и будут явно мешать стандартному течению жизни. Модификация организма может стать серым и неконтролируемым процессом и привести к колоссальным непредвиденным катастрофам в будущем.

Нанотехнологии

Сейчас практически все исследования в области нанотехнологий сводятся к созданию новых нанополимеров на базе графена, фуллеренов, изучению концепций нанодвигателей, механизмов, а также созданию теоретической базы для будущих наработок. Основной продукт, который может нам дать нанотех - машины фон Неймана.

Машины фон Неймана

Машины фон Неймана - это роботы, способные к саморепликации и управлению материей на разных уровнях, в зависимости от их миниатюрности. Торжеством нанотеха может стать управление физической материей на субатомном уровне. В рамках нынешних технологий это чистой воды НФ. Для их создания придется преодолеть очень много барьеров, и как раз торжество нанотехнологий может наступить очень поздно. По некоторым прогнозам - от 2050 до 2100 года. А в целом это 2070-ые годы. Не решены вопросы энергообеспечения, контроля миллионов реплицирующихся машин, ориентация в пространстве (ведь даже для самого маленького гироскопа или камеры нужны триллионы молекул). Есть также высокая вероятность того, что эти роботы вообще технически не реализуемы, во всяком случае, на нашем веку. Сейчас речь идет о создании «простых» роботов, которые, например, смогут работать с биологическими клетками и стать более интеллектуальным помощником нашей иммунной системе.

Польза

Как было сказано выше, данная технология может иметь прекрасное медицинское применение: лишить человека большой части известных заболеваний и удалять уже существующие. Также, вероятно, нанотехнологии помогут реанимировать криопациентов. С дальнейшей миниатюризацией технологии и уменьшением уровня работ будут доступны новые возможности. Например, работа на клеточном уровне. В кооперации с биоинформатикой и цитологией можно будет запросто достигнуть физического бессмертия организма, отключив механизмы старения, или же править ошибки, появляющиеся в процессе старения.

Помимо медицинского применения, у нанотеха есть огромный потенциал в строительстве огромных астроинженерных сооружений космического лифта или даже сферы Дайсона. Помимо астроинженерных сооружений, должен быть решен вопрос постройки огромных небоскребов из композитных наноматериалов. Этим может быть решен вопрос перенаселения и многоуровневых ферм и полей.

Вред и риски

Как у любой развитой технологии, и у этой есть огромнейшие риски. При попадании ее в чужие руки могут создаваться вирусы, которые будут действовать еще пагубней, чем обычные биологические. Также это может открыть огромные возможности для шпионажа.

Биотехнологии

В технологической сингулярности биология играет две роли: Помощь в достижении физического бессмертия организма для реализации неограниченного потенциала человеческой личности и создание эффективных ноотропов для раскрытия огромного потенциала мозга, как, например, у людей с синдромом саванта (или опровержение существование этого потенциала).

Физическое бессмертие

Бессмертие создает огромную почву для моральных и этических вопросов. Однако не стоит отрицать, что для государства всегда была важна ценность жизни его граждан. Для этого создавались и создаются министерства здравоохранения. Однако вместе с растущей продолжительностью жизни поднимаются вопросы «старения» общества. Этот вопрос актуален в таких развитых странах, как Япония. Вечно молодое общество сможет постоянно накапливать опыт и аккумулировать знания, полностью освободит государство от пенсионных выплат и неработоспособного населения. Помимо популяризации бессмертия, с огромнейшей вероятностью человек будет избавлен от наследственных болезней, уродства и инвалидностей еще на этапе рождения. Уже сейчас есть ЭКО.

Помимо вопросов этики, в обсуждениях про бессмертие часто поднимается вопрос перенаселения. Лично я считаю, что люди, утверждающие, что после достижения бессмертия население резко пойдет вверх - сильно заблуждаются. Достаточно просто посмотреть статистику и посмотреть в животный мир. В странах с низким уровнем жизни высокая рождаемость, а в развитых странах типа Австралии, Германии, Исландии, Финляндии и других виден абсолютный контроль над уровнем населения. В животном мире наблюдаются точно такие же тенденции. Например, различные насекомые живут день, но рождаются каждый день миллиардами по всему миру, а долгоживущие существа имеет потомство максимум из двух-трех особей.

Ноотропы

В последних исследованиях все чаще подтверждается информация о том, что у мозга человека разумного есть огромный потенциал, который по каким-то причинам выключен. Возможно, включение этого потенциала приведет к быстрому «выгоранию» мозга, однако этот вопрос в целом абсолютно неизучен и требует дальнейших исследований. Также возможно, что помимо огромных возможностей появляются ненужные отклонения вроде аутизма. В истории уже были и есть такие люди. Например, Ким Пик, который запоминал до 98% прочитанной информации, или Дэниел Таммет, который, цитирую:

Может производить в уме сложнейшие математические вычисления, оперируя с числами, состоящими из более ста знаков. Также он доказал, что за неделю может выучить совершенно незнакомый ему язык (на примере исландского языка).

Для описания данного явления ученые придумали термин «математическая синестезия».

Таким образом, разработка ноотропов, способных открыть эти разделы мозга, выведет интеллект на новый уровень и сопроводит новыми рисками. По сути, это биологический интерфейс человек-компьютер, а поэтому на него действуют все те же опасности, в частности, уже упомянутая фрагментация общества.

Вывод

Что же последует дальше? Не знаю. Вероятно, люди все же придут к созданию искусственного интеллекта. Возможно, это произойдет в 2030-ых, а возможно - никогда. Нужно осознать, что если ИИ будет создан, то палочку нам всё-таки придется передать рано или поздно.

Эту статью я задумал как статью, которая должна что-то переменить в сознании людей. Я хочу, чтобы мы все поняли, что живем в очень интересное и замечательное время, думаю, что именно нашему поколению предстоит либо погрузиться во тьму, либо вырваться в фантастическое будущее фантастических технологий.

P.S. Думаю, что комментариях найдутся к моей статье замечания и вопросы, готов оперативно их выслушать и поправить недочеты:)
Спасибо пользователю

По некоторым прогнозам, технологическая сингулярность может наступить уже около 2030 года. Сторонники теории технологической сингулярности считают, что если возникнет принципиально отличный от человеческого разум (постчеловек), дальнейшую судьбу цивилизации невозможно предсказать, опираясь на человеческое (социальное) поведение.

Идею об ускоряющемся росте научного знания впервые можно встретить в работах Ф.Энгельса. В середине XIX века он писал о том, что наука движется вперед пропорционально массе знаний, унаследованных ею от предшествующего поколения. По его мнению, со времени своего возникновения (XVI-XVII вв.) развитие наук усиливалось пропорционально квадрату расстояния (во времени) от своего исходного пункта. Близкие идеи высказывал В.И.Вернадский, писавший о непрерывном усилении темпов научного творчества. По мнению современных исследователей, имеет место "экспоненциальный закон развития науки", проявляющийся в соответствующем увеличении числа научных работников, научных организаций, публикаций и других показателей.

Термин «сингулярность» заимствован у астрофизиков, которые используют его при описании космических чёрных дыр и в некоторых теориях начала вселенной — точка с бесконечно большой массой и температурой и нулевым объемом. Математически сингулярность (особенность) — точка функции, значение в которой стремится к бесконечности, либо другие подобные «интересные» точки.

В данном контексте впервые термин «сингулярность» использовал в середине ХХ века Джон фон Нейман, имея в виду математическое, а не астрофизическое понимание этого слова — точку, за которой экстраполяция начинает давать бессмысленные результаты (расходиться). Об этом пишет сам Вернор Виндж, которому данный термин обычно приписывают. Научным обоснованием наступления сингулярности активно занимается Рэймонд Курцвейл.

Одним из фундаментальных открытых вопросов насчет Сингулярности является вопрос — когда она наступит и насколько быстро произойдут технологические изменения? Экстраполяция тенденций показывают, что Сингулярность должна произойти к 2020 году (возможно эту цифру следует пересмотреть и приблизить дату до 2018 или даже 2016 года, если полагаться на самую последнюю оценку Дэни Эдера (Dani Eder) о том, что время удвоения мощности компьютеров упало до 9 месяцев к сентябрю 2002 года) и она должна быть очень внезапной, что характерно для природы экспоненциальной кривой. Согласно наиболее вероятному сценарию Сингулярности примерно в районе 2011 года промышленная нанотехнология начнёт производить лавину дешевых товаров, ликвидирующих бедность и голод во всём мире. Примерно к 2012 компьютерная технология, основанная на нанотехнологии, увеличится по своей мощи на шесть порядков от того уровня, где она будет в 2010. Примерно к 2013 исследования в области молекулярной биотехнологии, основанные на нанотехнологии и компьютерной мощи, обеспечат нам средствами излечения всех телесных недугов. Примерно к 2014 исследования в области ИИ, основанные на нанотехнологии и молекулярной биотехнологии и компьютерной мощности, приведут к созданию первого сверхчеловеческого искусственного интеллекта, СИИ.

Технологическая сингулярность как следствие развития нанотехнологий рассматривается в отчете 2007 года Комиссии по экономической политике Конгресса США. В качестве даты начала сингулярности называется 2020 год. По другим прогнозам — 2030 год.

Кроме пионерских рассказов Вернора Винджа, сингулярность является центральной темой произведений некоторых других авторов научной фантастики. Среди них можно отметить Уильяма Гибсона, Чарльза Стросса, Карла Шрёдера, Грега Игана, Дэвида Брина, Иэна Бэнкса, Нила Стивенсона, Тони Баллантайна, Брюса Стерлинга, Дэна Симмонса, Дэмиена Бродерика, Фредерика Брауна, Яцека Дукая, Нагару Танигава, Кори Доктороу. Кен Маклауд в своём романе 1998 года «Подразделение Кассини» (англ. The Cassini Division) определяет сингулярность как «вознесение для нердов».

Тематика сингулярности часто встречается в киберпанковых романах. Например, рекурсивно самоулучшающийся искусственный интеллект «Зимнее Безмолвие» в романе Уильяма Гибсона «Нейромант». Опубликованный в 1994 году на сайте Kuro5hin роман «Метаморфозы Высшего Интеллекта» посвящён жизни после запущенной искусственным интеллектом сингулярности. Более антиутопичный взгляд на сингулярность в коротком рассказе Харлана Эллисона «У меня нет рта, а я хочу кричать». Другими примерами антиутопичного взгляда являются «Акселерандо» Чарльза Штросса и продолжающаяся в настоящее время серия комиксов Уоррена Эллиса «newuniversal». «Все куклы» (англ. Puppets All) Джеймса Милна затрагивает эмоциональные и моральные проблемы Сингулярности. Проблема Контакта в эпоху технологической сингулярности обсуждается в романе Станислава Лема "Фиаско" (1986).

Майкл Диринг. Рассвет Сингулярности

ГЛАВА ПЕРВАЯ. СИНГУЛЯРНОСТЬ

УРОВНИ ОРГАНИЗАЦИИ

Что такое Сингулярность?

Непостижимость Сингулярности

Сингулярность трех технологий

Миниатюризация (нано)

В итоге

Почему они не понимают её

ГЛАВА ВТОРАЯ. ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ

Три подхода к ИИ

Имитационная модель

Теория АГИ, функциональный подход

Описание функциональных модулей

ГЛАВА ТРЕТЬЯ. МОЛЕКУЛЯРНАЯ НАНОТЕХНОЛОГИЯ

Будущее молекулярной нанотехнологии

ПРОМЫШЛЕННОЕ НАНОПРОИЗВОДСТВО

Метод подложек и мостков

Предлагаемые принципы нанотехнологической безопасности

НАНОТЕРРОРИЗМ

ГЛАВА ЧЕТВЁРТАЯ. МОЛЕКУЛЯРНАЯ БИОТЕХНОЛОГИЯ

Перспективы молекулярной биотехнологии

Фрагментация человечества

Вглядываясь вдаль

ГЛАВА ПЯТАЯ. ПЛОДЫ И ОПАСНОСТИ СИНГУЛЯРНОСТИ

Плоды Сингулярности

Опасности Сингулярности

ГЛАВА ШЕСТАЯ. ФАНТАЗИИ НА ТЕМУ О СИНГУЛЯРНОСТИ

ЧЕТЫРЕ ГОДА СПУСТЯ

КРУТОЙ ВЗЛЁТ

НАНОГРЁЗЫ

ЗООПАРК 2099

КОННИ ЧАНГ БЕРЕТ ИНТЕРВЬЮ У ЭЛИЗЕРА

ВЫПУСТИ МЕНЯ

ЖИВОЙ ВИРУС

ИНОПЛАНЕТНЫЕ НАНОБАБОЧКИ

ДИСКУССИЯ С КРЕНДЕЛЯМИ

КРИПТОГРАФИЯ

ТЕОРИЯ КОНСПИРАЦИИ

ПРЕДЕЛЬНАЯ МАШИНА СВЯЗЕЙ

ГЛАВА СЕМЬ. ПРОГНОЗ СИНГУЛЯРНОСТИ

ПРИЛОЖЕНИЕ A. Герои Сингулярности

ПРИЛОЖЕНИЕ B. Книги о Сингулярности

ПРИЛОЖЕНИЕ C. Организации Сингулярности

ПРИЛОЖЕНИЕ D. Проекты Сингулярности

ПРИЛОЖЕНИЕ E. Веб сайты по Сингулярности

ПРИЛОЖЕНИЕ Д. Дополнительные Интернет ресурсы для русской версии

Что будет означать для нас создание искусственного интеллекта разумнее человеческого? Каковы будут последствия деятельности наноботов (роботов молекулярного размера), перестраивающих мир молекула за молекулой? Как загрузка (перемещение Вашего разума в компьютер), физическое бессмертие или освобождение от необходимости работать изменит образ вашей жизни? Эти технологические возможности чрезвычайно быстро развиваются и осуществятся скорее, чем Вы думаете.

Универсальные функции трёх уровней организации.

Сингулярность - взрыв нанотехнологии, биотехнологии и компьютерной технологии.

Молекулярная нанотехнология - полный контроль над структурой материи на атомном уровне.

Молекулярная биотехнология - функциональная генетика, микробиология, цитология.

ИИ - компьютерный искусственный интеллект с разумом и познавательными способностями человеческого уровня.

СИИ - компьютерный искусственный интеллект сверхчеловеческого уровня.

Универсальные функции на трех уровнях организации.

• Первый уровень - "материя. Описывается действием общих законов физики и химии.
• Второй уровень - "жизнь. Характеризуется биологическими функциями жизнеобеспечения, структурой ДНК, процессами, описываемые молекулярной биологией и молекулярной биотехнологией.
• Третий уровень - "разум. Отображает работу функций мышления, сознания, интеллекта и ход различных информационных процессов.

Множество полезных и интересных вещей во Вселенной сложены из атомов, к примеру - звёзды и планеты, космические корабли и самолёты, гольф клубы и ботинки для гольфа, ветчина и яйца, любимая собака и жена. Поведение этих атомов находится в сфере интересов таких наук как физика и химия. Вопрос: в чём разница между вашей женой и предпочитаемым вами множеством гольф клубов? Ответ: тип упорядочения атомов. Технология, которая сможет точно контролировать тип атомов и их расположение в любой "вещи", стала бы крайне полезной технологией. Молекулярная технология как раз и является такой технологией.

Положим, что у вас есть подобная технология. И вы решили похвастаться вашему соседу за забором, что вы можете делать абсолютно всё. После парочки простых трюков с изготовлением шпалерных ножниц и солнцезащитных очков он придёт в настоящий восторг. Он попросит вас создать живого летающего дракона, огнедышащего, и питающегося только молодыми девицами. Вас подкалывают. Для того, чтобы создать совершенно новый живой организм или починить старый, либо переконструировать существующий живой организм, такой как вы сами, вам требуется владеть некоторыми знаниями, которые не были включены в ваше руководство пользователя по молекулярной технологии.

Вы должны знать, чем работа живых организмов отличается от просто движения молекул. Вам нужна база знаний по ДНК, белковым соединениям, молекулярной биохимии, цитологии и биологии систем. И вам необходим комплект средств с названием молекулярная биотехнология. Вы также должны знать, находятся ли ваши окрестности в зоне действия огнедышащих драконов. Молекулярная биотехнология представляет собой набор довольно сложных научных методов. Но вам повезло. Все средства, требуемые для развития молекулярной биотехнологии, входят в состав основных возможностей молекулярной нанотехнологии.

Тем временем некоторые люди, сидя в местной зоне, пишут на доске объявлений, что им необходим определенный тип автоматизированной системы интеллектуального мониторинга активности в окружающей среде, чтобы предотвращать нарушения зональных предписаний, исходящие, например, от огнедышащих драконов. Компьютер в сердце этой системы должен иметь расширенное понимание окрестной жизни, способность делать суждения и предсказывать последствия действий. Он должен быть разумным, то есть быть полноценным искусственным интеллектом.

Существует три различных похода к разработке ИИ. Вы можете создать его в искусственной среде (в киберпространстве). Или вы можете сесть и подумать, какие алгоритмы информационных процессов необходимы для восприятия, обучения и планирования. Либо вы можете вооружиться средствами молекулярной нанотехнологии для реконструкции человеческого мозга. А пока давайте зафиксируем некоторые очевидные недостатки работы нашего мозга.

Среди того, что стоит подрегулировать, хотелось бы улучшить качество и детальность запоминания, увеличить скорость и точность процесса познания, способность безупречно делать длинные серии математических или логических операций, способность выполнять новые алгоритмы обработки информации и изменять состав и структуру существующих мыслительных процессов.

Мы бы хотели запустить в работу этот воссозданный инженерными средствами, проверенный и реконструированный разум на несколько более надежном в действии аппаратном обеспечении, нежели на биологических нейронах, например, на электронной компьютерной микросхеме с молекулярными нанотрубками, что становится возможным благодаря молекулярной нанотехнологии.

С тех самых пор как пещерный человек в нашем далёком прошлом впервые обтесал камень в форме наконечника для копья, мы постоянно создавали всё более совершенные инструменты. Молекулярная нанотехнология, молекулярная биотехнология и искусственный интеллект являются предельно совершенными инструментами. Они делают нас творцами предельно совершенных инструментов. А если вы думаете, что все эти новые технологии выглядят как забава и, конечно, мы не овладеем ими ещё сотни лет, то вы явно должны прочитать следующий раздел - "Что такое Сингулярность?

Что такое Сингулярность?

Сингулярность - это беспрецедентное событие в истории людей, когда жизнь, какой мы её знаем, изменится от "обыденного дела" до состояния виртуально неограниченных возможностей.

Наступление сингулярности подготовлено экспоненциальным развитием передовых технологий. Практически никто не имеет достаточного опыта анализа экспоненциального технологического развития. Это не является частью нашего обычного окружения. Мы эволюционно и культурно запрограммированы на ожидание незаметной скорости перемен. У нас нет нейронных структур познания для моделирования экспоненциальной скорости перемен.

Свидетельством служит проект по расшифровке генома человека. В первое десятилетие прогресс был настолько слабым, что многие эксперты предрекали, что для его завершения потребуется ещё 200 лет. Свыше 50 процентов исходных данных было получено в последние девять месяцев пятнадцатилетнего проекта.

Когда достижения постоянно удваиваются в последовательно равных периодах времени, то этот процесс представляет собой первый порядок экспоненциального развития. Когда период времени удвоения со временем сокращается, то это - второй порядок экспоненциального развития.

Мы все видим, как компьютеры становятся мощнее, а цены на них при этом одновременно падают. Время удвоения мощности компьютеров в расчёте на один доллар было 3 года в 1950-х, 2 года 1980-х, 1 год в 90-х и 9 месяцев к сентябрю 2002 и продолжает уменьшаться.

Причина экспоненциального технологического роста достижений заключается в том, что каждое приращение достижений в средствах проектирования приводит к увеличению производительности будущих средств проектирования. Это цикл с положительной обратной связью, повышающей производительность средств проектирования. Большинство подобных циклов с обратной связью основано на постоянной миниатюризации механических и электрических систем, конечным итогом которых и является молекулярная нанотехнология.

Экспоненциально развиваемые технологии изменят всю нашу жизнь за невероятно короткий промежуток времени. Сингулярность ведёт к почти неограниченным технологическим возможностям. Люди, которые в настоящий момент борются за скудные ресурсы, обретут невероятное благосостояние и свободу.

Непостижимость Сингулярности

Жизнь после Сингулярности будет сильно отличаться от той, что была раньше, но она не будет непостижимой. Мы можем дать достаточно полный список грядущих технологических возможностей. Социальные последствия этих изменений коснуться всех нас. Необходимо, чтобы большая часть человечества призадумалась над тем, какой бы мы хотели иметь тип социальных структур, если мы желаем избежать паники.

Рекурсивно самосовершенствующийся ИИ разовьёт разум, который в количественном отношении быстро превзойдёт сегодняшний человеческий уровень интеллекта. Эти количественные улучшения будут включать расширение способностей, увеличение точности и скорости обработки данных. Количественные улучшения являются лишь расширением имеющихся у нас познавательных способностей.

Качественные улучшения или совершенно новые способы осознания и мышления, находящиеся за пределами нашего нынешнего понимания вещей, вряд ли возможны. Причина того, что мы не ждём появления какого-то нового типа интеллекта, а ожидаем лишь новый уровень интеллекта, коренится в том, что разум есть способ решения проблем путём алгоритмической интерпретации. И основываясь на успехах, которые нам сопутствовали при создании физических, биологических и информационных систем, можно суммировать, что мы уже исследовали достаточно широкий диапазон алгоритмически эффективного пространства решений. Конечно, я не могу оспаривать утверждение, что мы не знаем того, чего мы не знаем, но, я думаю, мы можем разложить всё то, что мы ещё не знаем последовательно по полочкам во всё более маленькие ящички или мелкие матрёшки.

Сингулярность трех технологий

Сингулярность - это наиболее значительное событие в истории человечества. Она наступит в результате одновременного действия трех продвинутых технологий: искусственного интеллекта, молекулярной нанотехнологии и молекулярной биотехнологии. Скорость продвижения к точке Сингулярности вначале увеличивается постепенно, но механизм обратной связи с каждым укорачивающимся циклом всё быстрее ведёт нас к Сингулярности. При достижении Сингулярности способности человечества становятся действительно потрясающими - полный контроль над структурой материи на атомном уровне, полное знание биологических процессов от макро до микро и молекулярного уровня, и сверхчеловеческий искусственный интеллект.

Каждая из этих трёх технологий достигает физического предела в Сингулярности. Распад общества и нашего образа жизни будет полным. Сингулярность будет предвестником начала новой эры, в которой физическое и умственное совершенство будут нормой наряду с невообразимым благосостоянием и свободой. Эти плоды прогресса не выпадут лишь на долю существующим привилегированным классам, а достанутся всем человеческим существам.

Когда наступит Сингулярность?

Одним из фундаментальных открытых вопросов насчет Сингулярности является вопрос - когда она наступит и насколько быстро произойдут технологические изменения? Экстраполяция тенденций показывают, что Сингулярность должна произойти к 2020 году (возможно эту цифру следует пересмотреть и приблизить дату до 2018 или даже 2016 года, если полагаться на самую последнюю оценку Дэни Эдера (Dani Eder) о том, что время удвоения мощности компьютеров упало до 9 месяцев к сентябрю 2002 года) и она должна быть очень внезапной, что характерно для природы экспоненциальной кривой.

Каким образом все эти перемены будут претворяться в жизнь? Элизер Юдковский считает, что ИИ созреет прежде других двух технологий и сверхчеловеческий искусственный интеллект поведёт нас через транзит (переход). Он называет это "руководством по транзиту. Эрик Дрекслер и Ральф Меркле думают, что наиболее грандиозный потенциал заложен в молекулярной нанотехнологии. Рэй Курцвейл и Ханс Моравек ожидают, что лидировать на этом пути будет синтез компьютеров и людей.

Эти три технологии будут, вероятно, развиваться параллельно вследствие их взаимодействия. Зрелая нанотехнология (полный контроль структуры материи на атомном уровне) позволит нам быстро производить продукты с атомным совершенством по цене сырьевых материалов в неограниченном количестве. Она позволит нам создавать материалы в пятьдесят раз прочнее стали или с любыми наперёд заданными свойствами, с полным доступом и контролем биохимических процессов в живых организмах. И предоставит нам инструментарий для быстрого достижения зрелости в молекулярной биотехнологии и искусственном интеллекте путём восстановительного инжиниринга нашего биологического организма и функционирования человеческого мозга. Последствия влияния на общество трудно переоценить, хотя они и переоценивались в прошлом. Причина была в том, что в прошлом не делалось различия между сингулярными технологиями в развитии и зрелыми сингулярными технологиями.

Согласно наиболее вероятному сценарию Сингулярности примерно в районе 2011 года промышленная нанотехнология начнёт производить лавину дешевых товаров, ликвидирующих бедность и голод во всём мире. Примерно к 2012 компьютерная технология, основанная на нанотехнологии, увеличится по своей мощи на шесть порядков от того уровня, где она будет в 2010. Примерно к 2013 исследования в области молекулярной биотехнологии, основанные на нанотехнологии и компьютерной мощи, обеспечат нам средствами излечения всех телесных недугов. Примерно к 2014 исследования в области ИИ, основанные на нанотехнологии и молекулярной биотехнологии и компьютерной мощности, приведут к созданию первого сверхчеловеческого искусственного интеллекта, СИИ.

Миниатюризация (нано)

Миниатюризация электромеханических систем служит важнейшим источником Сингулярных технологий. Достижения в производительности компьютеров порождены этим источником. Достижения в средствах, используемых для расширения функционально-генетических знаний, являются производными от миниатюризации и компьютерной мощи. Мощность компьютеров будет идти по пятым нано, потому что это наиболее ценное приложение. Но, в отличие от нанотехнологии и повышения мощности компьютеров, создание ИИ потребует громадных теоретических прорывов. Поэтому прогресс состоит в миниатюризации (нано), которой способствует мощность компьютеров. Далее молекулярные средства и мощные компьютеры способствуют развитию молекулярной биотехнологии. И, наконец, нанотех, инфотех и биотех объединяются в производстве СИИ.

Закон Мура не есть основная движущая сила Сингулярности. Для этого имеется гораздо больше оснований. Мы можем вернуться назад к истокам и посмотреть на закон Мура. Закон Мура имеет две стороны - "как" и "почему.

"Как" - это цикл с обратной связью, где результат процесса используется для создания более совершенного механизма, используемого таким образом в процессе дальнейшего увеличения скорости, сложности и производительности этого процесса. И конечно, лучший процесс даёт лучший результат, который, в свою очередь, делает процесс лучше и т.д. и т.д. Когда мы следуем за законом Мура в прошлое через дискретные транзисторные схемы, вакуумные трубки, механические калькуляторы и далее переходим к обработке гуманитарной информации в письменности, которой предшествовала устная речь, а затем продвигаемся дальше вглубь биогенетической эволюции, а затем далее в прошлое, сквозь развитие неживой природы планетарной среды, образование галактик, конденсацию материи из энергии, инфляцию Гута, и в пределе - к исходному безразмерному состоянию Вселенной, то мы обнаруживаем и наблюдаем этот цикл с процессом обратной связи на каждой стадии.

"Почему" - это экономика. Подобным же образом мотивационный аспект экономических сил можно проследить в прошлом в соревнованиях самцов, природный отбор и далее через проявление самоорганизующихся свойств неживой материи-энергии, в динамике сложных систем.

Но где начало? Что является фундаментальной парадигмой этих двух взаимосвязанных концепций "как" и "почему"? Какова "базовая концепция"? Некоторые предполагают что Бог, но эта идея, что вполне очевидно, легко отсекается Бритвой Оккама как нелепая и антропоморфная, без надобности усложняющая положение дел. Определенно, что базовая концепция должна предшествовать понятию пространства-времени и материи-энергии и поэтому не может определяться мистическим актом творения.

Что остаётся? Информация. Рэй Курцвейл в одной из своих публичных бесед с Грегори Стоксом утверждал, что предельно тавтологическая реальность - это структурированная информации. В обмене мнениями между Рэем и Элизером Юдковским, где Элизер спрашивал его о том, как тот понимает ускорение скорости прогресса вследствие обратной связи с ИИ. Рэй ответил, что было бы трудно переоценить взрывную скорость удвоения экспоненциального роста и что ИИ может оказаться одним из тех факторов, которые приведут к продолжению закона Мура и после 2020 года.

Что-то такое удивительное, такое невероятное, что-то абсолютно беспрецедентное в истории должно случиться - Сингулярность. Три Сингулярные технологии, такие как нанотехнология, сверхчеловеческий искусственный интеллект (СИИ) и молекулярная биотехнология, превратят наш мир в рай, если только мы сумеем избежать беспрецедентных опасностей, таящихся в самих же этих технологиях, а именно - биоинженерные супервирусы, вооружения в виде самореплицирующихся нанороботов, недружественные сверхразумные машины и наибольшая опасность из всех - склонность к неограниченному бездумному самоудовлетворению, зацикливанию на кайфомании.

Недоразумение, что компьютерные программисты считают ИИ самым необходимым элементом - это всё из-за непонимания перспективы. Поговорите с каким-нибудь исследователем, занятым изучением генетического кода. Он может наблюдать экспоненциальный рост в своей области. Он может представить удивительное будущее, которое эта технология способна предоставить - полный контроль биологического дизайна живых организмов. И нанотехнология, и генная инженерия дозреют к 2021 вне зависимости от того будет ли создан ИИ или нет, и внезапно совершенно изменят общество.

Термин "технологическая сингулярность" употребляется неверно. Более правильным является термин "социальная сингулярность". На протяжении всей истории новые технологии изменяли общество и хотя люди отдают должное инициирующей природе нововведений, однако наиболее значимым историческим аспектом всегда являлось то как меняется общество.

Вот некоторые из вещей, которые, как мы ожидаем, станут возможными после Сингулярности:

1. Зрелая молекулярная нанотехнология приведёт к производству любых продуктов по цене сырьевых материалов, например, к компьютеру по цене мешка песка. Производство ускорится и будет неограниченно увеличиваться. Качество будет совершенствоваться вплоть до атомного уровня. Потребность во всех необходимых материалы будет легко удовлетворяться. Молекулярная нанотехнология также произведёт средства способствующие развитию молекулярной биотехнологии и искусственного интеллекта. Нанотехнология создаст новые материалы в пятьдесят раз более прочные, чем сталь, или с любыми запроектированными свойствами, требуемыми для применения в космических путешествиях, в больших конструкциях и инструментах.

2. Зрелая молекулярная биотехнология приведёт к полному исключению болезней, недееспособности и смерти от естественных причин (однако вы всё же ещё сможете броситься вниз со скалы). Люди смогут иметь тотальный контроль над проектированием, структурой, функционированием и внешним видом своих тел. Мы будем жить в фантастическом мире, населенном ангелами, феями, колдуньями, демонами и гоблинами. Индивидуальность будет отличительным качеством. Совершенство тела и ума будет нормой. Новые физические способности будут обычными.

3. Сверхчеловеческий искусственный интеллект приведёт к таким последствиям в обществе и в наших возможностях, которые кажутся непостижимыми для человеческого уровня интеллекта, включая загрузку человеческого сознания, искусственные миры, мораль на основе свободы воли и многое другое.

В итоге

Конец мира почти рядом и очень мало людей осознают это. Иногда я бываю настолько подавлен чудовищностью Сингулярности, что чувствую, что должен присоединиться к парню на Мэйн Стрит с лозунгом - КОНЕЦ МИРА БЛИЗОК.

Сингулярность - это проблема связи уровней организации материи во Вселенной. Верхний уровень - РАЗУМ, нижний уровень - АТОМЫ (для наших сегодняшних целей). Три технологии, которые соответствуют трём базовым уровням функциональности, это - искусственный интеллект, нанотехнология и молекулярная биотехнология. Полный успех в этих трёх технологиях обеспечит такие радикальные изменения в наших способностях, которые приведут к социальной Сингулярности. Мы весьма близки к созданию этих последних связей.

Я надеюсь, что ответил на некоторые из Ваших вопросов о Сингулярности. Я также надеюсь, что мои ответы стимулируют появление ещё большего потока вопросов.

Почему они не понимают её

У меня на работе недавно был разговор, который, я думаю, иллюстрирует, почему общественность не понимает Сингулярности. У нас есть сотрудник по имени Доминик - это его настоящее имя. Не стоит над ним подшучивать, он бывший морской пехотинец.

Доминик - интеллигентный, хорошо образованный и хорошо информированный парень, но он скептически относится ко всем, кто пытается всучить ему какой-нибудь перечень товаров. Он смотрит новости и проводит много времени со своим кабельным модемом для доступа к домашним компьютерам. Он в курсе новых технологий, постоянно обновляя свой компьютер. У него телевизор с большим экраном высокого разрешения. Он смотрит все новые научно-фантастические кинофильмы.

Он точно из того сорта людей, которые, как я ожидал, восприняли бы это.

Я говорил с ним о Сингулярности целый год и не смог его убедить. Он видит, что компьютеры становятся всё быстрее и быстрее, но, несмотря на мнение экспертов и в противоположность им он думает, что скоро мы упрёмся в стену, ограничивающую мощность компьютеров. И он говорит, что он не понимает, как более быстрые компьютеры смогут изменить всё вокруг.

Часть проблемы - это Голливуд. В НФ фильмах изменяются лишь технические новинки, а экономика - нет. Люди всё ещё по-прежнему работают ради того, чтобы выжить и всякий хлам всё ещё в цене. Люди по-прежнему глупые и смертные.

Такие вещи, я думаю, не соответствуют истинной картине, ожидаемой нас после Сингулярности. И за исключением электроники и некоторых новых методов медицины он не видит никаких драматических примеров миниатюризации, дающих ему какие-то свидетельства потенциала или близости нанотехнологии.

Что до ИИ, то достаточно продвинутая система Alicebot находится крайне далеко от обретения хотя бы одного процента человеческого знания или понимания, а роботы - несуразные игрушки.

Один из печальных фактов насчёт экспоненциального роста, если вам этого хочется, состоит в том, что почти все свершения происходят практически в самом конце. Почему тогда я вижу это ясно как день, а он не видит вовсе?

Всё потому, что я прочитал эту книгу, а он нет. Могу ли я заставить его прочитать эту книгу? Нет, он не любитель читать, он любит смотреть, слушать и кушать (чукча не читатель, чукча - наблюдатель).

Нам надо создать фильм, показывающий все социальные последствия таких технологий, как нанотех, генотех и ИИтех. Есть ли желающие оказать мне содействие в написании сценария?