Перейти к содержимому





- - - - -

Грядущее...

Опубликовал: Представлюша, 24 Декабрь 2009 · 339 Просмотров

Хочется жить, жить хорошо, жить хорошо вечно!

РАБ Всевышнего

Уже иное амплуа футурологии
В нашей изобилующей на информационные поводы (политические, социальные, бытовые, медийные и т.д.) жизни долгое время было принято считать, что приятно испытывать встречи с «неизвестным» и «будоражащим» в гедонистическом формате. В данном случае будем рассматривать под «неизвестным» – линейку оригинального контента, а под «будоражащим» – вкрапления в эту линейку нейро-лингвистических стимуляторов, которые призваны моделировать те или иные статистические показатели.
Амплуа футурологии, выходящее за рамки неизвестности в большинстве случаев будоражит нас всегда, когда мы берем в руки произведения писателей-фантастов, а также зарубежные научно-популярные журналы. Когда мы в кругу приятелей проводим случайные мозговые штурмы на предмет далекого и недалекого будущего их результаты порой нас ошарашивают и захватывают, заставляя горделиво превозносить свои фантазерские квази-способности. Такие впечатления надолго в памяти не остаются и в лучшем случае превращаются в «заготовки», укладываемые в виртуальный ящик.
Чаще всего, элементарными футурпродуктами являются информационные сообщения о полуфабрикатных идеях, попадающиеся нам на страницах сетевых ресурсов. И их столь много, что это изобилие уже перестает самомоделироваться и склеиваться в очевидную взаимосвязь без сталкера-шерпа, каким может стать эрудированный и способный на свободный полет фантазии креативный собеседник.
А «серфинг» же, который мы практикуем при переключении с одной ТВ-волны на другую в условиях кабельного и спутникового изобилия становится уже актуальным и для идейного контекста о нашем близком и далеком будущем. Проще говоря, «будущего» стало столь много, что мы его уже не замечаем, превращаясь в отраслевых дилетантов, которым важен только туннель эгоистических устремлений и быта. Вот мы и серфим в скорлупе нашего туннеля, ограничивая себя доступной футурологией.
Ведь когда человек читает футуристические прогнозы, «реальное будущее» ему абсолютно неинтересно. Пусть не на долго, но он увлечен полетом фантазии или своими способностями делать некоторые выводы. Естественно, такая «эйфория» длится мгновения. Все возвращается на круги своя. Грандиозные и фантастические «свершения» фантастов и футурологов испаряются в лабиринтах жизненных задач. Фактически, футурологический посыл практичен и перспективен лишь в условиях благоприятной среды, где ключевое значение имеет фактор реализатора замысла.
Таким образом, в широком масштабе футурология мало практична. В широком смысле она уже мало используется даже в процессе элементарного поддержания разговора. Исследовательское зерно здесь уже не фигурирует, т.к. все скатывается до слова «гламурненько».
Изобилие «информационных осадков» делают свое дело – появляется необходимость того или иного специального сита. В отношении футурологии можно сказать, что она просеиваемая через сита и фильтры, в итоге становится продуктом для коллекционеров-эрудитов, единиц креативщиков-инициаторов, а также закрытых исследовательских коллективов (о коих в принципе уже невозможно говорить достаточно серьезно). Ни в какое сравнение настоящие позиции футурологии не идут с тем отношением, какое было к ней на всем протяжении XX века.
Футурология перестала быть стимулом. Все стало естественным: появление сотовых телефонов с встроенными системами геопозиционирования, терабайтовые жесткие диски, многомиллионнопиксельные фотокамеры, СВД (снайперская винтовка Драгунова) в охотничьих магазинах и видеоконференцсвязь с другим концом мира за небольшую абонентскую плату и т.д. Реализуются системы управления человеческими протезами усилиями мысли, практически создается искусственная сперма, клонируются сельхозживотные и на конвеер поставлено производство рапамицина, призванного продлевать жизнь. На подходе: лекарства от ВИЧ и рака.
И это все уже реально наступившее будущее, шагающее семимильными шагами! В нем наши общецивилизационные стремления к футур-мутур (по аналогии с культур-мультур) сводятся к масштабам массового потребления и статистическим показателям. Пассионарных устремлений в этой связи и в рамках напророченного и казалось бы уже опровергнутого самими неоконсерваторами «Конца истории» не предвидится. Если…

Будущее как проект или Креатив родом из «Большого тупика»
Теперь о кризисном тупике, который словами Френсиса Фукуямы в одноименном футур-философском труде был обозначен как «Конец истории». И футурология здесь как раз причем. После развала СССР господин Фукуяма описал мир, в котором нет конкурирующего соревновательства двух супердержав и систем. Также он определил, что теперь мы обречены, повторять цикл за циклом установку по малопродуктивному соревновательству в рамках единой системы. Теперь де, нет умопомрачительных прорывов, а все «сказки» про путишествие на Марс – всего лишь гедонистический компонент на ТВ для шизоидных наукофилов в общей массе человеческой популяции.
Такой мир - что-то вроде такого серпентария, где каждый обречен на ожесточенную борьбу за свое место под солнцем. При этом, развитие деградирует до масштабов личностных и корпоративных интересов, обретая формат MTVшных установок и гламурного абсолюта. По мнению неоконсерватора Фукуямы, от которого ему все-таки пришлось отказаться в начале нынешнего века, в таком транснациональном формате невозможно допустить никакой серьезной дихотомии, совершающей марш-броски по лезвию бритвы в масштабах планетарного противостояния.
Не тупик ли это? Да, конечно, тупик! Вероятно, именно поэтому, Фукуяме пришлось корректировать свой вектор мысли. Т.к. тупик влечет за собой радикальную переоценку ценностей, за которой начинаются неуправляемые трансформации. А этого ненужно никому! Они влекут за собой создание новых образов врагов исходя из дуализма человеческого бытия: добро и зло, свет и тьма, мы и они. Скорее всего, именно гипотеза «конца истории» открыла дорогу экстремистской форме сознания.
Здесь сразу же вспоминается, недавно выданный за научный формат, футурологический мессадж о разделении человеческой расы на два вида. Некогда об этом писал еще Герберт Уэлс в своей «Машине времени». И, несмотря на тупиковый потенциал, данное пророчество с начала XX века обретает в формате евгеники множество сторонников. Похоже, радикальный дуализм себя изживает, а единство влечет деградацию и потерю стимулов к освоению иных, запредельных пространств.
Конечно же, существует безграничное множество олигархических мессаджей-мыслеформ, которые определенно нацелены не только на тотальный контроль в контексте единой мыслеформы, но и еще увлеченно рисуют наше будущее, где мы – это те, кто хорошие, а остальные это либо заблуждающиеся, либо те, кто из числа врагов. Одни из этих мыслеформ говорят - «Аллах велик!», другие им вторят – «В бога мы веруем», третьи считают, что система перерождений и отношений в их рамках определяют наше будущее и т.д.. В любом случае, мыслеформ много, и не только они имеют определенную динамику, но даже их ереси.
Из этого становится абсолютно понятно то, что не существует одно-единственного будущего. Есть будущее «реальное», которое мы принципиально знать не можем, и «описываемое» - в моделях-мыслефор и произведениях научной фантастики.
Чтобы разобраться в этом мета-технологическом демагогическом флуде следует разобраться в устройстве системных пирамид мыслеформ. Все начинается с проектных первоисточников, которые дают возможность осознать масштабы фантазерского свободного размаха. Самое главное при этом «вмонтировать» удачную мыслеформу в их существующий избыток.

Ветви ветвей
Все наши фантазии начинаются с поиска: достатка и удовлетворения своих тщеславных и творческих устремлений. В итоге это упирается в разработку идеи осуществления своих помыслов-замыслов.
Их масштабы говорят сами за себя. Если ты берешься за создание своей сети СТО, то среднестатистический стабильный доход для тебя и твоей семьи при правильной организации достаточен. Но, ведь это отнюдь не мета-технология, при которой не только наступает изобилие финансовых и манипуляционных средств, но и последующее пренебрежение всем материальным. Т.е. богатство и изобилие перестают быть инструментом при коррекции своей самореализации. Т.к. все отлажено по мгновениям и переходит в иные многомерные измерения.
Следует разобраться в такой системе, т.е. в структуре построения мета-технологической мысли.
Итоговый уровень мета-технологической управленческой мысли – изобилие товаров в обществе массового потребления. Они должны не только удовлетворять все возможные варианты спроса, но и не затоваривать систему. Будем представлять такое изобилие в виде ветвей линеек итоговых продуктов.
Для того, чтобы функционировала хотя бы одна ветвь со множеством веточек продуктов необходимо, чтобы существовала, обеспечивающая ее прочность, технология. Каждая из таких технологий имеет свои типологические и уровневые характеристики, которые позволяют объединять их в свои ветви технологий.
В свою очередь, ветви технологий произрастают на ветви какой-нибудь из парадигм (электроэнергия, атомная энергия, двигатель внутреннего сгорания и т.п.), которые в свою очередь произрастают из аксиоматических ветвей (Ньютон-Декартовое пространство, невидимая рука рынка и т.п.). Они же вырастают из мифо-ахитипики и базики (временных и пространственных координат).
Итак, мы имеем пять уровней освоения мето-технологической мысли. Если мы торгуем овощами в спальном районе города, то это говорит об освоении нами лишь некоторых технологий работы с небольшой линейкой продукции. Когда мы осваиваем уровень парадигматики, то в итоге мы выходим на охват корпоративного отраслевого масштаба.
Аксиоматика создает для нас транснациональные масштабы и открывает грандиозные возможности. Мысль глубины мифо-архитипики и базики позволяет видеть все уровни мета-технологических структурных ветвей. Олигархии такого масштаба способны руководить миром без необходимости ориентироваться и быть зависимым от него. Они могут не только руководить им, но и творить его.
Футуристические мессаджи о разработке искусственной спермы, управлении протезами силой мысли, клонировании высших животных, использовании рапамицина, продлевающего жизнь на 9-14% и т.д., - все это появляется не случайно. Таким образом, открывается панорама новых продуктов, технологий, парадигм. Контуры же аксиом складываются из их аппликации, а о сотворении новой мифо-архитипики и базики могут помышлять лишь абсолютно социопатические в рамках академической свободы «пророки».

Our destination is…
Наш общий транзитный период чересчур затянулся. Иначе говоря, человечество застряло в своем развитии. Несмотря на обширные и безграничные поля достижений, оно обречено подвергаться различным вызовам в перманентно сужающемся природном и антропогенном пространстве в связи с поли-энтропийными факторами. Развитие человечества, с учетом инфляции в системах ценностей, идет лишь в арифметической прогрессии, тогда как, будущее, движется на нас со скоростью 60 минут в час. При этом эпохи меняются гораздо быстрее, чем раньше. И мы, стремясь опередить время, усугубляем наш цейтнот.
«Именно сейчас меняется ход развития человечества. Если раньше эпохи хватало на жизнь нескольких поколений, то сейчас она, условно говоря, доживает вместе с человеком до его среднего возраста и заканчивается - наступает смена эпох. Сжатие времени - отсюда и растущие объемы потребляемой информации, и скорость познания мира. Так, меньше чем за поколение половина людей на Земле имеют мобильные телефоны, один миллиард – интернет», - отметил в одном из своих выступлений президент Никитского клуба, профессор Сергей Капица.
Преодоление сдерживающих рубежей в масштабе существующего формата человечества с достижением высокого коэффициента эффективности уже не возможно с традиционным пониманием прогресса.
Баланс дохода едва уравновешивает регулярные ошибки и неоправданные жертвы человечества. Космос, наука, технологии, демография, природопользование и ресурсы, ограниченная теософия не дают надежд на многомерный прорыв. Теперь нам требуется эксплозивное и перманентное расширение судьбы и сущностной роли человечества.
Плавать в аквариуме «Конца истории» и пожирать себе подобных это - тоже самое, что переживать вечные реинкарнации в надежде на иллюзорную нирвану в конце стотысячного цикла. Долго и мало эффективно. Нам гедонистически вымуштрованным необходимо здесь и сейчас, много и сразу, чтобы утолить свою жажду. А стремимся мы к светлому будущему и всестороннему его охвату, как бы ни банально это не звучало.
Размышляя над тем, как это достигнуть, мы обречены думать о «многомерном взрыве» человеческого потенциала. А если рассуждать на этот счет, то становится понятно - это возможно лишь при увеличении срока жизни человеческой персоны и в целом человечества. Забота о нашей вечности – главная забота.
Сейчас мы обязаны думать о неимоверном по масштабам расширении функциональных возможностей человека. В их числе:
- увековечение интеллекта через создание операбельных унифицированных и утилитарных систем;
- создание жизнеспособных проекций человека наряду с его естественной формой существования;
- расширение эко-систем с различными уровнями ценозов.
Предлагаемый метод комплексного решения проблемы заключается в разработке мета-технологического подхода, при котором появляется возможность создания эффективного «аварийного» выхода из существующего тупика исторического развития. При этом, существующий миропорядок, олигархии и мыслеформы гармонично ассимилируются им в рамках нового выгодного подавляющему большинству людей предложения по мироустройству – вечности и мобильности нашей интеллектуальной натуры и биологической формы жизни. Даже мыслеформам анти-систем (гностики, манихейство) в рамках такой методики доступны адекватные и гармоничные форматы сохранения собственных интересов.
Работа по построению мета-технологии будущего абсолютно реальна. Однако ее организацию сейчас можно рассматривать лишь сквозь призму эпизодов. Все они, в свою очередь, обязаны иметь свою мифо-архитипику и базику, в которую органично могут вкрапляться все существующие и возможные базисы со своими уровнями и подуровнями ветвей.
Обладая знанием, мы часто не обладаем пониманием. Одна ключевая, фундаментальная проблема - финал. Отсутствие четкого финала - это проблема непонимания зла. Имеется в виду не религиозный контекст, а фундаментальная проблема понимания того, как зло соотносится с добром на каждом уровне эпизодического и всеохватывающего миропонимания. Это чрезвычайно опасное положение современного человека. При этом не стоит забывать, что «Ад - это место, лишенное Бога в силу одной причины: человек сам не захотел, чтобы там был Бог».
Создавая новый мир и его будущее, оглядываясь с опаской на критические вызовы планетарного масштаба, мы, по сути дела, вынуждены мимикрировать в среде всеусложняющегося мира. Новый способ нашей приспособленчества – освоение вечности. Таким образом, мы сливаемся с окружающей нас действительностью, сохраняя свое существование, как надвидовую форму жизни и мысли.
Первое, что мы хотим – жить, удовлетворяя свои естественные жизненные потребности. Второе – жить хорошо, создавая избыток, расширяя свой потенциал. Третье – мы хотим жить хорошо вечно, не натыкаясь на пределы. Поэтому мы обречены развиваться меняя не только свои интеллектуальные предпочтения и форму мысли, но даже и свою физиологию.
А об этом в следующем номере.
Продолжение следует...

Глоссарий:
Гедонистический формат – развлечение и удовлетворение желаний
Линейка оригинального контента – новое, неизвестное до времени ознакомления с ним, содержание
Нейро-лингвистические стимуляторы – ключевые слова и определения влияющие на ход мысли и принятие решений
Фантазерские квази-способности – чрезмерная самоуверенность в фантазиях
Виртуальный ящик – мысли на будущее, отмеченные и зафиксированные, имеющие статус исходников для расширяющегося понятийного аппарата
Футурпродукты – все передовое, новое
Полуфабрикатные идеи – не имеющие достаточного потенциала своей утилитарности, находящиеся на стадии гипотез
Сталкер-шерп – проводник, принимающий кроме всего прочего на себя обязанности транспортного средства
«Серфинг», серфить – постоянное присутствие в потоке информации, поиск
Отраслевые дилетанты – универсалы в узкой области
Футурологический посыл – предположение о будущем
Реализатор замысла – творческий человек, креативщик
«Гламурненько» – выражение определяющее удачную фактурную оболочку, строящуюся на балансе сексуальности, глянца и перспективных линий и форм
«Информационные осадки» – изобилие информации
Культур-мультур – креольская культура с восточным колоритом
Пассионарные устремления – неосознаваемые креативные порывы, обусловленные энергитическим избытком
Гедонистический компонент – нечто, способствующее удовлетворению желаний
Шизоидные наукофилы – лица испытывающие маниакальную потребность в сообщениях о научных открытиях, смотрящие по кабельным сетям научно-популярные фильмы и программы
«MTVшные установки» – поверхностные, строящиеся из сплавов молодежной культуры и гламурных предпочтений
Радикальный дуализм – философия строящаяся на принципах противопоставления и конфронтации
Олигархические мессаджи-мыслеформы – концепции, определяющие миропорядок
Демагогический флуд – словоплетство
Мета-технология – трудно алгоритмизированная над-технология
Социопатические пророки – не учитывающие настоящих насущных чаяний общества, предельно откровенные
Поли-энтропийные факторы – все то, что раздражает, разрушает, мешает, оттягивает, несодействует…
Традиционное понимание прогресса – видение сложившееся на базе достижений предыдущих эпох
Многомерный прорыв/взрыв – гиперскоростные возможности развития с обязательной и безболезненной адаптацией человеческой цивилизации к ним; его еще называют квантовым скачком
Эксплозивное и перманентное расширение судьбы и сущностной роли человечества – то же самое, что и «многомерный прорыв»
Аквариум «Конца истории» – состояние цивилизации, определяемое осознанием состояния ограниченного жизненного пространства и ресурсов
Гедонистически вымуштрованный человек – ставящий целью своего существования получения удовольствия от жизни; воспитанный на принципах гедонизма
Проекции человека – допустимые и предполагаемые варианты существования человека во времени и пространстве

  • 0



То, что написано выше не являецца плодом моей трасгуманистической апологетики.
Так получилось, что я написал одно произведение (публицистическое рассуждение о мета-технологиях), потом ряд других, еще написал теорию LAL (Life after life)? в итоге меня поперло исчо и тем, что расположено выше.
И только потом я наткнулся на сингулярность с различными там трансгуманистическими ответвлениями.
Т.е. я хочу сказать, что к мыслям о грядущей сингулярности приходят уже не единицы, а многие умы.
Так, что готовьтесь....
А пока прочитайте это:

Технологическая Сингулярность
Автор: Вернор Виндж
Опубликовано 01 сентября 2004 года
[size=2]

Исходный вариант этой статьи математик и писатель Вернор Виндж представил на симпозиуме VISION-21, который проводился в 1993 году Центром космических исследований NASA им. Льюиса и Аэрокосмическим институтом Огайо. В 2003 году автор дополнил статью комментариями.
Что такое Сингулярность?


Ускорение технического прогресса - основная особенность XX века. Мы на грани перемен, сравнимых с появлением на Земле человека. Сугубая причина этих перемен заключается в том, что развитие техники неизбежно ведёт к созданию сущностей с интеллектом, превышающим человеческий. Наука может достичь такого прорыва разными путями (и это ещё один довод в пользу того, что прорыв произойдёт):

* Компьютеры обретут "сознание", и возникнет сверхчеловеческий интеллект. (В настоящее время нет единого мнения о том, сумеем ли мы создать машину, равную человеку, однако, если это получится, несомненно, вскоре затем можно будет сконструировать еще более разумные существа).
* Крупные компьютерные сети (и их объединенные пользователи) могут "осознать себя" как сверхчеловечески разумные сущности.
* Машинно-человеческий интерфейс станет настолько тесным, что интеллект пользователей можно будет обоснованно считать сверхчеловеческим.
* Биология может обеспечить нас средствами улучшения естественного человеческого интеллекта.

Первые три возможности напрямую связаны с совершенствованием компьютерного аппаратного обеспечения. [В действительности, четвёртая возможность также зависит от этого, хотя и косвенно.] Прогресс аппаратного обеспечения на протяжении уже нескольких десятилетий поразительно cтабилен. Исходя из этой тенденции, я считаю, что интеллект, превосходящий человеческий, появится в течение ближайших тридцати лет. (Чарльз Платт заметил, что энтузиасты ИИ делают подобные утверждения уже лет тридцать. Чтобы не быть голословным, отделавшись относительной временной двусмысленностью, позвольте мне уточнить: я удивлюсь, если это случится до 2005 года или после 2030 года). [Прошло десять лет, но я по-прежнему считаю, что указанный срок справедлив.]

Каковы будут последствия этого события? Когда прогресс будет направляться интеллектом, превосходящим человеческий, он станет куда стремительнее. Фактически, нет оснований полагать, что прогресс не станет плодить всё более разумные сущности всё более ускоренными темпами. Лучшая аналогия, которую можно здесь провести - в эволюционном прошлом. Животные могут приспособиться и проявлять изобретательность, но не быстрее, чем работает естественный отбор. В случае естественного отбора мир сам выступает в роли собственного симулятора. Мы, люди, обладаем способностью усваивать окружающий мир и выстраивать у себя в голове причинно-следственные связи, поэтому мы решаем многие проблемы в тысячи раз быстрее, чем механизм естественного отбора. Когда же появится возможность просчитывать эти модели на более высоких скоростях, мы войдём в режим, который отличается от нашего человеческого прошлого не менее радикально, чем мы, люди, сами отличаемся от низших животных.

Такое событие аннулирует за ненадобностью весь свод человеческих законов, возможно, в мгновение ока. Неуправляемая цепная реакция начнет развиваться по экспоненте безо всякой надежды на восстановление контроля над ситуацией. Изменения, на которые, как считалось, потребуются "тысячи веков" (если они вообще произойдут), скорее всего, случатся в ближайшие сто лет.

Вполне оправданно будет назвать данное событие сингулярностью (даже Сингулярностью, по замыслу данного эссе). Это точка, в которой наши старые модели придётся отбросить, где воцарится новая реальность. Это мир, очертания которого будут становиться всё четче, надвигаясь на современное человечество, пока эта новая реальность не заслонит собой окружающую действительность, став обыденностью. И всё же, когда мы такой точки, наконец, достигнем, это событие все равно станет великой неожиданностью и ещё большей неизвестностью. В пятидесятые годы немногие предвидели это. Стэн Юлам пересказывал однажды слова Джона фон Неймана: "Один разговор шел о непрерывно ускоряющемся техническом прогрессе и переменах в образе жизни людей, которые создают впечатление приближения некоторой важнейшей сингулярности в истории земной расы, за которой все человеческие дела, в том виде, в каком мы их знаем, не смогут продолжаться".

Фон Нейман даже использовал термин "сингулярность", хотя, похоже, он думал о нормальном прогрессе, а не о создании сверхчеловеческого интеллекта. (По моему же мнению, в сверхчеловечности кроется сама суть Сингулярности, без этого мы пресытимся избытком технических богатств, так и не сумев их как следует переварить).

В шестидесятые года отмечались признаки некоторого вовлечения в нашу жизнь сверхчеловеческого интеллекта. Ирвинг Джон Гуд писал: "Определим сверхразумную машину как машину, которая способна значительно превзойти все интеллектуальные действия любого человека, как бы умён тот ни был. Поскольку способность разработать такую машину также является одним из этих интеллектуальных действий, сверхразумная машина может построить ещё более совершенные машины. За этим, несомненно, последует "интеллектуальный взрыв", и разум человека намного отстанет от искусственного [далее здесь цитируются три более ранние работы Гуда]. Таким образом, первая сверхразумная машина станет последним изобретением, которое выпадет на долю человека, при условии, что машина будет достаточно покорна и поведает нам, как держать ее под контролем... И вероятность того, что в двадцатом веке сверхразумная машина будет построена и станет последним изобретением, которое совершит человек, выше, чем вероятность того, что этого не случится".

Гуд уловил суть разгона прогресса, но не рассматривал его самые тревожащие последствия. Любая разумная машина того типа, что он описывает, не будет "инструментом" человечества так же, как люди не стали орудиями кроликов, малиновок или шимпанзе.

В шестидесятые, семидесятые и восьмидесятые годы осознание грядущего катаклизма ширилось и росло. Вероятно, первыми его влияние почувствовали фантасты. В конце концов, ведь именно научной фантастике полагается рассказывать о том, чем обернутся для нас все эти технологии. Всё чаще писателей преследовало ощущение того, что будущее сокрыто за непроницаемой стеной. Когда-то воображение с лёгкостью переносило их на миллионы лет вперед. Теперь же они обнаруживают, что их наиболее усердные прогнозы относятся к неизвестному… завтра. Прежде галактические империи могли казаться постчеловеческимим реалиями. Ныне, как ни печально, даже межпланетные государства представляются таковыми.

[На самом деле теперь, в начале двадцать первого столетия, романы о космических приключениях делятся на группы, в зависимости от того, каким образом их авторы справляются с вероятностью появления сверхчеловеческих машин. Фантасты используют целый арсенал уловок, чтобы доказать их невозможность или удерживать на безопасном расстоянии от сюжета.]

Так что же ждет нас в эти два-три десятка лет, пока мы движемся к краю? Как наступление Сингулярности станет утверждаться в человеческом мировосприятии? До поры, до времени неплохую прессу будут иметь критики машинного разума. В конце концов, пока не появится аппаратное обеспечение, сравнимое по мощи с человеческим мозгом, наивно надеяться создать интеллект, сравнимый с разумом человека (или превосходящий его). (Есть малоправдоподобная вероятность, что достичь уровня человеческого разума можно и на менее мощном "железе", если мы готовы поступиться скоростью и нас устроит искусственное существо, которое будет медленным в самом буквальном смысле слова. Но, скорее всего, составление программы для него окажется нетривиальным занятием и не обойдётся без многочисленных фальстартов и экспериментов. А раз так, значит, эра машин, наделенных самосознанием, не наступит, пока не будет разработано аппаратное обеспечение, обладающее существенно большей мощностью, чем природное снаряжение человека).

Однако с течением времени мы будем наблюдать все больше симптомов. Дилемма, которую прочувствовали фантасты, станет восприниматься в контексте творческих усилий иного рода. (Мне известно, что вдумчивые авторы комиксов уже беспокоятся о том, каким образом придется создавать зрительные эффекты, когда все видимое вокруг станет можно отображать при помощи широко доступных технических средств.) Мы станем свидетелями того, как постепенно будут автоматизироваться задачи всё более высокого уровня. Уже сейчас существуют инструменты (программы символической логики, САПР), которые освобождают нас от большинства нудной рутины. Есть и обратная сторона медали: истинно производительный труд становится уделом стабильно сокращающейся узкой элиты человечества. С пришествием Сингулярности мы увидим, как, наконец, сбываются прогнозы о настоящей техногенной безработице.

Другой признак движения к Сингулярности: сами идеи должны распространяться быстрее, и даже самые радикальные из них начнут моментально становиться достоянием общественности.

А каким же будет наступление самой Сингулярности? Что можно сказать об истинном характере этого события? Поскольку дело касается интеллектуального разгона, вероятно, это окажется самой стремительной технической революцией из всех прежде нам известных. Свалится, вероятнее всего, как снег на голову - даже вовлеченным в процесс учёным. ("Но ведь все наши предшествующие модели не двигались! Мы только подкрутили кое-какие настройки...") Если сети достаточно широко распространены (в вездесущих встроенных системах), может показаться, будто наши артефакты вдруг обрели самосознание.

И что же тогда случится через месяц или два (или через день-другой) после этого? Есть только одна аналогия, которую я могу провести - возникновение человечества. Мы очутимся в постчеловеческой эре. И несмотря на весь свой технический оптимизм, мне было бы куда комфортнее, если бы меня от этих сверхъестественных событий отделяли тысяча лет, а не двадцать.

Конец первой части.
    • 0
Часть два:

Как избежать Сингулярности?
Автор: Вернор Виндж
Опубликовано 06 сентября 2004 года

Вторая часть знаменитой статьи математика и писателя Вернора Винджа "Технологическая сингулярность". Первую часть, в которой рассказывается о приближении Сингулярности, можно найти здесь.

Ну, а может, Сингулярность вообще не наступит. Порой я пытаюсь представить себе признаки, судя по которым, нам станет понятно, что Сингулярности можно не ждать. Есть популярные и признанные аргументы Пенроуза и Сёрла о непрактичности машинного разума. В августе 1992 года сообщество "Мыслящих Машин" устроило мозговой штурм с целью проверить тезис: "Как построить мыслящую машину?" Как вы уже догадались, из этого посыла следует, что участники эксперимента не слишком-то поддерживали те самые аргументы против машинного разума. В действительности, принималась общая договоренность о том, что разум может существовать на небиологической основе, и что алгоритмы являются важнейшей составляющей для разума. Тем не менее, разгорелись жаркие споры по поводу наличия в органических мозгах аппаратной мощности в чистом виде. Меньшинство придерживалось мнения, что крупнейшие компьютеры 1992 года по мощности отставали от человеческого мозга на три порядка. Большинство же участников соглашалось с подсчетами Ганса Моравеца, по которым выходило, что от аппаратного паритета в этом вопросе нас отделяют еще десять-сорок лет. И все же было еще одно меньшинство предполагавших, что вычислительные способности отдельных нейронов могут быть намного лучше, чем принято считать. Если это так, то наши современные компьютеры отстают аж на десять порядков от того снаряжения, которое скрыто у нас в черепной коробке. Если верен этот тезис (или, в данном случае, если взгляды Пенроуза и Сёрла обоснованы), возможно, мы так никогда и не доживем до Сингулярности. Вместо этого, в начале XXI века обнаружится, что круто вздымавшиеся кривые производительности нашего аппаратного обеспечения начнут сглаживаться из-за нашей неспособности автоматизировать конструкторскую работу по разработке дальнейших усовершенствований аппаратных средств. Все кончится каким-нибудь очень мощным компьютером, но без возможности двигаться вперед. Коммерческая цифровая обработка сигналов будет восхитительна, обеспечивая аналоговый выход, сравнимый с цифровыми операциями, но "сознание" не пробудится, а интеллектуальный разгон, являющий собой самую суть Сингулярности, так и начнется. Такое положение вещей, вероятно, следует рассматривать как Золотой век… и конец прогресса. Это будет нечто очень похожее на будущее, предсказанное Гюнтером Стентом, который ясно дал понять, говоря об идее создания надчеловеческого разума, что это станет достаточным условием для того, чтобы его прогнозы не сбылись.

[В предыдущем абзаце не достает того, что я считаю сильнейшим аргументом против вероятности Технологической Сингулярности: даже если мы сумеем создать компьютеры с чистой аппаратной мощью, вероятно, не получится организовать имеющиеся компоненты таким образом, чтобы машина обрела сверхчеловеческий разум. Для техноманов-механистов это, по-видимому, выльется в нечто вроде "неспособности решения проблемы сложности программного обеспечения". Будут предприниматься попытки запустить все более крупные проекты по разработке ПО, но программирование не справится с задачей, а мы никогда не овладеем секретами биологических моделей, которые могли бы помочь воплотить в жизнь "обучение" и "эмбриональное развитие" машин. В конце концов, появится следующий полуфантастический контрапункт Мерфи к закону Мура: "Максимально возможная эффективность программной системы растет пропорционально логарифму эффективности (то есть скорости, полосе пропускания, объему памяти) подлежащего программного обеспечения". В этом мире без сингулярности будущее программистов уныло и беспросветно. (Представьте себе необходимость одолевать скопившиеся за столетия унаследованные программы!) Так что в последующие годы, полагаю, следует обращать особое внимание на две важнейшие тенденции: прогресс в крупных проектах по разработке программного обеспечения и прогресс в применении биологических парадигм в масштабных сетях и масштабных параллельных системах.]

Но если технологической Сингулярности суждено быть, то она случится. Даже если все государства мира осознают "угрозу" и перепугаются до смерти, прогресс не остановится. Конкурентное преимущество - экономическое, военное, даже в сфере искусства - любого достижения в средствах автоматизации является настолько непреодолимым, что запрещение подобных технологий просто гарантирует, что кто-то другой освоит их первым.

Эрик Дрекслер составил впечатляющие прогнозы развития и совершенствования технических средств. Он соглашается с тем, что появление сверхчеловеческого разума станет возможно в ближайшем будущем. Но Дрекслер оспаривает способность человечества удерживать контроль над столь сверхчеловеческими устройствами, чтобы результаты их работы можно было оценить и надежно использовать.

Не соглашусь, что сохранение контроля так уж невозможно. Представьте себя запертым в собственном доме при единственном, ограниченном некими вашими хозяевами канале доступа информации извне. Если бы эти хозяева мыслили со скоростью, скажем, в миллион раз медленнее вас, едва ли стоит сомневаться в том, что через несколько лет (вашего времени) вы изобрели бы способ побега. Я называю эту "быстро мыслящую" форму сверхразума "слабым сверхчеловеческим". Такая "слабая сверхчеловеческая сущность" более чем ускорила бы течение времени эквивалентного человеческому ума. Сложно сказать точно, что будет из себя представлять "сильное сверхчеловеческое", но отличие, по-видимому, будет разительным. Вообразите собаку с чрезвычайно ускорившейся работой мысли. Сможет ли тысячелетний опыт собачьего мышления что-то дать человечеству? Многие предположения о сверхразуме, как кажется, основываются на модели "слабого сверхчеловеческого". Я же думаю, что наиболее верные догадки о постсингулярном мире можно строить на предположениях об устройстве "сильного сверхчеловеческого". К этому вопросу мы еще вернемся.

Другим подходом к проблеме сохранения контроля является идея о создании искуственных ограничений свободы действий сконструированной сверхчеловеческой сущности. [например, Законы роботехники у Азимова]. Я полагаю, что любые правила, достаточно строгие, чтобы обеспечить их эффективность, приведут у созданию устройства с возможностями, очевидно более узкими, чем у нестесненных ограничениями версий (таким образом, соревновательность будет способствовать развитию более опасных моделей).

Если Сингулярность нельзя предотвратить или ограничить, насколько жестокой может стать постчеловеческая эра? Что ж, довольно жестокой. Физическое вымирание человеческой расы - одно из возможных следствий. (Или, как сформулировал это Эрик Дрекслер, говоря о нанотехнологиях: со всеми подобными техническими возможностями, вероятно, правительства решат, что простые граждане им больше не нужны). Тем не менее, физическое вымирание может оказаться далеко не самым страшным последствием. Вспомните о разного рода наших отношениях к животным. В постчеловеческом мире по-прежнему останется множество ниш, в которых эквивлентная человеческой автономность будет востребована: встроенные системы в самоуправляющихся устройствах, автономные демоны низшей функциональности в более крупных разумных существах. ("Сильное сверхчеловеческое, по-видимому, будет представлять собой Общность Разума из нескольких очень умных компонентов".) Некоторые из таких человеческих эквивалентов могут использоваться исключительно для цифровой обработки сигналов. Прочие могут остаться весьма человекоподобными, хотя и специализированными, с узким профилированием, из-за которого в наше время их поместили бы в психиатрическую клинику. Несмотря на то что никто из этих существ может не быть уже людьми из плоти и крови, они останутся наиболее близкими к современному нам человеку в том новом окружении.

[Уверен, Ирвингу Гуду было бы, что сказать на этот счет (хоть я и не нашел у него упоминаний чего-то подобного). Гуд предложил золотое метаправило, которое можно переформулировать следующим образом: "Обращайся с братьями меньшими так, как ты хочешь, чтобы старшие братья обращались с тобой". Это чудесный парадокс (и большинство моих друзей этому не верят), так как последствия, подсчитанные согласно теории игр, отчетливо выразить трудно.Тем не менее, если бы мы могли следовать этому правилу, в каком-то смысле это могло бы говорить о распространенности подобных добрых намерений во вселенной.]

Я уже выражал выше сомнение в том, что мы не можем предотвратить Сингулярность, что ее наступление есть неминуемое следствие естественной человеческой соревновательности и возможностей, присущих технологиям. И все же мы - инициаторы. Даже величайшая лавина вызывается мельчайшими действиями. Мы вольны устанавливать начальные условия, чтобы все происходило с наименьшим для нас ущербом.

[Будет ли прок от предвидения и вдумчивого планирования, может зависеть от того, как произойдет технологическая Сингулярность. Будет ли это "резкий переход" или "тихий переход". Резкий переход - это тот, при котором сдвиг к сверхчеловеческому контролю произойдет за несколько сотен часов (как в "Музыке крови" Грега Бэра). Мне представляется, что спланировать что-то в расчете на резкий переход будет чрезвычайно трудно. Он будет подобен лавине, о которой я писал в этом эссе в 1993 году. Наиболее кошмарная форма резкого перехода может произойти из гонки вооружений, когда две державы подстегивают свои отдельные "манхэттенские проекты" с целью добиться сверхчеловеческой мощи. Эквивалент десятилетий шпионажа на человеческом уровне может сжаться в последние несколько часов существования расы, и весь человеческий контроль и рассудительность пасуют перед некими чрезвычайно деструктивными целями.

С другой стороны, "тихий переход" может занять десятки лет, возможно, более века. Такая ситуация кажется более поддающейся планированию и вдумчивому экспериментированию. Ганс Моравец рассматривает такой "плавный переход" в книге "Робот: от простой машины к сверхразуму"].

Конечно (как и в случае с лавинами), нельзя с уверенностью судить, каков именно на самом деле будет тот самый направляющий толчок.
    • 0
То, что пишет Вернор Виндж не должно восприниматься исключительно в гамме техногенного развития. Дело в том, что человечество по-любому стоит у дихотомии. Только вот характер этой дихотомии (бифуркации) будет виден только лишь после ее прохождения.
О том, что такое бифуркация читайте в Википедии. Особенно прочтите, что такое точка бифуркации...
    • 0
Третья часть

Путь к Сингулярности
Автор: Вернор Виндж
Опубликовано 10 сентября 2004 года

Третья часть знаменитой статьи математика и писателя Вернора Винджа "Технологическая сингулярность". Чтение статьи лучше начать с первой и второй частей.

Когда говорят о существах со сверхчеловеческим разумом, обычно имеют в виду проект по созданию искусственного интеллекта. Но как я отметил в начале этой статьи, есть и другие пути к сверхчеловеческому. Компьютерные сети и человеко-машинные интерфейсы представляются более приземленными, нежели ИИ, и все-таки они способны привести к Сингулярности. Я называю этот противоречивый подход Усилением Интеллекта (УИ). УИ протекает вполне естественно, в большинстве случаев его даже не осознают сами разработчики. Однако всякий раз, когда улучшаются наши возможности доступа к информации и передачи ее другим, в каком-то смысле мы достигаем прироста по отношению к природному интеллекту. Сейчас уже дуэт из человека-профессора и хорошей электронной рабочей станции (даже не подключенной к сети), вероятно, может с блеском сдать любой из существующих письменных тестов.

И вполне возможно, что УИ является наиболее легким путем к достижению сверхчеловеческого, нежели ИИ в чистом виде. В том, что касается людей, сложнейшие проблемы развития уже решены. Постепенное создание умных систем на основе имеющихся у человека способностей представляется более легким, чем выяснение истинной сути людей и затем уже постройка аналогичных им интеллектуальных машин. Предположительно, существует еще, по крайней мере, один прецедент в поддержку данной точки зрения. Кернс-Смит рассуждал о том, что биологическая жизнь вполне могла зародиться в качестве случайного дополнительного свойства более примитивных форм жизни, основывавшихся на росте кристаллов. Линн Маргулис выдвигала серьезные аргументы, доказывая, что симбиоз является могучей движущей силой эволюции.

Заметьте, я совсем не предлагаю игнорировать работы по созданию ИИ. Достижения в области разработки искусственного интеллекта зачастую будут находить применение в УИ, и наоборот. Я предлагаю понять, что в работах по созданию сетей и интерфейса кроется нечто настолько же серьезное (и потенциально дикое), как и искусственный интеллект. С таким пониманием мы сможем различить проекты, не столь уже явно практические, как обычные работы по интерфейсам и построению сетей, но зато служащие делу нашего прогресса на пути к Сингулярности вдоль тропы УИ.

Вот несколько возможных проектов, которые приобретают особое значение с точки зрения УИ:

Автоматизация человеко-машинной связки. Возьмите проблемы, которые обычно отводятся для решения машинам (вроде задач по методу итеративного спуска - hillclimbing), и программы разработки и интерфейсы, использующие преимущество человеческой интуиции с доступным компьютерным оборудованием. Принимая во внимание причудливость задач по hillclimbing более высокого порядка (и стройных алгоритмов, придуманных для их решения), для человеческого компонента связки можно разработать чрезвычайно интересные дисплеи и средства управления.

Симбиоз машины и человека в искусстве. Объедините графические возможности современных машин и эстетическую чуткость людей. Конечно, огромные усилия исследователей тратятся на разработку компьютерных средств помощи художникам. Я предлагаю четко нацелиться на наибольшее совмещение умений, на максимально возможную кооперацию. Карл Бимс проделал замечательную работу в этом направлении.

Человеко-машинные команды на шахматных турнирах. У нас уже есть программы, которые играют в шахматы лучше подавляющего большинства людей. Но сколько сделано, для того чтобы эту мощь мог использовать человек, с тем чтобы добиться каких-либо еще больших успехов? Если бы таким командам разрешалось участвовать хотя бы в некоторых шахматных турнирах, это могло бы оказать такое же положительное влияние на исследования УИ, какое допуск компьютеров к шахматным соревнованиям оказывает на соответствующую нишу разработок ИИ.

[В последние несколько лет гроссмейстер Гарри Каспаров развил идею проведения шахматных турниров между игроками, которым помогают компьютеры (поищите в интернете по ключевым словам "Каспаров" и "прогрессивные шахматы"). Насколько мне известно, такие человеко-машинные команды не допускаются к участию в серьезных соревнованиях по шахматам.]

Интерфейсы, которые обеспечат доступ к компьютерам и сетям без обязательной привязки человека к одному месту, за столом с монитором. (Данный аспект УИ настолько успешно согласуется с известными экономическими преимуществами, что в этом направлении уже работают очень активно.)

Более симметричные системы поддержки решения. Популярной областью исследований и разработок в последнее время стали системы поддержки решения. Это одна из форм УИ, только, возможно, слишком сфокусированная на прогностических системах. Столько же, сколько программа предоставляет информации пользователю, должно быть и руководства программой со стороны пользователя.

Местные сети, которые сделают усилия группы людей эффективнее работы отдельных членов. Это и есть, в принципе, понятие о groupware; смена подхода в данном вопросе заключается в представлении групповой деятельности как работы коллективного организма.

В определенном смысле цель такого предложения может заключаться в изобретении "Устава" для таких комбинированных операций. Например, направление деятельности группы легче было бы поддерживать, чем посредством классических собраний. Умения отдельных индивидуумов можно будет изолировать от эгоистических устремлений, с тем чтобы объединенные усилия разных членов группы концентрировались на общем проекте. Ну и, конечно, базы данных совместного пользования можно было бы задействовать полнее, нежели в обычных совещательных операциях.

Интернет представляет собой комбинированный человеко-машинный инструмент. Из всего перечисленного в данном списке прогресс в данной области идет наиболее быстрыми темпами. Сила и влияние интернета в немалой степени недооценивают. Сама по себе анархичность развития Всемирной сети является свидетельством ее потенциала. Покуда наращиваются связность, полоса пропускания, архивные объемы и производительность компьютеров, мы наблюдаем нечто похожее на представление Линн Маргулис о биосфере, как своего рода конспекте процессора данных, только с в миллион раз большей производительностью и с миллионами разумных человеческих агентов (нас самих).

[Брюс Стерлинг искусно иллюстрирует, как подобное развитие может привести ко всеобъемлющему проникновению в повседневную жизнь ("Манеки-Неко", журнал Fantasy & Science Fiction, май 1998 года). В качестве нехудожественного взгляда на возможности связки "человечество + технологии" как на сложносоставное существо я рекомендую книгу Грегори Стока "Метачеловек: слияние людей и машин в глобальный сверхорганизм", издательство Simon & Schuster, 1993 год. Но возникнет ли в результате самосознание? Или, может быть, самосознание есть неотъемлемая черта интеллекта, заключенного в определенных границах?]

Приведенные выше примеры иллюстрируют исследование, которое можно провести в рамках современных областей компьютерной науки. Существуют и другие парадигмы. Например, многие работы по созданию искусственного интеллекта и нейросетей только выиграют от более тесной связи с биологической жизнью. Вместо того чтобы просто пытаться моделировать и воспроизводить биологическую жизнь при помощи компьютеров, исследования следует направить на создание композитных систем, полагающихся на управление со стороны биологической жизни, либо ради каких-то свойств биологической жизни, которые мы недостаточно понимаем, но все-таки стремимся воспроизвести в аппаратном обеспечении. Вековечной мечтой научной фантастики являются прямые компьютерно-мозговые интерфейсы. На практике, в этой области ведутся конкретные работы:

Протезирование конечностей представляет собой область прямого коммерческого приложения. Прямые нейро-кремниевые преобразователи можно создать. Это восхитительно досягаемый первый шаг к налаживанию прямой человеко-машинной связи.

Прямые каналы связи с мозгом кажутся вполне осуществимыми, если битрейт достаточно низок: учитывая развитую обучаемость человека, едва ли потребуется точно выбирать мишени среди нейронов живого мозга. Даже 100 бит в секунду будут чрезвычайно полезны пострадавшим от паралича, которым, в противном случае, придется оставаться в заложниках у интерфейсов, построенных на структурированных меню.

Подсоединение к оптической магистрали сулит потенциал пропускной способности порядка 1Мбит/с или что-то около того. Однако для этого нам необходимо разобраться в тончайшем устройстве зрения, да еще потребуется вживление огромного количества электродов с необычайной точностью. Если мы хотим, чтобы широкополосное соединение прибавило еще возможностей к тем способностям по обработке данных, что уже имеются в человеческом мозге, проблема становится гораздо неподатливее. Простое вживление сети широкополосных приемников в мозг определенно ни к чему не приведет. Однако предположите, что такая нейросеть уже присутствовала в структуре мозга на стадии эмбрионального развития. А это предполагает:

Эксперименты с зародышами животных. Какого-либо успеха в УИ в первые годы подобных исследований я не ожидаю, но обеспечение развивающемуся мозгу доступа к сложным симулированным нейроструктурам могло бы, в конечном итоге, привести к появлению животных с дополнительными нервными связями и интересными интеллектуальными способностями.

Я надеялся, что данное рассмотрение УИ выявит какие-нибудь очевидно более безопасные пути к Сингулярности (в конце концов, УИ допускает наше участие в некой трансцендентальной форме). Увы, я уверен почти лишь в том, что такие предположения следует принять во внимание, что они предоставят нам большую свободу выбора. Но, что касается безопасности, некоторые из них представляются достаточно устрашающими. УИ для человеческих индивидуумов создает довольно зловещую элиту. У нас, людей, за плечами миллионы лет эволюционного развития, которые заставляют нас представлять соперничество в мрачном свете. По большей части, эта мрачность может оказаться невостребованной в сегодняшнем мире, в котором проигравшие перенимают приемы победителей и, сплотившись, организуют выигрышные предприятия. Существо, созданное "с чистого листа", может оказаться гораздо благонамереннее, нежели тварь, взращенная по законам клыка и когтя.

Проблема заключается не просто в том, что Сингулярность представляет собой уход человечества со сцены, но в том, что она противоречит нашим сокровенным понятиям бытия. Полагаю, более пристальное рассмотрение концепции сильного сверхчеловеческого может прояснить причины такого положения вещей.

Конец третьей части
    • 0
Кто мы? Откуда? Куда идем? Что нас ждет? Ответы дает сенсационное открытие - ключ к тайнам мира
АПОКАЛИПСИС — НЕ АРМАГЕДДОН — КОНЕЦ СВЕТА, А ЖАЛКОЕ БУДУЩЕЕ — ПО-АРИЙСКИ!
Многие обсуждаемые вопросы имеют ответы -- неожиданные. Это стало возможным благодаря методике декодировки слов во всех языках с помощью живого и ныне диалекта данного Свыше арийского праязыка человечества. Главное – доказательство субъективной реальности... Господа Бога! И это – не вопрос веры, а знания и наличия разума.
Обращаюсь ко всем людям доброй воли! Сокрытая правда о прошлом – знание тайн настоящего и возможность спастись в будущем! И это в наших силах – если захотим! Сделано судьбоносное для цивилизации открытие, меняющее мировоззрение и навязанные представления о мире – доказуемые факты о реальном прошлом, тайнах настоящего и угрозах будущего. Об этом в статье “Код разума“ в журнале «Горцарар» N 7/9 за 2009 г. и на его информационном сайте (http://gortsarar.ru/files/code.pdf), что лишь часть пока известного о происходящем. Апокалипсис уже идет – если знать, что это значит, как и море иной информации. Новая Эра – Новый Мир: эта техногенная цивилизация обречена, а мы или станем более человечными, или сгинем. Но вопрос: кто спасется и что сумеем сохранить из достижений цивилизации? Об этом и на сайте 2012god.ru на форуме в разделе “Разные мнения» – “Сенсационное открытие – правда о происходящем в мире“. Важно мнение всех, готов обсудить тему здесь или где и с кем угодно. Например, тот факт, что в арийских названиях металлов закодированы их атомные номера...
В слове "русский" - недаром имени прилагательном - обозначена принадлежность к общности "северных ариев" и одновременно - "надежда арийства" (понимай: человечества). И слово "арий" также можно понимать двояко - и как "сотворенный" - разумеется, Господом Богом - т.е. в самом слове утверждается Его существование, - так и "(со)творец" - вот в чем заключается смысл жизни человека...
    • 0

Май 2017

П В С Ч П С В
1234567
891011121314
15161718192021
222324252627 28
293031    

Аконит джунгарский сушенные корни

Натуральное сырье Аконита джунгарского.Пишите в личку господа-товарищи. Будет интерес, спрашивайте. Имею возможность дать максимально полный ответ.
X

Размещение рекламы на сайте     Предложения о сотрудничестве     Служба поддержки пользователей

© 2011-2017 vse.kz. При любом использовании материалов Форума ссылка на vse.kz обязательна.