Слияние человека с машиной? Движемся ли мы к Матрице?
Слияние человека с машиной? Движемся ли мы к Матрице?
Укороченная версия статьи из сборника "Прими красную таблетку" по редакцией Гленна Йеффета
(Автор Рей Курцвейль,
перевод Т. Давыдовой)
Действие «Матрицы» происходит в будущем, которое наступит через сто лет, в мире, предлагающем, на первый взгляд, сверхъестественный набор технологических диковинок: разумные (хотя и враждебные) программы, возможность загружать разнообразные навыки непосредственно в человеческий мозг и создание виртуальных реальностей, как две капли воды похожих на реальный мир. Для большей части кинозрителей эти достижения могут показаться чистой воды научной фантастикой, над которой интересно поразмышлять, но которая имеет мало отношения к миру, находящемуся за пределами кинотеатра. Однако эта точка зрения страдает близорукостью. На мой взгляд, эти явления станут частью реальности в течение последующих тридцати-сорока лет.
Один нобелевский лауреат недавно сказал мне: «Мы не увидим самовоспроизводящихся нанотехнологических механизмов, по меньшей мере, еще лет сто». Да, разумеется, это высказывание является разумной оценкой того, сколько времени уйдет на то, чтобы этого добиться. Для получения самовоспроизводящихся нанотехнологических организмов потребуется еще сто лет прогресса с учетом той скорости, с которой он протекает сейчас. Однако темпы технического прогресса не собираются оставаться на одном и том же уровне: согласно моим расчетам, они ускоряются в два раза каждые десять лет. Столетний прогресс при текущих темпах развития мы одолеем за двадцать пять лет. Следующие десять лет сойдут за двадцать, а последующее десятилетие - за все сорок лет. Так что XXI век будет эквивалентен двадцати тысячелетиям прогресса с сегодняшними темпами. Двадцатое столетие, несмотря на свою революционность, не равно ста годам прогрессивного развития с нынешними темпами. Наше ускорение до современных темпов заняло лишь двадцать лет. Достижения XXI века в области изменений и существенных сдвигов будут примерно в тысячу раз превышать результаты века двадцатого.
Многие из этих тенденций вытекают из приложения к закону Мура. Закон Мура относится к интегральным схемам и, как известно, утверждает, что вычислительная мощность, доступная за определенную цену, будет удваиваться каждые год-два Закон Мура стал синонимом экспоненциального роста вычислительной техники.
Наблюдатели указывают на то, что закон Мура вскоре исчерпает свои возможности. По мнению экспертов компании Intel и других специалистов индустрии, мы выйдем за пределы возможностей интегральных схем в течение пятнадцати лет, потому что длина основных деталей будет достигать всего лишь диаметра нескольких атомов. Так будет ли это означать завершение периода экспоненциального роста вычислительной техники?
Этот вопрос обретает чрезвычайную важность, если мы станем размышлять о природе XXI века. Обращаясь к этому вопросу, я расположил сорок девять известных компьютеров на экспоненциальном графике. Отсчет в нижнем левом углу начинается со счетной машины, которая использовалась в ходе американской переписи 1890 года (счетное оборудование на основе перфокарт). В 1940 году Алан Тьюринг создал компьютер на основе телефонных реле. Этот компьютер позволил взломать загадочные коды немцев и предоставил Уинстону Черчиллю расшифровку почти всех сообщений нацистов. Черчиллю приходилось использовать эти расшифровки с большой осторожностью. Он понимал, что масштабное использование расшифрованных посланий могло спугнуть немцев. Если, к примеру, он предупредил бы власти города Ковентри о том, что их город будут бомбить, немцы увидели бы приготовления к отражению бомбардировки и поняли бы, что их шифр разгадан. Впрочем, похоже, в ходе битвы за Британию английские летчики все время чудесным образом знали, где находятся немецкие самолеты.
В 1952 году CBS воспользовалась более сложным компьютером на основе электронных ламп, чтобы предсказать избрание Эйзенхауэра на пост президента Соединенных Штатов. В правом верхнем углу находится компьютер, за которым вы сидите в настоящий момент.
Один из глубоких выводов, к которому мы можем прийти, глядя на этот график, состоит в том, что закон Мура был не первой, а пятой парадигмой, обеспечивающей экспоненциальный рост вычислительных возможностей. Каждая вертикальная линия обозначает различные парадигмы: электромеханика; техника, основанная на реле; электронные лампы; транзисторы; интегральные схемы. Каждый раз, когда какая-то парадигма вырабатывалась, ее сменяла другая парадигма, начиная с того места, где выдыхалась ее предшественница.
Люди скоры на критику экспоненциальных трендов. Они говорят, что в конечном счете эти тренды выработают свои ресурсы, как кролики в Австралии. Но каждый раз, когда конкретная парадигма достигала своих пределов, экспоненциальный рост продолжался благодаря новому, совершенно другому методу. Электронные лампы делались все меньше и меньше, но в конце концов настал такой момент, когда стало невозможно уменьшить лампу и сохранить в ней вакуум. Тогда появились транзисторы, которые представляют собой не просто электролампу маленького размера. Они выражают абсолютно иную парадигму.
Каждая горизонтальная линия на этом графике показывает увеличение вычислительных возможностей в сто раз. Прямая линия на экспоненциальном графике обозначает экспоненциальный рост. Как видно, скорость экспоненциального роста сама возрастает в экспоненциальном порядке. Мы удваивали вычислительные мощности каждые три года в начале двадцатого столетия, каждые два года - в середине, а теперь мы удваиваем их ежегодно.
Очевидно, что шестая парадигма будет являть собой вычислительную технику в трех измерениях. Как ни крути, мы живем в трехмерном мире, и наш мозг организован в трех измерениях. Человеческий мозг использует весьма неэффективную схемотехнику. Нейроны – слишком громоздкие «устройства», и работают они крайне медленно. Они используют электрохимические сигналы, обеспечивающие лишь около двухсот вычислительных операций в секунду, однако мозг получает свою поразительную мощность благодаря параллельному вычислению, которое обеспечивается его трехмерной организацией. Трехмерные компьютерные технологии начинают появляться. В Лаборатории медиа Массачусетского технологического института была создана экспериментальная технология, в которой схемы уложены в триста слоев. В последние годы в разработке трехмерных схем, действующих на молекулярном уровне, был сделан огромный шаг вперед.
Мои любимые нанолампы представляют собой шестиугольные матрицы атомов углерода, которые можно структурировать так, что они образуют любой тип электронной схемы. Из них вы можете создать эквивалент транзисторов и других электрических устройств. В физическом плане они очень прочные, их прочность превышает прочность стали в пятьдесят раз. Температурные характеристики, судя по всему, поддаются регулировке. Один кубический дюйм наноламповой схемы будет в миллион раз мощнее вычислительных возможностей человеческого мозга.
За последние несколько лет уверенность в создании трехмерных схем невероятно укрепилась. Были созданы, по крайней мере, аппаратные средства, способные конкурировать с человеческим интеллектом. Это достижение подняло более заметную проблему, а именно: «закон Мура может оказаться действующим по отношению к «железу», но не по отношению к программному обеспечению». После сорокалетнего экспериментирования с разработкой программного обеспечения я считаю, что это не так. Продуктивность софта возрастает очень быстрыми темпами. На примере одной из моих собственных компаний могу сказать, что за пятнадцать лет мы прошли путь от системы распознавания речи стоимостью в $5000, которая плохо распознавала тысячу слов, да еще и не в потоке речи, до продукта стоимостью в $50 со словарным запасом в сто тысяч слов, который намного более точен в распознавании. И это типичная картина для программного обеспечения. На фоне всех усилий в области разработки новых программных продуктов производительность программного обеспечения, также экспоненциально увеличилась, хотя и с меньшей экспонентой, чем мы видели у аппаратных средств.
Многие другие технологии совершенствуются экспоненциально. Когда около пятнадцати лет назад стартовал проект по расшифровке генома человека, скептики доказывали, что с учетом той скорости, с которой мы можем изучать геном, на осуществление проекта уйдет десять тысяч лет. Наибольшее распространение получило следующее мнение: конечно, какой-то прогресс будет, но все равно завершить проект за пятнадцать лет невозможно. Однако экономическая эффективность и производительность расшифровки ДНК удваивались ежегодно, и проект был завершен меньше чем за пятнадцать лет. За двенадцать лет нам удалось добиться того, чтобы вместо $10 расшифровка комплементарной пары ДНК стоила десятую часть цента.
Даже продолжительность жизни человека возрастает по экспоненте. В XVIII веке продолжительность жизни ежегодно увеличивалась на несколько дней, в XIX - на несколько недель. В наше время продолжительность человеческой жизни возрастает примерно на 120 дней ежегодно. А с учетом революционных открытий, сделанных на раннем этапе работы с геномом, с учетом клонирования в медицинских целях, сознательного конструирования лекарств и прочих биотехнологических преобразований многие эксперты, включая меня самого, предвидят, что в течение десяти лет мы будем добавлять к продолжительности жизни больше года ежегодно. Итак, если вы сможете зависнуть здесь лет эдак на десять, то станете свидетелями нашего дальнейшего продвижения по кривой возможностей. Мы будем в состоянии прожить достаточно долго, чтобы увидеть поразительное столетие, которое ждет нас впереди.
Миниатюризация - вот еще одна важнейшая экспоненциальная тенденция. Каждое десятилетие мы уменьшаем предметы на 5,6% линейного размера. В следующей статье Билл Джой среди всего прочего рекомендует существенным образом ускорить развитие нанотехнологии. Однако нанотехнология важна не только потому, что ее пропагандируют специалисты по нанотехнологии. Нанотехнология - это всего лишь неизбежный конечный результат набирающей обороты тенденции уменьшать размеры предметов, которая существует уже многие десятилетия.
Ниже приводится график экспоненциального роста вычислительной техники, рассчитанный для двадцать первого века. В данный момент ваш обычный персональный компьютер стоимостью $1000 стоит где-то между мозгом насекомого и мозгом мыши. В человеческом мозге насчитывается около ста миллиардов нейронов, при этом между двумя нейронами существует примерно тысяча соединений. Эти соединения работают очень медленно, порядка двухсот вычислений в секунду, однако сто миллиардов нейронов с тысячью связей между двумя каждыми из них создают сто-триллионную параллельную производительность. Если умножить эту цифру на двести вычислений в секунду, то получится двадцать миллионов миллиардов в секунду или, по компьютерной терминологии, двадцать миллиардов миллионов команд в секунду (MIPS). У нас будет двадцать миллиардов MIPS за $1000 к 2020 году.
Однако это не позволит нам автоматически достичь уровня человеческого интеллекта, потому что здесь не менее важны организация, программное обеспечение, объем памяти и «встроенное» знание.
Ниже я обращусь к сценарию развития событий, согласно которому я предвижу разработку программного обеспечения, обладающего уровнем человеческого интеллекта. При этом мне кажется очевидным, что у нас будут необходимые вычислительные мощности. К 2050 году компьютер стоимостью в $1000 будет равен одному миллиарду человеческих мозгов. Возможно, это случится на год или два позднее, однако в любом случае XXI век не будет испытывать дефицит вычислительных ресурсов.
Теперь давайте рассмотрим условия виртуальной реальности, воплощенные в Матрице, - виртуальную реальность, неотличимую от настоящей реальности. Это будет возможно, однако сначала я сделаю одно критическое замечание. Толстый кабель, воткнутый в ствол мозга Нео, был использован для пущего киноэффекта, но в нем нет особой нужды: все соединения могут быть беспроводными.
Давайте возьмем за точку отсчета 2029 год и сведем вместе некоторые из тех тенденций, о которых я говорил. К тому времени мы будем уметь конструировать наноботов, микроскопических роботов, способных проникать внутрь ваших капилляров и путешествовать по вашему мозгу, изучая его изнутри. Мы почти можем создать схемы такого рода уже сейчас. Мы еще не можем сделать их достаточно маленькими, однако мы можем сделать их довольно маленькими. В министерстве обороны разрабатываются крошечные устройства-роботы под названием «умная пыль» («smart dust»). Размер этих устройств сегодня - один миллиметр. Это еще слишком много для нашего сценария, зато этих крошек можно сбрасывать с самолета, и они могут находить нужные позиции с высокой точностью. У вас могут быть тысячи этих устройств в беспроводной локальной сети. Они могут принимать визуальные изображения, связываться друг с другом, координировать, отсылать сообщения, действовать как практически невидимые шпионы и использоваться для выполнения множества военных задач.
Мы уже создаем устройства размером с кровяную клетку, проникающие в поток крови. По теме «Биологические микроэлектронные механические системы» (bioMEMS) действуют четыре крупные конференции. Наноботам, появление которых я предвижу к 2029 году, не обязательно потребуются собственные средства навигации. Они могут и произвольно передвигаться по системе кровообращения, а пока они будут проходить по различным элементам нервной системы, общаться с ними можно будет точно так же, как сегодня мы общаемся с абонентами посредством системы мобильной связи.
Разрешение при сканировании головного мозга, скорость и стоимость этого сканирования - все это развивается взрывными темпами, причем по экспоненте. С каждым новым поколением способов сканирования мозга мы получаем все лучшее и лучшее разрешение. Сегодня мы обладаем технологией, позволяющей разглядеть многие из скрытых элементов человеческого мозга. Разумеется, окончательного согласия по поводу того, что это за элементы, еще не достигнуто, однако мы можем наблюдать элементы мозга с очень высоким разрешением благодаря тому, что датчик сканирующего устройства имеет размеры, приближенные к самим наблюдаемым элементам. В настоящее время мы можем сканировать мозг и отслеживать его деятельность очень подробно. Для этого нужно всего лишь перемещать датчик сканирующего устройства по всему мозгу, чтобы он находился как можно ближе к каждому из элементов нейронов.
Теперь зададимся вопросом: как мы собираемся проделать эту операцию и ничего не повредить? Ответ: нужно послать сканеры внутрь мозга. Наши капилляры устроены так, что они проходят через каждое межнейронное соединение, каждый нейрон и каждый элемент нейрона. Мы можем отправить туда миллиарды сканирующих роботов, объединенных в одну беспроводную локальную сеть, чтобы они смогли отсканировать мозг изнутри и начертить карту с высоким разрешением, отражающую все, что происходит внутри. Что же мы будем делать с огромными базами данных, объединяющих нейронную информацию, которую мы соберем? Мы обязательно проведем реинжиниринг мозга, чтобы понять основные принципы его функционирования. Мы уже пытаемся это делать. Мы уже располагаем отсканированными изображениями определенных зон головного мозга. Эти изображения имеют высокое разрешение. Мозг - это не монолитный орган; он состоит из нескольких сотен специализированных участков, каждый из которых организован по-своему. Мы отсканировали отдельные зоны слуховой и зрительной коры и использовали эту информацию для создания более «умного» программного обеспечения. Карвер Мид из Калифорнийского Технологического института, например, разработал мощные аналоговые чипы с цифровым управлением на основе вдохновленных биологией моделей, созданных при помощи инженерного анализа отдельных участков зрительной и слуховой систем. Его визуально-чувствительные чипы используются в цифровых камерах высокого класса.
Мы продемонстрировали, что способны понимать эти алгоритмы, однако они отличаются от алгоритмов, которыми мы обычно снабжаем наши компьютеры. Они не являются ни последовательными, ни логичными - они хаотичные, высокопараллельные и самоорганизующиеся. По своей природе они голографичны в том смысле, что главного исполнительного менеджера-нейрона в мозге не существует. Вы можете убрать любой из нейронов, отрезать любой проводок, и все останется почти без изменений, потому что информация и процессы распределяются по всей сложной сети.
Отталкиваясь от этих открытий, мы создали ряд моделей, на которые нас натолкнула биология. Именно в этой сфере я работаю, пользуясь такими методиками, как эволюционные «генетические алгоритмы» и «нейронные сети». В них задействованы подсказанные биологией модели. Нынешние нейронные сети математически упрощены, однако по мере проникновения в принципы работы различных участков головного мозга мы сможем разрабатывать более мощные модели на основе биологических данных. В конечном итоге мы сможем спроектировать и воссоздать эти процессы, сохранив такие их свойства, как врожденный широкомасштабный параллелизм, аналогичное цифровому управление, хаотичность и способность самоорганизовываться. Мы сможем воспроизводить типы процессов, происходящих в сотнях различных участков мозга, и создавать организмы, сделанные не на основе кремния, а, возможно, с применением чего-нибудь вроде наноламп, которые сравняются в сложности, богатстве и глубине с человеческим интеллектом.
Наши сегодняшние механизмы по-прежнему устроены в миллионы раз проще человеческого мозга. Это одна из основных причин, по которым они все еще не приобрели подкупающих нас особенностей людей. У них нет нашей способности шутить, дурачиться, понимать ближних, адекватно реагировать на проявления эмоций или испытывать внутренние переживания. Это не побочные эффекты человеческого интеллекта или некая рассеянность. Это преимущества человеческого интеллекта. Для того чтобы создать организмы, которым будут свойственны столь же привлекательные и убедительные черты, потребуется технология такого же уровня сложности, какой присущ человеческому мозгу.
Возвращаясь к виртуальной реальности, давайте рассмотрим сценарий, включающий в себя прямую связь между человеческим мозгом и имплантатами, созданными на основе наноботов. Существует ряд различных технологий, действие которых уже демонстрировалось: они применялись для обеспечения связи в обоих направлениях между влажным аналоговым миром нейронов и цифровым миром электроники. Одна такая технология, которая называется нейротранзистором, обеспечивает двустороннюю связь. При возбуждении нейрона нейронный транзистор засекает этот электромагнитный импульс, и при этом осуществляется коммуникация между нейроном и электроникой. При помощи этой системы можно также возбудить нейрон или блокировать его возбуждение.
Для полного погружения в виртуальную реальность мы направим миллиарды этих наноботов с тем, чтобы они разместились у каждого нервного волокна, исходящего от всех наших органов чувств. Если вы захотите остаться в подлинной реальности, они будут просто следить на своих местах и ничего не делать. Если вы захотите перейти в виртуальную реальность, они начнут подавлять сигналы, поступающие от ваших настоящих органов чувств, и станут заменять их сигналами, которые вы бы получали, находясь в виртуальной среде.
При такой схеме мы будем получать виртуальную реальность изнутри, и она сможет воспроизводить все наши ощущения. Это будет коллективная среда, в которую можно будет войти и одному человеку, и многим людям. Посещение какого-нибудь веб-сайта будет означать попадание в среду виртуальной реальности, охватывающую все наши чувства, причем не только поступающие от пяти основных чувств, но и эмоции, сексуальное удовлетворение, юмор. На самом деле неврологические корреляты всех этих ощущений и эмоций, которые я обсуждаю в книге «Эпоха одухотворенных машин» («The Age of the Spiritual Machines»), уже существуют. (Вспомним: «вы станете гибридом ваших душ и электроники» – ред. «ПиП»)
К примеру, хирурги, проводившие операцию на открытом мозге девушки (она была в сознании), обнаружили, что стимуляция определенной точки мозга может заставить девушку смеяться. Хирурги подумали, что они просто привели в действие безусловный рефлекс. Однако потом они открыли, что стимулировали восприятие юмора: всякий раз, когда они воздействовали на эту точку, девушке все казалось смешным. «Вы, ребята, просто уморительны, когда стоите тут» - вот типичная фраза девушки во время стимуляции.
Используя имплантанты на основе наноботов, мы сможем усиливать или ослаблять наши эмоциональные реакции на различные переживания. Эта возможность лежит на поверхности. Кроме того, вы сможете иметь несколько тел для разных переживаний. Как сегодня люди передают свои изображения при помощи веб-камер, установленных у них в квартирах, так можно будет направлять на себя весь поток ощущений и даже эмоций из интернета, так что вы сможете, как в фильме «Быть Джоном Малковичем», переживать жизнь других людей.
В конечном итоге эти наноботы повысят уровень человеческого интеллекта и расширят наши способности и возможности во многих направлениях. Поскольку они общаются друг с другом беспроводным способом, они могут создавать новые нейронные соединения. Эти соединения могут расширить нашу память, когнитивные навыки и способности. Мы увеличим возможности человеческого интеллекта, расширив его сегодняшнюю схему обширных межнейронных соединений, а также посредством установления тесной связи с небиологическими формами интеллекта.
Кроме того, мы сможем загружать знания, то есть воспроизвести то, что сегодняшние машины в состоянии делать, а мы нет. Так, например, мы потратили несколько лет, обучая один исследовательский компьютер понимать человеческую речь. При этом мы использовали модели с биологическими прототипами: нейронные сети, модели Маркова, генетические алгоритмы, самоорганизующиеся структуры. Все эти модели основаны на нашем пока еще грубом представлении о самоорганизующихся системах в биологическом мире. Основная часть технического проекта предполагала запись голосов различных людей, говоривших на разных диалектах, объемом в несколько тысяч часов. Потом эта запись была представлена системе, и ей предложили распознать записанную речь. Система делала ошибки, и тогда мы ввели автоматическое регулирование и самоорганизацию, чтобы система лучше осмысляла то, что она выучила.
Спустя много месяцев такого обучения система существенно улучшила свою способность распознавать речь. Если вы хотите, чтобы ваш персональный компьютер умел понимать человеческую речь, вам не надо тратить годы, обучая его так же кропотливо, как нам приходится обучать каждого ребенка. Вы можете просто загрузить разработанные модели - это называется «загрузить программы». Так что машины могут делиться своими знаниями.
В нашем мозгу нет порта для быстрой загрузки информации. Но как только мы создадим небиологические аналоги наших нейронов, межнейронных соединений и нейротрансмиттерных уровней, где хранятся наши навыки и воспоминания, мы не упустим возможности создать и эквивалент загрузочного порта. Мы сможем загружать необходимые навыки с такой же легкостью, как Тринити загружает в свой мозг программу, позволяющую ей управлять вертолетом «Б-212».
Когда вы будете разговаривать с кем-нибудь в 2040 году, может статься так, что умственная деятельность вашего собеседника биологического происхождения будет являть собой гибрид биологического и электронного типов мышления, тесно сопряженных друг с другом. Вместо того чтобы ограничиваться всего лишь сотней триллионов соединений в нашем мозгу, как это происходит сейчас, мы сможем значительно превзойти этот уровень. Скорость нашего биологического мышления фиксирована: считается, что человек может производить 1026 вычислений в секунду, и эта биологически заданная цифра спонтанно не увеличится. Однако способности небиологического интеллекта возрастают экспоненциально. По моим расчетам, критическая точка наступит примерно в 2030-е годы; некоторые называют это точкой перехода.
Когда мы доберемся до 2050 года, основная часть нашего мышления, которое, на мой взгляд, все еще является синонимом человеческой цивилизации, будет иметь небиологический характер. Я не считаю смертельную схватку враждебного искусственного интеллекта с человеческим, нашедшую отражение в «Матрице», неизбежным сценарием развития событий. Небиологическая часть нашего мышления будет по-прежнему оставаться человеческой, потому что она будет производной от биологического мышления. Она будет разработана людьми или машинами, созданными людьми, или машинами, построенными на основе инженерного анализа человеческого мозга, либо загрузки человеческого мышления, либо на основе одного из многих других возможных вариантов тесного симбиоза между человеческим мышлением и таким мышлением машины, о котором мы сегодня даже помыслить не можем.
Обычная реакция на эти предположения: как все это мрачно, поскольку я «ставлю человечество на один уровень с машинами». Однако подобная реакция объясняется тем, что большинство людей имеет предубеждение против машин. Большая часть экспертов на самом деле не представляют, на что в конечном итоге способны машины, поскольку все машины, которые когда-либо «встречались» им, очень ограниченны по сравнению с людьми. Однако это не будет относиться к машинам года 2030-го или 2040-го. Когда машины станут производной человеческого интеллекта, которая к тому же в миллион раз способней человека, мы уже начнем уважать их, и явное различие между человеческим интеллектом и интеллектом машины исчезнет. Мы действительно сольемся с нашей технологией.
Мы уже идем по этому пути. Если машины во всем мире остановились бы, наша цивилизация могла бы впасть в коллапс от количества тяжелой утомительной работы сегодня. Совсем недавно, лет тридцать назад, этого бы не случилось. В 2040 году человеческий интеллект и интеллект машины будут очень тесно спаяны. Мы станем способны испытывать куда более сильные ощущения самого различного рода. Мы сможем «воссоздавать мир», созданный нашим воображением, и проникать в разные среды, настолько же изумительные, как в «Матрице». Остается только надеяться, что этот мир будет больше открыт для творческого самовыражения человека и его переживаний.
__________________
Дело не в тебе
Адрес поста | Один пост | Сообщить модератору | IP: Logged
![[CPR]-AL.exe в оффлайне](images/off.gif)
19.05.2005 10:22
![Click here to Send [CPR]-AL.exe a Private Message](images/sendpm.gif){kind=small}
![Домашняя страница [CPR]-AL.exe](images/home.gif){kind=small}
![Найти еще сообщения от [CPR]-AL.exe](images/find.gif){kind=small}
![Добавить [CPR]-AL.exe в Ваш список друзей](images/buddy.gif){kind=small}
