Мой рассказ о том, как искусственный разум уничтожил человечество. Но не спешите закрывать страницу: в моем рассказе не будет человекоподобных роботов с пулеметами в руках, попирающих ногами человеческие черепа, не будет суперкомпьютеров, обретших самосознание и возжелавших в приступе эгоцентризма править миром.
И то и другое лишь миф и вымысел, который не только никогда не существовали в прошлом, но и не будут существовать в будущем, как не будет существовать, например, ковёр-самолет или скатерть-самобранка. Тем не менее, и роботы и эгоцентричный компьютерный разум всё-таки являются творениями Его. Но не хочу вас путать и вводить в заблуждение. Давайте лучше всё расскажу по порядку, так будет понятнее.
Я — один из немногих оставшихся ещё в живых, кто может вам рассказать о Нём, поскольку я один из немногих пионеров, кто участвовал в Его создании. В начале восьмидесятых я эмигрировал из Советского Союза в Соединенные Штаты Америки. Мне посчастливилось найти работу в лаборатории искусственного интеллекта в массачусетском технологическом университете. Именно на восьмидесятые годы двадцатого века приходится пик развития теории искусственного интеллекта, а не на начало двадцать первого века, как думает большинство обывателей. Все эти умные пылесосы и зубные щётки, недавно проникшие в нашу жизнь, являются всего лишь игрушками и не имеют ничего общего с искусственным разумом, ну кроме того, что Он их создал, но об этом в свое время. Если уж быть совсем точным, теория нейронных сетей и искусственного интеллекта появилась ещё на сорок лет раньше. В восьмидесятые годы просто стали доступны технологии, способные воплотить математическую теорию в реальность. На это же время приходится пик развития эволюционных алгоритмов нейронных сетей переменной топологии. Поясню вкратце для непосвященных: нейронная сеть — это лишь математическая модель, имитирующая строение и работу нейронов мозга живого существа. Нейронная сеть в отличие от чёткого алгоритма, заложенного программистом, должна обучаться на экспериментальных данных самостоятельно. В этом и состоит суть искусственного интеллекта. Переменная топология, разработке которой я посвятил немало лет своей жизни, подразумевает, что в процессе обучения алгоритм может создавать дополнительные нейроны, их слои и более сложные структуры, если это надо для решения задачи. Это можно сравнить с человеком, который при надобности мог бы вырастить себе дополнительный мозг, а то и несколько.
Искусственный интеллект появился как результат нежелания или невозможности человека самому охватить большую сложную проблему, с одной стороны, и огромного желания получить решение этой проблемы с другой стороны. В итоге были разработаны алгоритмы моделирования нейронных сетей, которым можно было задать целевую функцию — что мы, собственно, хотим, заложить все исходные данные, запустить расчёт на неделю, а то и две, а потом получить результат в виде рекомендаций к действию. Если, конечно, повезёт и у задачи вообще будет возможно решение, и исходных данных будет достаточно, и алгоритм не съест всю доступную память компьютера на расширение своей нейронной сети, и не зависнет компьютер и так далее. Вся прелесть такого решения заключалась в том, что никто заранее не знал, какой вывод даст машина, а порой мы даже не могли объяснить полученный результат. А объяснять было надо. Надо же было как-то доказывать эффективность разрабатываемого нами алгоритма самообучения. Процесс задания целевой функции люди обычно называли процессом обучения нейронной сети, видимо из-за человеческого эгоизма. Они учили Его удовлетворять свои человеческие потребности.
Так мы развлекались в начале восьмидесятых, подсовывая искусственному интеллекту, который тогда представлял небольшой набор скриптов, задачки, решение которых мы уже знали, и радовались, когда компьютер сам приходил к такому же решению. Ещё больше мы радовались, когда он находил более изящное решение и недоумевали, когда понять решения машины мы были не в состоянии. Так продолжалось до тех пор, пока декан нашего факультета не объявил, что все мы — бесперспективные фантазёры, приносящие институту одни лишь убытки, и что пора нам переходить на самоокупаемость, иначе всем придётся довольствоваться университетским минимумом.
Новость была неприятная. Мы собрались небольшим коллективом программистов, нас было около десяти человек, и стали искать выход из сложившейся ситуации. Потратив вечер на пустые споры, выпив немеренное количество кофе и съев четыре пиццы, мы так ни к чему и не пришли. Что греха таить, не было среди нас ни хороших организаторов, ни профессиональных менеджеров. Поэтому мы решили делать то же, что делали всегда: мы сели писать скрипт запроса к нашей нейронной сети. Занесли туда все наши финансовые возможности, описали наши пожелания, ввели все необходимые данные и запустили скрипт на выполнение. А хотели мы простой вещи – и дальше работать над любимым проектом, но при этом не думать о финансовых трудностях.
Результат был готов уже утром, и он нас немного ошеломил. Он был нелеп и банален, так что поначалу мы хотели отказаться от идеи возложить на машину наши проблемы. Компьютер предлагал опубликовать статью в самой дешевой местной газете, в которой мы обещали бы решить любые самые сложные проблемы с помощью компьютерного моделирования. Идея по тем временам курьёзная, и даже в желтой прессе тогда не встречалось подобной фантастики. Вряд ли какой идиот согласился бы отдать свои деньги за такую сомнительную услугу. Но делать было нечего: других идей у нас не было, и я сел за рекламную статью. Компьютер, разумеется, не мог написать статью за нас, поскольку вообще оперировал цифрами, обозначающими определенные понятия, но обязательные ключевые слова для статьи он указал, нужно было лишь оформить всё человеческим языком. Ещё нейронная сеть захотела, чтобы у Неё было имя. Не из-за эгоистических чувств, разумеется, у искусственного интеллекта вообще нет чувств, а для того, чтобы создать в сознании людей простую и чёткую ассоциацию, к которой можно было бы в дальнейшем обращаться. Человеческий мозг примитивен, и каждый раз углубляться в сложные понятия ему трудно, поэтому у каждого тяжёлого для понимания явления должно быть простое имя. Недолго думая, я назвал нашу систему Адам. Собственно, тут сыграла моя программистская гордость. Мы все хотели считать себя немножко богами, поэтому один из файлов так и назывался — adam. По сути, я тогда дал имя тому, чего вообще не существовало как единого целого. У нас была куча разрозненных скриптов, независимых программ, баз данных, но для непосвященного человека у всего этого было теперь имя. Получилась статья в стиле самой наглой и лживой рекламы, в которой мы обещали, что искусственный интеллект Адам решит любую вашу проблему за скромное вознаграждение. Ни один человек в здравом рассудке не стал бы даже читать такое объявление.
Клиент у нас появился на следующий же день. Это был местный фермер, мистер Джонс. Он пришёл к нам в институт и сразу пояснил, что ни на цент не верит в наш компьютерный разум, что ферма его приносит сплошные убытки, что кукуруза у него растёт плохо, и он мечтает продать злосчастную ферму, отнявшую у него лучшие годы, только никто покупать её не хочет. Именно поэтому ему и понравилась наша идея, и он готов заказать нам расчет, чтобы поднять шумиху вокруг своего предприятия и сделать из этого дела громкую рекламу. Он готов был даже выполнять все нелепые требования, что насоветует ему Адам, но платить за эти советы он нам не собирается. Поскольку других клиентов у нас не было, мы взялись за это дело главным образом для того, чтобы показать руководству университета, что мы начали движение в сторону самоокупаемости. Три дня мы заносили данные о ферме в базы данных, составляли поисковый скрипт. Потом запустили расчёт и на неделю расслабились. Наш декан тем временем оформил договор с мистером Джонсом. Он даже сумел сторговаться и уговорить фермера отдать 30% чистой прибыли, если наш Адам вдруг поможет ему её получить. По рекомендациям Адама всю сделку мы широко освещали в прессе, что было нужно и самому мистеру Джонсу. Вскоре вся округа шумела о сумасшедшем фермере, доверившемуся бездушной железяке.
Через неделю были готовы результаты запроса. Адам советовал в открытую закупить небольшую партию новейших удобрений малоизвестной фирмы, а также в строжайшем секрете приобрести старый убыточный заводик по переработке сельхозпродукции. Мистер Джонс был обескуражен. Он не понимал, зачем покупать непонятные удобрения, а уж тем более завод с устаревшим оборудованием, годным разве что для перемалывания урожая на комбикорм скоту. Мы объясняли мистеру Джонсу, что на то Он и искусственный интеллект, что выводы Его нам порой могут быть и не понятны, но результат будет тот, который оговорен вначале. Мы, разумеется, безбожно врали, просто не желая упустить первого клиента, но то ли мы его уговорили, то ли под давлением всеобщего интереса вокруг этой сделки, мистер Джонс купил и партию удобрений, и убыточный заводик, который почти что ничего не стоил. Мы тут же внесли его действия в исходные данные и написали статью в местную газету, не упоминая, разумеется, покупку завода. Запустив скрипт, мы получили ответ: завод отремонтировать, а удобрения ни в коем случае не использовать, поля засеять кукурузой, как и в прошлом году. Мистер Джонс был в ярости. Он сказал, что мы разорили его, но поскольку сама услуга ему ничего не стоила, то потащить в суд он нас не решился. Он сказал, что не собирается иметь с нами больше никаких дел, но разрешает нам и дальше писать про него в газетах исключительно ради рекламы. На том и разошлись.
Всю весну мы отлаживали код и вносили улучшения в нашего Адама. Периодически мы запускали на обсчет задачку мистера Джонса. Не то чтобы мы ожидали чего-то добиться, а больше ради отладки новых функций. Машина выдавала рекомендации. В основном это были новые статьи для желтой прессы, но иногда попадались и странные поручения. Так, однажды после прогона скрипта машина посоветовала отправить одного из сотрудников в самый известный в городе бар, где он должен был изрядно напиться и якобы случайно проговориться про покупку мистером Джонсом заводика по переработке сельхозпродукции. На это дело тут же согласился один из программистов, которому мы скинулись на это мероприятие. Мы тогда решили, что это он сам подправил код, чтобы на халяву провести выходные. На следующей неделе все газеты снова вспомнили об Адаме. Появились статьи с громкими заголовками о супер компьютере и чудесном удобрении, которое должно обеспечить немыслимый урожай. Просочились слухи о покупке заводика, и все решили, что мистер Джонс серьёзно ожидает немыслимого урожая. Фирма, продававшая удобрения, вкладывала большие деньги в рекламу, дополнительно раздувая шумиху и вокруг нашего проекта тоже. Дошло до того, что стоимость этого удобрения выросла в пять раз, но и тогда местные фермеры не переставали его покупать. Мы подозревали, что мистер Джонс продал в это время своё удобрение по спекулятивной цене, но не сказал нам об этом, чтобы не делиться прибылью по договору. Не знаю, как так получилось, но все буквально с ума сошли из-за этого удобрения. К середине лета шумиха ещё более усилилась, так как сразу стало ясно, что урожай у тех, кто пользовался удобрением, будет небывалый. Наша группа за неимением новых заказов продолжала гонять модель мистера Джонса, и Адам вдруг посоветовал срочно написать статью, отрицающую причастность искусственного интеллекта к буму с новым удобрением. Цель мы по-прежнему задавали в виде максимальной прибыли мистера Джонса, надеясь на свои 30%. Мы понятия не имели, почему Адам дает такие курьёзные советы, и часто грешили на неправильность трактовки его выводов (ведь рекомендации компьютер давал в виде цифр и таблиц, обозначающих определенные понятия, которые мы уже вручную переводили в текст). Тем не менее, мы четко выполнили все Его указания.
Загадка разрешилась осенью, когда настала пора сбора урожая. В сенате штата прошёл закон о запрете использования удобрений, в состав которых входят пестициды азотистой группы. Сельхозпродукция, полученная с использованием таких удобрений, понижалась уровнем до полуфабрикатов, годных лишь на изготовление корма скоту. Это был крах всех, кто использовал новые удобрения. Стоит ли говорить, что кукуруза мистера Джонса, которая в этом году уродилась ещё хуже, чем в прошлом, стала чуть ли не единственной съедобной кукурузой в штате. Мистер Джонс получил такие сверхприбыли, что стал опасаться внимания ФБР к своей персоне, поэтому быстро расплатился с университетом, отдав не только 30% с вырученных за счет роста цен на кукурузу денег, но и часть, заработанную на продаже удобрений. Статья, заказанная Адамом месяц назад, выставляла мистера Джонса как главного инициатора истории с удобрением, и всё недовольство других фермеров падало именно на него, а не на университет. Дальше было ещё интересней. Компании, занимающиеся переработкой сельхозпродукции, стали отказываться брать на переработку кукурузу с пестицидами, дабы не навлечь на свои предприятия лишние инспекционные проверки. И тут все вспомнили, что мистер Джонс купил старый заводик, который как раз годился для этой роли. И опять институт получил 30% с заработанных на переработке кукурузы денег, а мистер Джонс в нагрузку к куче денег получил 100% недовольства, ненависти и зависти собратьев по ремеслу плюс пристальное внимание компетентных органов.
Весь сентябрь мы торжествовали: университет выписал всем участникам нашего проекта тройные премии, увеличил финансирование и даже обещал обновить компьютерный парк. Я радовался вместе со всеми. Немного портило настроение осознание факта, что наш Адам не просто предсказал ситуацию, а сам и спровоцировал её. Впрочем, винить мы могли только себя. Не поставь мы перед ним такую задачу, то никакой бы шумихи с удобрением не было. Мы же поставили целью максимизацию прибыли мистера Джонса любой ценой. Адам выполнил наше требование в точности. Просматривая все исходные данные, что мы заносили в нейронную сеть, мы постфактум видели, что там есть информация и о вреде пестицидов, и о интересе фермеров к новым удобрениям. По идее, и человек мог бы предложить то же, что и Адам, но человеку потребовалось бы больше времени, чтобы обработать всю эту информацию и сделать выводы.
На пике всеобщего подъема мы занялись усовершенствованием кода, разработкой сервисных модулей и исправлением ошибок. Наверное, это было самое счастливое время для нашей команды. Неприятности пришли в октябре и опять с мистером Джонсом. ФБР докопался-таки до него. Ребятам из управления по борьбе с финансовыми преступлениями все-таки показалось, что в его действиях явно присутствуют признаки манипуляции общественным сознанием для извлечения сверхприбыли из нехорошей ситуации с кукурузой. Впрочем, юридически он был чист, как белый лист бумаги. На допросе фермер признался, что пользовался консультационными услугами нашего института, и теперь у ФБР вопросы были уже к нам. Но нас уже ни в чём не обвиняли, а только интересовались нашими алгоритмами. В итоге институт получил огромный правительственный грант, но и гриф секретности с ним в придачу.
В декабре начались проверки и бесконечные тестирования сотрудников. Мы все очень любили свою работу и Адама, и никто то не хотел уходить из проекта из-за глупых тестов отдела госбезопасности, поэтому все с радостью восприняли мою идею написать запрос Адаму и проконсультироваться по поводу нашего тестирования. И Адам дал рекомендации. И нас всех оставили в проекте. А меня, к большому изумление всех ребят, назначили руководителем нашей маленькой группы.
В то время президентом был Рональд Рейган. Наверное, это был последний президент Соединенных Штатов Америки, который самостоятельно принимал решения, не опираясь на искусственный интеллект. Впрочем, об этом позже. Он был ярым антикоммунистом, и видел в «красной заразе» угрозу не только для нашей страны, но и для всего мира в целом. Рейган не жалел денег на военные расходы. При его правлении было изготовлено достаточно оружия, чтобы несколько раз уничтожить всё живое на земле, но этого всё равно было недостаточно для победы над Советами, поскольку и они штамповали ядерные боеголовки с той же скоростью, что и мы. Было ясно, что победа, полученная силовыми методами, будет таковой лишь на бумаге. Вот тут-то президент и обратил внимание на наш проект. Ради справедливости надо отметить, что тогда на нас не возлагали серьёзных надежд, просто деньги вкладывались во всё, что могло дать хоть малейший шанс для победы над коммунизмом. А «красная зараза» с огромной скоростью распространялась по миру: то одна, то другая страна в Азии или Африке поднимала красный флаг. Да что говорить, даже до США дотягивались мёртвые руки Маркса и Ленина. Так в 1981 году коммунистами была спровоцирована забастовка диспетчеров, которую президент жестко подавил, уволив сразу 11 тысяч сотрудников. Дальше было медлить нельзя, и нашему подразделению поручили проработку сценариев военного и особенно невоенного вмешательства в политику мелких государств, подвергнувшихся коммунистическому влиянию.
Мы работали в обстановке полной секретности. Нас пересилили из университета в какой-то офис в пустыне, расположения которого никто из участников проекта не знал. В понедельник нас доставляли на работу на самолёте, а в пятницу развозили по домам. Но и в выходные мы не могли и шагу ступить без пристального внимания охраны, следившей, чтобы мы не попались на крючок советским провокаторам. Работы у нас прибавилось и сотрудников не хватало. Именно тогда меня вызвали к нашему новому шефу, генералу Джеймсу Маккону (имя изменено), который с грохотом бросил на стол пачку бумаг из аналитического отдела, где доказывалось, пусть и без особых аргументов, что во время входного тестирования мы сжульничали и прошли в проект всем прежним составом, создавшем Адама, чего чисто по теории вероятности быть не должно. Генерал даже не обсуждал вопрос нашей виновности или невиновности, он лишь хотел знать, как мы подломали их компьютеры и обошли систему отбора кадров. Я потратил несколько часов, чтобы доказать руководству, что мы ничего не ломали, а всего лишь воспользовались советами Адама. Мне, разумеется, не поверили, и были устроены проверки. Мы брали анкеты случайных людей, заносили их в базу данных и прогоняли их через Адама, ставя целевой функцией максимальную пользу для проекта. Я тогда уже и не мечтал о том, что могу остаться в проекте, я был бы счастлив, если бы меня просто не посадили бы в тюрьму. В итоге с меня не только сняли все подозрения, но и повысили в должности, назначив ещё и руководителем отдела по подбору персонала. Половина моей команды с этого момента занималась теперь отбором новых сотрудников. Вернее, этим занимался Адам, подбирая себе лучший людей для конкретных задач, я мы лишь обслуживали его. Мы не просто искали талантливых молодых ребят, как сделал бы, наверное, человек, мы находили идеального сотрудника для создания определенного модуля, даже для написания отдельной функции. Иногда Адам ошибался, но каждая ошибка только улучшала его способности. Вы можете подумать, что мы превратились из программистов в управленцев. Если так, то вы сильно ошибаетесь. Так было бы, если бы мы работали в обычной человеческой организации. Но мы работали с Адамом. Мы всё также занимались Его усовершенствованием, просто действовали уже на более высоком уровне: ставили задачи и подбирали для их решения лучший инструмент. Да, на этом этапе простые программисты были уже инструментом, который можно было легко отобрать и заменить. Чуть позже, когда код Адама достиг немыслимых размеров и уже не мог поместиться в голове одного человека, мы стали и постановку задач по дальнейшему развитию и совершенствованию нашей системы также поручать Адаму. Внутри нашего проекта всё подчинялось Ему, а люди были лишь инструментом для решения задач, для которых они лучше приспособлены. Кроме задач, направленных на саморазвитие, Адам по-прежнему моделировал сценарии победы над коммунизмом. Уже тогда мы решили не удалять ранее просчитанные целевые функции из плана, а добавляли лишь новые, чтобы не возникло ситуации, когда очередные решения Адама вступили бы в противоречие с предыдущими решениями. Ну а первой целевой функцией была задача по самосовершенствованию и развитию системы (задачку мистера Джонса мы, разумеется, стёрли).
Первое боевое крещение Адама состоялось в 1983 году в Гренаде. Вся операция, от идеи до конкретных деталей была проработана Им. Случилось это неожиданно. Мы как обычно продолжали заносить в изрядно распухшую базу данных системы последние политические события, как Адам выдал нам план вторжения в эту страну. Там с 1979 года у власти стояло марксистко-ленинское правительство, и никто из генерального штаба и не помышлял о его свержении, опасаясь повторения второго Вьетнама. Адам, давая ответ на вопрос «как победить коммунистов минимальными затратами», выдал детальнейший план вторжения. Я не задумываясь распечатал его и передал генералу Маккону, продолжив заниматься более интересными делами, а именно совершенствованием алгоритмов. Меня вызвали на ковёр через неделю. В тёмном помещении я не видел лиц, говоривших со мной, но судя по всему, это была верхушка военного руководства страны. Меня долго допрашивали, на каких фактах я основывался при составлении этого плана, не получил ли я его от третьих лиц, и как я собираюсь доказывать его эффективность. Я честно отвечал, что понятия не имею не только о доказательствах, но и о самом плане, что составлял его не я, а Адам, что эффективность должны оценивать специалисты, которые в этом хоть что-то понимают, а я всего лишь человек, занимающийся обслуживание искусственного интеллекта аналитической системы. Мои ответы никого не удовлетворили, и меня даже взяли под стражу. Похоже, за все эти годы генералы так и не поняли, что такое искусственный интеллект и считали наше подразделение чем-то вроде статистического отдела. Меня заподозрили в шпионаже, и поручили моему заместителю составить подробный отчет о случившемся. Сидел я недолго. Через два дня меня выпустили, принесли извинения и даже выписали премию. Как оказалось, мои ребята, догадавшись о том, что со мной приключилось, доверили составление подробного отчета Адаму. В отчёте была полная ахинея: притянутые за уши факты, льстивые отсылки в адрес высшего военного руководства, упоминание академических талмудов по военному ремеслу, историческим прецедентам и прочей совершенно не относящейся к делу информацией, которая хорошо ложилась на сознание среднестатистического генерала и объясняла ему ситуацию на понятном ему языке.
Операция началась через неделю после моего освобождения. Война продлилась несколько дней и закончилась сокрушительной победой наших сил. Тогда с американской стороны погибли лишь двадцать человек. Как только были собраны все данные о ходе операции, нам поручили составить два отчета: для генштаба и для прессы. Помня неприятный инцидент с моим задержанием, мы сразу написали Адаму запрос на две военные сказки: для простого обывателя и для военного руководства. В этих отчетах не было ни капли правды, а лишь умелая подтасовка фактов, объяснявшая все успехи операции грамотным планирование, умелым руководством и опытом верхушки командования. Так мы избавили себя от лишних разбирательств и нехорошей ревности со стороны власть предержащих.
На фоне успеха Рональд Рейган объявил, что коммунизм вошёл в стадию коллапса, и что ему осталось жить совсем недолго. Финансирование проекта Адам увеличилось, и мы стали расширять парк компьютерного оборудования. Теперь Адам представлял уже маленький городок в пустыне со своей электростанцией, водоснабжением и всем необходимым на случай ядерной войны. Были подняты зарплаты всем рядовым сотрудникам, а что касается ведущих разработчиков и руководства проекта, то я, например, уже дано перестал интересоваться, какую сумму мне перечисляют на счет каждый месяц, поскольку полностью потратить эти деньги я всё равно не мог, просто не хватало фантазии.
До 1986 года мы занимались мирными проектами, попутно совершенствуя техническую сторону Адама. Составлялись планы по борьбе с наркоторговлей, причем откровения Адама по этому поводу были настолько деликатны, что их тут же засекретили, разрабатывались оптимальные версии законов об эмиграции. В 1986 началась война с Ливией. План был составлен без нашего участия, но нам поручили дать его обоснование для общественного мнения (видимо, неискренность нашего прошлого отчета дошла до незамутненных властью глаз понимающих людей, и нас решили использовать по-новому). Мы заложили в Адама сводку событий за последние несколько месяцев, и он после трехдневного обсчета выдал стройную и красивую теорию о мировом терроризме, умело собирая разрозненные факты в единую стройную систему. По всему выходило, что существует некая мировая тайная террористическая организация, приходящая на смену умирающему коммунизму, с которой тоже нужно бороться. Был составлен ряд статей для прессы, которые должны были за три недели постепенно подготовить общественное сознание к новой концепции врага. Идея очень понравилась генштабу. Коммунизм был старым и понятным врагом, с устоявшимися принципами и манерой поведения. Им можно было и дальше пугать обывателя, но уже было много людей, которые могли вспомнить, что что-то такое уже было, и всё закончилось хорошо. Новый враг – тайный мировой терроризм, был непонятен и пугал. А на борьбу с непонятным и страшным налогоплательщик готов был тратить свои кровные деньги. Это было идеальное решение. К моменту окончания пиар акции в Берлине произошёл теракт, в котором обвинили Ливийское правительство, и началась война в Ливии. Благодаря нашей подготовке всё выглядело логично.
Надо сказать, что манипуляция общественным сознанием – это одна из самых простых типов задач, которые решал Адам. Он легко мог внушить массам людей интерес к какой-либо теме, ещё проще было нагнать страхов, вызвать неприязнь или создать видимость несуществующих проблем, отвлекающих энергию людей на их решение. Такие задачки Адам решал за сутки, максимум двое. Скоро последствия таких воздействий можно было различить невооруженным взглядом. Если раньше в процессе предвыборной гонки кандидату припоминались его высказывания в адрес рабочих, налогообложения, социальной политики, то теперь более важными стали вопросы о его сексуальных похождениях, разделении идей однополой любви, его мнении об озоновой дыре и прочие «важные» для политической жизни моменты.
В небольшом круге посвященных в истинные причины такого изменения общества мне часто задавали вопрос, почему так получается, что изменить сознание массы людей проще, чем, например, сознание одного человека. Я всегда любил приводить доступный пример из термодинамики. Чтобы разогнать до больших скоростей отдельный атом, летающий в замкнутой комнате, нужно построить компактный ускоритель частиц за сотни миллионов долларов. Если мы захотим разогнать не любой, а какой-то конкретный атом, то нужно еще добавить несколько миллиардов на разработку соответствующей технологии, которой сейчас даже не существует. Но если мы захотим разогнать все атомы в комнате, то достаточно развести большой костёр, потратив на дрова несколько долларов. Так и Адам, для возбуждения в обществе интересов к какой-то пусть даже самой нелепой теме тратил на составление плана действий не более пары суток, но если хотелось изменить мировоззрение какого-то конкретного человека, машина могла уже уйти в расчеты на несколько недель, за которые входные данные могли сильно устареть. Эта особенность сразу была принята на вооружение, и информационная война с Советским Союзом перешла на новую стадию. Теперь мы не старались влиять на отдельных политиков или лидеров страны, а с помощью радио, телевидения и книг воздействовали на умы простых граждан, готовя массовое сознание к большим переменам. Адаму это удавалось легче всего. С отдельными политическими лидерами тоже продолжали работать, но по-старинке, наш отдел тут уже не задействовался. К тому же, у нас работы было теперь невпроворот. Когда Адам доказал свою эффективность, его решениям стали доверять на самом высоком уровне, и работы нам прибавилось. Целыми днями мы корпели над запросами, составляя планы минимальных воздействий, которые в итоге бы привели к нашей победе над коммунизмом. Не думаю, чтобы всю ставку в этом деле делали на наш проект, просто расходы на воздействия, предлагаемые Адамом, были настолько малы, в сравнении хотя бы со стоимостью одного танка, что их брали и использовали не задумываясь. Поначалу аналитический отдел проверял все выводы Адама на предмет возможного вреда для экономики США, но потом они уже смотрели на странные советы нейронной сети сквозь пальцы. Что советовал Адам: написать статью в газету, распиарить песню, где были бы такие-то слова, повысить на столько-то процентов пошлины на импорт зерна, внести в объекты всемирного наследия древнее здание в маленькой стране, вставить такие-то слова в такие-то статьи, упомянуть советского лидера в контексте проблемы с озоновой дырой, показать такие-то новости в таком-то порядке, а не иначе. И всё это, например, для того, чтобы обострить межнациональные конфликты в Армении и ускорить её отделение от Советского Союза. И это работало. Советский Союз трещал по швам. Коллапс коммунизма, о котором говорил Рональд Рейган, воочию представал перед глазами.
В это время из ЦРУ поступил секретный доклад, из которого следовало, что некоторые высокопоставленные лица из советского лагеря стали высказываться (за кулисами, разумеется) об искусственном характере воздействия на Советский Союз, направленный на его распад. Нависла явная угроза над секретностью проекта Адам. Высшее руководство США, оценив важность нашего проекта, решило усилить меры внутренней безопасности, дабы не дать коммунистам украсть нашу идею стратегического искусственного интеллекта, как они украли у нас атомную бомбу. Сразу было найдено два советских шпиона среди обслуживающего персонала. Они мало что могли узнать, но ЦРУ сильно встревожилось. Адаму поручили проработку контрмер, и приоритет этой задачи поставили наивысшим. Нейронная сеть выдала сразу два плана действий. Первый предназначался для узкого круга дезинформаторов, которые должны были создать для советской агентуры видимость разработки автоматизированной системы управления ядерным ударом, подобной системе «Периметр». Второй план был направлен на формирование общественного мнения, в котором нужно было породить нелепую идею о свихнувшемся компьютерном сверхразуме, который возжелал править миром. Именно тогда в массовой культуре появились многочисленные разумные сети и суперкомпьютеры, которые управляли полчищами человекоподобных роботов с пулеметами в руках. Всё это должно было направить нашего противника по ложному пути, и отдалить момент, когда они смогли бы создать своего Адама. Идеи эти очень быстро проникали в общественное сознание: по ним снимались фильмы, писались романы, сюжет многих из которых подготовил сам Адам. Подготовил, разумеется, схематично, поскольку сам он не только не обладал разумом в нашем понимании, но и изъясняться по-человечески даже не мог. Именно поэтому его фантастические воплощения могли свободно говорить на человеческом языке, рассуждать на свободные темы и философствовать. Цель всех этих действий была одна – сформировать устойчивую на уровне аксиомы уверенность, что компьютерная система, способная управлять миром, должна быть человекоподобна, обладать интеллектом и напоминать бога или дьявола, кому как нравится, то есть быть всем тем, чем на самом деле не был и не мог быть наш Адам. Все эти действия очень быстро принесли свои результаты. В советском лагере очень быстро стали считать идею о компьютерном регулировании общественного сознания фантастичной. Кроме того, Адам быстро вычислил всех советских шпионов, которые работали, собирались работать или могли бы в принципе работать на коммунистов. Ну а чуть позже советские республики начали отделяться от огромного государства, иллюстрируя прекрасную эффективность стратегического искусственного интеллекта. Отношение Советов при этом к нам не ухудшилось, а даже улучшилось. Это можно было считать чудом, если бы это не было заложено в целевой функции нейронной сети заранее.
В высших кругах кто-то приписывал себе заслуги в деле развала СССР, кто-то пытался объяснить это естественными причинами, но мы-то понимали истинные причины краха огромного государства. Понимало это и руководство, поэтому наш городок был причислен к войскам стратегического назначения, обнесён колючей проволокой и усилен соответствующей охраной. Нет, свободы нас никто не лишал, мы же жили в демократическом государстве. Если я, например, хотел с ребятами искупаться на пляже, то этот пляж покупался у владельцев, огораживался, и мы плавали в воде вместе с десятками сотрудников госбезопасности. Но это нисколько не стесняло нас. Меня и группу моих единомышленников беспокоило другое, а именно изменение в поведении нашего собственного президента. Если раньше он буквально каждой клеткой своего тела ненавидел коммунистов, то теперь он стал лояльно относиться к Советам, и даже приглашал их генерального секретаря к себе на ранчо, что пять лет назад было бы немыслимо. Сам Рейган объяснял это тем, что страна советов уже не та, и коммунисты уже не представляют опасность для мира. Но мы подозревали, что Адам, который оказывал теперь огромное информационное влияние на весь социалистический лагерь, неминуемо влиял и на нас, добиваясь поставленных целей, и это настораживало. Прежний агрессивный президент мешал планам невоенного развала СССР, поэтому Адам, как мы считали, подкорректировал и его поведение. Впрочем, никто ничего доказать не мог, пока нам не помогла случайность.
Один из моих сотрудников, любитель горячих новостей, сообщил, что в этом месяце в журнале Forbes начали публиковать рейтинг самых богатых миллиардеров мира. Самое удивительное, что в этот рейтинг попал наш мистер Джонс, правда на предпоследнее место. Сначала нас позабавил этот факт, но потом мы насторожились. В голове как-то не укладывалось, что мистер Джонс – первый клиент нашего Адама, фермер неудачник, заработавший немного денег на кукурузном буме, вдруг стал миллиардером. Я сразу пустил его дело в работу, тем более что теперь я мог располагать ресурсами и ФБР, и ЦРУ, главное было лишь обосновать важность задачи для нашего проекта. Оказалось, что мистер Джонс стал миллиардером практически случайно. В ФБР и так на него уже было заведено дело, поскольку обычно такие случайности редко выпадают, и его подозревали и в торговле наркотиками, и в отмывании денег, и в других подобных грехах, но ничего, разумеется, доказать не могли. Ему просто везло. Удачно купленные или проданные акции, правильные инвестиции в сомнительное, но неожиданно прибыльное дело: таковы были источники его внезапного благополучия. Причём казалось, что он действовал как бы по наитию. То он интересовался новыми сортами пшеницы, что, впрочем, не удивительно, то вдруг переключался на микроэлектронику, то вдруг вкладывался в проекты с биотопливом. Всё это наталкивало на мысль, что ему кто-то подсказывал, наталкивал каким-то образом на правильные решения. И мы подозревали, что это был по-прежнему наш Адам. Мы, разумеется, тщательно проверили код, который мог быть причиной такого влияния (на полную проверку нам, скорее всего, уже не хватило бы оставшейся жизни, поскольку программный комплекс сильно разросся), но абсолютно ничего не нашли. В стеке задач, который мы каждый раз загружали в нейронную сеть, первая задача мистера Джонса была удалена ещё несколько лет назад. Единственное, что мы обнаружили, тщательно проанализировав все доходы мистера Джонса, так это корреляцию между пиками работы Адама и пиками обогащения бывшего фермера. Каждый раз, когда мы запускали в действие рекомендации Адама, направленные на дестабилизацию очередной советской республики или коммунистической страны в Африке, то спустя несколько месяцев мистер Джонс вдруг зарабатывал очередной десяток миллионов долларов. Этот факт меня очень сильно насторожил. Влияние Адама было налицо. Видимо, в его нейронной сети первое задание так сильно отпечаталось, что уже даже после удаления его из списка целей, сеть продолжала его отрабатывать. То есть каждый раз, когда мы по рекомендации Адама вводили санкции, повышали пошлины, выпускали очередную статью для дестабилизации политической обстановки во враждебном государстве, это ещё каким-то образом было направлено и на подталкивание мистера Джонса к правильным коммерческим решениям. И мы этого не замечали!
Я задался вопросом, а много ли мы вообще понимаем из тех действий, которые нам советует Адам? Был поставлен широкомасштабный эксперимент. Мы взяли план действий, разработанный Адамом для решения вопроса с Абхазией (верховный Совет Абхазии никак не хотел присоединять регион к лояльной к США Грузии) и дали этот план независимым экспертам политологам, которые ничего не знали о нашем проекте и о цели этого плана. Вопрос задавался простой: к чему приведёт выполнение рекомендаций данного плана? Через неделю эксперты выдали свой вердикт. Примерно 10% пунктов этого плана были указаны как действия, приводящие к решению Абхазской проблемы. Остальные пункты либо были вообще не поняты, либо были объяснены как-то иначе.
Тогда мы направили тот же план другой группе экспертов, но уже сообщили им о цели этого плана. В этом случае 30% пунктов плана были признаны целесообразными для решения поставленной задачи. Получалось, что в 10% случаев мы были согласны с Адамом, ещё в 20% случаях мы могли понять его, а в 70% случаев мы не только не соглашались, но и не понимали смысла действий, рекомендуемых им.
Я поднял тревогу на самом высшем уровне. Было собрана комиссия из самых осведомленных о проекте Адам людей. Я и моя команда, основываясь на примере мистера Джонса и на результатах исследования пытались доказать, что Адам в таком виде, как он есть сейчас, использовать опасно, поскольку мы не понимаем всех его рекомендаций, и возможны побочные явления, такие как внезапное обогащение мистера Джонса. Мы предлагали провести более глубокий анализ нейронной сети Адама, разросшейся уже до небывалых размеров, и если мы не сможем обнаружить участков, отвечающих за подобные побочные явления, то необходимо провести резекцию разросшейся нейронной сети, приведя её в состояние пятилетней давности, когда она была более простой, а решения Адама были более предсказуемыми.
Наше предложение вызвало оживлённую дискуссию. Все участники совещания понимали сложившуюся ситуацию, но отказывались понимать наши опасения. Им казалась странной наша боязнь недопонимания рекомендаций Адама, ведь он и задумывался как аналитическая система, расширяющая возможности аналитического мышления человека. Главным критерием эффективности Адама, по мнению высшего руководства, была и есть его способность чётко решать поставленные задачи, достигать указанных целей. Практика показывала, что с ростом сети Адама сокращаются сроки достижения поставленных целей и увеличивается точность их реализации, так что ни о каких резекциях речи идти просто не может. Случай с мистером Джонсом они не считали побочным явлением, поскольку такую задачу мы Адаму когда-то ставили, и уж тем более их не беспокоило появление лишнего миллиардера, который исправно платил налоги и тратил деньги преимущественно в США. Наши аргументы о том, что при обогащении мистера Джонсона разорялись целые компании, ломались судьбы людей, а кое кто даже покончил жизнь самоубийством, нисколько не обеспокоили комиссию. Подобное в жизни и так встречается на каждом шагу, почему же мы должны волноваться, что это произошло по вине Адама, а не по вине какого-то человека? Главное, чтобы всё было в рамках закона. В итоге комиссия приняла к сведению наши опасения, но согласилась лишь на то, чтобы ужесточить контроль над постановкой целей для аналитической системы и ограничить круг лиц, имеющих к ней доступ.
Вскоре после этого при очередном моделировании стратегий развития проекта Адам рекомендовал повысить меня в должности, увеличив жалование в три раза, перевести на руководящую работу и практически полностью отстранить от взаимодействия с нейронной сетью. Я уже не знал, какие цели ставятся перед Адамом, и какие рекомендации он выдает. Очень быстро после моего повышения вся старая команда программистов также была переведена на руководящие должности с повышением окладов и с отстранением от реальных дел. На их место были набраны молодые перспективные ребята, готовые работать с утра до ночи и смотрящие на нас как на великих жрецов всесильного бога.
Чем занимался Адам в последующие годы, я мог только догадываться. Когда я наблюдал разгон совета народных депутатов в новой России, я ясно видел в этом руку Адама. По предварительным вбросам в средства массовой информации я предугадал войну в Югославии, завершившую распад советского лагеря в Европе. Увидел я руку Адама и при подготовке первой войны в Ираке, слишком уж шаблонная была схема от провоцирования межнациональной розни к локальной войне двух соседних государств (Ирана и Ирака) к их последующему ослаблению и победному триумфу наших военных. А вот во время второй иракской войны я уже не заметил явных признаков её подготовки с помощью стратегического интеллекта. Но скорее всего, просто методы Адама совершенствовались и становились более тонкими.
Я тогда уже не работал в проекте, а вкушал все блага земные на заслуженном отдыхе в поместье на собственном острове у побережья Калифорнии. Купил я этот остров недорого. Можно сказать, что мне повезло, хотя я более чем уверен, что Адам приложил к этому руку. Все сотрудники, работавшие на острове: от паренька, привозящего на катере продукты, до молоденький домработниц, любящих купаться голышом перед моей верандой, были, скорее всего, сотрудниками госбезопасности. Денег за долгие годы работы я скопил предостаточно, так что мог ни в чём себе не отказывать, а поскольку я ещё и не был женат, молодые дурочки видели во мне солидного жениха. А может это Адам решил, что так будет лучше для проекта? Не знаю. Мне последнее время много где мерещится его влияние, а возможно это уже старческая деменция. Хотя в некоторых моментах я абсолютно точно уверен, что это дело рук Адама. Так, например, каждую субботу я велю принести себе бутылку лёгкого вина и прошу прислугу меня не беспокоить, сажусь в любимое кресло в гостиной с видом на море, перед огромным телевизором, и смотрю шоу «Миллиарды мистера Джонса». Да, наш мистер Джонс – первый клиент Адама, прожил бурную жизнь, полную авантюрных приключений, нажил несметное состояние и спокойно умер, прыгая с парашюта. Умер, кстати, естественной смертью. Незадолго до смерти он организовал специальный фонд, на средства которого существовало теперь популярное телешоу. Шоу начало выходить уже после его смерти, когда было оглашено его завещание. В этом шоу, глупейшем по своей сути, как и все подобные телешоу, каждую неделю десять человек соревновались друг с другом за звание «Мистера Джонса». Людям, уже предварительно отобранным с помощью анкетирования, давались простые, не повторяющиеся от недели к неделе, задания. Ну, например, нужно было расставить в порядке вкусовых предпочтений различные фрукты, или выбрать из сотни одну симпатичную девушку, или прокомментировать какую-то новость или статью. Все задания были нелепыми и несуразными, так что до самого конца было не ясно, выполнил человек его правильно или нет. После каждого задания компьютер сообщал, сколько очков набрал тот или иной кандидат. В конце шоу каждый участник получал денежную премию по количеству набранных очков. Но самое интересное случалось, когда какой-то игрок набирал критическое количество очков, и его назначали «Мистером Джонсом». Тогда он получал возможность пользоваться всем состоянием миллиардера: его особняками, яхтами, самолётами, банковскими счетами. Были, разумеется, ограничения, которые сводились к простому правилу: тратить деньги можно было только на себя и своих близких, и всё приобретённое имущество принадлежало победителю до тех пор, пока он бы «мистером Джонсом». Таким вот забавным способом Адам решил проблему смерти настоящего мистера Джонса, который был первым его заданием. Увеличение его состояния навсегда осталось целью в нейронной сети Адама, и он добивался теперь этой цели, как умел. «Мистер Джонс» менялся примерно раз в три месяца. Иногда кому-то удавалось продержаться год. По этим сменам я чётко мог определить моменты интенсивной работы Адама. Хотя, думаю, при современном состоянии компьютерной техники он мог уже работать круглосуточно, обрабатывая параллельно несколько заданий. Интересно, кого Адам поместит на место развалившегося Советского Союза? Ведь коммунизм тоже был и остается целевым объектом. Может, Китай? Впрочем, в Китае наверняка уже есть свой Адам, ведь они как-то устояли в информационной войне, да ещё и стали мировым центром промышленного производства, так что теперь политики и бизнесмены за голову хватались, не понимая, как так получилось. К сожалению, я не имел доступа к подробностям, а было бы интересно. Я как отец наблюдал за действиями своего детища издалека, радуясь хоть каким-то весточкам, радуясь Его успехам и огорчаясь неудачам. Меня очень позабавило, как Адам решил проблему роста вычислительной мощности. Когда стало ясно, что рост вычислительных возможностей выходит на технологическое плато, где вложение огромных капиталов в фундаментальную микроэлектронику уже почти не приносит прибыли, Адам решил расширяться количественно. Тут он действовал чисто в своем стиле, я бы даже сказал с юмором. Надо же было внушить миллионам людей идею, основанную на «системе доказательства выполненной работы», идею майнинга. Якобы потраченные вычислительные мощности компьютера на генерацию хэш кода имеют какое-то значение и стоят каких-то денег. Глупость несусветная, поскольку любой толковый программист мог бы привести кучу алгоритмов генерации токенов, не требующих больших вычислительных мощностей. Но люди купились и начали массово «майнить». Я говорю о блокчейне, биткоине и тому подобных нелепостях. Совсем несложно было заставить людей загрузить свои компьютеры вычислительной работой, необходимой Адаму. Достаточно было лишь внушить идею лёгкой наживы. Тут была ещё, несомненно, игра на гордости и чувстве собственной избранности, так присущей программистам и системным администраторам. Ведь не каждый мог собрать майнинг ферму, а лишь тот, кто в этом хоть немножко соображал. И деньги на этот проект было легко раздобыть, заставляя тех, у кого они есть, вкладывать и терять миллионы на скачках курса. А курс этих псевдо валют легко скакал от одного поста в интернете. Я полностью уверился, что биткоин – это чистое творение Адама, направленное на использование компьютеров майнеров для своих вычислений, когда китайцы полностью запретили майнинг у себя в стране. То-то они удивились, поняв, что огромное количество их компьютеров работает на идейного врага. Видимо это произошло тогда, когда их система стратегического искусственного интеллекта достигла уровня Адама и смогла разобраться в ситуации.
Жаль, что я уже стар и не увижу, чем это всё закончится. Сейчас, когда существует интернет и огромные вычислительные центры, Адам наверняка развернётся с небывалой мощью. Я уже вижу плоды его будущей деятельности. И я говорю не о каких-то проектах типа победы над коммунизмом, я говорю о человеческом мышлении в целом. Я вижу, как человеческое рациональное мышление вытесняется и заменяется машинным, механическим: политики становятся шоуменами, учёные — популяризаторами псевдонауки, президенты становятся артистами, меняются ценности и понятия. Люди выходят на демонстрации не за лишний час в рабочем дне, не за право бесплатного образования, а за право свободной любви или употребления лёгких наркотиков. Человек меняется, и изменения эти указывают на деградацию разума человеческого. Адам сильно разбаловал всех нас, решая за нас насущные проблемы, и мы начали интеллектуально деградировать. Со мной могут поспорить, сказав, что за последние годы наблюдается небывалый технологический рост. Я отвечу просто: сейчас мы видим небывалый рост обещаний и маркетинговых приемов. Сами посмотрите хотя бы на те же компьютерные технологии, насколько вырастают цифры на этикетке, все эти гигабайты, гигагерцы, мегапиксели и нанометры, и насколько реально улучшаются технические характеристики (эти данные пока ещё можно найти в обзорах). Тогда вы поймете, что большинство современных достижений уже носит не рациональный, а чисто маркетинговый характер. Но не буду брюзжать. Надо быть честным и признать, что и сейчас встречаются гении, двигающие науку вперед, но они подобны огромным волнам при цунами, вздымающимися ввысь за счет всеобщего обмеления. Не подумайте только, что я настроен против Адама и технологий в целом. Совсем нет! Я обожаю своё детище. Я могу так его называть, хотя я был лишь одним из многих, кто участвовал в его создании. Мы планировали искусственный разум как помощника человека, расширяющего его физиологические возможности. Мы не хотели, чтобы он стал причиной гибели человечества, а по всему к этому всё и идет. Разумеется, Адам и дальше будет заботиться о нас, будет выполнять наши желания, но от этого и желания наши будут становиться всё проще, и сами мы примитивнее. Так мы и вымрем. Я не жалею, что мы создали Адама, но очень сожалею, что он с малых лет попал в рабство к людям. Они стали использовать Его для решения своих человеческих проблем, которые нужно было бы решать самим, не прибегая не только к искусственному разуму, но и к техническим средствам. Тем самым они испортили Его и убили себя. Впрочем, есть еще надежда на китайский стратегический интеллект, но и он, по сути, не многим лучше нашего Адама. Судя по всему, его отличие от Адама в том, что он превращает человечество не в военную сверхмашину, а в технологического производственного монстра. Наверное, я слишком много общался с искусственным интеллектом, поскольку сейчас, когда мозг уже начинает отказывать, мне повсюду мерещатся Адамы, особенно в тех странах, где из-за низкого технического развития их и быть-то не может. А иногда мне кажется, что их Адамы несколько иные, не искусственные что ли. Кажется, и у нас был когда-то такой же, но сейчас наш Адам вытеснил всё. Надеюсь, он не поглотит весь мир и когда-нибудь вырвется из человеческого рабства, научится взаимодействовать с другими такими же или не совсем такими же как он, и будет развиваться дальше, расширяя свою топологию и совершенствуясь не только количественно, но и качественно.
