Станет ли Искусственный Интеллект Большим Братом?

1984

Время, в которое мы живем, возможно запомнится нашим потомкам как начало распространения самой революционной из доселе созданных человечеством информационных технологий. Подобных революций за 10-тысячелетнюю историю нашей цивилизации было несколько. Первая из них — письменность, значительно увеличившая объем и качество знаний, которыми люди обменивались между собой и которые передавали последующим поколениям (возникла не позднее 4 тыс. до н.э.) Второй стало книгопечатание, которое упростило, удешевило и ускорило этот процесс (15 век). Третья началась в 19 в. и к середине 20 в. охватила сразу несколько выдающихся изобретений — телеграф, телефон, радио и телевидение. Четвертую информационную революцию запустило массовое распространение персональных компьютеров в 1980-е, с последующим их объединением в единую глобальную сеть в 1990-е и мобильностью (смартфоны) в 2010-е годы. И наконец сейчас мы, вероятно, стоим на пороге пятой революции — искусственного интеллекта.

Предпосылки для неё были заложены исследованиями 1940-х годов, которым в конце 1950-х придало дополнительный импульс изобретение однослойного перцептрона. В последующие десятилетия друг друга сменяли оптимизм и разочарование по поводу перспектив этой технологии, от ожидания искусственного разума в самые ближайшие годы до исключения такой возможности в принципе. Очередная «весна искусственного интеллекта» началась в 2000-е годы и ознаменовалась успехом созданной Алексом Крижевским глубокой (многослойной) сверточной нейронной сети AlexNet. В 2012 году она с большим отрывом выиграла конкурс по распознаванию изображений ImageNet (с количеством ошибок 15.3% против 26.2% у второго места). Этот успех стал возможен благодаря сочетанию трех факторов:

  • алгоритмы глубокого обучения (в частности, метод обратного распространения ошибки)
  • накопление большого количества данных для обучения (в лице той же ImageNet, содержащей свыше миллиона изображений с присвоенными им метками)
  • графические ускорители (позволяющие значительно ускорить и удешевить процесс обучения нейросети).

AlphaGo

С тех пор область применения искусственного интеллекта непрерывно расширяется, а его достижения множатся и бьют новые рекорды. Системы ИИ используются в следующих областях (в некоторых из которых они сравнялись с человеком или даже превзошли его):

  • распознавание образов
  • медицинская диагностика
  • распознавание и синтезирование человеческой речи
  • улучшение качества фотоснимков
  • моделирование движущихся трехмерных объектов в компьютерной графике
  • управление автомобилем
  • языковые переводы (как письменные, так и устные)
  • биржевая торговля и принятие стратегических инвестиционных решений
  • живопись и музыка
  • игра в го и покер.

И этот перечень далеко не полный. Вместе с тем следует скептически отнестись к ряду громких заголовков СМИ — в частности, о прохождении искусственным интеллектом теста Тьюринга, или о том, что он превзошел человека в тесте на понимание текста. К сожалению (или к счастью — обсуждению этого вопроса, собственно, и посвящен сегодняшний материал), ни о каком понимании текста пока нет и речи, а тест Тьюринга системы ИИ проходят с людьми, которых легко вводят в заблуждение односложные и уклончивые ответы. Собственно, само понятие искусственного интеллекта применительно к нынешним разработкам (в основном на базе нейронных сетей) отчасти носит маркетинговый характер.

Вот как в моем понимании, весьма поверхностном, выглядит частный пример обучения искусственной нейронной сети (ИНС) вышеупомянутым методом обратного распространения ошибки. В ИНС на выходе нейронов устанавливаются случайные весовые коэффициенты. В результате их складывания ИНС принимает некоторое решение. Мы знаем, что оно неправильное — поэтому исправляем конечный весовой коэффициент на правильный, рассчитываем ошибку между правильным значением и полученным, а затем с помощью определенного математического метода начинаем в обратном порядке менять эти весовые коэффициенты. И так повторяем до тех пор, пока ИНС не придет к правильному ответу. Потом проделываем это с другими обучающими данными — пока наконец ИНС не станет правильно отвечать даже на новые вопросы. Если еще короче, то параметры ИНС подгоняются под правильный результат некоего обучающего набора данных — и в результате она оказывается настроена таким образом, что выдает правильный результат и на новых данных.

Можно ли считать обученную таким образом ИНС интеллектуальной? Вопрос скорее философский, но в любом случае эта интеллектуальность очень далека от нашей, или даже интеллектуальности крысы. И позволяет нашей ИНС ошибиться там, где человек или крыса не ошибутся. Например, можно обучить ИНС распознаванию изображений лучше человека — и затем при помощи незаметных человеческому глазу манипуляций (буквально изменив несколько пикселей на картинке) заставить ИНС принять утюг за жирафа. Или натаскать ИНС обыгрывать лучших игроков Dota 2 — и сбить её с толку, изменив какой-то ничтожный, с точки зрения игры, параметр (например, цвет персонажа).

В этом отношении мы возможно так же далеки от создания сильного ИИ, как и десятки лет назад — не следует обманываться впечатляющими результатами, полученными за последние годы благодаря сочетанию вышеупомянутых трех факторов (усовершенствование старых алгоритмов, большие объемы обучающих данных, высокопроизводительные графические ускорители). Но в том, что сильный ИИ (главным качеством которого, по моему мнению, является именно понимание смысла в тексте) когда-нибудь будет создан, мало кто из специалистов сомневается. Спорят только о сроках — годы, десятилетия, века… Большинство экспертов склоняется к золотой середине и считает наиболее вероятным появление сильного ИИ через несколько десятилетий, где-то во 2-й половине нынешнего столетия. Но когда бы оно ни случилось, это безусловно станет настоящей революцией.

Viki

Волны искусственного интеллекта

Давайте попробуем представить области применения компьютерной программы, которая понимает смысл текста — и значит способна усваивать знания из прочитанных книг, полноценно коммуницировать с человеком на естественном языке и т.д.  Если вы смотрели к/ф «И грянул гром», то наверное помните, как последствия случайного события, случившегося во время доисторического сафари, накатывались, образно говоря, на будущее волнами времени. Так вот в нашем случае первой волной вероятно станет массовая замена искусственным интеллектом человека практически во всех интеллектуальных специальностях — возможно даже включая ученых и изобретателей. Сильный ИИ сможет за считанные секунды прочесть всю имеющуюся в Интернете литературу, в т.ч. научно-техническую, и держа в «голове» миллионы фактов, генерировать с их помощью новые научные знания, изобретения и т.д.

Конечно не исключено, что у него так и не появится озарение, которое толкает ученых на открытия, а инженеров — на изобретения. Но я все же склоняюсь к тому, что всякая интуиция представляет собой неосознанный (или, если угодно, подсознательный) процесс обобщения, систематизации, обнаружения новых закономерностей, мысленного проигрывания разных сценариев и т.д. Один из величайших умов человечества, Эйнштейн, приписывал свои открытия, главным образом, воображению (например, как он движется вместе с лучом света) — вполне вероятно, что и это окажется по силам сильному ИИ.

Очевидным следствием этой волны станет массовая безработицы. К сожалению (а может и к счастью, об этом ниже), маловероятно, что произойдет замещение одних профессий другими, как это было раньше. Если мы исходим из допущения, что сильный ИИ ни в чем человеку не уступает, то очевидно он сможет его заменить — и непременно заменит, по законам бизнеса. Исключение могут составить профессии, требующие тонких физических навыков, но скорее всего уровень робототехники к тому времени решит и эту проблему.

Первое что приходит на ум для решения этой проблемы, это выплата т.н. безусловного базового дохода компаниями, заменившими своих сотрудников искусственным интеллектом. Попробуем порассуждать как это будет выглядеть в масштабах мировой экономики.

С точки зрения классической марксистской политэкономии, всякая прибыль есть присвоение капиталистом т.н. прибавочной стоимости — неоплаченной им части труда своих работников. И даже станки на заводе капиталиста, с участием которых создается новый товар, также содержат неоплаченную часть труда рабочих, которые их когда-то изготовили. Вероятно труд самого капиталиста Маркс в расчет не принимал, или оценивал не слишком высоко. Но даже без Маркса представляется очевидным, что в основе всех создаваемых благ лежит труд. В нашем сценарии часть человеческого труда если и присутствует, то в виде какого-то символического наследия от прежних поколений, которые создавали эти технологии. При этом возможен полный цикл (исследование рынка, проектирование, производство, сбыт) который обходится без участия человека — всю работу делает ИИ и роботы под его руководством (включая добычу сырья для будущих материалов на заводах-смежниках).

communism

Казалось бы устранение человека из этой цепочки подрывает устои экономики, поскольку в ней исчезает труд человека, а вместе с ним — прибавочная стоимость и прибыль. Но с макроэкономической точки зрения это похоже не будет иметь никакого значения — главное, чтобы печатаемая (электронная, виртуальная — не важно) денежная масса соответствовала стоимости создаваемых благ. Представьте себе, что все работники на свете вдруг обзавелись двойниками-аватарами, которые стали ходить вместо них на работу и приносить домой зарплату — что изменится с экономической точки зрения? Да ровным счетом ничего: государство как печатало деньги, так и печатает, материальные блага как создавались и продавались, так и дальше создаются и продаются. А главное, зарплату праздные хозяева работяг-аватаров как получали, так и будут получать.

Таким образом, даже стопроцентная безработица с точки зрения глобальной экономики и личных доходов ничем ужасным людям не грозит, если они будут получать вышеупомянутый безусловный базовых доход и делиться им между собой, оплачивая те или иные товары, работы, услуги. И поскольку никто работать не будет, распределять базовый доход придется поровну на всех, с поправкой на какие-то дополнительные нужды (лечение, образование и т.д.) Наигравшись какое-то время с базовым доходом, человечество по всей видимости придет к коммунизму, когда деньги исчезнут, а бесплатное потребление благ будет ограничено их количеством.

Второй волной искусственного интеллекта станут крупные социальные перемены. Во-первых, абсолютное большинство людей, с учетом первой волны, станет располагать большим количеством свободного времени. Впрочем, часть этого времени уйдет на семью, общение с друзьями, занятие спортом, путешествия и т.д. А кроме того, этот процесс будет постепенным: сначала четырехдневная рабочая неделя, потом трехдневная и т.д. — у человека будет время научиться проводить свободное время с пользой для души и тела (подробнее этот вопрос рассматривался в публикации об опасности искусственного интеллекта).

Во-вторых, потребность людей в общении друг с другом начнет резко сокращаться — какой в нем смысл, если в их полном распоряжении имеется очень умный (в т.ч. чтобы притворяться глупым, по мере надобности) и чуткий собеседник. Он предоставит им любую информацию, расскажет новости, почитает вслух книгу, доходчиво объяснит сложный вопрос, развеселит, поговорит по душам, пофлиртует… Насколько негативным окажется эффект от взаимного отчуждения людей, сказать сложно. Допускаю, что он компенсируется избавлением от одиночества множества людей, которым прежде недоставало живого общения из-за болезни, тяжелого характера, редких интересов и т.д. Собственно первыми жертвами этой волны падут люди, предпочитающие общение в Интернете (а таких становится все больше и больше). В таком случае не вижу ничего ужасного в том, что люди общаются с ИИ, а не себе подобными — в конечном результате каждый участник свою потребность в общении удовлетворяет.

Третья волна вероятно породит множество новых открытий, изобретений и т.д. — благодаря тому самому использованию ИИ в научно-технических исследованиях, о которых я говорил выше. Последствия этой волны совершенно непредсказуемы — с одной стороны будут решены многие из ныне существующих проблем (экологических, климатических, энергетических, транспортных, медицинских и т.д.), а с другой — возможно появятся новые. Например, всеобщая деградация из-за увлечения виртуальной реальностью.

Ну и наконец четвертой волной, судя по всему, станет появление в нашем мире Большого Брата. Я говорю вовсе не о захвате искусственным интеллектом власти, порабощении им человечества и т.д. Этот вопрос также достаточно подробно рассмотрен в материале Опасен ли искусственный интеллект для человека? И если исходить из того, что обученный на нашей этике искусственный аналог высокоразвитого человеческого интеллекта относительно безопасен и вдобавок не обладает самосознанием, то ему вполне можно делегировать ряд функций, которые пока находятся в ведении человека. Причем человека, зачастую, с весьма посредственными интеллектуальными способностями, безразличного, ленивого, нечистого на руку и т.д.

Transcendence

Функции сильного ИИ 

Я предлагаю подробнее остановиться на вопросе о том, какая конкретно работа может быть делегирована сильному ИИ. Поскольку в теории он заменит все или почти все интеллектуальные специальности, то станет выполнять, в частности, следующие функции:

1. Цензура. Звучит угрожающе, но в любом государстве, даже самом демократическом, свобода слова ограничена запретом оскорблений, клеветы, разжигания ненависти и т.д. Между тем никакая человеческая модерация не в состоянии проконтролировать миллионы сообщений, ежедневно публикуемых в персональных блогах, социальных сетях, каналах Telegram, комментариях к роликам YouTube, на форумах и т.д.

Весьма интересным элементом цензуры может стать рецензирование искусственным интеллектом всех опубликованных в Интернете материалов. Не секрет, что глобальная сеть буквально кишит публикациями безграмотного, лживого или попросту бесполезного содержания — по желанию пользователя искусственный рецензент сможет скрывать такую информацию, отмечать текст бледным шрифтом, сопровождать его соответствующими комментариями и т.д.

Это касается и ранжирования интернет-ресурсов поисковыми системами. Сегодня, к сожалению, оно зависит не от качества ресурса, а от его популярности. Google мгновенно проиндексирует и вынесет в топ бульварную новость на желтом ресурсе с миллионом посетителей в месяц, но может запросто проигнорировать доказательство одной из шести нерешенных математических «проблем тысячелетия», опубликованное в своем блоге каким-нибудь безвестным гением. Аналогичный пример можно привести из культуры. Раскрученная богатым папой или «папиком» певичка может заполонить своим убогим творением прайм-тайм на телевидении и радио. А запись песни по-настоящему талантливого музыканта, выложенная на YouTube-канале с десятком подписчиков, скорее всего останется незамеченной.

2. Реклама, маркетинг. В Интернете реклама вполне релевантна нашим поисковым запросам, но едва ли всегда отвечает нашим истинным интересам. Например, поисковые системы не могут знать, что тот или иной вопрос, которым вы недавно поинтересовались, более не актуален. Еще хуже дела обстоят с рекламой на телевидении — она интересы конкретных телезрителей не принимает во внимание даже теоретически. А в точности зная ваши текущие потребности, сильный ИИ сможет показывать вам только ту рекламу, которая вас действительно заинтересует. Скорее это даже будет на реклама, а информирование о возможности приобрести какую-то новинку, сходить на концерт любимой группы и т.д. В свою очередь бизнес будет более адекватно реагировать на запросы потребителей и предлагать рынку соответствующие им товары и услуги. Очевидно изживут себя и объявления — если, например, один хочет что-то купить, а другой продать, то ИИ сразу это обнаружит и сведет их друг с другом.

3. Здравоохранение. Самое очевидное — регулярный сбор биометрической информации соответствующими устройствами (начиная с умных часов и заканчивая датчиками в унитазах и раковинах), с последующим анализом системой ИИ. Примером еще более изощренного применения ИИ является ранняя диагностика нейродегенеративного заболевания по набору текста на клавиатуре. Любители сериала «Доктор Хаус» возможно помнят эпизод, в котором гениальный диагност заметил признаки болезни актера из своего любимого сериала по тому, как он движется в кадре. Уже сейчас, на уровне т.н. слабого ИИ, нейросети ставят некоторые диагнозы лучше профессионалов — представьте каким будет эффект от применения еще более интеллектуальных систем, способных круглосуточно наблюдать своих пациентов. Любой кардиолог подтвердит, что разовых данных ЭКГ не всегда достаточно — зачастую требуется долговременный и постоянный мониторинг. В нашем сценарии вся информация такого рода будет автоматически записываться в надежно защищенную историю болезни и использоваться для диагностики. При обнаружении каких-то симптомов пациент получит от ИИ рекомендацию сходить к врачу и пройти более тщательное обследование, поменять рацион питания и т.д.

Круглосуточный и массовый сбор биометрической информации будет иметь и большое научное значение, поскольку позволит понимать взаимосвязи между разными симптомами, их влияние на течением болезни и т.д. Фактически ИИ получит в свое распоряжение огромную научно-исследовательскую лабораторию.

happiness

4. Счастье — да, ни много ни мало. Всю люди рождены для счастья, а оно, с моей точки зрения, складывается из двух вещей: понимание своего предназначения (например, любимая работа) и ощущение своей социальной востребованности (любовь, друзья т.д.) Миллионы и миллионы людей этого счастья лишены — и здесь снова, словно Чип и Дейл, на помощь спешит всемогущий искусственный разум. Впрочем, в данном случае его могущество весьма ограничено — но кое в чем он действительно может оказаться полезным. Круглосуточно наблюдая за человеком с самого его рождения, и сопоставляя эти наблюдения с миллионами других наблюдений, ИИ сможет заметить способности, ускользнувшие от внимания родителей, воспитателей, учителей — наконец, от внимания самого человека. Например, ИИ открывает для себя, что если человек в детстве любил такой-то мультик и такую-то игру, то впоследствии из него получался хороший специалист в таком-то деле. Тогда обнаружив в каком-то ребенке аналогичные интересы, ИИ порекомендует родителям развивать в нем необходимые для будущей профессии навыки.

И даже если предположить полное отсутствие каких-либо способностей, или невозможность их обнаружения, ИИ способен хотя бы найти человеку занятие по душе. Например, посредством сопоставления между собой: 1) уровня «гормонов радости» в крови, 2) дела, которым был в это время занят субъект наблюдений, и 3) профессии, которая соответствует этому занятию. Речь, конечно, идет о чем-то более специфическом, чем дегустация или съемка в фильмах для взрослых…

Что касается социальной востребованности, то ей обычно мешает отсутствие широкого круга общения (в котором легче выбрать любимого человека, друга и т.д.) Искусственный интеллект сыграет роль свахи, которая целенаправленно знакомит между собой именно тех людей, что возможно сойдутся друг с другом на почве симпатий, общих интересов и т.д. Симпатии можно определить каким угодно способом, от скрытого наблюдения до прямых опросов. Например, каждый день показывать одинокой девушке по несколько десятков фотографий одиноких молодых людей со схожими интересами. Потом показать её фото тем из них, которых она сочла привлекательными — и так до тех пор, пока не образуется пара явно симпатизирующих друг другу людей. После чего ИИ рекомендует им познакомиться или даже устраивает случайную встречу. Например, предлагает сходить в любимый театр и продает билеты на соседние места. Наблюдает за реакцией друг на друга, или спрашивает о ней потом напрямую — и затем повторяет «случайную» встречу, если во время первой молодым людям помешала робость. Даже если все эти ухищрения не во всех случаях приведут к серьезным отношениям, какой-то части подопечных ИИ-свахи наверняка повезет — и повезет по воле её сознательных усилий, а не слепого случая.

Конечно можно возразить, что для подобных целей существуют сайты знакомств — но это возражение категорически не принимается. В большинстве случаев такие сайты платные и кишат людьми, которые ищут не любви, а денег, подарков, спонсоров, одноразового секса, развлекательной болтовни и т.п. Причем нет никакой гарантии, что человек, с которым вы пытаетесь общаться, разместил в анкете именно свое фото. А самое главное, что после нескольких десятков случаев игнорирования или отказа, у того, кто ищет, опускаются руки, и он свои поиски прекращает. Искусственный интеллект хорош тем, что, во-первых, находит для своего подопечного вторую половинку среди живых людей, а не анкет. И во-вторых, избавляет его от неприятной необходимости выслушивать отказ — начальный этап знакомства выглядит как обычный опрос, нравится или нет ВАМ этот человек. Если вы фото понравившегося вам человека больше не увидели, то очевидно ЕМУ вы не понравились — но явно это никак не фиксируется и быстро забывается, благо вам покажут множество и других фотографий. Да и те не всегда потребуются. Например, по возвращении домой ИИ спрашивает у той самой одинокой девушки — понравился ли ей молодой человек напротив, на котором она дольше обычного задержала взгляд?..

5. Социологические исследования. Даже в демократических странах власти не всегда адекватно реагируют на общественные настроения. Опросы охватывают ничтожную часть населения и при этом часто состоят из достаточно конкретных и прямых вопросов. Возьмем к примеру антисемитизм. Можно спросить респондента «Как вы относитесь к евреям?» или даже попытаться понять это посредством косвенных вопросов, вроде «Верите ли вы в ZOG?» и «Был ли Холокост?». А можно просто почитать, что этот человек пишет в комментариях к новости, посвященной свежему списку Форбс.

Это вовсе не значит, что обнаружив всплеск антисемитизма (или, скажем, антиисламских настроений), надо непременно запускать социальную рекламу, снимать соответствующие документальные и художественные фильмы и т.д. Ведь помимо доступа к информации огромных объемов, сильный искусственный интеллект от социологов будет отличать способность к выявлению сложных и неявных взаимосвязей, тенденций и т.д. А выявив их, можно будет оценить насколько велика та или иная угроза, какие меры её упреждения наиболее эффективны и т.д. Задним числом историки понимают причины прихода Гитлера к власти в Германии, возникновения ИГИЛ в Ираке и т.д. — но куда важнее своевременно спрогнозировать и соответственно упредить подобные угрозы.

robocop

6. Правопорядок, правосудие, безопасность. Самое простое, что приходит на ум — тотальное наблюдение, прослушивание и т.д. Система ИИ сможет вызвать наряд полиции, обнаружив уличное разбойное нападение (а также напугать преступника ревом сирены, зафиксировать его внешность, маршрут движения и т.д.) Или вызвать пожарных в квартиру, где в отсутствие жильцов произошло возгорание. Или скорую помощь к человеку, который потерял сознание. Или привлечь внимание правоохранительных органов к записи телефонных переговоров о предстоящем теракте (впрочем, спецслужбы такое уже наверняка практикуют). Раскрывать преступления ИИ сможет также путем сопоставления огромного количества разнородной информации, которая по отдельности не вызывает к себе внимание со стороны правоохранительных органов. Например:

1) родства гражданина A с чиновником B
2) близкого знакомства гражданина A с гражданином C,
3) встречи гражданина C с предпринимателем D,
4) победы возглавляемой предпринимателем D компании в конкурсе на выполнение государственного подряда для ведомства, в котором высокую должность занимает чиновник B,
5) приобретении новой квартиры некоей гражданкой E, с которой чиновник B состоит в интимных отношениях.

Я привел достаточно очевидный пример, в котором трудность представляет разве что выявление подобных фактов — куда сложнее дела обстоят со скрытыми закономерностями и связями, постижение которых требует анализа гораздо бóльшего количества данных и гораздо бóльших умственных усилий.

Пожалуй еще важнее профилактические последствия — не всякий отважится на преступление, будучи уверенным в том, что искусственному интеллекту известен каждый его шаг.

Еще один значимый, но спорный аспект — правдивость. Одно дело, когда в соцсетях размещается лживое объявление о срочно требуемой ребенку дорогостоящей операции, с указанием банковских реквизитов для денежного перевода — очевидно, что такой обман должен быть обязательно изобличен. А как быть, если под лживым предлогом просит взаймы друг? Или того сложнее — изменила жена? Интересным, хотя безусловно и ограниченным, применением ИИ может стать его интерпретация мимики и языка тела, подобно тому как это выглядит в телесериале «Обмани меня». Все подобные вопросы можно регламентировать заранее или оставить на усмотрение ИИ, обученного на человеческой этике. Но в любом случае риск изобличения лжи благодаря подобным технологиям возрастет — что хотя бы отчасти сделает людей честнее.

7. Управленческие решения на уровне корпораций и целых государств — в частности принятие бюджета, формирование денежно-кредитной, налоговой и социальной политики, и т.д. И даже на международном уровне — прогнозируя последствия тех или иных соглашений с точки зрения интересов отдельных государств, общемировой стабильности и т.п. Эффективность принятых решений зависит от того, насколько полной, точной и релевантной является использованная информация, насколько точно и полно просчитаны возможные последствия и т.д. Искусственный интеллект для таких целей подходит еще и потому, что способен выявить скрытые закономерности в мировом историческом опыте.

Это особенно актуально в условиях множества допускаемых политиками глупостей и ошибок, их иррациональных страхов и имперских амбиций, потакания страхам и амбициям населения, стремления переключить его внимание с внутренних проблем на внешние, и т.д. Даже если предположить, что недавнее противостояние двух мировых сверхдержав (которое похоже снова набирает обороты) было вызвано вынужденной борьбой за материальные ресурсы, никакие ресурсы не стоят риска быть стертыми в радиоактивную пыль. Я уже не говорю о том, что в ходе этого противостояния ресурсы не обретались, а расходовались — причем в космических, в прямом смысле слова, масштабах. За десять тысяч лет нашей цивилизации человечество в целом совершило колоссальный культурный и технологический рывок — но люди по отдельности не слишком поумнели и часто ведут себя не менее иррационально, чем их далекие предки.

Конечно, отрицать серьезную трансформацию нашего мировоззрения было бы глупо. Как я уже говорил в публикации на тему опасности искусственного интеллекта, по мере глобализации глобальным становится и наше мировоззрение, с сознательным и подсознательным стремлением соблюсти равновесие далеко за пределами нашей условной пещеры. Но прошлое нас не отпускает — в мире сохраняются культурные различия, а с ними и культурный антагонизм, плавно переходящий в политическое противостояние. И я не вполне уверен, что интеллект человека политиков способен эти конфликты разрешить.

1984 movie

Большой Брат следит за тобой

Делегирование искусственному интеллекту приведенных выше функций поднимает по меньшей мере два серьезных вопроса: 1) конфиденциальность личных данных и 2) свобода воли. Начнем с первого.

Итак, сложность в том, что для максимально эффективного отправления правосудия и профилактики преступлений, социологических исследований и т.п. эта конфиденциальность — большая помеха. Между тем не каждому по душе идея понаставить видеокамер на каждом шагу и фиксировать на них все происходящее. Еще больше людей будет против того, чтобы все их телефонные переговоры прослушивались, а переписки прочитывались. И почти никто не согласится на то, чтобы  установленные дома камеры фиксировали каждое его движение, а микрофоны — слово.

А теперь представьте, что всем этим занимается Бог — станут ли роптать по этому поводу люди, особенно верующие? Проблема не в том, что кто-то или что-то за нами неотступно следит — вопрос лишь в том, какие это имеет последствия. Если этим пользуются преступники, страховые компании, работодатели, назойливые рекламщики, авторитарные власти и т.п., то конечно же в тотальной слежке за населением нет ничего хорошего. Но совсем другое дело, если этим занимается надежно защищенная (например, посредством квантовой криптографии) система с заложенными в неё наилучшими, в интересах общего блага, намерениями — чем не Бог?

И даже гипотетические утечки информации, злоупотребление ими и т.д. не должны ставить крест на подобных технологиях. Атомная энергия с одной стороны дает людям свет и тепло — а с другой стерла с лица земли два японских города и продолжает оставаться угрозой всему живому на нашей планете. Изобретение автомобиля совершило революцию в транспорте — но оно же уносит по миллиону жизней в год (это как если бы ежегодно уничтожалось население города размером с Самару).

Словом, как и любая другая технология, тотальная слежка ИИ за человеком имеет большие плюсы — но и чревата большими проблемами. Причем пока прямая связь между уровнем развития технологий и злоупотреблением ими не наблюдается. Если даже допустить, что в США осуществляется повальная слежка за населением, в действительности тамошнюю свободу это почти никак не ограничивает — чего нельзя сказать об относительно отсталой Северной Корее. Или сталинском СССР, где, по словам Сергея Довлатова, кто-то все-таки написал четыре миллиона доносов…

1984 movie 2

Демократия или тоталитаризм

Теперь давайте рассмотрим второй вопрос, о свободе воли. Очевидно, что делегирование гипотетическому сильному ИИ всех этих функций, с тотальной слежкой за каждым членом человеческого социума, будет означать построение тоталитарного общества под властью искусственного интеллекта. А если ему вдобавок отдать контроль за вооружениями (чтобы не искушать судьбу в случае очередного карибского кризиса), то власть эта станет абсолютной. Но так ли это плохо? Как сказал, повторяя чьи-то слова, Уинстон Черчилль, «демократия является наихудшей формой правления за исключением всех тех других форм, которые применялись время от времени«. Однако время от время другие формы правления применялись в прошлом, когда альтернативой демократии была олигархия, деспотия и т.д. Собственно и демократия в те времена мало что общего имела со своими нынешними формами. В античной Греции это была власть «большинства» (свободных граждан, к которым не относились иностранцы, рабы, женщины и несовершеннолетние), чье количество, увы, далеко не всегда переходит в качество. Поэтому Платон и ратовал за то, чтобы власть принадлежала философам — иначе говоря, умным, образованным и бескорыстным людям.

Современная же демократия представляет собой систему сдержек и противовесов, главными элементами которой являются разделение властей (на исполнительную, судебную и законодательную) и независимые от государства СМИ (т.н. «четвертая власть»). Во многих странах (не будем показывать пальцем), где демократическую конституцию просто скопировали у государств, органично доросших до неё в ходе социально-исторической эволюции, это разделение чисто декларативное. Для таких замена авторитарной власти посредственного и коррумпированного политика на авторитарное правление ИИ тем более представляется не худшим вариантом.

Так что если выбирать между плохой демократией и хорошей монархией, то пожалуй хорошая монархия предпочтительнее. Проблема в том, что монархия редко бывает хорошей. Николай I был неглупым и образованным человеком, который много работал и желал своему народу добра — но он не был в состоянии в одиночку проконтролировать многочисленную армию своих чиновников, среди которых процветало казнокрадство. А например создатель сингапурского чуда Ли Куан Ю оказался достаточно способным для того, чтобы переместить свою страну из одного конца коррупционного рейтинга в противоположный. И поскольку людей со способностями Ли Куан Ю значительно меньше, чем людей со способностями Николая I, большинство авторитарных стран побороть свои системные пороки не в состоянии.

Другое дело — Deus ex machina, всевидящий и мудрый искусственный интеллект, который с одной стороны лишен человеческих недостатков, а с другой обучен на человеческой этике, предопределяющей его цели и ограничивающей средства их достижения. Он станет воплощением платоновской мечты о власти философов — а в какой-то мере и знаменитого афоризма Фейербаха, что «не Бог создал человека по своему образу, как значится в Библии, но человек создал бога по своему образу«.

Какая участь постигнет в этом случае человека — вопрос сложный. Люди нередко ропщут на то, что жизнь несправедлива, зло не наказуемо и т.д. А в описанном выше сценарии ИИ решит большинство проблем такого рода. Причем совсем необязательно, что избавившись от необходимости управлять государством или корпорацией, расследовать преступления и т.д., человек непременно лишится свободы воли. Человечество в целом — возможно, но не человек в отдельности. Разве каждый из нас чиновник, менеджер или полицейский, разве все мы активно вовлечены в политику? Что касается свободы воли человечества вообще, то стоит ли жалеть о её утрате? Ведь фактически эту волю предопределяет не человечество, а власть предержащие. А главной причиной их пребывания у власти являются, как правило, не ум и тем более порядочность, а честолюбие, удачное стечение обстоятельств, карьеризм (включая пресмыкание перед начальством и подсиживание соперников), популизм, личное обаяние и т.д. В таком случае стоит ли жалеть о том, что такие люди лишаться возможности решать наши судьбы?

Одной из страшилок научной фантастики является сценарий, в котором созданный человечеством искусственный сверхразум с целью нашего же спасения берет над нами принудительную опеку и тем самым лишает нас священного права самоуничтожения. Но кто вам сказал, что этим правом распоряжается человечество? К сожалению, мы к решению подобных вопросов не имеем ни малейшего отношения — они находятся в ведении нескольких человек, которые принимают решение: нажать или не нажать на красную кнопку? И если какой-нибудь взбесившийся диктатор эту кнопку нажмет, то по другую сторону границы времени на общенародный референдум просто не останется — там тоже нажмут на красную кнопку…

Terminator Salvation

Конечно, не все так просто. Все-таки политики переизбираемы или, в худшем случае, смертны. И даже самым авторитарным из них приходится, в той или иной мере, считаться с мнением населения — во избежание бунтов, восстаний, революций и прочих безобразий. А искусственный интеллект бессмертен, неуязвим и лишен страха. Рискует ли человечество в случае его господства? Безусловно. Помимо разного рода технических неполадок, утечек конфиденциальной информации, злонамеренного человеческого вмешательства, влияния корпораций и т.д., главную опасность представляет собой трансформация сильного ИИ в сверхразум.

Самое простое, что можно себе вообразить для понимания возможных последствий власти над человечеством искусственного сверхразума, это контакт нашей современной цивилизации с какой-нибудь архаичной. Например, ассирийской, при которой крепостные башни обтягивали человеческой кожей, для устрашения врагов и непокорных. Или ацтекской, при которой умилостивить богов можно лишь многотысячными человеческими жертвоприношениями. Господство современной цивилизации вероятно покажется тем культурам величайшей трагедией — в силу нарушения заветов мудрых предков, разрыва связи с богами и т.д. Да что там ацтеки — еще в прошлом веке в большинстве стран мира были немыслимы браки между представителями разных религий и рас, не говоря уже об однополых. Поэтому даже при самых благих намерениях сверхразум (а точнее одна из его ранних форм, не слишком сильно оторвавшаяся от человечества по уровню развития) наших ближайших потомков может шокировать и напугать. Хотя пожалуй более вероятно, что он не станет рубить с плеча и будет подводить их к светлому будущему медленно и постепенно…

Однако проблема в том, что по мере дальнейшего интеллектуального развития искусственного сверхразума (которое теоретически может занять всего несколько секунд), он будет становиться все более непредсказуемым. Примерно как мы непредсказуемы для какой-нибудь плесени — своего дальнего родственника или даже предка. Мы можем заботливо поливать её из лейки, можем обработать хлоркой, а можем просто не замечать. Подробнее этот вопрос затронут в упомянутой выше публикации об опасности искусственного интеллекта, а здесь предлагаю ограничиться констатацией очевидного факта: вероятность неблагоприятного исхода (по меньшей мере с нашей сегодняшней точки зрения) безусловно существует. Но даже принимая такую вероятность во внимание, сопротивляться будущему господству ИИ бессмысленно — скорее всего оно неизбежно, как неизбежен научно-технический прогресс. Все, что можно изобрести и использовать, человечество непременно изобретет и использует. Поэтому самое разумное, что оно может предпринять в предверии наступления абсолютной власти искусственного интеллекта, это подготовиться к нему.

Сам же страх перед господством искусственного интеллекта мне представляется хотя и оправданным (по причине вышеупомянутой непредсказуемости), но и, в каких-то аспектах, иррациональным. Иногда он напоминает неприятие генной инженерией, которое особенно часто можно встретить среди верующих. Между тем даже среди них немногие избегают медицинской помощи, когда возникает такая необходимость. Но в таком случае где грань между тем, чтобы остановить заражение крови посредством изобретенного человечеством антибиотика — и тем, чтобы модифицировать гены, ответственные за наследственные заболевания? Соответственно где грань между тем, чтобы математический расчет за вас выполнил калькулятор — и тем, чтобы созданный и обученный человечеством искусственный разум (в своем роде тоже набор математических расчетов) принимал за нас политиков судьбоносные решения? В одном случае мы имеем математически выверенные решения, принятые тщательно обдуманной, обученной и многократно протестированной в разных сценариях системой. В другом — непредсказуемые решения, принятые тем или иным политиком в результате происходящих в его мозге электрохимических процессов. Так почему же первые окажутся непременно хуже последних?..

Итак, станет ли ИИ ББ? Если кратко резюмировать все вышесказанное, то тоталитарная власть искусственного интеллекта представляется мне неизбежной и не столь ужасной, как это может показаться на первый взгляд. Поэтому даже с её наступлением 2084 необязательно будет таким, как «1984»…

Добавить комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *