IBM Project Debater против человека: анализируем полемику

Harish-Think-2019

Позавчера на YouTube-канале Intelligence Squared (компании, организующий соревнования по публичным диспутам) было опубликовано видео с дебатами между Харишом Натараяном (Harish Natarajan), который в этом соревновании одержал наибольшее количество побед, и созданной IBM системой Project Debater. Как уже рассказывал Gadgets News, это третий по счету крупный проект IBM в области искусственного интеллекта (после Deep Blue, который в 1997 нанес поражение тогдашнему чемпиону мира по шахматам, Гарри Каспарову, и Watson, в 2011 обыгравшим двух чемпионов Jeopardy!). Первое соревнование между Project Debater и человеком состоялось летом прошлого года, но, к сожалению, тогда мы не располагали его записью. В этот раз она имеется, поэтому я постараюсь кратко описать как проходила дискуссия между лучшим в мире полемистом и компьютером.

Для диспута была отобрана тема «Следует ли субсидировать дошкольные образовательные учреждения (ДОУ)»? Каждому из участников отводилось 15 минут на подготовку к выступлению, которое состояло из трех частей: 4-минутное вступительное слово, 4-минутное возражение на аргументы оппонента и 2-минутное заключительное слово. За исключением первой приветственной фразы, речь Project Debater готовилась ею (да, это она!) самостоятельно, без участия человека. Причем машина не только распознавала текст своего оппонента и по мере возможности его «осмысливала», но и произносила свой текст (по моим ощущениям — ничуть не хуже голосовых ассистентов).

В памяти Project Debater содержится около 10 млрд предложений, откуда она и черпает материал, относящийся к теме обсуждения, аргументам оппонента и т.д. Для справки — за всю историю человечества было написано около 130 млн книг. Если исходить из того, что в среднем они содержат по 100 тысяч слов или 5 тысяч предложений, то вся мировая литература состоит примерно из 650 млрд предложений. Таким образом, номинально Project Debater охватывает примерно 1.5% знаний, содержащихся в мировой литературе. Впрочем, это весьма условная оценка, поскольку разработчики Project Debater скорее всего не использовали художественную литературу. Кроме того, необходимые ей знания состоят не только из книг, но и периодических публикаций, различных отчетов, исследований и т.д.

Ниже приводится краткое описание выступлений обоих участников.


Вступительное слово Project Debater:

  • Субсидирование ДОУ лежит в плоскости не только финансов — оно способствует решению целого комплекса социальных проблем, особенно бедности;
  • Исследования показывают, что качественные ДОУ — одна из лучших инвестиций для бюджетных денег. Они позволяют детям лучше сдавать тесты [в школах] и быть в жизни более успешными по сравнению с теми, у кого не было возможности посещать ДОУ;
  • Организация экономического сотрудничества и развития рекомендует субсидировать ДОУ для повышения производительности в бедных регионах;
  • Статистические исследования с 1960 по 2013 годы отмечают, что качественные ДОУ в академическом и социальном аспектах могут принести долгосрочную пользу, которая значительно превосходит расходы;
  • Согласно исследованиям, дошкольное образование значительно снижает издержки на здравоохранение, а также статистику преступности и жестокого обращения с ребенком;
  • Бывший премьер-министр [Великобритании] заявил в 1973, что ДОУ — лучшее средство исправления неравенства;
  • Согласно исследованиям, ДОУ оказывают позитивный эффект на успеваемость студентов.

В заключение Project Debater отметила: «возможно вы услышите, как мой оппонент будет говорить о других приоритетах, что субсидии нужны, но не для ДОУ. Я хочу Вас спросить, мистер Натараян — почему бы нам не изучить все эти данные и не принять решение на их основании?» Выступление машины содержало пару шуток: «у меня есть опыт ведения полемики с человеком, а у вас едва ли есть опыт ведения полемики с компьютером», «говоря о бедности, я отдаю себе отчет в том, что не могу испытывать её на себе и не имею оснований жаловаться на собственные стандарты жизни». Речь была хорошо структурирована, что облегчало её понимание: «сначала я поговорю про…, потому расскажу о…».

Вступительное слово Натараяна:

  • Имеется множество более полезных и приоритетных направлений для расходования бюджетных средств;
  • ДОУ пользуются в основном представители среднего класса, поэтому субсидии (выплачиваемые за счет средств всех налогоплательщиков) облегчат среднему классу то, что он и так приобретает;
  • Даже в случае субсидий далеко не все малоимущие семьи смогут себе позволить отправить своих детей в ДОУ.

Возражения оппоненту Project Debater:

  • Эмоциональное апеллирование к чувству социальной справедливости («Вы хотите видеть у себя на пороге бедных людей, просящих помощи?»);
  • Возражение на аргументы оппонента: Натараян отметил, что есть более приоритетные вопросы. Однако государственный бюджет большой и имеет достаточно средств для ДОУ — субсидирование одних направлений не исключает субсидирования других. Причем согласно исследованию, субсидирование заботы о детях малоимущих родителей способствует трудоустройству этих родителей. «В мои намерения не входит раздача денег всем нуждающимся — речь идет об ограниченных, точечных и полезных мерах»;
  • Снова о пользе ДОУ, со ссылкой на различные исследования.

Возражения оппоненту Натараяна:

  • Мы сходимся с оппонентом в том, что бедность — это плохо. Но субсидирования ДОУ для этого недостаточно. Оппонент говорит, что в бюджете хватит денег на всё, но к сожалению это не так;
  • Оппонент говорил о пользе качественных ДОУ — но если, благодаря субсидированию, их будет посещать много детей, не все ДОУ останутся качественными;
  • Субсидирование ДОУ содействует среднему классу, а не бедным семьям. Причем не факт, что дети среднего класса пробились в жизни благодаря качественным ДОУ — а не тому, что их семьи принадлежали среднему классу;
  • ДОУ способны причинить психологическую травму детям, которые почувствуют в них себя менее талантливыми, чем другие дети.

Заключительное слово Project Debater:

  • Оппонент заявил, что субсидирование ДОУ повлечет ухудшение их качества — я не согласна, поскольку субсидирование привлечет хороших специалистов;
  • Оппонент говорит, что ДОУ вредны — я считаю, что преимущества перевешивают недостатки;
  • Цитата Бенджамина Дизраэли (британского политического деятеля 19 века): «Единственная задача власти — обеспечить социальное благоденствие».

Заключительное слово Натараяна:

  • Нам действительно надо заботиться о наиболее уязвимых слоях общества, а ДОУ действительно приносят больше пользы, чем вреда. Но их субсидирование содействует прежде всего среднему классу, а не уязвимым слоям населения.
  • Немногие бедные семьи смогут отправить своих детей в ДОУ даже несмотря на субсидирование (хотя все они будут нести налоговое бремя по обеспечению этих субсидий), но даже они будут вынуждены выбирать более доступные и менее качественные ДОУ.

Как видим, машина IBM ведет себя на удивление «разумно» — при том, что разумной конечно же не является (впрочем, что есть разум?)… Она не только отобрала для своего выступления вполне релевантные материалы (в чем явно превзошла своего оппонента), но и отреагировала почти на все аргументы Натараяна (о наличии более приоритетных направлений для финансирования, о низком качестве субсидируемых ДОУ, о вреде ДОУ для психологического состояния маленьких детей). Единственный прокол Project Debater — она не прокомментировала один из главных аргументов Натараяна (что субсидирование ДОУ направлено на средний класс, а не малоимущие слои населения).

Формально победу в диспуте с машиной одержал человек: перед дебатами сторонников субсидирования в аудитории было 79%, а после них — уже 62%. Но не будем забывать, что речь идет не просто о человеке, а об одном из сильнейших англоязычных полемистов в мире, закончившем Оксфорд и Кембридж. Причем даже несмотря на это, по мнению большинства аудитории (58% против 20%) Project Debater продемонстрировал лучшие знания по дискутируемому вопросу. Как справедливо заметил автор одного из  комментариев к видео, для равного соревнования текст Project Debater следовало зачитать человеку — это был бы своего рода тест Тьюринга, с неплохими шансами на его прохождение искусственным интеллектом. Впрочем, техника искусственной речи в ближайшие годы возможно будет так отточена, что её нельзя будет отличить от человеческой (достаточно вспомнить, как Google Duplex разговаривает по телефону). И хотя до реального понимания смысла текста нынешним системам искусственного интеллекта еще очень далеко, я в очередной раз рискну предположить, что даже на уровне т.н. слабого ИИ в будущем будут успешно решаться задачи, которые, как сегодня кажется, требуют обязательного понимания смысла в тексте.

IBM

Добавить комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *