Нейт Сильвер - Сигнал и шум. Почему одни прогнозы сбываются, а другие – нет

• Название: Сигнал и шум. Почему одни прогнозы сбываются, а другие – нет
• Автор: Нейт Сильвер
• Жанр: Публицистика
• Год: 2015
• ISBN: 978-5-389-09938-8

Мы считаем, что наш мир во многом логичен и предсказуем, а потому делаем прогнозы, высчитываем вероятность землетрясений, эпидемий, экономических кризисов, пытаемся угадать результаты торгов на бирже и спортивных матчей. В этом безбрежном океане данных важно уметь правильно распознать настоящий сигнал и не отвлекаться на бесполезный информационный шум.

О том, как этому научиться, рассказывает Нейт Сильвер, политический визионер и гуру статистики, разработавший систему прогнозов, позволившую дважды максимально точно предсказать результаты президентских выборов почти во всех штатах Америки. Его книга во многом близка исследованиям Нассима Талеба и столь же значима для всех, кто имеет дело с большими объемами данных и просчитывает различные варианты развития событий. И если Талеб говорит о законах зарождения «черных лебедей», Сильвер исследует модели и способы, позволяющие поймать этих птиц в расставленные нами сети. Он обобщает опыт экспертов-практиков, изучает различные модели и подходы, позволяющие делать более точные прогнозы. Как и Даниэль Канеман, автор бестселлера «Думай медленно… Решай быстро», наблюдая за поведением и мышлением людей, оценивающих неопределенные события, Сильвер утверждает: да, компьютеры незаменимы при работе с огромными массивами данных, но для максимальной точности результатов необходим гибкий человеческий ум и опыт, ведь прогнозирование – это планирование в условиях неопределенности.

---

Я стал наблюдать за тренировавшимся на поле Педройей. Он ловил мячи Кевина Юкилиса, неповоротливого игрока третьей базы, и перебрасывал их новому подающему – игроку первой базы Кейси Кочману. Мне стало ясно, что в нем что-то изменилось. Движения Педройи были точными, в отличие от Юкилиса и Кочмана, внимание которых казалось рассеянным. Но главное отличие проявлялось в его отношении к происходившему – Педройя раздраженно бросал мяч по всему внутреннему полю и выглядел недовольным отсутствием сосредоточенности на игре у своих товарищей по команде.

Прошло примерно 15 минут, тренировка закончилась, и Red Sox уступила внутреннее поле своим соперникам – команде Toronto Blue Jays. Я стоял около первой базы, в паре метров от дагаут[37] Red Sox, и Педройя прошел прямо мимо меня. Скауты были правы, когда говорили о его осанке. Официальный рост Педройи – около 178 сантиметров (примерно, как и мой), однако он казался на несколько сантиметров ниже. Скауты были правы, и когда отмечали его совершенно не атлетическое сложение. В свои 25 лет Педройя уже начал заметно лысеть, и на его груди было практически столько же волос, что и на голове, а из-под майки выступало заметное брюшко. Встретив его на улице, вы могли бы принять его за сотрудника видеопроката.

Педройя прошел в дагаут и сел там на скамейку в одиночестве. Это показалось мне идеальным моментом, чтобы начать разговор, поэтому я собрался с силами и подошел:

«Привет, Дастин, у вас найдется минутка?»

Педройя подозрительно смотрел на меня в течение пары секунд, а затем заявил – максимально снисходительно и выделяя каждое слово: «Нет. Не найдется. Я готовлюсь к серьезной игре».

Я несколько минут побродил по полю, пытаясь утешить оскорбленное самолюбие, а затем направился в ложу для прессы, чтобы понаблюдать за игрой.

На следующий день, после того как действие моих «верительных грамот» истекло, я вернулся в Нью-Йорк и отправил своего друга Дэвида Лаурилу, моего бывшего коллегу по Baseball Prospectus и опытного интервьюера, с разведывательной миссией. Я хотел понять, сможем ли мы вытащить из Педройи что-нибудь полезное. Педройя был не особенно разговорчив, однако подарил Лаурилу отличную фразу для цитирования. «Знаете что? Меня нисколько не беспокоят цифры и статистика, – заметил он в беседе с Лаурилой. – Все, что меня интересует, – это победы и поражения. Все остальное не важно».

Педройя научился использовать в разговоре подобные клише после того, как когда-то решил отойти от политики, чем и вызвал немалые проблемы на свою голову. Это произошло, когда он назвал свой родной город Вудленд, штат Калифорния, «свалкой»{196}. «Можете так и написать, – сказал Педройя репортеру журнала Boston. – Мне это по фигу».

Ему было по фигу. Я понял, что если бы Педройя относился к жизни как-то иначе, то стал бы думать о том, что напишут о нем скауты в своих отчетах, и никогда не смог бы пробиться в основную лигу.

Создание системы прогнозирования для бейсбола

Сколько я себя помню, я всегда был фанатом бейсбола и бейсбольной статистики. Когда мне было шесть лет, команда из моего города – Detroit Tigers – выиграла World Series в 1984 г. Будучи маленьким математическим вундеркиндом, я очень интересовался цифрами, связанными с игрой. В семилетнем возрасте я купил свою первую бейсбольную карточку, в 10 – прочитал первый выпуск Elias Baseball Analyst, а в 12 лет начал создавать свои собственные статистические таблицы (довольно странные – по моим данным выходило, что не полностью проявивший себя игрок Red Sox Тим Найринг был чуть ли не лучшим по итогам нескольких игр).

Мой интерес достиг своего пика в 2002 г. В это время Майкл Льюис напряженно работал над книгой «Moneyball», которой было суждено вскоре стать национальным бестселлером. В этой книге приводилась хроника жизни команды Oakland Athletics и рассказывалось о ее умеющим использовать статистические данные менеджере Билли Бине.

Примерно в то же время на должность консультанта Red Sox был приглашен Билл Джеймс, который 25 годами ранее открыл эру «Sabermetric»[38], начав публиковать альманах под названием «Bill James Baseball Abstract». Нездоровая одержимость бейсбольной статистикой внезапно оказалась чем-то бо́льшим, чем простое хобби, – и как только я это понял, то сразу же принялся искать новую работу.

В течение двух лет после окончания колледжа я жил в Чикаго и работал консультантом по трансфертному ценообразованию в бухгалтерской компании KPMG. Работа довольно неплохая. Мои начальники и коллеги оказались дружелюбными и профессиональными, зарплата вполне достойной, и я чувствовал себя в безопасности.

Однако мое личное представление о по-настоящему вдохновляющей работе заключалось отнюдь не в том, чтобы рассказывать клиентам, как устанавливать цены на фабрике по производству телефонов в Малайзии, чтобы снизить размер налогов, или отправляться в шесть часов утра на самолет в Сен-Луи, чтобы оценить качество контрактов, использовавшихся в работе горнодобывающей компанией.

В этой работе было слишком мало риска, она оказалась чересчур разумной и рутинной для неугомонного 24-летнего человека, и мне стало скучно как никогда. Однако одно из ее преимуществ состояло в том, что у меня оставалась куча свободного времени. Поэтому в свое свободное время я начал создавать разноцветную таблицу, заполняя ее бейсбольной статистикой. Впоследствии именно она легла в основу PECOTA.

Во время учебы в колледже я также начал читать ежегодник «Baseball Prospectus», основанный в 1996 г. Гэри Хакебеем. Этот рыжий человек с неимоверными запасами энергии и сарказма пригласил на работу команду авторов новостной группы newsgroup rec.sport.baseball (бывшей в первые годы интернета авангардом статистического анализа спорта). Хакебей почуял возможность, которую предоставлял в то время рынок: Билл Джеймс перестал публиковать свои Abstracts в 1988 г., а большинство продуктов, призванных его заменить, либо были недостаточно хороши, либо прекратили свое существование во время длительных забастовок бейсболистов в 1994–1995 гг. Первый выпуск «Baseball Prospectus», опубликованный в 1996 г., распечатывался на лазерном принтере, из него по ошибке исчезла вся информация о клубе St. Louis Cardinals, и продано было всего 75 экземпляров. Однако у «Baseball Prospectus» быстро появились свои поклонники, а продажи начали расти в геометрической прогрессии практически каждый год.

«Baseball Prospectus» был настоящей сладостной мечтой любого фаната статистики. В нем собиралось неимоверное количество цифр, не только по игрокам основной лиги, но и по потенциальным игрокам, игравшим во второстепенных командах.

Тексты в бюллетене порой носили эзотерический характер, там часто упоминались герои мультсериала «Симпсоны», допускались шутки о полузабытых порнофильмах 1980‑х гг. и даже саркастические оценки нелюбимых издателем менеджеров различных команд.

Однако самыми важными публикациями этого издания были предсказания о том, как будет играть каждый игрок в следующем сезоне. Для этого Хакебей использовал созданную им самим систему под названием Vladimir. Казалось, что она будет следующим шагом в начатой Джеймсом революции.

Хорошая система бейсбольных прогнозов должна выполнять три основные задачи.

1. Принимать во внимание текущий статус статистики игрока.

2. Разделять навыки и удачу.

3. Понимать, каким образом изменяется результативность игрока по мере его взросления – эта закономерность известна под названием кривой старения.

Первая задача сравнительно проста. Бейсбольные соревнования, наиболее уникальные из основных американских видов спорта, всегда проводились на полях с нестандартными размерами. Среднему игроку значительно проще показывать хорошие результаты в уютном квадратном Фенвей-парке (контуры которого заданы компактными улицами Новой Англии), чем на напоминающем пещеру стадионе «Доджер», окруженном огромными парковками. Наблюдая за тем, как ведут себя игроки при игре дома и в гостях, мы можем рассчитать так называемый фактор парка, позволяющий учитывать степень сложности, с которой сталкивается игрок. Например, Фред Линн, основной игрок Red Sox в 1970‑е гг., добивался результата 0,347 во время игр в Фенвей-парке, но его результат на любом другом стадионе был равен лишь 0,264. Аналогичным образом, наблюдая за результатами игроков после перехода из Национальной лиги в Американскую лигу, мы можем довольно четко сказать, какая лига лучше, и оценить силу конкурентной позиции игрока.

Самый масштабный набор данных в мире

Решить вторую задачу – то есть разделить навыки и удачу – намного сложнее. Бейсбол выстроен таким образом, что в краткосрочной перспективе удача играет большую роль – даже лучшие команды проигрывают до трети матчей, и даже лучшие подающие не могут добраться до базы каждые три раза из пяти. Иногда удача не позволяет распознать подлинный уровень навыков игрока даже за целый год. Во время любого сезона бьющий, объективный результат которого 0,275, с вероятностью 10 % может добиться результата 0,300 и, соответственно, с той же вероятностью иметь результат 0,250. И это зависит только от одной лишь удачи{197}.