Принцип «черного ящика» - Мэтью Сайед

34

Философ Фрэнсис Бэкон описал это динамическое взаимодействие еще в XVII в. в трактате «Новый органон»: «Между тем пусть никто не ждет большого прогресса в науках, особенно в их действенной части, если естественная философия не будет доведена до отдельных наук или же если отдельные науки не будут возвращены к естественной философии». (Перевод С. Красильщикова.)

35

Фамилию Houston чаще передают как «Хьюстон», но в данном случае она произносится «Хаустон». – Прим. пер.

36

Случайное распределение (по жребию) очень важно: благодаря ему группы с большой вероятностью будут одинаковыми – при условии, что они достаточно многочисленны. Между ними есть единственное системное отличие: одних пациентов лечат, других нет.

37

Статистикой наблюдений называют все статистические данные, полученные из наблюдений за тем, что происходит. РКИ отличаются тем, что показывают не только то, что происходит, но вдобавок дают для сравнения контрфактические данные.

38

Провести РКИ оказалось намного сложнее, чем Финкенауэр изначально предполагал. Представители программы отказывались сотрудничать. Судья Никола, поддерживавший программу своим авторитетом, пытался уничтожить возможность проведения РКИ в зародыше. «Он не видел нужды оценивать эффективность программы, поскольку уже получил сотни писем, утверждавших, что она успешна», – говорил Финкенауэр.

39

В конечном счете программы, использовавшие методологию «Испугаться и исправиться», были лишены федерального финансирования. Однако они по-прежнему процветают, и не только в США, но и по всему миру. И будут процветать, пока информация значит меньше, чем нарратив.

40

Термин «marginal gains», переведенный здесь как «минимальные успехи», в контексте бизнеса может означать и «предельный доход». – Прим. пер.

41

Для того чтобы перенять уникальный опыт пит-стопов «Формулы-1», с командой связывались врачи из детской больницы Ормонд-стрит. Они хотели понять, как более эффективно перемещать пациентов из операционной в реанимацию. В результате число ошибок резко уменьшилось. См. http://asq. org/healthcare-use/why-quality/great-ormond-street-hospital.html.

42

В первой части книги мы видели, как учатся на своих ошибках авиакомпании, разбирая все катастрофы и потенциально опасные ситуации. Нежелательные события используются, чтобы вырабатывать гипотезы о том, что пошло не так, и по возможности совершенствовать систему. Но это еще не все. Предлагаемые изменения, какими бы верными они ни казались, могут повлечь за собой непредвиденные последствия. Потому все предложения тестируются на симуляторах (при разных условиях и разными пилотами) и только потом применяются на практике. Иными словами, авиация учится на своих ошибках на многих уровнях – и добивается успеха.

43

Для того чтобы проводить РКИ эффективно, важно создать правильную методологию, включая достаточно большой объем выборки. См. http://www.evanmiller.org/how-not-to-run-an-ab-test.html.

44

Это скорее оценка, чем точная сумма, – после перекрашивания панели на прибыль компании влияло слишком много переменных.

45

Иногда данную проблему называют «проблемой внешней валидности»: насколько результаты данного РКИ можно применять в других контекстах? Этот вопрос важен в области фармакогенетики. Эффективность многих лекарств зависит от генотипа (и, следовательно, этнического происхождения) пациента. Отсюда следует, что большая часть лекарств сегодня эффективно действует на европейцев и белых американцев – именно они составляют большинство в тестируемых группах.

46

В 2000 г. Blockbuster решил не покупать только что появившуюся компанию Netflix за 50 млн долларов.

47

В ряде случаев генетическая эволюция – тоже стратегия для локальной оптимизации. Во многих оптимизационных алгоритмах – компьютерных программах, более-менее точно имитирующих процесс эволюции, – предусмотрены крупные изменения с регулярными интервалами, позволяющие уходить от узкой области параметров и уводящие процесс от локального оптимума в сторону более высокой горы.

48

Вспомните, например, про экономистов, которые перетолковывают свои прогнозы так, что оказываются всегда правы. Такое поведение систематически подрывает творческий процесс. Без неудачи, без провала, без раздражения экономисты лишены не только мотивации, но и концептуального топлива, нужного для переосмысления экономических моделей. Они используют свой замечательный интеллект, чтобы защищать собственные идеи, а не перерабатывать их.

49

Есть немало захватывающих книг о войне ученых за свой приоритет в конкретном открытии. Некоторые битвы были жестокими, например между Ньютоном и Лейбницем, которые спорили о том, кто из них первым придумал дифференциальное исчисление. Куда реже такие дискуссии разрешались полюбовно, как между Уоллесом и Дарвином. Тори Рив в книге «Даун-хаус: дом Чарльза Дарвина» (Down House: The Home of Charles Darwin) пишет, что Уоллесу, «замечательно свободному от зависти и ревности», ничуть не претило оставаться в тени Дарвина.

50

Для того чтобы наладить производственный процесс, часто нужно ликвидировать все нежелательные отклонения. Управляя различными процессами, бизнес уменьшает вариативность на выходе. Творческий процесс, напротив, приветствует эксперименты, то есть увеличение вариативности. Более подробно о разнице между этими подходами и о том, как их примирить, см. http:// www.forbes.com/sites/ricksmith/2014/06/11/is-six-sigma-killing-your-com-panys-future/.

51

Одна из загадок рейса LN 114 – почему, если верить пилоту «фантома», шторки всех иллюминаторов в пассажирском салоне были опущены? Можно быть почти уверенным в том, что пилот, испытывая стресс и обладая ограниченным запасом времени, не заметил, что часть шторок была поднята.

52

«Эффект знания задним числом», еще одно хорошо изученное когнитивное искажение, также играет здесь свою роль. Когда мы знаем итог события – пациент умер, самолет разбился, ИТ-система дала сбой, – перестать думать о конкретной причинно-следственной связи очень трудно. Сложно влезть в шкуру совершившего ошибку человека – тот часто действует в состоянии стресса, пытаясь примирить различные требования и не понимая, чем может обернуться данное решение.

53

В здравоохранении в аналогичных случаях говорят о «перестраховочной медицине» – когда медики назначают множество ненужных анализов, чтобы в случае чего уйти от ответственности, и увеличивают тем самым стоимость процедур.

54

Перевод А. В. Лебедева.

55

По словам исследователя творчества Милля Шарлан Немет, «присутствие инакомыслящего меньшинства, судя по всему, стимулирует появление оригинальных идей».

56

Перевод А. Н. Неведомского.

57

Чтобы понять, как метод обучения на ошибках менялся в авиации в прошлом и как он может меняться в будущем, см. лекцию Сидни Деккера: https://vimeo.com/102167635.