Обман в науке - Бен Голдакр

Итак: результаты школьных экзаменов улучшатся в любом случае; Дарем будет отчаянно пытаться повысить результаты и другими способами, и любой ребенок, который принимает пилюли, будет учиться лучше вследствие эффекта плацебо и эффекта Готорна.

Этого можно было избежать, разбив детей на две группы и давая одной группе плацебо, а другой — настоящие пилюли, чтобы отделить специфический эффект рыбьего жира от эффекта плацебо и других эффектов, описанных выше. Это могло бы дать очень полезную информацию.

Приемлемо ли вообще проводить исследования, подобные тому, которое было проведено в Дареме? Да. Вы можете провести то, что называется «открытым испытанием», без плацебо- группы, и это приемлемый вид исследований. Фактически здесь вы получили важный урок о науке: вы можете провести менее жесткий эксперимент по практическим причинам, если только вы честно говорите о том, что делаете, когда представляете свое исследование, чтобы другие люди могли сами решить, как интерпретировать ваши результаты.

Вот еще важное предостережение. Если вы проводите такое «компромиссное» исследование, без плацебо-группы, открытое, но в надежде получить как можно более точную картину пользы лечения, тогда делайте это насколько возможно тщательно, осознавая, что ваши результаты могут быть искажены ожиданиями, эффектом плацебо, эффектом Готорна и т. д. Вы можете включить детей в исследование спокойно и осторожно, сказав как бы между прочим, что проводите небольшое неофициальное исследование таблеток, но не объясняя, что вы ожидаете от этого исследования; дать им пилюли без помпы и спокойно посмотреть на результаты в конце.

То, что было сделано в Дареме, было совершенно противоположным. Операторы с камерами, звукооператоры, осветители заполнили классные комнаты. Дети давали интервью для радио, телевидения, газет; то же делали и их родители и учителя; Мадлен Портвуд (Madeleine Portwood), образовательный психолог, проводившая исследование, и Дейв Форд (Dave Ford), глава Отдела образования, всюду рассказывали о том, что они, несомненно, ожидают положительных результатов. Они делали буквально то, что, по моему мнению, гарантировало ложноположительные результаты и уничтожало малейший шанс на то, что их исследование даст значимую и полезную информацию. Как часто такое происходит? В мире диетологии, к сожалению, это стандартный протокол исследований.

Следует также отметить, что в этих испытаниях рыбьего жира измерялись трудноуловимые параметры. Успехи на школьном экзамене и поведение (слово с достаточно обширным семантическим отпечатком, если возможно таковой увидеть) — это весьма расплывчатые и переменчивые вещи. Они меняются в разные моменты, в разных обстоятельствах, в разном настроении больше, чем другие параметры. Поведение — это не уровень гемоглобина в крови, не рост и даже не интеллект.

Даремский совет и Equazen (компания — производитель пилюль) оказались настолько успешными в своем стремлении к публичности то ли благодаря неукротимому энтузиазму, то ли просто по глупости (честное слово, не знаю), что фактически саботировали свои испытания. Прежде чем хоть одна капсула была проглочена хотя бы одним ребенком, патентованная добавка Eye Q и сами испытания были широко разрекламированы в местных газетах, а также в газетах Guardian, Observer, Daily Mail, Times, Daily Express, Daily Mirror, Sun, журнале Women’s Own, на телеканалах Channel 4, BBC, ITV и многих других средствах массовой информации. Никто не мог сказать, что дети не были хорошо подготовлены[22].

Вы не являетесь образовательным психологом. Вы не глава отдела образования в местном совете. Вы не доктор медицины с многомиллионным бизнесом по производству пилюль, проводящий огромное число испытаний. Но я совершенно уверен, что вы хорошо понимаете всю эту критику и озабоченность, поскольку это все-таки не строительство летательных аппаратов.

Будучи человеком наивным и открытым, я пошел к людям, проводившим испытания, и сказал им, что они сделали все, чтобы гарантировать бесполезные результаты. Это то, что сделал бы любой в академической среде, и в конце концов это были испытания. Их ответ был прост. «Мы выразились совершенно ясно, — сказал Дейв Форд, инициатор проекта. — Это не испытания».

Неубедительно. Я уличаю их в том, что они проводят плохо спланированные испытания, и вдруг оказывается, что все о’кей, потому что на самом деле это не испытания. Были и другие основания считать защиту несостоятельной. Ассоциация прессы называла это испытаниями. Газета Daily Mail называла это испытаниями. Channel 4, ITV и все остальные очень четко представляли это как исследования (можете посмотреть клипы на сайте badscience.net). Да и сам Даремский совет в своем пресс-релизе называл это «исследованием» и «испытанием» неоднократно[23].

Они давали что-то детям и измеряли результаты. Эту деятельность они сами называли испытаниями. Теперь они говорят, что это были не испытания.

Я обратился в Equazen, компанию-производитель, которую до сих пор хвалят в прессе за участие в этих испытаниях, которые должны были почти гарантированно — благодаря методологическим недостаткам, которые мы уже обсудили, — дать ложноположительные результаты. Адам Келлихер (Adam Kelliher), президент компании, разъяснил, что это была «инициатива». Это были не «исследования» и не «испытания», поэтому я не мог критиковать их как таковые. Хотя трудно игнорировать тот факт, что в пресс-релизе Equazen говорилось о том, что будут даваться капсулы и измеряться результаты, и слово, которое компания использовала для описания этого мероприятия, звучало как «испытания».

Доктор Мадлен Портвуд, проводящая исследование, называла это испытаниями (дважды — в газете Daily Mail). Все описывали это как исследование. Они давали «X» и измеряли «Y». Они называли это испытаниями, это и были испытания — но очень глупые. То, что они просто сказали: «Это не испытания», я не счел ни адекватной, ни слишком взрослой защитой. Они, похоже, даже не считали, что испытания необходимы, и Дейв Форд объяснил, что уже есть доказательства того, что рыбий жир полезен. Давайте посмотрим.

Омега-3 — это незаменимые жирные кислоты. Они называются незаменимыми, поскольку не синтезируются в организме (в отличие от глюкозы или витамина D, например), поэтому должны поступать в него с пищей. То же можно сказать о многих вещах, например витаминах, и это одна из причин, почему стоит есть разнообразную пищу, не говоря уже об удовольствии.

Омега-3 содержатся в рыбьем жире и — в слегка измененной форме — в масле энотеры, льняном масле и других источниках. Если вы посмотрите на схемы в учебнике биохимии, вы увидите там длинный список функций, которые эти молекулы выполняют в организме: они участвуют в построении клеточных мембран, некоторые молекулы вовлечены в межклеточную коммуникацию, например при воспалении. По этим причинам многие люди считают, что полезно употреблять их в больших количествах.

Есть веские основания для скептицизма, поскольку у этой идеи слишком богатая история. В прошлом, задолго до Даремских испытаний, исследования в этой области сопровождались обманом, секретностью, судебными обвинениями, отрицательными результатами, которые замалчивались или неправильно освещались в прессе; было несколько примеров того, как средства массовой информации использовались для публикации результатов и представления их непосредственно публике в обход регулирующих организаций. Мы еще вернемся к этому.

На сегодняшний день проведено — попробуйте сосчитать — шесть испытаний рыбьего жира на детях, и ни одно из них на обычных: все включали особые категории детей с различными диагнозами — дислексия, синдром дефицита внимания и гиперактивности и т. д. Три из этих испытаний продемонстрировали положительные результаты в некоторых измеряемых параметрах (но не забывайте, что в исследовании измеряются сотни параметров, некоторые из которых могут улучшиться случайно, как мы далее увидим), и три дали отрицательные результаты. Одно исследование, к удивлению всех, показало, что результаты в плацебо-группе по некоторым параметрам были лучше, чем в той, которая получала рыбий жир. Все эти испытания суммированы на сайте badscience.net.

И тем не менее: «Все наши исследования, как опубликованные, так и неопубликованные, показывают, что формула Eye Q может реально помочь улучшить школьные достижения», — говорит Адам Келлихер, президент компании Equazen. Все.

Чтобы отнестись к заявлениям такого рода серьезно, нам пришлось бы прочитать эти исследования. Я ни на секунду не хочу обвинить кого-либо в обмане: в любом случае, если кто-то подозревает обман, чтение исследования не поможет, поскольку, если результаты сфабрикованы, то потребуется судебный статистик и много времени и информации, чтобы поймать обманщиков за руку. Но нам не нужно читать опубликованные исследования, чтобы установить, являются ли выводы, сделанные букмекерами от исследований, значимыми или там есть методологические ошибки, которые делают их интерпретацию продуктом предвзятого мышления, некомпетентности или, возможно, просто суждением, с которым вы не согласны.