Проверка правдоподобности теорий заговора

Нашумевшая статья Дэвида Граймса наглядно, с использованием методов статистического моделирования и на основе вполне реальных скандалов с разоблачениями, показывает неправдоподобность любимых конспирологией крупных заговоров, будь то по фальсификации высадки на Луну или антропогенного изменения климата...

Дэвид Роберт Граймс

Moon-Landing

Аннотация

Конспирологическое мышление есть склонность отдельных людей верить в то, что событиями и отношениями власти тайно манипулируют скрытые группы или организации. Многие из подобных объяснительных допущений нефальсифицируемы, не имеют под собой достаточной доказательной базы или просто ложны, однако, восприятие их публикой остается значительным. Подобные нарративы могут мешать усилиям убедить население в достоверности медицинских и научных открытий, что может создавать впечатление наличия сомнений или разногласий в тех областях, где научная картина мира на самом деле довольно прочна.

Однако же, исторические примеры разоблаченных заговоров вполне существуют, и отличить разумные предположения в этой области от сомнительных может быть довольно тяжело. В данной работе мы предлагаем простую математическую модель заговора, в который вовлечено множество субъектов с течением времени, дающую вероятность провала для любого отдельно взятого заговора. Параметры модели выведены из задокументированных примеров известных скандалов путем изучения факторов, определяющих провал или успех заговора. Модель также используется для оценки вероятности оправданности некоторых распространенных теорий заговора: подделки высадки американцев на Луне, фальсификации глобального изменения климата, опасности вакцинации и сокрытия лекарства от рака заинтересованными компаниями.

Моделирование этих теорий предсказывает, что естественный провал таких заговоров был бы неминуем даже с самыми вольными допущениями относительно способностей их активных участников хранить тайну: полученные при помощи нашей модели результаты показывают, что крупные заговоры (1000 и более участников) быстро становятся неуправляемыми и склонны к провалу. Изложенная в данной работе теория может быть полезна для противодействия потенциально пагубным последствиям антинаучных фальшивок и изучения гипотетических условий, в которых успешный заговор мог бы стать возможным.

Введение

Конспирологические теории, объясняющие события тайными манипуляциями влиятельных лиц, пользуются большой популярностью у широких слоев общества [1]. Вера в одну теорию заговора обычно коррелирует с верой в другие, а некоторые виды конспирологических теорий разделяются самыми разными расовыми и социальными группами [2]. Эти идеи охватывают широкий спектр вопросов, от политики до сверхъестественного, поэтому дать им одно рабочее определение довольно тяжело. В данной работе мы установим в качестве рабочего определения теории заговора данную Санстейном и коллегами характеристику [1]: “попытка объяснить какое-либо событие или практику махинациями влиятельных людей, пытающихся скрыть свое участие, по крайней мере, до тех пор, пока их цели не будут достигнуты”. Хотя современный термин “теория заговора” обычно используется в негативном ключе и связан с параноидальным и необоснованным мировоззрением, используемое нами определение как таковое не отвергает их заранее как заведомо ложные.

Однако, даже с учетом такого определения, количество пользующихся значительной популярностью теорий заговора, которые при этом являются наглядно и доказуемо ложными, не может не вызывать тревогу. Это особенно верно для теорий заговора по научным и медицинским вопросам, где конспирологическое мышление может приводить к полному отрицанию или даже противодействию научному методу [3], что может принести особенно серьезный ущерб не только сторонникам данных теорий, но и обществу в целом: например, теории заговоров по таким медицинским вопросам, как вакцинация, могут иметь потенциально смертельные последствия [4].

Конспирологическое мышление типично для групп, выступающих против вакцинации, которые считают людей, отстаивающих точку зрения науки и медицины агентами некоей зловещей группировки, стремящейся скрыть “правду”. Это становится защитным механизмом, направленным на сохранение убеждений, несовместимых с реальными доказательствами, и неудивительно, что сторонники подобных взглядов отличаются не только конспирологическим мышлением, но целым рядом ошибок в рассуждениях, опорой на слухи, а не на данные, и невысокой степенью сложности в мыслительных процессах [5].

Схожим образом, отрицание изменения климата как фальсификации порождает ненужную неуверенность в публичной дискуссии и увеличивает риск того, что вместо необходимости действия в общественном сознании возобладает пагубная инертность. Данный случай отрицания научных данных как сфальсифицированных имеет также и политическую подоплеку: исследование 2011 года показало, что консервативные белые мужчины в США были склонны отрицать существование изменения климата куда больше прочих американцев [6]. Похожее исследование в Великобритании показало, что отрицание изменения климата более популярно среди политически консервативных людей, придерживающихся традиционных ценностей [7]. Популярность теории заговора относительно изменения климата выходит за рамки таковой у обычной конспирологии: исследование Левандовски и коллег, проведенное в 2013 году [8], показало, что если люди с конспирологическим мышлением склонны отрицать любые научные построения, которые были бы им предложены, люди с сильно консервативными взглядами или ярые сторонники свободного рынка были склонны отрицать лишь те научные факты, которые могли привести к регулированию, противоречащему их убеждениям.

Оспаривание сомнительных антинаучных убеждений является важным элементом конструктивной общественной дискуссии, и есть основания полагать, что такие нарративы можно успешно оспорить. Вера в подделку высадки на луне сильно связана с принятием других теорий заговора, но имеются доказательства тому, что поддержка данной теории сильно уменьшается после предоставления научных данных, опровергающих этот нарратив [9]. Предыдущие исследования также показывают, что улучшение распространения информации о консенсусе в научном сообществе также может преодолеть конспирологическое мышление по таким разным вопросам, как связь между ВИЧ и СПИД и изменение климата [10].

Разумеется, стоит также рассмотреть данный вопрос с позиции “адвоката дьявола”: история знает множество примеров успешных заговоров и их разоблачений, от Уотергейтского скандала и до недавней огласки масштабной слежки за активностью граждан в сети Интернет, осуществляющейся их же собственными правительствами. Таким образом, было бы несправедливо отвергать любые предположения о заговоре как паранойю, в то время, как в некоторых случаях заговоры действительно имели место. Утверждение о том, что заинтересованные лица способны искажать и смущать общественное мнение также верно: в случае с изменением климата, к примеру, консервативные демагоги вполне преуспели в том, чтобы поставить под сомнение достоверные научные данные в публичной дискуссии [8,11-14]. Таким образом, подход, который отметал бы эти вполне оправданные соображения заранее, не является оптимальным, и необходимо выработать четкие критерии отделения разумного от бредового.

Здесь мог бы быть полезен пока не существующий метод определения вероятности, с которой заговор может оказаться реальностью, и факторы, влияющие на нее. Это помогло бы в двух областях: во-первых, это позволило бы оценить, насколько правдоподобной является отдельно взятая теория заговора, и в каких масштабах пришлось бы действовать ее субъектам. Во-вторых, что полезнее, это помогло бы противодействовать потенциально вредоносным антинаучным воззрениям путем предоставления оценки реалистичности заговора во времени. В данной модели взяты параметры из задокументированных случаев разоблаченных заговоров, которые затем использованы, чтобы проанализировать несколько распространенных конспирологических теорий, а также рассмотреть теоретические рамки масштабов и временной продолжительности любой возможной конспирологической теории.

Антинаучные конспирологические теории: краткий обзор

Теорий заговора, приписывающих некие зловещие скрытные действия ученым, великое множество. В данной работе мы ограничились четырьмя широко распространенными теориями из этой серии, которые перечислены ниже.

  1. Заговор NASA с целью подделки высадки на Луну. Успешный полет “Аполлона-11”, в результате которого нога человека впервые ступила на поверхность Луны, является прорывным достижением в истории человека. Однако с того самого исторического дня существует упорная маргинальная группа, считающая, что высадка на Луну была подделана в пропагандистских целях. В 2013 году было установлено, что около 7% американцев разделяют это убеждение [15]. Сторонники данной конспирологической теории продолжают утверждать, что в фотографиях, снятых на поверхности Луны, имеются некие несоответствия, несмотря на то, что эти утверждения были последовательно и полностью опровергнуты [16].
  1. Заговор об изменении климата. Отрицание климатических изменений имеет глубокую политическую подоплеку [7,8]. Несмотря на подавляющий объем доказательств в поддержку научного консенсуса об антропогенном изменении климата [17], этот консенсус отвергается большим числом людей, многие из которых утверждают, что изменение климата сфальсифицировано учеными и защитниками природы [18-20], якобы для получения грантов на исследования. Подобные убеждения легко опровергаются огромным объемом доказательств, но остаются популярными в силу частого искажения картины мира пристрастными средствами массовой информации [20,21], результатом чего становится путаница и инертность общества по данному вопросу.
  1. Заговор вакцинации. Конспирологические теории касательно вакцин широко распространены в движении против вакцинации [18,22]. По некоторым оценкам, около 20% американцев продолжают придерживаться давно опровергнутого убеждения в том, что вакцина MMR связана с аутизмом [15] — убеждения, которое уменьшило процент вакцинации в нескольких странах [22]. Антивакцинационные убеждения и нагнетание страхов характерны в век Интернета, где критикующие вакцинацию сайты распространяют сомнительную информацию [23,24]. Необоснованные страхи перед вакцинацией были, к несчастью, весьма успешны по части создания паники и уменьшения количества вакцинированных, что в свою очередь привело к возвращению некоторых болезней, примером чего может служить корь [4].
  1. Заговор о сокрытии лекарства от рака. Убеждение, что лекарство от рака скрывается заинтересованными компаниями, существует давно [25]. Оно обычно используется в качестве универсального deus ex machina теми, кто пытается продать нечто, выдаваемое за альтернативное лекарство, и конспирологическая теория здесь выступает в качестве объяснения тому, почему действие таких альтернативых лекарств никогда не бывает подтверждено клиническими испытаниями [26]. Это убеждение может нанести вред пациентам, некоторые из которых отказываются от общепринятого лечения в пользу заманчивых, но необоснованных обещаний альтернативной медицины [27].

Методы

Расчеты модели

Изначально мы допускаем, что в любом отдельно взятом заговоре заговорщики в целом преданы делу сокрытия своей деятельности. Далее мы допускаем, что утечки информации от любого из заговорщиков достаточно для разоблачения заговора и его провала: таковые утечки могут быть преднамеренными (в виде предательства или оглашения) или случайными (ошибочная утечка информации). Нас интересует только потенциальное саморазоблачение заговора, и мы не рассматриваем возможность раскрытия его внешними субъектами. Затем мы можем применить статистические методы Пуассона и выразить вероятность как минимум одной утечки, достаточной для провала всего заговора, как

(1)

где ϕ представляет собой среднее число провалов, ожидаемых на единицу времени. Оно в свою очередь является функцией от числа заговорщиков во времени N(t) и p, возможности саморазоблачения на человека в год. Таким образом, мы можем обозначить ϕ как

(2)

и, если для краткости записать ψ = 1 − p, вероятность провала заговора может быть переформулирована как функция от времени, которая выглядит как

(3)

Для параметра N(t) существует несколько вариантов, поскольку он обозначает количество заговорщиков: выбор наиболее подходящего будет зависеть от типа заговора. Если заговор требует постоянного обслуживания, то количество людей, необходимых для его поддержания, со временем более-менее постоянно. Это моделирует ситуации, в которых необходима какая-то постоянная деятельность, направленная на сокрытие события или поддержание маскировки. В таком случае, количество заговорщиков принимает простой вид

(4)

где Nо — изначальное количество заговорщиков. Если же заговор был единичным событием, после которого набор новых заговорщиков не предполагается, то с течением времени его участники будут постепенно вымирать, уменьшая возможность разоблачения. В данном случае для функции N(t) можно использовать функцию выживаемости Гомпертца. Если средний возраст заговорщиков на момент события равен te, то

(5)

где N0 есть изначальное количество участников, а α и β константы для кривой Гомперца. Для людей мы можем использовать α=10^-4 и β= 0,085 [28] чтобы получить приблизительные расчеты человеческой смертности. Наконец, если число заговорщиков быстро убывает в связи с внутренними трениями или другими причинами (событие, которое само по себе может считаться метазаговором), в некоторых обстоятельствах мы можем смоделировать N(t) как экспоненциальный спад. Если участники убывают достаточно быстро, и после периода t2 остается лишь половина, то отрицательный показатель экспоненты равен , а количество заговорщиков со временем

(6)

Важно отметить, что уравнение №6 работает с допущением, что быстрое уменьшение числа заговорщиков не меняет вероятность разоблачения, приходящуюся на одного заговорщика — данное допущение может не работать на практике и проработано в разделе “Обсуждение”. Из уравнения №3 ясно, что увеличение N(t) всегда повлечет за собой увеличение L(t) вне зависимости от выбранной плотности заговорщиков. Вероятность провала со временем выглядит несколько сложнее, для постоянного сценария, изложенного в уравнении №4, L будет равномерно увеличиваться со временем. В непостоянных сценариях, как в уравнениях №5 и №6, L будет нелинейна во времени, как показано на рис. 1. Время, в которое L достигает своего максимума в данных случаях — tm — можно получить, решив уравнение , которое тождественно

(7)

Данное уравнение трансцендентно и не может быть решено аналитическим способом, но приблизительное решение можно легко получить графическими или числовыми способами. Максимальная вероятность провала таким образом получается L(m) из уравнения №3. Форма N(t) в значительной степени определяет динамику проблемы, как показано на рис. 1.

journal.pone.0147905.g001

Рис. 1. Прогнозируемая вероятность провала L для заговора в 5000 изначальных участников и p = 5 × 10^−6 с разными допущениями по поводу популяции. Синяя сплошная кривая обозначает L во времени с поддержанием постоянного числа заговорщиков. Красная пунктирная линия показывает единичное событие с естественной убылью популяции заговорщиков по Гомперцу, если средний возраст заговорщика принят за 40 лет, а пунктирная оранжевая линия показывает экспоненциальную убыль с сокращением количества заговорщиков наполовину за каждые 10 лет. В первом случае вероятность провала заговора равномерно увеличивается со временем. В случае с кривой Гомперца, вероятность провала поначалу увеличивается до максимума (L=0,38 по прошествии 29 лет для нашего примера), но смертность заговорщиков со временем будет впоследствии понижать вероятность провала. Наконец, если заговорщиков убирают специально, кривая достигает пика L=0,12 по прошествии 14 лет, после чего вероятность снижается по мере уменьшения количества заговорщиков, которые могут выдать тайну.

Оценка параметров

Для использования данной модели требуются реалистичные оценки параметров. В особенности важен параметр p, вероятность саморазоблачающей утечки или провала: если p будет равен нулю, то станет возможным заговор с абсолютной конспирацией, раскрываемый исключительно внешним вмешательством.. Это не представляется возможным на практике: исторические примеры наглядно показывают, что даже в самых законспирированных организациях всегда существует возможность намеренной или случайной утечки информации через саморазоблачение или некомпетентность. Подробности заговоров обычно мало известны по определению, но мы можем дать очень осторожные оценки параметров, используя данные по тем случаям разоблачения заговоров, где имеется достаточный объем информации о продолжительности заговора и численности заговорщиков. В данной работе используются три примера:

— Скандал с системой PRISM Агенства национальной безопасности США. Ошеломительный размах слежки АНБ и их союзников за рядовыми пользователями сети Интернет [29] был предан огласке одним из ее исполнителей, Эдвардом Сноуденом, в 2013 году. Масштаб слежки был действительно беспрецедентным и включал в себя прослушивание оптоволоконных кабелей, разговоров глав союзных государств и сбор огромного объема метаданных [30].

— Исследование сифилиса в Таскиги. В 1932 году в штате Алабама Государственная служба здравоохранения США начала исследование методом наблюдения за афроамериканцами мужского пола, зараженными сифилисом. Исследование вышло за рамки медицинской этики в середине 40-х годов, когда оказалось, что эффективным лекарством от сифилиса является пенициллин, но зараженным его так и не предоставили. Этическая сторона эксперимента была поставлена под вопрос в середине 60-х, и он в конце концов был разоблачен доктором Питером Бакстоном в 1972 году [31-33].

— Криминалистический скандал в ФБР. Доктор Фредерик Уайтхерст сотни раз отправлял своему начальству письма с описаниями псевдонаучности многих из криминалистических методов, используемых ФБР. Сомнительная эффективность этих методов привела к тому, что множество невиновных людей провели десятки лет в заключении, а некоторые из них были казнены за преступления, которых они не совершали, или умерли в тюрьме. Это было разоблачено Уайтхерстом в 1998 году, и последующий доклад ФБР и Департамента юстиции показал, что 26 из 28 экспертов-криминалистов, специализирующихся на анализе волос, давали заведомо ложные показания, что привело к продолжающемуся по сей день массовому пересмотру приговоров [34, 35].

Данные об этих событиях позволяют нам дать консервативную оценку значению p. Допустим, что после периода t, по окончании которого заговоры были раскрыты, их вероятность провала равна L>=0,5. Нижняя граница для p таким образом равна

(8)

Некоторые из этих оценок будут в значительной степени и неизбежно двусмысленными, в особенности там, где речь идет о количестве людей, посвященных в заговор. В случае с PRISM цифра в 30000 человек взята из общей численности штата АНБ. В действительности доля тех сотрудников, кто располагал сведениями о данной программе, куда меньше, но мы взяли наибольшее число чтобы минимизировать нашу оценку p. Учитывая небольшую временную продолжительность заговора, мы также допускаем, что количество заговорщиков оставалось примерно одинаковым на протяжении всего периода до разоблачения заговора.

С экспериментом в Таскиги ситуация обстоит еще сложнее. Изначально в 30-х им занимался отдел венерических заболеваний Государственной службы здравоохранения США, но данный департамент подвергся реструктуризации в последующие годы. Исторические данные о штате USPHS не находятся в свободном доступе, так что оценка в 6700 человек взята из количества руководящих должностей текущего штата всего USPHS. Это скорее всего существенно переоценивает количество вовлеченных в заговор людей, которое скорее всего на практике ограничивалось куда меньшим по размеру отделом венерических заболеваний.

Скандал с криминалистикой в ФБР также сложно уложить в количественные показатели. В сам скандал с микроскопным анализом волос было вовлечено 28 агентов [39], но их разоблачение доктором Уайтхерстом выявило куда более крупномасштабные проблемы, касающиеся всего департамента криминалистики. В соответствии с этим, мы взяли современные цифры штата ФБР, как научного, так и оперативного. Чрезмерно высокие значения N заставляют нас переоценивать способности коллектива заговорщиков хранить тайну, но зато позволяет установить крайне низкую нижнюю границу для вероятности провала за единицу времени на одного заговорщика p. По сути это моделирует наиболее благоприятный для заговорщиков сценарий развития событий.

Вдобавок к этому, продолжительность “жизни” заговора не всегда ясна: в случае с АНБ, оценки касаются лишь узкого промежутка от 5 до 6 лет [29]. С экспериментом в Таскиги все еще менее очевидно, потому что начавшись в 30-х годах ХХ века он пересек границы этически дозволенного лишь в конце 40-х, когда было принято решение не давать зараженным пенициллин. До д-ра Питера Бакстона этическими вопросами задавались и другие сотрудники, но мы берем 1972 год в качестве крайней отметки, поскольку именно его разоблачения привлекли внимание к долговременным злоупотреблениям в этой сфере.

Наконец, временной промежуток, касающийся скандала с криминалистикой в ФБР, также довольно сложно определяем. Лаборатория криминалистики ФБР была основана в 1932 году и мы могли бы наивно предположить, что заговор продолжался все 66 лет до его разоблачения в 1998 году, в каковом случае оценка наименьшего значения р была бы снижена примерно до p >= 2,11 × 10^-5. Такая оценка, однако же, была бы нереалистичной, поскольку проблемы в отдельных областях зарождающейся криминалистики тогда не могли быть известны. Однако же, с 1992 по 1997 годы доктор Уайтхерст написал несколько сотен писем своему начальству по поводу зияющих провалов в методах анализа, и все они были проигнорированы. Таким образом, можно предположить, что ФБР знало о псевдонаучности своих криминалистических методов как минимум с 1992 года, что дает нам срок до разоблачения всего в 6 лет. Во всех случаях мы берем наибольшее реалистичное значение t, поскольку это представляет наиболее благоприятный для заговорщиков сценарий.

Таблица 1. Известные и выведенные параметры.

Проект АНБ США “PRISM”
Максимальное кол-во участников 30000 [36]
Срок до разоблачения 6 лет*
Оценочное значение р 4,09 ×10^-6
Оценочное значение ψ 0,99999580
Эксперимент с сифилисом в Таскиги
Максимальное кол-во участников 6700 [37]
Срок до разоблачения 25 лет**
Оценочное значение р 4,20 ×10^-6
Оценочное значение ψ 0,99999580
Скандал с криминалистикой в ФБР
Максимальное кол-во участников 500 [38]
Срок до разоблачения 6 лет***
Оценочное значение р 2.45 ×10^-4
Оценочное значение ψ 0,99975500

* Другие источники указывают срок в 5 лет — 6 лет выбрано в качестве консервативной оценки.

** Взято время продолжительности эксперимента за рамками врачебной этики — с 1947 по 1972 годы.

*** Взято время, в течение которого ФБР знало о проблемах с экспертизой — с 1992 по 1998 годы.

Экспериментальный метод

Установленная модель позволяет оценить, насколько отдельные параметры влияют на вероятность успеха или провала любого отдельно взятого заговора. Из таблицы 1, допуская, что выведенное значение наиболее благоприятно для заговорщиков (p = 4.09 ×10^-6), мы можем применить описанную модель к нескольким популярным и долгоживущим теориям заговора и оценить их правдоподобность с течением времени. Как уже говорилось в предыдущем разделе, данные оценки специально делались как можно более благоприятными для заговорщиков и соответствуют случаю, когда среднее ожидаемое количество ведущих к провалу утечек для отдельно взятого заговора равно примерно 4 на миллион. Придерживаясь наиболее благоприятного для заговорщиков сценария развития событий, мы также не используем верхнюю границу p, равную 2,45 × 10^-4, которая примерно в 60 раз выше минимальной прогнозируемой вероятности провала на заговорщика в год, описанной в таблице 1.

Результаты

Таблица 2 содержит неисчерпывающие оценки количества заговорщиков, необходимого для каждой из направленных против науки конспирологических теорий. Что важно, показанные здесь оценки N(t) предполагают, что все участвовавшие ученые были осведомлены об активном сокрытии информации, и что небольшая группа злоумышленников не могла бы обманывать все научное сообщество на протяжении долгого времени. В большинстве рассмотренных случаев для поддержания конспирации требовалась бы постоянная деятельность, направленная на сокрытие правды, так что N(t) = N0. В случае с подделкой высадки на луну НАСА можно поспорить, что заговор был одномоментной фальсификацией, и таким образом может применяться кривая популяции Гомперца из уравнения №5. Это не очень реалистичное допущение, но мы также принимаем его во внимание. Нарратив заговора об изменении климата также нуждается в некотором пояснении: люди, скептично относящиеся к научному консенсусу относительно изменения климата могут занимать либо “жесткую” позицию (изменения климата нет вообще), либо “мягкую” позицию (изменение климата существует, но не является антропогенным). Для данного исследования мы упрощенно определяем заговор об изменении климата как точку зрения людей с “жесткой” позицией. Результаты показаны на рис. 2. Из этих вычислений мы также можем определить максимальные временные рамки до неизбежного провала для данных заговоров, где неизбежный провал определяется как L>= 0,95. Данные оценки изложены в таблице 3.

journal.pone.0147905.g002

Рис. 2 Кривые вероятности провала для: (а) подделки высадки на Луне НАСА (результаты как для постоянной популяции, так и для функции Гомперца настолько близки, что визуально неразличимы), (b) фальсификации изменения климата (сплошная синяя линия показывает вероятность провала со временем, если в заговоре участвуют все научные организации, поддерживающие консенсус по этому вопросу, красная пунктирная линия показывает кривую вероятности провала в случае, если в заговоре участвуют только активные исследователи климата) (с) заговора вакцинации (синяя сплошная линия показывает вероятность провала со временем в случае, если в заговоре участвуют крупнейшие организации здравоохранения и производители лекарств, а красная пунктирная — если только организации здравоохранения вовлечены в заговор, (d) заговора о сокрытии лекарства от рака со временем.

Таблица 2. Неисчерпывающие оценки минимального количества участников, необходимого для заговора.

Заговор Участников Итого участников
Подделка высадки на Луну 411000
Пиковое значение штата сотрудников в НАСА (1965 г.) [40] 411000
Фальсификация изменения климата* ок. 405000
Американский геофизический союз [41] 62000
НАСА (современный штат) [42] 58000
Американская ассоциация по содействию развития науки [43] 120000
Члены Королевского научного общества [44] 16000
Европейское физическое общество  [45] 120000
Публикующиеся ученые-климатологи [46] ок. 29083
Заговор вакцинации** 22000
Центры по контролю и профилактике заболеваний [47] 15000
Всемирная организация здравоохранения (ВОЗ) [48] 7000
Сокрытие лекарства от рака*** 714000
Novartis 65262
Pfizer 116500
Roche 78604
Sanofi 105000
Merck and Co. 70000
Johnson and Johnson 122200
GlaxoSmithKline 99000
AstraZeneca 57500

* Оценка количества членов научных организаций, поддерживающих консенсус по поводу изменения климата.

** Допуская, что в сокрытии правды участвуют только крупные международные организации здравоохранения.

*** Пиковые значения штатов для 8 крупнейших фармацевтических компаний.

Таблица 3. Максимальное время до неизбежного провала (L>0,95)

Заговор Провал
Лунный заговор (постоянная поддержка) 3,68 года
Лунный заговор (одномоментное событие) 3,68 года
Подделка изменения климата (только ученые) 26,77 лет
Подделка изменения климата (включая организации) 3,7 года
Заговор вакцинации (только ВОЗ и CDC) 34,78 года
Заговор вакцинации (включая фармацевтические компании) 3,15 года
Сокрытие лекарства от рака 3,17 года

 Обсуждение

Наш анализ предсказывает, что даже с наиболее благоприятными для заговорщиков оценками параметров, проанализированные заговоры имеют тенденцию к быстрому провалу. Даже если бы удалось добиться полной слаженности действий, само количество участников, которое потребовалось бы для осуществления гипотетических научных фальсификаций, неизбежно подрывало бы эти заговоры изнутри. Для заговора, охватывающего хотя бы несколько тысяч участников, саморазоблачение наступит в течение нескольких десятилетий. Для заговоров с сотнями тысяч участников такой провал неизбежен в течение менее чем половины десятилетия. Важно также отметить, что данный анализ касается только саморазоблачения, то есть вероятности того, что заговор будет предан огласке намеренно или случайно одним из его участников. Расследование извне не участвующими в заговоре людьми увеличит вероятность провала еще больше, что делает сложные схемы по сокрытию информации еще более сложными и склонными к провалу.

Более того, количество участников, указанное в таблице 2, представляет собой очень консервативную оценку. Более подробные подсчеты, несомненно, увеличат вероятность провала для всех рассмотренных конспирологических нарративов еще дальше.

Данная проблема, судя по всему, является непреодолимой для любого крупного заговора. Если он требует постоянного поддержания (N(t) = N0), то вероятность провала со временем приближается к единице. Если мы установим порог обнаружения, ниже которого заговор обязан оставаться в определенных временных рамках для достижения успеха (μ = 0.05), то можно вычислить максимально возможное количество заговорщиков, что сделано в таблице 4. Даже для довольно скромного срока в 5 лет количество заговорщиков ограничено 2521 агентами. Чтобы поддерживать заговор в течение более чем 10 лет, даже с учетом используемой в данной работе весьма благосклонной оценки р в p = 4,09 × 10^-6, он должен быть ограничен кругом в менее чем 1000 участников. Даже для одноразовых событий с убылью популяции по Гомперцу проблема провала для больших заговоров не исчезает: для такого события вероятность провала превышает 5%, если число участников достигает около 650 человек, даже с идеальным значением р и средним возрастом участников в 40 лет. В этой ситуации, однако же, вероятность провала со временем падает по мере сокращения числа участников, что делает это пороговое значение максимальной вероятностью провала для всего сценария. Эта вероятность также резко повышается с увеличением числа заговорщиков, что опять же делает крупномасштабные заговоры маловероятными. В идеальных условиях представляется возможным держать одно конспирологическое событие скрытым (ниже порога обнаружения), если количество участников весьма невелико (меньше 1000).

Таблица 4. Максимальное кол-во заговорщиков для того, чтобы заговор оставался ниже порога обнаружения (μ=0.05).

Временная продолжительность Максимальная численность
5 лет 2531
10 лет 1257
15 лет 838
20 лет 628
25 лет 502
30 лет 418
40 лет 313
50 лет 251
100 лет 125

Как указано в разделе, посвященном оценке параметров, использованные в данной работе оценки были специально подобраны для наиболее благоприятного для заговорщиков развития событий. Для дальнейших оценок использовалось минимальное полученное значение р, однако максимальное его значение было примерно на два порядка выше. Если использовать его, то это резко изменило бы картину, серьезно уменьшив период времени до обнаружения, описанный в рис. 3.

journal.pone.0147905.g003

Рис. 3. Кривые вероятности провала для заговора с No = 5000 с вариацией р на два порядка.

Учитывая сложность получения точных значений количества заговорщиков и временных промежутков, в данной работе имеется врожденная неопределенность по части оценочных параметров, и более точные оценки позволили бы квантифицировать р лучше. Открытым остается и вопрос о том, правомерно ли использовать раскрытые заговоры для оценки параметров и не приводит ли это к предвзятым результатам и слишком завышенной оценке значения р. Это может быть так, но учитывая весьма консервативные оценки всех прочих параметров, наиболее вероятно, что для большинства заговоров р будет куда выше, чем наше оценочное значение, поскольку даже относительно небольшие заговоры (например, Уотергейтский скандал) разоблачались довольно быстро.  Нужно также отметить, что р скорее всего будет сильно варьироваться от заговора к заговору, в зависимости от того, насколько заговорщики преданы своему делу, и полученные нами цифры являются в лучшем случае консервативной приблизительной оценкой типичного значения. Однако, даже если участники заговора отличаются особенной преданностью, р также включает в себя риск случайного саморазоблачения. Заговоры, безусловно, существуют как таковые, но содержание их в тайне скорее всего зависит в большей степени от малого числа участников, нежели от обеспечения крайне малой вероятности утечки от каждого из них.

Изначальное количество заговорщиков N0 также определяется весьма смутно, и относиться к нему следует весьма осторожно. Приведенные в данной работе оценки (изложенные в таблице 2) являются в лучшем случае приблизительными порядками величин. Они подбирались во многом наиболее консервативным методом: к примеру, взятое количество участников заговора о вакцинации, скорее всего, крайне занижено, поскольку вакцинация очень широко распространена. Данные оценки также делают допущение, что все исполнители заговора обладают полной информацией о нем. Если это не так, то лишь участники с достаточной степенью осведомленности могли бы войти в это число. Подобная ситуация может действительно иметь место в случае политических или социальных заговоров, однако в случае с заговором в науке можно уверенно предположить, что все, кто работает с касающимися заговора данными будут в курсе происходящего обмана. Если бы это было не так, ложные сведения и сомнительные данные были бы разоблачены не входящими в заговор учеными тем же способом, каким обычно разоблачается подлог в науке. Таким образом, если бы даже небольшая группа ученых-ренегатов и подделывала данные об изменении климата, изучение их данных остальными учеными очень быстро разоблачила бы такой заговор. Чтобы преодолеть это препятствие, подавляющее большинство ученых в данной области должны быть вовлечены в заговор, что согласно прогнозу, сделанному нашей моделью, является крайне маловероятным событием.

Допущение применимости статистических методов Пуассона, использованных в этой работе, оправдано для дискретных событий, от прибытия автомобилей к светофору [49] до радиационных повреждений ДНК [50] и должно оставаться верным для случаев разоблачения заговоров. Выстроенная нами модель довольно проста, но в зависимости от функции популяции она может вести себя довольно интересным образом. Как показано на рис. 1, форма N(t) сильно влияет на вероятность обнаружения заговора с течением времени. Экспоненциальное убывание, изложенное в уравнении №6, в теории дало бы наименьшую вероятность обнаружения единичного конспирологического события, но это предположение скорее всего очень далеко от реальности.

journal.pone.0147905.g004

Рис 4. Кривые вероятности провала для заговора с No = 5000 в течение 50 лет с экспоненциальной убылью заговорщиков с периодом полураспада t2 в 5 лет с (а) допущением постоянного значения р и (b) пропорциональным изменением вероятности p(t) = po*e^λt

Причины этого двоякие: во-первых, подразумевается, что заговорщиков убивают или убирают каким-либо другим способом, что само по себе является заговором. Но, что более важно, быстрое уменьшение числа заговорщиков наверняка вызовет панику и разногласия среди них. В таком случае, р скорее всего превратится в функцию от количества заговорщиков и времени. Если мы допустим, что вероятность провала увеличивается пропорционально темпам сокращения числа заговорщиков, то p(t)=p0^et и вероятность провала резко возрастает. Такое поведение описано на рис. 4. По данной причине модель быстрого сокращения популяции, скорее всего, не является реалистичной даже для одноразового заговора и ее можно не принимать в расчет. Из-за отсутствия данных мы не учитывали возможность вариации вероятности со временем в данной работе, но определив ψ(t) = 1 − p(t) (для подходящего p(t)) мы модифицируем уравнение №3, чтобы сделать поправку на это, если оно известно

(9)

Одним из основных наших мотивов в проведении данного исследования было помочь предотвращению закрепления антинаучных воззрений в общественном сознании путем вычисления того, насколько маловероятной является успешная научная фальсификация в столь крупных масштабах. Данное утверждение применимо не только к перечисленным здесь примерам, но и к широкому спектру антинаучных убеждений. Существенное количество людей продолжают придерживаться конспирологических воззрений по целому ряду вопросов, типичными представителями которых являются вопросы о ГМО [51,52], фторировании воды [18,53,54], и отрицании СПИДа [55,56]. Подобные нарративы можно и нужно подвергать сомнению, поскольку конспирологические идеи не только наносят вред здоровью и благополучию людей, но и, согласно недавним исследованиям, искажают восприятие событий в еще большей степени, чем предполагалось ранее. Восприятие антинаучных убеждений коррелирует с уменьшенной сопротивляемостью к псевдонаучному мошенничеству: вера в заговор о сокрытии лекарства от рака может побудить пациентов отказаться от общепринятого лечения в пользу сомнительных методов альтернативной медицины [27]. Есть множество свидетельств тому, что деятели альтернативной медицины, например, гомеопаты, гораздо более склонны пропагандировать отказ от вакцинации [23,58,59] несмотря на то, что их собственный медицинский метод абсолютно необоснован и противоречит фундаментальным законам физики [60]. Пока неизвестно, является ли эта связь причинно-следственной, или же простой корреляцией.

Выведенная в данной работе теория может использоваться для моделирования общих тенденций, ожидаемых от заговоров, но она не рассматривает динамику, мотивацию и взаимодействия между отдельными заговорщиками. Эти взаимодействия, возможно, стоит рассмотреть в будущих работах, возможно с использованием субъектных моделей, чтобы учесть разнообразные внутренние трения и давления и их воздействие на общую вероятность провала. Наш подход может дать определенное понятие об обобщенном поведении заговоров, но субъектно-ориентированная модель, сосредоточенная на взаимодействиях отдельных субъектов и вероятностей, возможно, сможет лучше описывать все тонкости заговоров и их саморазоблачения. Такая модель может использовать данные из психологии, приписывая моделируемым субъектом некий спектр свойств, и вводя определенные правила взаимодействия, чтобы понять, будет ли получившаяся динамика влиять на успех или провал любого скрываемого события. Хотя борьба с антинаучными воззрениями и важна, приходится признавать ограниченную применимость такого подхода. Разъяснение заблуждений и проведение анализов, подобных изложенному в данной работе, может помочь убедить достаточно здравомыслящих конспирологов [9], но его может быть недостаточно, если человек достаточно сильно вовлечен в конспирологический нарратив.

Недавние исследования показали, что теории заговора быстро распространяются в сети Интернет в поляризованных эхо-камерах, которые обычно глубоко вовлечены в определенные нарративы и закрыты от прочих источников информации [61]. Исследование мнения родителей, проведенное недавно в Калифорнии, обнаружило, что развеивание заблуждений о связи между вакцинацией и аутизмом возможно при наличии четкого и ясного разъяснения, но в случае с особенно ярыми противниками вакцинации попытка прибегнуть к рациональному подходу лишь убеждала их в собственной правоте еще сильнее [62]. Печальная реальность такова, что, судя по всему, существует категория людей, настолько идеологически вовлеченных в свои убеждения, что никакие рациональные аргументы не способны их переубедить, а реальность не может заставить их усомниться в своем мировоззрении. В таких случаях крайне маловероятно, что простая математическая демонстрация нереалистичности их убеждений поменяет их точку зрения. Однако, в случае менее сильно вовлеченных конспирологов, подобное вмешательство может оказаться полезным.

Источники и литература

1. Sunstein CR, Vermeule A. Conspiracy Theories: Causes and Cures*. Journal of Political Philosophy. 2009;17(2):202–227. doi: 10.1111/j.1467-9760.2008.00325.x.

2. Goertzel T. Belief in conspiracy theories. Political Psychology. 1994;15(4):731–742. doi: 10.2307/3791630.

3. Lewandowsky S, Gignac GE, Oberauer K. The Role of Conspiracist Ideation and Worldviews in Predicting Rejection of Science. PLoS ONE. 2013 10;8(10):e75637. doi: 10.1371/journal.pone.0075637. pmid:24098391

4. Poland GA, Jacobson RM. The Age-Old Struggle against the Antivaccinationists. New England Journal of Medicine. 2011;364(2):97–99. doi: 10.1056/NEJMp1010594. pmid:21226573

5. Jacobson RM, Targonski PV, Poland GA. A taxonomy of reasoning flaws in the anti-vaccine movement. Vaccine. 2007;25(16):3146–3152. doi: 10.1016/j.vaccine.2007.01.046. pmid:17292515

6. McCright AM, Dunlap RE. Cool dudes: The denial of climate change among conservative white males in the United States. Global Environmental Change. 2011;21(4):1163—1172. Available from: http://www.sciencedirect.com/science/article/pii/S095937801100104X. doi: 10.1016/j.gloenvcha.2011.06.003.

7. Poortinga W, Spence A, Whitmarsh L, Capstick S, Pidgeon NF. Uncertain climate: An investigation into public scepticism about anthropogenic climate change. Global Environmental Change. 2011;21(3):1015—1024. Symposium on Social Theory and the Environment in the New World (dis)Order. Available from: http://www.sciencedirect.com/science/article/pii/S0959378011000288. doi: 10.1016/j.gloenvcha.2011.03.001.

8. Lewandowsky S, Oberauer K, Gignac GE. NASA Faked the Moon Landing therefore (Climate) Science Is a Hoax: An Anatomy of the Motivated Rejection of Science. Psychological Science. 2013;Available from: http://pss.sagepub.com/content/early/2013/03/25/0956797612457686.abstract.

9. Swami V, Pietschnig J, Tran US, Nader IW, Stieger S, Voracek M. Lunar Lies: The Impact of Informational Framing and Individual Differences in Shaping Conspiracist Beliefs About the Moon Landings. Applied Cognitive Psychology. 2013;27(1):71–80. doi: 10.1002/acp.2873.

10. Lewandowsky S, Gignac GE, Vaughan S. The pivotal role of perceived scientific consensus in acceptance of science. Nature Climate Change. 2013;3(4):399–404. doi: 10.1038/nclimate1720.

11. Freudenburg WR, Gramling R, Davidson DJ. Scientific Certainty Argumentation Methods (SCAMs): Science and the Politics of Doubt*. Sociological Inquiry. 2008;78(1):2–38. doi: 10.1111/j.1475-682X.2008.00219.x.

12. Leiserowitz A. Climate Change Risk Perception and Policy Preferences: The Role of Affect, Imagery, and Values. Climatic Change. 2006;77(1–2):45–72. doi: 10.1007/s10584-006-9059-9.

13. McCright AM, Dunlap RE. Defeating Kyoto: The Conservative Movement’s Impact on U.S. Climate Change Policy. Social Problems. 2003;50(3):348–373. doi: 10.1525/sp.2003.50.3.348.

14. Lewandowsky S, Cook J, Oberauer K, Brophy S, Lloyd EA, Marriott M. Recurrent fury: Conspiratorial discourse in the blogosphere triggered by research on the role of conspiracist ideation in climate denial. Journal of Social and Political Psychology. 2015;3(1):142–178. doi: 10.5964/jspp.v3i1.443.

15. Public Policy Polling. Democrats and Republicans differ on conspiracy theory beliefs. 2013. Available from: http://www.publicpolicypolling.com/pdf/2011/PPP_Release_National_ConspiracyTheories_040213.pdf.

16. Perlmutter DD, Dahmen NS. (In)visible evidence: pictorially enhanced disbelief in the Apollo moon landings. Visual Communication. 2008;7(2):229–251. Available from: http://vcj.sagepub.com/content/7/2/229.abstract. doi: 10.1177/1470357208088760.

17. Pachauri RK, Allen M, Barros V, Broome J, Cramer W, Christ R, et al. Climate Change 2014: Synthesis Report. Contribution of Working Groups I, II and III to the Fifth Assessment Report of the Intergovernmental Panel on Climate Change. 2014;.

18. Goertzel T. Conspiracy theories in science. EMBO reports. 2010;11(7):493–499. doi: 10.1038/embor.2010.84. pmid:20539311

19. Leiserowitz AA. American Risk Perceptions: Is Climate Change Dangerous? Risk Analysis. 2005;25(6):1433–1442. doi: 10.1111/j.1540-6261.2005.00690.x. pmid:16506973

20. Antilla L. Climate of scepticism: {US} newspaper coverage of the science of climate change. Global Environmental Change. 2005;15(4):338—352. Available from: http://www.sciencedirect.com/science/article/pii/S095937800500052X. doi: 10.1016/j.gloenvcha.2005.08.003.

21. Carvalho A. Ideological cultures and media discourses on scientific knowledge: re-reading news on climate change. Public Understanding of Science. 2007;16(2):223–243. Available from: http://pus.sagepub.com/content/16/2/223.abstract.

22. Jolley D, Douglas KM. The Effects of Anti-Vaccine Conspiracy Theories on Vaccination Intentions. PLoS ONE. 2014 02;9(2):e89177. doi: 10.1371/journal.pone.0089177. pmid:24586574

23. Zimmerman RK, Wolfe RM, Fox DE, Fox JR, Nowalk MP, Troy JA, et al. Vaccine criticism on the world wide web. Journal of Medical Internet Research. 2005;7(2). doi: 10.2196/jmir.7.2.e17. pmid:15998608

24. Kata A. Anti-vaccine activists, Web 2.0, and the postmodern paradigm—An overview of tactics and tropes used online by the anti-vaccination movement. Vaccine. 2012;30(25):3778—3789. Special Issue: The Role of Internet Use in Vaccination Decisions. Available from: http://www.sciencedirect.com/science/article/pii/S0264410X11019086. doi: 10.1016/j.vaccine.2011.11.112. pmid:22172504

25. W R . The grand conspiracy against the cancer cure. JAMA. 1980;243(4):337–339. doi: 10.1001/jama.1980.03300300015016.

26. Cassileth BR. Alternative and complementary medicine. Cancer. 1999;86(10):1900–1902. doi: 10.1002/(SICI)1097-0142(19991115)86:10%3C1900::AID-CNCR4%3E3.3.CO;2-U. pmid:10570411

27. CASSILETH BR, LUSK EJ, STROUSE TB, BODENHEIMER BJ. Contemporary Unorthodox Treatments in Cancer MedicineA Study of Patients, Treatments, and Practitioners. Annals of Internal Medicine. 1984;101(1):105–112. doi: 10.7326/0003-4819-101-1-105. pmid:6732073

28. Levy G, Levin B. The Biostatistics of Aging: From Gompertzian Mortality to an Index of Aging-relatedness. John Wiley & Sons; 2014.

29. Director of National Intelligence. Facts on the Collection of Intelligence Pursuant to Section 702 of the Foreign Intelligence Surveillance Act. 2013;.

30. Landau S. Highlights from Making Sense of Snowden, Part II: What’s Significant in the NSA Revelations. Security Privacy, IEEE. 2014 Jan;12(1):62–64. doi: 10.1109/MSP.2013.161.

31. Brawley OW. The study of untreated syphilis in the Negro male. International Journal of Radiation Oncology* Biology* Physics. 1998;40(1):5–8. doi: 10.1016/S0360-3016(97)00835-3.

32. Thomas SB, Quinn SC. The Tuskegee Syphilis Study, 1932 to 1972: implications for HIV education and AIDS risk education programs in the black community. American journal of public health. 1991;81(11):1498–1505. doi: 10.2105/AJPH.81.11.1498. pmid:1951814

33. Corbie-Smith G. The continuing legacy of the Tuskegee Syphilis Study: considerations for clinical investigation. The American journal of the medical sciences. 1999;317(1):5–8. doi: 10.1016/S0002-9629(15)40464-1. pmid:9892266

34. Edwards H, Gotsonis C. Strengthening forensic science in the United States: A path forward. Statement before the United State Senate Committee on the Judiciary.2009;.

35. Office of the Inspector General. An Assessment of the 1996 Department of Justice Task Force Review of the FBI Laboratory; 2014.

36. National Security Agency. 60 Years of Defending Our Nation. 2012;.

37. USPHS—Career and Benefits;. Available from: http://www.usphs.gov/profession/.

38. FBI—Laboratory services;. Available from: https://www.fbi.gov/about-us/lab.

39. FBI Testimony on Microscopic Hair Analysis Contained Errors in at Least 90 Percent of Cases in Ongoing Review;. Available from: https://www.fbi.gov/news/pressrel/press-releases/fbi-testimony-on-microscopic-hair-analysis-contained-errors-in-at-least-90-percent-of-cases-in-ongoing-review.

40. Nimmen JV, Bruno LC, Rosholt RL. NASA Historical Databook, 1958–1968, Volume I (SP-4012). Washington, D.C,: NASA Resources; 1976.

41. American Geophysical Union—Our History;. Available from: http://about.agu.org/our-history/.

42. NASA Workforce;. Available from: http://nasapeople.nasa.gov/workforce/default.htm.

43. AAAS Membership;. Available from: http://membercentral.aaas.org/membership.

44. Royal Society Fellowships;. Available from: https://royalsociety.org/about-us/fellowship/.

45. European Physical Society membership;. Available from: http://www.eps.org/?page = membership_ms.

46. Cook J, Nuccitelli D, Green SA, Richardson M, Winkler B, Painting R, et al. Quantifying the consensus on anthropogenic global warming in the scientific literature. Environmental Research Letters. 2013;8(2):024024. doi: 10.1088/1748-9326/8/2/024024.

47. Centre for Disease Control Factsheet;. Available from: http://www.cdc.gov/about/resources/facts.htm.

48. World Health Organization—people and offices;. Available from: http://www.who.int/about/structure/en/.

49. McNeil DR. A Solution to the Fixed-cycle Traffic Light Problem for Compound Poisson Arrivals. Journal of Applied Probability. 1968;5(3):624–635. doi: 10.2307/3211926.

50. Grimes DR, Partridge M. A mechanistic investigation of the oxygen fixation hypothesis and oxygen enhancement ratio. Biomedical Physics & Engineering Express. 2015;1(4): 045209. doi: 10.1088/2057-1976/1/4/045209.

51. Shermer M. Conspiracy Central. Scientific American. 2014;311(6):94–94. doi: 10.1038/scientificamerican0914-94.

52. Yang J, Xu K, Rodriguez L. The rejection of science frames in the news coverage of the golden rice experiment in Hunan, China. Health, risk & society. 2014;16(4):339–354. doi: 10.1080/13698575.2014.923092.

53. Milgrom P, Reisine S. Oral health in the United States: the post-fluoride generation. Annual review of public health. 2000;21(1):403–436. doi: 10.1146/annurev.publhealth.21.1.403. pmid:10884959

54. Grimes DR. Commentary on’Are fluoride levels in drinking water associated with hypothyroidism prevalence in England? A large observational study of GP practice data and fluoride levels in drinking water’. Journal of epidemiology and community health. 2015;p. jech–2015. doi: 10.1136/jech-2015-205708.

55. Chigwedere P, Essex M. AIDS denialism and public health practice. AIDS and Behavior. 2010;14(2):237–247. doi: 10.1007/s10461-009-9654-7. pmid:20058063

56. Nattrass N. Still crazy after all these years: The challenge of AIDS denialism for science. AIDS and Behavior. 2010;14(2):248–251. doi: 10.1007/s10461-009-9641-z. pmid:19937271

57. Douglas KM, Sutton RM. The Hidden Impact of Conspiracy Theories: Perceived and Actual Influence of Theories Surrounding the Death of Princess Diana. The Journal of Social Psychology. 2008;148(2):210–222. doi: 10.3200/SOCP.148.2.210-222. pmid:18512419

58. Schmidt K, Ernst E. {MMR} vaccination advice over the Internet. Vaccine. 2003;21(11–12):1044—1047. doi: 10.1016/S0264-410X(02)00628-X. pmid:12559777

59. Kata A. A postmodern Pandora’s box: Anti-vaccination misinformation on the Internet. Vaccine. 2010;28(7):1709—1716. Available from: http://www.sciencedirect.com/science/article/pii/S0264410X09019264. doi: 10.1016/j.vaccine.2009.12.022. pmid:20045099

60. Grimes DR. Proposed mechanisms for homeopathy are physically impossible. Focus on Alternative and Complementary Therapies. 2012;17(3):149–155. doi: 10.1111/j.2042-7166.2012.01162.x.

61. Del Vicario M, Bessi A, Zollo F, Petroni F, Scala A, Caldarelli G, Stanley HE, Quattrociocchi W.. The spreading of misinformation online. Proceedings of the National Academy of Sciences, 2016: p.201517441.

62. Nyhan B, Reifler J, Richey S, Freed GL. Effective Messages in Vaccine Promotion: A Randomized Trial. Pediatrics. 2014;Available from: http://pediatrics.aappublications.org/content/early/2014/02/25/peds.2013-2365.abstract.

Оригинал статьи и дополнительные материалы на английском языке

Об авторе Tapkin