прикладная статистика снова -
Dec. 7th, 2011 09:50 am![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
a_shenвынося из комментариев к http://kireev.livejournal.com/698414.html?thread=11988014#t11988014 (ответ mi_b)
-------
Прошу прощения - у меня было впечатление (возможно, ошибочное), что Вы профессионально связаны со статистикой и финансами, поэтому я написал недостаточно подробно и отчётливо. Попытаюсь исправиться, и заранее прошу прощения за занудство.
1. Статистические "доказательства" по своей природе не могут быть абсолютными - но, тем не менее, статистика предоставляет различные средства перекрёстной проверки гипотез, если их формулировать отчётливо и осознавать их природу.
2. Различия в результатах голосования на разных участках, вообще говоря, могут быть связаны с разными факторами:
а) случайные колебания в отсутствие каких-то систематических причин расхождений (которые были бы, даже если разбить людей на произвольные группы размера участков)
б) различия в составе жителей участков (их профессиональное, социальное положение, уровень доходов и пр.)
в) различия, связанные с локальными событиями (погода, наличие информации о месте голосования, его доступность и пр.)
г) различия, связанные с фальсификацией результатов того или иного вида (вбросы, неправильный подсчёт и пр.)
2. Гипотезы эти различны, и возможны перекрёстные проверки, позволяющие оценить их правдоподобие. Эти проверки разные для разных видов гипотез. Чтобы оценить а, можно посчитать типичные случайные отклонения для данных размеров участка (и они окажутся существенно меньшими наблюдаемых). Чтобы оценить б, есть разные методы. Можно ожидать, что состав жителей и их предпочтения во многом остаются постоянными от одних выборов к другим, и сравнить результаты выборов разных лет в одном и том же месте. Можно сравнить результаты участков, находящихся географически близко (в большинстве случаев состав населения там не сильно отличается). Последний способ годится также и для в; важная разница между б и в состоит в том, что в случае в нет априорных причин для связи между явкой и голосованием за т.н. "единую россию". Наконец, гипотезу г можно проверять, наблюдая корреляцию с факторами, имеющими отношение непосредственно к подсчёту, типа наличия наблюдателей или КОИБ (автоматических сканеров для бюллетеней).
3. "Оживляж" типа "весёлые и грустные" [см. обсуждение по указанной ссылке] хорош, если он позволяет наглядно изложить ситуацию, не искажая её по существу. Но Вы используете эту терминологию и в ситуации б, и в ситуации в, что затрудняет обсуждение. (Изменение названий партий в этом отношении безвредно.)
4. В статистических обсуждениях прошлых выборов (см. их резюме, опубликованное в ЖЖ, http://www.cmi.univ-mrs.fr/~ashen/elections.pdf) упоминались разнообразные статистические данные, с которыми, если я правильно помню, Вы тоже знакомились и высказывали свои соображения. Примитивизировать обсуждение доводами типа "2. Я видел в жизни много бимодальных распределений, так что что демонстрирутеся синенькой картинкой, мне неясно" [http://oude-rus.livejournal.com/540865.html] не стоит (хотя, возможно, оба Ваших замечания и справедливы). В частности, процедура предположительного выделения "нормальной компоненты" подробно обсуждалась в прошлых обсуждениях (Шпилькин, Пшеничников).
5. Сама постановка вопроса о "доказательствах фальсификаций" требует уточнения: нас интересует не вопрос о их существовании (вероятно, это так для любых выборов в любых странах), а оценка их размеров. Проблема с отчётами наблюдателей в том, что в силу небольшого количества отчётов и их произвольного распределения по участкам трудно оценить размер фальсификаций. В этих выборах по сравнению с предыдущими было преимущество в том отношении, что были предприняты некоторые шаги в сторону составления более представительной выборки по участкам (проект "Гражданин наблюдатель" - было выбрано 5% участков по Москве - первый в округе и иногда ещё один более или менее случайно взятый, как я понял). Соответственно, теперь возможна перекрёстная проверка: можно применить (без изменений) статистическую оценку реального голосования (обсуждавшимися на прошлых выборах методами) и данные по этим выборочным участкам (тем из них, где комиссия и наблюдатели согласны с результатами). Надеюсь, что эта работа будет доведена до конца, пока что можно только грубо сравнить "синенькую картинку" и данные по явке и голосованию с этих контрольных участков - они ближе друг к другу, чем к официальными результатам.
-------
Прошу прощения - у меня было впечатление (возможно, ошибочное), что Вы профессионально связаны со статистикой и финансами, поэтому я написал недостаточно подробно и отчётливо. Попытаюсь исправиться, и заранее прошу прощения за занудство.
1. Статистические "доказательства" по своей природе не могут быть абсолютными - но, тем не менее, статистика предоставляет различные средства перекрёстной проверки гипотез, если их формулировать отчётливо и осознавать их природу.
2. Различия в результатах голосования на разных участках, вообще говоря, могут быть связаны с разными факторами:
а) случайные колебания в отсутствие каких-то систематических причин расхождений (которые были бы, даже если разбить людей на произвольные группы размера участков)
б) различия в составе жителей участков (их профессиональное, социальное положение, уровень доходов и пр.)
в) различия, связанные с локальными событиями (погода, наличие информации о месте голосования, его доступность и пр.)
г) различия, связанные с фальсификацией результатов того или иного вида (вбросы, неправильный подсчёт и пр.)
2. Гипотезы эти различны, и возможны перекрёстные проверки, позволяющие оценить их правдоподобие. Эти проверки разные для разных видов гипотез. Чтобы оценить а, можно посчитать типичные случайные отклонения для данных размеров участка (и они окажутся существенно меньшими наблюдаемых). Чтобы оценить б, есть разные методы. Можно ожидать, что состав жителей и их предпочтения во многом остаются постоянными от одних выборов к другим, и сравнить результаты выборов разных лет в одном и том же месте. Можно сравнить результаты участков, находящихся географически близко (в большинстве случаев состав населения там не сильно отличается). Последний способ годится также и для в; важная разница между б и в состоит в том, что в случае в нет априорных причин для связи между явкой и голосованием за т.н. "единую россию". Наконец, гипотезу г можно проверять, наблюдая корреляцию с факторами, имеющими отношение непосредственно к подсчёту, типа наличия наблюдателей или КОИБ (автоматических сканеров для бюллетеней).
3. "Оживляж" типа "весёлые и грустные" [см. обсуждение по указанной ссылке] хорош, если он позволяет наглядно изложить ситуацию, не искажая её по существу. Но Вы используете эту терминологию и в ситуации б, и в ситуации в, что затрудняет обсуждение. (Изменение названий партий в этом отношении безвредно.)
4. В статистических обсуждениях прошлых выборов (см. их резюме, опубликованное в ЖЖ, http://www.cmi.univ-mrs.fr/~ashen/elections.pdf) упоминались разнообразные статистические данные, с которыми, если я правильно помню, Вы тоже знакомились и высказывали свои соображения. Примитивизировать обсуждение доводами типа "2. Я видел в жизни много бимодальных распределений, так что что демонстрирутеся синенькой картинкой, мне неясно" [http://oude-rus.livejournal.com/540865.html] не стоит (хотя, возможно, оба Ваших замечания и справедливы). В частности, процедура предположительного выделения "нормальной компоненты" подробно обсуждалась в прошлых обсуждениях (Шпилькин, Пшеничников).
5. Сама постановка вопроса о "доказательствах фальсификаций" требует уточнения: нас интересует не вопрос о их существовании (вероятно, это так для любых выборов в любых странах), а оценка их размеров. Проблема с отчётами наблюдателей в том, что в силу небольшого количества отчётов и их произвольного распределения по участкам трудно оценить размер фальсификаций. В этих выборах по сравнению с предыдущими было преимущество в том отношении, что были предприняты некоторые шаги в сторону составления более представительной выборки по участкам (проект "Гражданин наблюдатель" - было выбрано 5% участков по Москве - первый в округе и иногда ещё один более или менее случайно взятый, как я понял). Соответственно, теперь возможна перекрёстная проверка: можно применить (без изменений) статистическую оценку реального голосования (обсуждавшимися на прошлых выборах методами) и данные по этим выборочным участкам (тем из них, где комиссия и наблюдатели согласны с результатами). Надеюсь, что эта работа будет доведена до конца, пока что можно только грубо сравнить "синенькую картинку" и данные по явке и голосованию с этих контрольных участков - они ближе друг к другу, чем к официальными результатам.
![[identity profile]](https://www.dreamwidth.org/img/silk/identity/openid.png){kind=small}
no subject
Date: 2011-12-07 06:01 am (UTC)Нет в нашем мире абсолютных доказательств с математической точки зрения, это касается любой физической-химической-биологической экспертизы.
Бороздки на пуле, следы ДНК и даже отпечатки пальцев могут совпасть, а в некоторых случаях можно посчитать точную вероятность такого случайного совпадения, однако суды широко используют такие экспертизы.
Некоторые особенности распределений могут возникнуть с очень маленькой вероятностью и любой вменяемый суд, такие данные должен объявить фальшивыми. (например четкие пики на плотности распределений в кратных десяти значениях, любой же критерий согласия выдаст что-то фантастическое малое)
no subject
Date: 2011-12-07 06:08 am (UTC)no subject
Date: 2011-12-07 06:20 am (UTC)А вот другой пример, который приводит oude_rus по данным podmoskovnik'а: бимодальное распределение процента голосующих за ЕР. Есть альтернативное объяснение (кроме жульничества): популяция расслоена на две большие группы. Ну, скажем, как это было на Украине. Вот и бимодальное распределение, и нет смысла высчитывать его вероятность, исходя из обычных предположений о независимом случайном распределении.
no subject
Date: 2011-12-07 06:22 am (UTC)разумеется,
Date: 2011-12-07 06:26 am (UTC)(1) оно является лишь одним из статистических наблюдений (эта итоговая картинка лишь иллюстрация к различным статистическим подсчётам, а не самодостаточный аргумент) и
(2) варианты объяснений допускают перекрёстные проверки (скажем, корреляцию с наличием КОИБ или наблюдателей, или географическими статистическими данными и пр.)
безусловно
Date: 2011-12-07 06:27 am (UTC)Re: разумеется,
Date: 2011-12-07 06:28 am (UTC)Re: разумеется,
Date: 2011-12-07 06:31 am (UTC)no subject
Date: 2011-12-07 06:35 am (UTC)- Я не знаю, я агностик.
no subject
Date: 2011-12-07 06:36 am (UTC)no subject
Date: 2011-12-07 06:40 am (UTC)вывод только один: требует дальнейшего исследования. А не мгновенных выводов.
И не потому, что выводы эти неверны - они с вероярностью 95% таки верны, А просто хотя бы для самоуважения: да. я проверил альтернативные гипотезы.
о моделях
Date: 2011-12-07 06:42 am (UTC)В случае с прошлыми выборами я попытался представить себя в роли такого присяжного и изучил аргументы "стороны защиты" (статью Чурова, до того уважаемого В.Л.Арлазарова [Каисса] и ещё кого-то) - они только усугубили впечатление своей очевидной неграмотностью.
от зануды
Date: 2011-12-07 06:45 am (UTC)Re: о моделях
Date: 2011-12-07 06:46 am (UTC)И при этом я думаю: а не влияет ли на мое убеждение тот факт, что у меня было априорное мнение?
Поэтому и выступаю как адвокат дьявола кое-где.
no subject
Date: 2011-12-07 06:47 am (UTC)мы имеем этот крайний
Re: от зануды
Date: 2011-12-07 06:50 am (UTC)"Пики в значениях, кратных 10 - случай крайний"
Date: 2011-12-07 06:53 am (UTC)http://oude-rus.livejournal.com/541842.html
ну, это общий
Date: 2011-12-07 06:53 am (UTC)Но независимо от этого опыта важна добросовестность и компетентность обсуждения, особенно со стороны людей, имеющих профессиональное отношение к математике и статистике, и её отсутствие огорчительно.
no subject
Date: 2011-12-07 06:53 am (UTC)есть
Date: 2011-12-07 06:54 am (UTC)no subject
Date: 2011-12-07 06:56 am (UTC)я как раз сильно оппонировал (и продолжаю) такой процедуре, поскольку в ее основе лежит неочевидное (для меня) сильное предположение.
no subject
Date: 2011-12-07 06:57 am (UTC)Вернемся к нашей прерванной беседе?
no subject
Date: 2011-12-07 06:58 am (UTC)новье
не последую твоему совету :-)
Date: 2011-12-07 06:58 am (UTC)Представим себе, что мы применили такой алгоритм к некоторому числу N и получили ответ "простое". Тем не менее нельзя говорить, что это число "простое с вероятностью 95%", потому что никакого вероятностного пространства, в котором было бы событие с вероятностью 95%, здесь нет (вариант: нет никакой подразумеваемой серии повторяющихся опытов, в которых ожидается доля исходов 95% и более).
безусловно,
Date: 2011-12-07 07:00 am (UTC)