Wer sich (wie ich) semiprofessionell mit Statistik beschäftigt, weiß, dass bereits die Fragebögen zu, ja, 90%, völlig liederlich sind, vor allem, wenn sie von privaten Instituten kommen und privat beauftragt wurden.
Neulich wurde ich zu meinem Mobilitätsverhalten im Zusammenhang mit einem Konzertbesuch befragt (z.B. könnte man erfragen, wie man nach dem Konzertbesuch, also spätabends, wieder nach Hause kommt - ein durchaus relevantes Problem). Von den ca 20 Fragen befassten sich ca 2-3 Fragen überhaupt mit Mobilität, die anderen 17 Fragen wollten wissen, wie mir das Konzert gefallen hat, welchen Lebensstil ich so drauf habe und ob ich sozial engagiert bin usw. Nochmals: Es ging um Mobilitätsverhalten, und augenscheinlich war der Fragebogen im Auftrag der örtlichen Verkehrsbetriebe erstellt worden. Die werden sich über die unbrauchbaren Ergebnisse "freuen". (Aber in meinem Dorf ist der Verkehrsbetrieb sowieso ein Saftladen.)
Neben den nicht reliablen Fragebögen kann man noch wunderbar schummeln bei der Klassierung von Daten. Z.B. die individuell erfragten Haushaltseinkommen zu Einkommensklassen zusammenzufassen, die.... - genau! - nicht gleich breit sind. Indem man dann eine mittlere Einkommensklasse möglichst breit und möglichst tief beginnend wählt, kann man dann behaupten, dass "3/5 der Gesellschaft" mittleres Einkommen habe. Auch wenn die untere Grenze irgendwo bei 900 Euro brutto liegt, aber das steht dann erst im Anhang der Studie, die der Kurzen und Langen Zusammenfassung folgt...
Es gibt noch viel mehr Tricks.
Da man in der Forschung an "echten" Daten und Ergebnissen interessiert ist, da aber auch geschummelt wird, um private Drittmittelgeber so halbwegs zu befriedigen, gibt es seit einigen Jahren den Trend zu Replikationsstudien. Da setzen sich Leute nochmals hin, erbitten die Rohdaten von den ursprünglichen Autoren (allein das schon ein Kraftakt), werten die Rohdaten selbst nochmals aus und vergleichen ihre Ergebnisse mit denen der ursprünglichen Autoren. Ein heißes Eisen. Aber man ist es in der Forschung langsam leid, mit halbfalschen Studien zu arbeiten.
Privaten Auftraggebern sind halbfalsche Studien egal, solange der Bauch gepinselt wird und man sich auf einen renommierten Namen (des Forschungsinstituts) berufen kann. Es liest kein Schwein die Studie intern durch. Veröffentlicht wird aus der Kurzen Zusammenfassung, der Rest gerät in Verschluss.