dijous, 2 d’agost del 2018

Com no es fa un experiment científic? El cherry picking.

Cherry picking vol dir en anglès, triar cireres. És allò que fem a la fruiteria quan agafem només les més maques i deixem les altres a la safata. Amb la informació dels experiments científics es pot fer el mateix.

Per triar on comprar les cireres, us basaríeu en les fotos de cireres que us envien les diferents botigues? Font.


Posem que jo dic que tinc una moneda que surt cara 8 de cada 10 vegades. Em creuríeu si us mostro un vídeo autentificat (sense editar ni manipular) on es veu que la moneda efectivament cau 8 vegades de cara i 2 de creu?

Una manera d'aconseguir que una moneda normal caigui 8 vegades de cara i 2 de creu és enregistrar un nombre prou gran de vegades una sèrie de 10 llançaments. Un cop tinc totes les sèries de llançaments enregistrats, publico únicament els vídeos que mostren l'efectivitat del 80%.

Òbviament, l'experiment no serà reproduïble. I qui pugui fer un estudi amb la meva moneda, difícilment arribarà als mateixos resultats. Ara bé, potser l'interès d'un vídeo de Youtube on es vegi una cosa excepcional (la sèrie del 80%) és més gran que la d'un vídeo on es vegin resultats més ordinaris. Per tant, el primer vídeo tindrà més visites, el que voldrà dir que hi haurà més gent que l'haurà vist i, per tant, la percepció de molta gent serà que la moneda és capaç d'assolir aquests resultats.

Això passa també en les revistes científiques. Amb els diferents estudis publicats es poden fer metaestudis que agafin les dades de tots els estudis i els valorin en conjunt. Però si hi ha una tendència a no publicar resultats negatius (perquè un estudi que parli d'una moneda normal és menys interessant per a una revista que un que parli d'una moneda extraordinària), aleshores els metaestudis partiran d'informació esbiaixada.

Quan descartem les cireres menys interessants, ens quedem amb un cistell de cireres extraordinari, que no és representatiu de la realitat de les cireres de la botiga.

Recordem, per últim, que va fer el senyor Emoto amb el seu experiment cec. Va comparar els resultats de l'aigua tractada (1,8 sobre 6) amb les mostres de control que van donar 1,6 sobre 6. Però no va dir res de les mostres de control que van donar 1,9 sobre 6.

Així que, ja sabeu. Si voleu demostrar qualsevol teoria, ja sabeu com heu de fer l'experiment perquè sigui científicament fiable. I com no l'heu de fer si voleu que els resultats siguin els que vosaltres voleu que siguin.