22/04/2019, 11:58:40 pm *
Bienvenido(a), Visitante. Por favor, ingresa o regístrate.
¿Perdiste tu email de activación?

Ingresar con nombre de usuario, contraseña y duración de la sesión
Noticias: Homenaje a NUMERARIUS
 
 
Páginas: [1]   Ir Abajo
  Imprimir  
Autor Tema: Problema con ecuaciones para obtención percentiles (RD 1431/2007)  (Leído 214 veces)
0 Usuarios y 1 Visitante están viendo este tema.
carballoso
Nuevo
*

Karma: +0/-0
Desconectado Desconectado

Sexo: Masculino
España España

Mensajes: 1


Ver Perfil
« : 04/10/2018, 01:47:27 pm »

Buenas tardes:

Tengo dos problemas:
1. Diferencia en los resultados obtenidos mediante la ecuación dada en el RD y la fórmula de percentiles en Libreoffice (percentil.inc(datos;percentil)).

2. Para serie de datos pequeña, la ecuación del RD me da valores superiores al máximo de dicha serie.

Ahora va el contexto:

Estoy trabajando con cálculos de los percentiles 90 y 95 que dan en el Anexo II del Real Decreto 1431/2007 (https://boe.es/buscar/act.php?id=BOE-A-2007-18581). Entrando en el sistema de Información Nacional de Aguas de Baño (NÁYADE) y recabando los datos de los análisis de diferentes años, no me salen los cálculos para obtener los percentiles 90 y 95 y obtener el tipo de calidad del agua (insuficiente, suficiente, buena o excelente) en la sumatoria de los datos obtenidos en los últimos 4 años o en el caso de que la zona de baño se haya acogido al artículo 4.4 b del Decreto 2006/7/CE de haber realizado mejoras en el lugar para corregir ineficiencias, desde el año que haya realizado las mejoras.

En el pdf del RD consolidado, página 12 dice:

Notas:
(a) Por «último período de evaluación» se entiende las tres últimas temporadas de baño y la temporada de baño considerada.
(b)  Partiendo  de  la  evaluación  del  percentil  de  la  función  normal  de  densidad  de probabilidad  log10  de  los  datos  microbiológicos obtenidos  en  unas  aguas  de  baño
determinadas, se deduce el valor del percentil del siguiente modo:
i) Tómese el valor log10 de todas las enumeraciones bacterianas de la secuencia de datos evaluada. (Si se obtiene un valor cero, tómese en su lugar el valor log10 de límite mínimo de detección del método analítico utilizado.),
ii) calcúlese la media aritmética de los valores [texx]log10(μ)[/texx],
iii) calcúlese la desviación típica de los valores [texx]log10(s)[/texx].
El punto superior del percentil 90 de la función de densidad de probabilidad de los datos se deduce de la siguiente ecuación: punto superior del percentil 90 = [texx]antilog(μ+1,282s)[/texx].
El punto superior del percentil 95 de la función de densidad de probabilidad de los datos se deduce de la siguiente ecuación: punto superior del percentil 95 = [texx]antilog(μ+1,65s)[/texx]

Resultados que obtengo para la playa de ARES, A Coruña:

ARES            
Controles   E.C.   Enterococo   log10 E.C.   log10 Entero
1   9   10   0,954242509439325   1
2   9   9   0,954242509439325   0,954242509439325
3   10   9   1   0,954242509439325
4   20   53   1,30102999566398   1,72427586960079
5   31   9   1,49136169383427   0,954242509439325
6   42   10   1,6232492903979   1
7   9   9   0,954242509439325   0,954242509439325
8   9   10   0,954242509439325   1
9   110   75   2,04139268515822   1,8750612633917
10   9   9   0,954242509439325   0,954242509439325
11   75   9   1,8750612633917   0,954242509439325
12   9   9   0,954242509439325   0,954242509439325
13   500   10   2,69897000433602   1
14   20   9   1,30102999566398   0,954242509439325
15   120   20   2,07918124604762   1,30102999566398
16   9   64   0,954242509439325   1,80617997398389
17   9   9   0,954242509439325   0,954242509439325
18   740   270   2,86923171973098   2,43136376415899
19   10   10   1   1
20   87   53   1,93951925261862   1,72427586960079
21   10   9   1   0,954242509439325
22   250   120   2,39794000867204   2,07918124604762
23   140   9   2,14612803567824   0,954242509439325
24   140   20   2,14612803567824   1,30102999566398
25   10   10   1   1
26   9   9   0,954242509439325   0,954242509439325
27   20   9   1,30102999566398   0,954242509439325
28   120   9   2,07918124604762   0,954242509439325
            
   media           1,49566489476919   1,20006403965222
   desviación tip 0,61057370835571   0,42023260982457
            
            
Máximo serie datos muestreo         740   270
Pe90=antilog(med+1,282*des)   Percentil 90          189,854278571176   54,8027365653792
P95=antilog(med+1,65*des)      Percentil 95          318,501523135568   78,2434237414137
            
Formula libreoffice percentil90                             173                    67,3
Formula libreoffice percentil95                           412                         104,25
Con menos cantidad de datos, últimos de la playa anterior, aquí es cuando el valor de la ecuación se desvirtua y supera al valor máximo de la serie de datos. El percentil 95 de E.C. da 375, cuando el valor máximo de la serie es 250.

                                 ARES            
Controles   E.C.   Enterococo   log10 E.C.   log10 Entero
19   10   10   1                           1
20   87   53   1,93951925261862   1,72427586960079
21   10   9   1                           0,954242509439325
22   250   120   2,39794000867204   2,07918124604762
23   140   9   2,14612803567824   0,954242509439325
24   140   20   2,14612803567824   1,30102999566398
25   10   10   1                           1
26   9   9   0,954242509439325   0,954242509439325
27   20   9   1,30102999566398   0,954242509439325
28   120   9   2,07918124604762   0,954242509439325
            
   media          1,59641690837981   1,1875699658509
   desviación tip   0,592955434362656   0,3997875233192
            
            
Máximo serie datos muestreo         250   120
Pe90=antilog(med+1,282*des)   Percentil 90    227,292850516913   50,1299845479304
P95=antilog(med+1,65*des)      Percentil 95          375,658634106325   70,3427559247932
            
Formula libreoffice percentil90         151,000000000001   59,6999999999999
Formula libreoffice percentil95         200,500000000001   89,8499999999993
Siento poner las tablas así, pero no he podido poner la información de otra forma. Si alguien me indica como mejorarlo lo haré para que sea visualmente más atractivo.

Un saludo y gracias.
En línea
Páginas: [1]   Ir Arriba
  Imprimir  
 
Ir a:  

Impulsado por MySQL Impulsado por PHP Powered by SMF 1.1.4 | SMF © 2006, Simple Machines LLC XHTML 1.0 válido! CSS válido!