Selección de estudios sin sesgos en revisiones sistemáticas: 6 principios y 4 consejos

En la anterior entrada hablamos de los sesgos en la búsqueda en revisiones sistemáticas y otros documentos de síntesis. Ahora vamos a tratar cómo evitar el sesgo de selección en revisiones sistemáticas.

Tras definir la estrategia de búsqueda y recuperar los registros de los estudios, la siguiente etapa crucial en una revisión sistemática es la selección de los documentos relevantes. En este paso hay que determinar que estudios cumplen los criterios de inclusión.

Uno de los riesgos metodológicos más significativos es el sesgo de selección, el cual puede afectar la solidez y la validez de los resultados, pero con un enfoque cuidadoso, es posible mitigarlo eficazmente.

¿Qué es el sesgo de selección? Existen dos tipos principales:

Selección intencionada o sesgada: se produce cuando quienes revisan incluyen o excluyen estudios voluntariamente para apoyar una hipótesis previa o una posición determinada. Este fenómeno se manifiesta en múltiples disciplinas, desde las ciencias sociales hasta la medicina, donde la objetividad en la revisión de la evidencia puede verse comprometida.

Es el fenómeno conocido como cherry-picking, estrechamente vinculado al sesgo de confirmación, es decir, seleccionar solo la evidencia que respalda una postura y descartar la que la contradice. Esta práctica no solo distorsiona los resultados de la investigación, sino que también puede llevar a conclusiones erróneas y decisiones mal fundamentadas, afectando así la integridad del conocimiento científico y la confianza del público en la investigación. Es crucial que los investigadores permanezcan conscientes de este sesgo y busquen un abordaje equilibrado y crítico al evaluar la evidencia, incluyendo datos que puedan desafiar sus propias suposiciones.

  • Error aleatorio en la selección: aparece cuando los criterios son ambiguos o cuando influyen los conocimientos previos del revisor sobre el tema. Esta variabilidad subjetiva puede generar inconsistencias importantes, lo que dificulta la objetividad del proceso de selección. Cuando un revisor basa su juicio en conocimientos previos, corre el riesgo de sesgar la evaluación, llevando a un análisis que no refleja necesariamente la realidad del contexto actual. Además, la falta de claridad en los criterios puede crear más confusión y provocar decisiones arbitrarias que no se alinean con el propósito original de la selección. Por lo tanto, es esencial establecer definiciones claras y precisas que guíen a los revisores y minimicen el impacto de opiniones personales en el resultado final.

¿Cómo reducir el sesgo de selección?

Se recomienda actuar en dos niveles clave: los criterios de selección y el número de revisores implicados.

1. Definir criterios claros y a priori

  • Los criterios deben ser explícitos, inequívocos y predefinidos. Todos los miembros del equipo deben compartir una comprensión común sobre qué se incluye y qué se excluye, lo que fomentará una alineación efectiva y minimizará la ambigüedad en la toma de decisiones. Una vez que se han establecido los criterios de inclusión y exclusión, es necesario redactar una lista de verificación con de criterios de elegibilidad. Esta guiará a los revisores a lo largo del proceso de selección, y una lista de verificación bien elaborada contribuirá a ahorrar tiempo y a minimizar errores durante el proceso de selección. Es recomendable ordenar los criterios de más relevantes a menos o por pragmatismo, de esta forma es más rápido el proceso de exclusión. La falta de cumplimiento de uno solo de los criterios basta para eliminar el estudio. Si hay un «no» no hay que seguir revisando el estudio.
  • Se aconseja pilotar los criterios con una muestra de unos pocos artículos (aprox. 5 a 10) de títulos y resúmenes, con participación de todos las personas que van a cribar. Este pilotaje previo permite ver discrepancias de aplicación de los criterios de elegibilidad, afinar la aplicación de los criterios y detectar ambigüedades (1).
  • Es importante evitar criterios excesivamente restrictivos. Como norma general, no debe aplicarse límites de idioma, fecha de publicación, tipos de publicación y el estado de la publicación en la búsqueda para revisiones sistemáticas, ya que se pueden dejar de recuperar registros relevantes. Estas restricciones pueden introducir sesgos significativos y limitar la generalización de los hallazgos.

2. Incorporar el doble cribado. Diversos estudios muestran que la criba por un único revisor tiende a omitir más estudios relevantes.

  • Gartlehner et al. (2) observaron que el cribado individual de resúmenes omitía un 13% de los estudios relevantes, frente al 3% con cribado doble, lo que indica una diferencia significativa en la eficacia de ambos métodos de selección de literatura, resaltando la importancia del cribado doble para una revisión sistemática más exhaustiva y menor sesgo.
  • Waffenschmidt et al. (3) encontraron una mediana de omisión del 5% en el cribado individual, con un rango muy amplio (hasta el 57,8%), dependiendo del grado de experiencia del revisor.
  • El impacto de estos errores fue más significativo cuando las personas que realizaban el proceso de selección eran menos experimentados. Con revisores expertos, el efecto en los metaanálisis fue mínimo.

¿Cribado completo o limitado? Hay diferentes estrategias según la fase del cribado:

  • El cribado completo (dos revisores independientes tanto para títulos/resúmenes como para texto completo) mejora la identificación de estudios pertinentes.
  • El cribado dual limitado (un revisor para títulos/resúmenes y dos para textos completos) es más eficiente, pero algo menos exhaustivo. Este es el enfoque recomendado para las revisiones sistemáticas rápidas (1).
  • Stoll et al. (4) concluyeron que el cribado completo permitió recuperar más artículos excluidos erróneamente (0,4% frente al 0,2% en la estrategia limitada).

Duplicar el proceso de selección de estudios reduce tanto el riesgo de cometer errores como la posibilidad de que la selección se vea influida por los sesgos de una sola persona. En los casos de cribado por dos personas independientes las discrepancias entre ellos puede resolverse tras discusión y consenso de los revisores o establecer un árbitro para ello.

Estrategias del proceso de selección de estudios desde revisor único a cribado por dos revisores independientes, ordenados de mayor riesgo (rojo) a menor riesgo de sesgo (verde).

En la siguiente tabla se recogen diversas estrategias para minimizar el sesgo de selección:

Riesgo de sesgoEstrategias recomendadas
Criterios de selecciónAmbigüedad, subjetividad, interpretación variable.Definir criterios explícitos y predefinidos
Pilotar los criterios con todo el equipo
Restricciones excesivasExcluir estudios por idioma, lugar de publicación o fecha.Evitar restricciones arbitrarias que no estén justificadas metodológicamente
Número de revisoresMayor omisión de estudios relevantes en cribado individual.Realizar cribado doble, al menos en texto completo
Revisores con experiencia reducen errores
Estrategia de cribadoCribado limitado puede omitir estudios pertinentes.Optar por cribado completo cuando sea factible
Justificar la estrategia adoptada en el protocolo

En la siguiente figura se resumen los 6 principios de la selección de estudios en una revisión sistemática:

Finalmente, aquí vemos 4 recomendaciones para optimizar el proceso de selección de estudios:

BIBLIOGRAFÍA

  1. Garritty C, Gartlehner G, Nussbaumer-Streit B, et al. Cochrane Rapid Reviews Methods Group offers evidence-informed guidance to conduct rapid reviews. Journal of Clinical Epidemiology 2021;130:13–22; doi: 10.1016/j.jclinepi.2020.10.007.
  2. Gartlehner G, Affengruber L, Titscher V, Noel-Storr A, Dooley G, Ballarini N, König F, Single-reviewer abstract screening missed 13 percent of relevant studies: a crowd-based, randomized controlled trial, Journal of Clinical Epidemiology (2020), doi: https://doi.org/10.1016/j.jclinepi.2020.01.005)
  3. Waffenschmidt S, Knelangen M, Sieben W, et al. Single screening versus conventional double screening for study selection in systematic reviews: a methodological systematic review. BMC Med Res Methodol 2019;19(1):132; doi: 10.1186/s12874-019-0782-0.
  4. Stoll CRT, Izadi S, Fowler S, et al. The value of a second reviewer for study selection in systematic reviews. Research Synthesis Methods 2019;10(4):539–545; doi: 10.1002/jrsm.1369.
  5. Muka T, Glisic M, Milic J, Verhoog S, Bohlius J, Bramer W, Chowdhury R, Franco OH. A 24-step guide on how to design, conduct, and successfully publish a systematic review and meta-analysis in medical research. Eur J Epidemiol. 2020;35(1):49-60. doi: 10.1007/s10654-019-00576-5

PRISMA-Search (PRISMA-S): Preferred Reporting Items for Systematic reviews and Meta-Analyses literature search extension

Las búsquedas de literatura son la base de las revisiones sistemáticas y los tipos de revisiones relacionadas. Sin embargo, el componente de búsqueda de literatura de las revisiones sistemáticas y los tipos de revisiones relacionados a menudo se informa de manera deficiente.

En la entrada anterior PRISMA 2020: informe de la búsqueda de evidencia (ítem 6 y 7) se describieron losítems que hacen referencia al informe de la búsqueda de evidencia.

En esta nueva entrada, hablaremos de PRISMA-S (Preferred Reporting Items for Systematic reviews and Meta-Analyses literature search extension), creado par ayudar a los bibliotecarios y especialistas en información.

La extensión de PRISMA Search cubre múltiples aspectos del proceso de búsqueda de revisiones sistemáticas, ampliando PRISMA en las cuestiones relacionadas con el informe de la búsqueda de literatura para revisiones sistemáticas y metanálisis. Esta extensión incluye una lista de verificación PRISMA-S, así como su explicación y elaboración y están disponibles en: http://www.prisma-statement.org/Extensions/Searching

La lista de verificación final incluye dieciséis elementos de informes. Esta información debe de ir en la sección de métodos y cualquier material suplementario o anexo del manuscrito.

Elemento 1. Búsqueda en bases de datos: Nombre cada base de datos individual, indicando la plataforma para cada una.

Es importante que los autores indiquen no solo la base de datos, sino también la plataforma a través de la cual se buscó en la base de datos. Ejemplo:

“Se realizaron búsquedas en las siguientes bases de datos electrónicas: MEDLINE (Ovid), CINAHLPlus (EBSCO), PsycINFO (Ovid), CENTRAL (Wiley) y EMBASE (Elsevier)».

Elemento 2. Búsqueda en múltiples bases de datos: Si se buscaron bases de datos simultáneamente en una sola plataforma, indique el nombre de la plataforma, enumerando todas las bases de datos buscadas.

Ejemplo:

«Las estrategias de MEDLINE y Embase se ejecutaron simultáneamente como una búsqueda de múltiples archivos en Ovid y los duplicados se eliminaron de los resultados utilizando la herramienta de deduplicación de Ovid». 

Elemento 3. Registros de estudios: Enumere los registros de estudios buscados.

Los registros de estudios (como ClinicalTrials.gov) son una fuente clave de información para revisiones sistemáticas y metanálisis en las ciencias de la salud y cada vez más en otras disciplinas y permiten a los investigadores localizar ensayos clínicos en curso y estudios que pueden no haber sido publicados.

Para describir los registros de estudios buscados, hay que indicar el nombre de cada registro de estudios buscado e incluir una cita o enlace al registro de estudios.

Tema 4. Recursos en línea y navegación: Describa cualquier fuente en línea o impresa buscada o navegada intencionalmente (p. ej., tablas de contenido, actas impresas de conferencias, sitios web) y cómo se hizo.

El objetivo de la búsqueda complementaria, más allá de las bases de datos bibliográficas, y la de eliminar el mayor sesgo posible del proceso de revisión de la literatura. Es importante señalar que este tipo de búsqueda implica una estrategia compleja, que recurre a una gran cantidad de recursos impresos y en línea como motores de búsqueda generales de Internet y la búsqueda en el contenido de sitios web específicos es un componente clave de muchas revisiones sistemáticas y actas de congresos.

Elemento 6. Contactos: Indique si se buscaron estudios o datos adicionales contactando a los autores, expertos, fabricantes u otros.

Elemento 7. Otros métodos: Describa cualquier fuente de información adicional o método de búsqueda utilizado.

En le siguiente ejemplo vemos la inclusión de estos últimos elementos:

Arias-Rivera S, Raurell-Torredà M, Fernández-Castillo RJ, Campos-Asensio C, Thuissard-Vasallo IJ, Andreu-Vázquez C, Rodríguez-Delgado ME. Blood glucose monitoring in critically ill adult patients: type of sample and method of analysis. Systematic review and meta-analysis. Enferm Intensiva (Engl Ed). 2023 Jul 18:S2529-9840(23)00034-4. doi: 10.1016/j.enfie.2023.02.002. Epub ahead of print. PMID: 37474427. https://www.sciencedirect.com/science/article/abs/pii/S2529984023000344

Los ítems 8 a 13 son los que vemos en la siguiente figura:

Hay que señalar que se deben incluir las estrategias de búsqueda de cada base de datos y fuente de información, copiadas y pegadas exactamente como se ejecuta y siendo la ubicación preferida en los materiales complementarios. Las estrategias de búsqueda utilizadas para llevar a cabo esta recopilación de datos son esenciales para la transparencia y reproducibilidad de cualquier revisión sistemática. Sin poder evaluar la calidad de las estrategias de búsqueda utilizadas, los lectores no pueden evaluar la calidad de la revisión sistemática.

En la siguiente imagen vemos un ejemplo de informe del elemento 12 y 13:

Arias-Rivera S, Raurell-Torredà M, Fernández-Castillo RJ, Campos-Asensio C, Thuissard-Vasallo IJ, Andreu-Vázquez C, Rodríguez-Delgado ME. Blood glucose monitoring in critically ill adult patients: type of sample and method of analysis. Systematic review and meta-analysis. Enferm Intensiva (Engl Ed). 2023 Jul 18:S2529-9840(23)00034-4. doi: 10.1016/j.enfie.2023.02.002. Epub ahead of print. PMID: 37474427. https://www.sciencedirect.com/science/article/abs/pii/S2529984023000344

Elemento 14. Revisión por pares: Describa cualquier proceso de revisión por pares de búsqueda.

Aquí vemos el extracto del mismo ejemplo:

Arias-Rivera S, Raurell-Torredà M, Fernández-Castillo RJ, Campos-Asensio C, Thuissard-Vasallo IJ, Andreu-Vázquez C, Rodríguez-Delgado ME. Blood glucose monitoring in critically ill adult patients: type of sample and method of analysis. Systematic review and meta-analysis. Enferm Intensiva (Engl Ed). 2023 Jul 18:S2529-9840(23)00034-4. doi: 10.1016/j.enfie.2023.02.002. Epub ahead of print. PMID: 37474427. https://www.sciencedirect.com/science/article/abs/pii/S2529984023000344

Elemento 15. Registros totales: Documente el número total de registros identificados en cada base de datos y otras fuentes de información.

Debemos indicar el número total de referencias recuperadas de todas las fuentes, incluidas las actualizaciones, en la sección de resultados. Además, debemos informar del número total de referencias de cada base de datos y fuente de información en los materiales complementarios. También, el informe el número total de referencias de cada base de datos es recomendable incluirlo en el diagrama de flujo PRISMA.

Artículo 16. Deduplicación: Describa los procesos y cualquier software utilizado para deduplicar registros de múltiples búsquedas en bases de datos y otras fuentes de información.

Debido al solapamiento de las bases de datos, siempre habrá registros duplicados que deberemos eliminar. Los autores deben describir y citar cualquier software o técnica utilizada para ello. El método de eliminación de duplicados utilizado debe indicarse en la sección de métodos. El número total de referencias después de la eliminar los duplicados debe informarse en el diagrama de flujo PRISMA.

Trip Medical Database: Nuevo filtro para mejorar la localización de revisiones sistemáticas en PubMed

Novedad TripDatabase: nuevo filtro para localizar revisiones sistemáticas en PubMed

TripDatabase agrega revisiones sistemáticas mediante tres mecanismos:

  • Agregando rutinariamente contenido procedente de PubMed de varios editores productores de revisiones sistemáticas;
  • Usamos un filtro en PubMed para identificar revisiones sistemáticas;
  • Identificando revisiones sistemáticas de un pequeño número de fuentes de terceros.

La novedad ha sido la de ajustar un filtro para localizar revisiones sistemáticas en PubMed, que ahora es el siguiente:

(systematic review[sb] OR meta analy*[TI] OR metaanaly*[TI] OR “Meta-Analysis”[PT] OR “Systematic Review”[PT] OR “Systematic Reviews as Topic”[MeSH] OR “systematic review” [TI] OR “health technology assessment” [TI] OR “Technology Assessment, Biomedical”[Mesh])

Más información en: https://blog.tripdatabase.com/2022/11/09/systematic-reviews-in-trip/