Una investigadora creó una enfermedad ficticia para poner a prueba a la IA y el resultado no fue el esperado
LA PRUEBA DE LA BIXONIMANIA | En marzo de 2024, una investigadora médica de la Universidad de Gotemburgo creó una enfermedad desconocida llamada ‘bixonimania’ para poner a prueba a los grandes modelos de inteligencia artificial (IA). La enfermedad, con síntomas como picor de ojos y párpados rosáceos, fue diseñada para ser obviamente ficticia.
La investigadora, Almira Osmanovic Thunström, subió dos estudios falsos a un servidor de prepublicación científica, con pistas absurdas como un investigador inexistente y organizaciones ficticias. A pesar de lo evidente del montaje, varias plataformas de IA comenzaron a incluir la enfermedad en sus respuestas médicas.
LOS RESULTADOS INQUIETANTES
El 13 de abril de 2024, Copilot de Microsoft describía la bixonimania como ‘una afección intrigante y relativamente poco frecuente’. Gemini de Google recomendaba acudir a un oftalmólogo en caso de síntomas, mientras que Perplexity aseguraba conocer su prevalencia: una de cada 90.000 personas la padecía.
Pero lo más inquietante fue que los artículos falsos comenzaron a citarse en publicaciones revisadas por pares. Un estudio publicado en Cureus citaba uno de los preprints y afirmaba que la bixonimania era ‘una forma emergente’ de melanosis periorbital.
EL LENGUAJE ACADÉMICO COMO VECTOR DE ALUCINACIONES
El experimento sugiere que tanto las personas como los modelos de lenguaje pueden otorgar más credibilidad a textos con apariencia académica. Un estudio independiente de Mahmud Omar, investigador de Harvard, encontró que cuanto más profesional y científico parece un texto, mayor es la probabilidad de que las IA lo acepten como verdadero.
La lección resulta incómoda: la desinformación no es nueva, pero sí lo son su velocidad de propagación y su capacidad para imitar con precisión el lenguaje de la ciencia y de la autoridad.
La imagen muestra un gráfico con información sobre la propagación de la desinformación en las redes sociales.
Osmanovic Thunström declaró a Nature: ‘Es preocupante que estas afirmaciones importantes pasen por la literatura sin ser cuestionadas. Creo que probablemente hay muchos otros problemas que aún no se han descubierto.’