Los sistemas de inteligencia artificial pueden aprender de los datos biológicos y generar nuevo contenido, lo que puede ayudar a los científicos en áreas como el descubrimiento de fármacos. Sin embargo, estos sistemas también pueden producir resultados incorrectos y desviar a los científicos. Por ejemplo, un sistema de inteligencia artificial puede hacer que un efecto biológico no real parezca real, lo que puede llevar a la incorrecta eliminación de candidatos a fármacos o a una terapia ineficaz.
Los sistemas de inteligencia artificial generativa pueden utilizarse para llenar lagunas en los datos biológicos, proteger la privacidad de los pacientes, crear grupos de comparación, reducir los costos de investigación o minimizar los experimentos con animales. Sin embargo, estos sistemas también pueden producir resultados incorrectos y hacer que los científicos crean en un efecto biológico no real. Esto puede llevar a que las afirmaciones científicas no estén respaldadas por evidencia correcta.
El riesgo de que los sistemas de inteligencia artificial produzcan resultados incorrectos varía según el área de aplicación. Por ejemplo, la búsqueda de candidatos a fármacos o proteínas es relativamente de bajo riesgo en comparación con otras aplicaciones. Sin embargo, el uso directo de los datos generados por la inteligencia artificial como evidencia puede aumentar el riesgo. Por lo tanto, es importante que los científicos comprendan cómo funcionan los sistemas de inteligencia artificial y interpreten los resultados con cuidado.