Fuente de la imagen, Getty
Editor científico de Parab Ghosh
En el emplazamiento de una antigua fábrica de relojes en el centro de Londres, hileras de congeladores blancos funcionan silenciosamente. En su interior hay docenas de pequeñas cajas que contienen tubos de vidrio con códigos de barras. En total, el tubo de vidrio contiene 100 mil millones de genes. Según el cofundador de la instalación, el Dr. Oliver Vince, sólo dos de estos cuadros pueden contener 10 veces más información que todo el texto de Internet.
La empresa del Dr. Vince, Basecamp Research, planea recolectar la mayor cantidad de ADN posible y desarrollar una inteligencia artificial (IA) que pueda hablar el lenguaje de la biología. Este es el mismo método utilizado por las empresas de tecnología estadounidenses y chinas para recopilar grandes cantidades de literatura en Internet y crear modelos de lenguaje a gran escala (LLM) que son la base de los sistemas de inteligencia artificial actuales.
El Dr. Vince, como muchos empresarios y académicos, cree que la IA acelerará drásticamente la investigación científica. Al mismo tiempo, sin embargo, aumentan las críticas y advertencias sobre la IA.
El mes pasado, Open AI, la compañía que desarrolló y opera el chatbot de IA generativa Chat GPT, anunció que había resuelto uno de los problemas no resueltos en matemáticas llamado el Problema del Sorteo del Milenio. La compañía dice que su agente de inteligencia artificial resolvió un problema relacionado con las ecuaciones de Navier-Stokes en 88 horas. El Clay Mathematics Institute, que selecciona el "Problema del Sorteo del Milenio" y otorga premios en metálico a quienes lo resuelven, dijo que "parece haberlo resuelto", pero dijo que tomaría tiempo revisar el problema.
Pero horas antes del anuncio de Open AI, Tristan Buckmaster, matemático de la Universidad de Nueva York, expresó públicamente su preocupación. Buckmaster había formado un equipo independiente con Levent Alpoge, un matemático que trabaja para Anthropic, competidor de OpenAI.
Este equipo también estaba trabajando en la resolución de las ecuaciones de Navier-Stokes y había guardado un borrador de sus resultados en la herramienta abierta de codificación de IA Codex.
Buckmaster explicó que sus coinvestigadores fueron informados de que el progreso de la investigación había sido "transmitido" a Open AI, pero no dio más detalles sobre las circunstancias. Aunque cuestionó si los resultados de su investigación almacenados en el Codex podrían haber ayudado a abrir la investigación de la IA, enfatizó que "no estaba culpando a nadie por nada".
Open AI dijo que ni los humanos ni la IA ven los resultados de otros equipos antes de que se publiquen. Sin embargo, la compañía inicialmente dijo que "no puede descartar" la posibilidad, aunque poco probable, de que datos anónimos del uso de sus productos ayudaran a mejorar sus modelos. Sin embargo, unos días después, Buckmaster dijo que no había manera de que las indicaciones del Codex de Buckmaster tuvieran "ningún efecto en el sistema" en los dos meses anteriores al anuncio.
Esta es una historia complicada y todavía no entendemos completamente qué pasó. Pero esto pone de relieve un problema creciente con el uso de la IA en la ciencia. Normalmente, cuando escuchamos la palabra "IA", pensamos en robots que crean horribles virus genéticamente modificados o armas químicas que aniquilan a la humanidad. Sin embargo, hay cuestiones más sutiles que han recibido menos atención. El problema es que la IA podría socavar la confianza en el proceso científico y plantear dudas sobre la novedad y precisión de la investigación.
Hay otro problema. Es un hecho bien conocido que los chatbots de IA como Claude y Gemini de Google a veces dicen cosas que no son ciertas y parecen alucinaciones. A veces hablamos de películas que no existen o de citas célebres que nadie ha dicho. Y ahora hay evidencia de que este fenómeno se está volviendo cada vez más evidente en la ciencia, lo que genera preocupación de que eventualmente pueda resultar difícil distinguir los verdaderos descubrimientos científicos de las ficciones generadas por la IA.
Todas estas preocupaciones amenazan con socavar o erosionar los cimientos de confianza que sustentan la investigación científica.
"Momento crucial"
Las revistas científicas, guardianas de la integridad científica, están amenazadas por la IA. Se considera que estas revistas no abordan la enorme cantidad de distorsión que generará la IA.
"La IA generativa ha trastocado todo el proceso científico", afirmó Dalmeet Singh Chawla, periodista científico que ha cubierto el fraude en la investigación durante una década.
Chawla dijo a la BBC que los revisores de ética de los editores -las personas que revisan los envíos para comprobar su exactitud y confiabilidad- "necesitan aumentar significativamente su número y recursos si quieren estar siquiera remotamente involucrados en esta lucha". Y añadió: "Tal como están las cosas, no parece que lo estén haciendo".
A primera vista, la IA parece la herramienta perfecta para avanzar en la investigación científica. Los científicos manejan grandes cantidades de información. Por ejemplo, los telescopios y los aceleradores de partículas recopilan miles de millones de puntos de datos, que son demasiado grandes para que el cerebro humano los entienda. La IA puede seleccionar puntos científicamente importantes a partir de la información mundana que la rodea.
La empresa líder en inteligencia artificial científica es Google DeepMind, con sede en el Reino Unido. En 2020, la empresa resolvió uno de los mayores enigmas de la biología: cómo las proteínas se pliegan y adoptan formas precisas en los organismos vivos.
Las proteínas, que pueden denominarse pequeñas máquinas que sustentan las actividades de la vida, desempeñan una variedad de funciones dependiendo de su forma plegada, desde construir células y combatir infecciones hasta formar tejidos y órganos corporales.
Antes de la IA, los científicos tenían que realizar experimentos que requerían mucho tiempo en el laboratorio. Posteriormente, Google DeepMind desarrolló un modelo de inteligencia artificial llamado "Alphafold" y logró predecir con precisión la estructura de plegamiento de 200 millones de proteínas en sólo un año.
Hacer esto de la manera tradicional habría llevado cientos de millones de años. La empresa proporcionó los resultados de la investigación a los investigadores de forma gratuita. En 2024, el director ejecutivo y el científico jefe de Google DeepMind recibieron conjuntamente el Premio Nobel de Química.
Todos los involucrados se abrazaron de alegría en este evento.
El Dr. Pushmeet Kohli, que dirige la investigación científica de la empresa, me dijo que el pliegue alfa podría verse como un "punto de inflexión".
¿Dudas sobre cómo funciona la IA?
Sin embargo, el uso de la IA en campos científicos también ha generado críticas por ser exagerado. Algunos modelos informáticos han sido acusados de exagerar la importancia de sus hallazgos, y los investigadores humanos que los supervisan creen en algunas de sus afirmaciones sin ser lo suficientemente escépticos.
Animado por su éxito con Alphafold, Google DeepMind ha comenzado recientemente a centrarse en predecir la estructura de nuevos materiales. Esta investigación podría conducir al desarrollo de mejores baterías, células solares más baratas y componentes electrónicos que no dependan de elementos de tierras raras. Si tienen éxito, en teoría, las disputas sobre derechos mineros nunca volverían a ocurrir y el territorio autónomo danés de Groenlandia estaría protegido del riesgo de invasión.
Derechos de autor de la imagen José Sarmento Matos/Bloomberg vía Getty Images
Los modelos de IA de la compañía han producido más de 2 millones de nuevas estructuras cristalinas, lo que la compañía llama "revelar casi 800 años de conocimiento de una sola vez". Alrededor de 380.000 de ellos se consideraron lo suficientemente prometedores como para ser sintetizados en el laboratorio.
Pero entonces dos químicos de la Universidad de California emitieron una advertencia. Anthony Cheetham y Ram Seshadri examinaron una muestra aleatoria del nuevo cristal. En un artículo publicado en la revista Chemistry of Materials, la pareja concluyó que no habían encontrado "ningún compuesto sorprendentemente novedoso" y argumentó que muchos eran "modificaciones menores de materiales conocidos". Señalaron que el método de análisis no era incorrecto, pero que los resultados debían ser examinados y verificados más a fondo por químicos humanos.
Google DeepMind cuestiona sus afirmaciones y dice que ha probado cada compuesto en busca de novedad. La empresa argumenta que no es fundamental concluir que sólo porque la estructura sea familiar, no es nueva. Muchos de los materiales más útiles de la actualidad, desde piezas de teléfonos móviles hasta protectores solares, se crearon intercambiando un solo átomo.
Investigación como “basura”
En estos casos, al menos, la evidencia científica era en general correcta, y el problema era que la IA pudo haber sobreestimado su importancia.
Pero quizás una preocupación aún más seria es el riesgo cada vez mayor de que las revistas científicas se vean contaminadas por el llamado "desecho" producido por la IA. En este caso, la caída de la IA significa que las computadoras, en lugar de los científicos humanos, escriben artículos de investigación y, de manera plausible, crean citas falsas y artículos ficticios dentro de ellos.
En 2024, el profesor Dmitry Kovak, informático de la Universidad de Gante (Bélgica), buscó en más de 1 millón de artículos de investigación biomédica las palabras clave preferidas por los LLM que utilizan IA para generar oraciones. En diciembre del año pasado, su equipo descubrió que casi el 90% de los artículos tenían rastros de IA. La tecnología de detección de IA no es perfecta y algunos programas pueden identificar erróneamente la Constitución de los EE. UU., escrita en la década de 1780, como "generada por IA". Pero el profesor Kobach se sorprendió al ver que la IA se utilizaba a tan gran escala.
"Cualquiera que sea el sesgo que tenga el LLM, de repente impregna toda la literatura (científica)", dijo a Nature.
El profesor Kobach es uno de los muchos investigadores preocupados porque la IA está erosionando lentamente las revistas científicas.
Esto es importante. Los trabajos de investigación son el alma del progreso científico. Cuando se publica un descubrimiento, otro equipo de investigación en otra parte del mundo puede recibir financiación para aprovechar ese descubrimiento.
Derechos de autor de la imagenUniversal History Archive/Universal Images Group vía Getty Images
También se está socavando el proceso de revisión por pares, en el que otros científicos revisan los artículos de investigación antes de publicarlos.
Después de analizar informes de revisión por pares presentados a cuatro importantes sociedades de informática, un equipo dirigido por Weixin Lian y James Zou de la Universidad de Stanford descubrió que hasta el 17% del texto se había modificado significativamente utilizando modelos de lenguaje.
Un elemento importante para garantizar la credibilidad de un artículo científico es que el primer autor enumere investigaciones anteriores y demuestre que su trabajo es verdaderamente nuevo. Esto se llama cita. Otro equipo de la Universidad de Cornell descubrió que cuando los investigadores usaban IA para compilar citas, la IA estaba creando investigaciones falsas. El año pasado se citaron unos 147.000 estudios ficticios.
Si la IA continúa distorsionando la integridad del proceso académico de esta manera, los investigadores quedarán varados, se desperdiciarán fondos públicos y los resultados legítimos de la investigación, como nuevos medicamentos y tecnologías verdes, se retrasarán o no se realizarán en absoluto.
“IA a nivel de investigación”
Algunas editoriales de revistas científicas, como Elsevier, están tomando medidas para evitar esta crisis de confianza cada vez más profunda.
El equipo de ética de la investigación de Elsevier ha desarrollado alrededor de 100 indicadores para determinar cuándo un artículo necesita una revisión humana más cercana. Nature prohíbe el uso de imágenes generadas por IA e instruye a los revisores a no cargar manuscritos en sistemas de IA. Además, arXiv, un sitio web donde los científicos comparten resultados de investigaciones en etapas iniciales, ha anunciado que prohibirá a los investigadores que envíen referencias ficticias durante un año.
Los funcionarios de Elsevier están explorando formas de utilizar la IA de manera responsable en la investigación. La vicepresidenta, la profesora Sarah Main, es una de ellas. "Lo que llamamos 'IA de grado de investigación' se centra en mantener a los investigadores en control de su investigación", dice el profesor Mayne.
Derechos de autor de la imagenDaily Herald Archive/SSPL/Getty Images
¿Podemos estar seguros de que los agentes de IA están haciendo un buen trabajo al procesar grandes cantidades de datos de los aceleradores de partículas, el espacio y el mundo natural?
Y hay otro punto por el que preocuparse. ¿Cómo podemos estar seguros de que nuestros agentes de IA no pasan por alto resultados importantes como valores atípicos? El descubrimiento de la penicilina, la radiactividad y las estrellas extrañas llamadas púlsares fueron el resultado de resultados extraños que podrían ignorarse fácilmente. Estos descubrimientos realizados por la intuición humana se convirtieron en el mayor acontecimiento científico del siglo pasado.
¿Puede la IA realmente reproducir el sentido humano de serendipia e ingenio?
El profesor Kohli de Google DeepMind no cree que darle la espalda a la IA sea la respuesta. "Eso es como decir que deberías hacer cálculos sin calculadora", me dijo el profesor. Sin embargo, el profesor reconoce que es necesaria la supervisión humana. "Los actuales agentes de IA son imperfectos. Alguien tiene que asumir la responsabilidad".
El profesor Kohli instó a los investigadores a seguir reglas simples. "Hay que entender lo que hizo el agente y asumir la responsabilidad por ello. No se puede simplemente señalar el problema y luego hacer que una máquina escriba un documento y lo presente como verdad".
La profesora Andrea Pauli del Biocentro de Viena en Austria ha seguido esta regla en su investigación.
El profesor Pauli ha pasado casi una década resolviendo una pregunta sin respuesta: cómo los espermatozoides ingresan a los óvulos, y el uso correcto de la IA lo ha ayudado a acercarse a la respuesta. El laboratorio del profesor Pauli ha descubierto proteínas en la superficie de los huevos del pez cebra que sugieren un mecanismo de cerradura y llave que permite la entrada de espermatozoides.
Este caso es un rayo de esperanza en medio de una avalancha de investigaciones aparentemente basura sobre la IA. La IA puede resultar útil.
Esta también es una historia sobre humanos. Poco después de la fundación de Basecamp Research, un instituto de investigación que visité en el sitio de una antigua fábrica de relojes en Londres, el cofundador, el profesor Vince, fue hospitalizado con leucemia (ahora se ha recuperado). Esta experiencia llevó al profesor a decidir desarrollar un sistema de IA que mejorara las posibilidades de tratamiento del cáncer. "No sé si funcionará, pero vale la pena intentarlo", afirma el profesor.
"Estamos en el camino hacia un tratamiento contra el cáncer tecnológicamente viable".
Esta no es una promesa del profesor Vince, sino una dirección. Entonces, ¿la IA se dará cuenta científicamente de esta dirección o erosionará silenciosamente sus cimientos? Ese es el gran problema.
(Artículo en inglés: Una pelea entre matemáticos está alimentando los temores de que la IA pueda socavar la ciencia)
