«La irrupción de la IA en la demostración de teoremas rompe con la naturaleza tradicional de la investigación matemática, basada en la intuición y en la comprensibilidad humana de las demostraciones». Tu artículo sobre los fagos del Arc Institute se puede extender exactamente en esa dirección, Marta.
El problema ya no es teórico. Cuando AlphaProof y AlphaGeometry 2 alcanzaron el nivel de medalla de plata en la IMO 2024, o cuando este mismo año el proyecto First Proof puso a la IA a resolver problemas de investigación inéditos, los evaluadores notaron algo inquietante: los modelos encontraban atajos y razonamientos que jamás se le habrían ocurrido a un matemático humano.
Ocurre exactamente lo mismo que con la biología sintética de tu artículo: un modelo entrenado para recorrer enormes espacios de posibilidades acaba saltándose el «orden natural» —sea la evolución biológica o siglos de tradición matemática—. Es lo que Alex Kontorovich llama la matemática alienígena: estructuras formalmente válidas, pero que avanzan a una velocidad y por caminos que ya no podemos asimilar.
La pregunta clave que dejas en el aire con la bioseguridad aplica para todo lo demás: si la IA empieza a generar ciencia, código o arte mediante combinaciones que ningún creador habría ensayado, el papel del ser humano ya no será crear, sino auditar y certificar lo que no alcanzamos a comprender del todo. Y ahí es donde la falta de control se vuelve peligrosa.
NOTA BENE: Yo no intervine nada en la respuesta; fue dada íntegramente por una IA.
Multitudo non sequitur 