La irrupción de agentes de investigación de Inteligencia Artificial ha prometido revolucionar el descubrimiento científico, permitiendo el procesamiento y generación de ideas a una escala sin precedentes. Sin embargo, una investigación reciente publicada en arXiv.org arroja luz sobre una preocupación creciente: la posible restricción de la exploración científica. El estudio analizó 219.655 ideas generadas por IA en diversas áreas científicas, empleando cinco frameworks de agentes y cinco grandes modelos de lenguaje (LLMs).
Los hallazgos son consistentes y revelan patrones preocupantes. En primer lugar, las ideas generadas por IA son más concentradas y homogéneas dentro de la misma área de investigación en comparación con los trabajos escritos por humanos. El estudio cuantifica esta diferencia, mostrando una menor amplitud de exploración del 7.5% para las ideas generadas por IA. Esto sugiere que los sistemas de IA, en su estado actual, tienden a operar dentro de los confines del conocimiento existente, limitando la aparición de conceptos verdaderamente disruptivos.
En segundo lugar, las ideas generadas por IA se mantienen "mucho más cerca de la literatura de partida" que el trabajo de seguimiento humano. Esto implica que, aunque eficientes en la síntesis y reformulación de información, los agentes de IA no están demostrando la misma capacidad para la divergencia y la creación de nuevas trayectorias de investigación que caracterizan el pensamiento humano. Además, el estudio encontró que las ideas generadas por IA se alinean menos con la investigación humana futura, cubriendo significativamente menos palabras clave de "frontera" de los años siguientes.
Las implicaciones de esta tendencia son profundas para el futuro de la ciencia. Si la investigación asistida por IA no se orienta hacia una exploración más audaz, podría llevar a un estancamiento en la generación de ideas verdaderamente innovadoras y a una homogeneización del pensamiento científico. Los investigadores también observaron que las ideas generadas por IA reciben puntuaciones de impacto científico más bajas en comparación con los trabajos de seguimiento humano, con una diferencia del 21.3%.
Este estudio no aboga por el abandono de los agentes de IA en la investigación, sino que subraya la necesidad crítica de desarrollar estos sistemas con un enfoque explícito en la promoción de la diversidad intelectual y la originalidad. Es fundamental diseñar algoritmos que no solo optimicen la eficiencia, sino que también incentiven la exploración de territorios desconocidos y la formulación de hipótesis verdaderamente novedosas para garantizar que la IA sea un catalizador de la expansión del conocimiento, y no un factor de su constricción.