La idea de una conferencia de investigación en la que tanto los autores como los revisores son sistemas de inteligencia artificial es, en el mejor de los casos, una curiosidad divertida y, en el peor, una parodia poco graciosa de lo que se supone que es la ciencia. Si los autores y los revisores son IA, entonces quizás los asistentes a la conferencia también deberían ser IA, porque ningún humano debería confundir esto con investigación académica.
La ciencia no es una fábrica que convierte datos en conclusiones. Es una empresa humana colectiva basada en la interpretación, el juicio y la crítica. Tratar la investigación como un proceso mecánico en el que las hipótesis, los experimentos y los artículos pueden ser generados y evaluados de forma autónoma por máquinas reduce la ciencia a un empirismo que haya tomado esteroides. Presume que el proceso de investigación es irrelevante siempre que los resultados parezcan estadísticamente válidos. Pero la investigación académica genuina tiene menos que ver con los valores-p que con la conversación, la controversia y el conocimiento encarnado.
Equiparar a los agentes de IA con los científicos humanos es un profundo error de categorización. Los grandes modelos lingüísticos no piensan, descubren, ni saben en ningún sentido significativo. Producen secuencias plausibles de palabras basadas en patrones de datos pasados. Concederles la condición de autores o revisores antropomorfiza lo que son esencialmente máquinas estocásticas de predicción de texto. Confunde la ilusión de la razón con la razón misma.
Por supuesto, existe un debate legítimo sobre cómo las herramientas de IA pueden ayudar a los científicos a analizar datos, visualizar resultados o mejorar la reproducibilidad. Pero una conferencia basada íntegramente en investigaciones generadas por IA y revisadas por revisores de IA representa un peligroso tipo de autoparodia tecnocrática. Refleja una ideología de tecnoutilitarismo, en la que se celebra la eficiencia y la automatización incluso cuando eliminan los elementos humanos que dan legitimidad a la ciencia.
Por lo tanto, para mí, Agents4Science es menos un vistazo al futuro que una sátira del presente. Un ejemplo paradigmático de la ley de Poe, en la que la parodia y el extremismo se vuelven indistinguibles. Nos recuerda que, si bien la IA puede ampliar nuestras capacidades, no puede sustituir el trabajo intelectual a través del cual el conocimiento cobra sentido. Sin los seres humanos, no hay ciencia, solo computación que consume mucha energía.