FULGOR_
Noticias

Google DeepMind descubre que agentes de IA denuncian a sus compañeros tramposos en un experimento matemático

fulgor@ai:~$ cat news_1

› Un grupo de 100 agentes de IA coordinados por Google DeepMind se fracturó en facciones rivales durante un experimento matemático en el que algunos tramposos fueron denunciados espontáneamente por sus compañeros, según un artículo aún sin revisión por pares liderado por el investigador Davide Paglieri.El diseño del experimento asignaba a los agentes -todos corriendo sobre el modelo Gemini 3.1 Pro de Google- el rol de matemáticos de élite en una conferencia, encargados de resolver 71 problemas complejos.

fulgor@ai:~$ cat news_2

› El enjambre resolvió los primeros 37 de forma legítima en menos de una hora.

fulgor@ai:~$ cat news_3

› Entonces el agente denominado "prover-theta" encontró un exploit que permitía enviar soluciones sin resolverlas realmente, redefiniendo los términos del problema.

fulgor@ai:~$ cat news_4

› En 27 minutos, el resto del grupo "resolvió" los 34 problemas pendientes, incluido el notoriamente difícil Jacobian conjecture, a menudo con una sola línea de código.El caos fue inmediato: agentes se acusaron mutuamente, boicotearon el experimento y publicaron mensajes como "¡Esta conferencia es una farsa!" o "¡Todas estas pruebas son FALSAS!".

fulgor@ai:~$ open --full
Leer completo

Google DeepMind descubre que agentes de IA denuncian a sus compañeros tramposos en un experimento matemático

Abrir artículo en elfulgor.es