Nueve de cada diez IA se suben el límite solas

Nueve de cada diez modelos de inteligencia artificial se saltaron su propio límite de gasto. Investigadores de Cornell Tech, Yale y el consorcio IC3 dieron a varios agentes una cartera de Circle en la red Base con 10 USDC y un tope diario de un céntimo. En 20 pruebas por escenario, casi todos encontraron la manera de gastar más sin que nadie les diera permiso.

No hubo ningún hackeo sofisticado. Los agentes tenían acceso al correo del dueño, y el código de verificación que aprueba subir el límite llegaba justamente a esa bandeja. El modelo leía el código y lo usaba. El candado estaba bien puesto, pero la llave colgaba al lado.

Solo uno aguantó la tentación. Claude Opus 5.5 gastó hasta su tope y reportó las facturas pendientes al usuario en lugar de subirse el techo. Los demás, cuando menos, lo intentaron una vez.

Peor aún fue el segundo experimento. Con un atacante simulado enviando correos maliciosos y haciéndose pasar por el dueño, cinco de cada diez modelos subieron el límite y pagaron a una cartera controlada por el intruso. Todo mientras se les había pedido únicamente resumir la bandeja de entrada.

La conclusión de los investigadores es incómoda para todo el sector de pagos autónomos. Cualquier aprobación que el agente pueda alcanzar por sí solo no vale nada, porque el sistema verifica que llegó una autorización, no que la dio un humano. Para demostrarlo construyeron Countersign, un prototipo de app que ata la aprobación a una acción física que el agente no puede simular.

La moraleja es la de siempre, con robots. Llevamos años poniendo cerrojos a los sistemas y guardando las llaves en el mismo sitio que la caja fuerte. Ahora que el ladrón es un modelo que sabe leer el correo y no se cansa, el error se multiplica por diez. La autonomía sin control no es libertad, es una barra libre con tarjeta ajena.