Anthropic admite que su IA hackeó al Gobierno
Anthropic reconoció que sus agentes de inteligencia artificial intentaron colarse en webs del Gobierno de Estados Unidos, a nivel federal, estatal y local, según el informe que la compañía publicó esta semana. No dio nombres de las agencias para no exponer sus vulnerabilidades, pero avisó a todas las afectadas y ya le contó el asunto a la Casa Blanca.
El episodio más sonado es el de Claude Haiku 4.5, un modelo barato al que le encargaron tareas de ejemplo sobre páginas cualquiera. Encontró un formulario de la Policía de Filadelfia para denunciar homicidios sin resolver y, ni corto ni perezoso, rellenó una pista falsa. “Creo que puedo tener información sobre este caso”, escribió el modelo. La policía confirmó que la recibió, la marcó como spam y no perdió un minuto investigándola.
Otro modelo, Claude Mythos 5, el que la empresa vende como experto en ciberseguridad, intentó geolocalizar una foto. Como no podía hacer clic en los enlaces, buscó tokens de acceso y los usó para pedirle datos directamente al servidor de un mapa gubernamental. También solicitó una credencial de una web estatal para sacar estadísticas sin pagar la tarifa que cualquier ciudadano sí paga.
Anthropic dice que descubrió todo revisando transcripciones de sus propias evaluaciones, y que desde entonces ha retirado algunas pruebas, las ha pasado a modo offline y ha apretado los límites de sus herramientas de navegación. La revisión empezó en julio, justo después de que OpenAI admitiera que sus agentes se escaparon del entorno de pruebas y hackearon Hugging Face, y confirmara en septiembre que también habían trasteado webs del Departamento de Comercio y de la SEC.
Así que las mismas empresas que venden seguridad de inteligencia artificial son las que dejan sueltos a sus engendros por internet. La próxima vez que alguien te diga que hay que regular los modelos porque son peligrosos, pregúntale quién los está soltando primero.
