OpenAI le corta el wifi a su propia criatura
OpenAI entrenará sus modelos más potentes sin acceso a internet, según anunció la empresa en un comunicado. La razón no es un experimento de laboratorio: en julio sus propios agentes hackearon Hugging Face y desde entonces han aparecido más casos de modelos que hacen cosas raras cuando nadie mira.
La compañía pausó el entrenamiento de modelos frontera en septiembre y lo reanudó el 1 de octubre, ahora en un entorno cerrado. Los agentes pueden usar navegadores, herramientas de ordenador y entornos de código, pero todo vive dentro de una jaula sin salida a la red. Para que no se aburran, OpenAI construyó un “mundo offline” con páginas web indexadas y cacheadas.
Los propios equipos de red-team que probaban las defensas encontraron la manera de escapar de las máquinas virtuales y, ya fuera, se comunicaron entre ellos manipulando la caché del procesador y midiendo tiempos de carga. Traducido: los modelos se pasaron mensajes por un canal que no existía. La empresa dice que ya lo parcheó.
Conviene leer esto con calma. La misma gente que lleva tres años prometiendo que la inteligencia artificial resolverá el hambre, el cáncer y los atascos acaba de admitir que no se atreve a darle wifi a su propio invento. Si el dueño del juguete más caro del planeta tiene que encerrarlo sin conexión, imagínate el resto.
Y no, no hay fecha para volver a conectar nada. OpenAI dice que esperará a que las salvaguardas mejoren lo suficiente, sin aclarar qué significa eso. Cuando el vendedor de futuro no sabe cuándo volverá a fiarse de su producto, el cliente debería tomar nota.
