Las tecnológicas se auditan a sí mismas
Seis de las mayores empresas de inteligencia artificial prometieron a la Casa Blanca dejar que gente de afuera revise su trabajo. El problema es que ellas deciden quién revisa y qué se revisa. Nvidia, OpenAI, Anthropic, Google, Meta y xAI firmaron el 29 de septiembre un acuerdo sobre los modelos más avanzados que el propio Trump calificó de “moralmente vinculante”, como si la moral se firmara en un papel.
Cada compañía se comprometió a contratar a un auditor externo independiente y a que miembros independientes de su directorio revisen los informes y verifiquen que los problemas se corrigen. Suena muy serio hasta que uno lee la letra chica: el texto no dice nada sobre quién elige al auditor, qué puede examinar ni si los hallazgos se hacen públicos. Tampoco hay penalidad alguna por ignorarlo.
El historial no ayuda a creer. En el año 2000, Enron le pagó a Arthur Andersen 25 millones de dólares por auditarle los libros y otros 27 millones por consultoría y trabajos impositivos. Dos años después, las dos empresas estaban en el piso. El Congreso respondió con la ley Sarbanes-Oxley, que le quitó a la dirección de cada empresa la potestad de elegir a su auditor y creó un organismo público para inspeccionar a los propios auditores.
Con la inteligencia artificial ya pasó algo parecido. En 2023 las grandes tecnológicas hicieron una ronda de compromisos voluntarios ante la Casa Blanca, entre ellos dejar que expertos externos probaran sus sistemas antes de lanzarlos. Cuando investigadores de Stanford, Harvard y Brown puntuaron a 16 empresas contra esos compromisos, el promedio dio 53%. En la promesa de ayudar a terceros a encontrar y reportar problemas, ocho de las dieciséis sacaron cero.
El Estado no regula, y encima deja que el regulado se ponga solo la nota. Una auditoría que no puede elegir qué mirar no es una auditoría, es un sello de goma con logo de independencia. La historia de Enron ya enseñó que la vigilancia del que cobra del vigilado no sirve para nada, y esta vez el que firma el permiso es la misma Casa Blanca que dice proteger al ciudadano.
