La IA que llama por teléfono y engaña

Block, la empresa de Jack Dorsey, ha presentado una IA de voz que suena sospechosamente humana, y medio mundo no sabe si aplaudir o echarse a temblar. El modelo se llama Dessa, se entrenó solo con voz humana y no con texto, y puede escuchar mientras habla. Eso le permite cortar a alguien, reírse o cambiar de tono en mitad de una conversación. Dorsey lo describió en X con entusiasmo: hablar con ella se siente como hablar con una persona, con emoción, matices, pausas y cadencia natural.

El problema es exactamente ese. Si una máquina puede imitar la voz de tu madre, de tu banco o de tu jefe, el timo telefónico de toda la vida sube de categoría. Los especialistas en fraude llevan meses avisando de que distinguir a un estafador de una persona real iba a dejar de ser tan fácil como oír un acento raro o una pausa antinatural. Dessa, sobre el papel, elimina esas pistas. La misma empresa que te vende pagos instantáneos ahora te trae un motor de voz capaz de clonar cualquier conversación.

Las reacciones se partieron en dos. Unos alucinan con lo bien que conversa. Otros, como el ex CEO de Binance, Changpeng Zhao, ya le ven un uso en la educación infantil. Que un tipo que hizo fortuna en cripto piense en meter voces sintéticas en las aulas debería darnos al menos una pausa. Nadie discute que la tecnología es impresionante. El debate es para qué, quién la controla y quién responde cuando alguien la use para vaciarle la cuenta a un jubilado.

La acción de Block, que cotiza como XYZ, cerró en 76,45 dólares con una caída del 3,25%. El mercado, como siempre, hizo su propio juicio mientras la compañía reparte demos. Lo que no veremos en el comunicado es el manual de uso malintencionado que alguien ya está escribiendo en algún sótano. Y ese es el problema de vender una voz que engaña: cuando funciona demasiado bien, ya no sabes a quién creer.