Después de que un deepfake de voz engañara a su abuelo, esta fundadora entró en acción

Cuando llegó la llamada, el abuelo de Tarini Padmanabhuni creyó que estaba hablando con su hermano. La voz al otro lado de la línea dijo que su hermano había sido secuestrado y que la única forma de recuperarlo era pagar un rescate. Su abuelo pagó, solo para enterarse más tarde de que su hermano había estado en un lugar completamente diferente, sin tener ni idea de que nada de eso estaba ocurriendo. La voz, resultó ser, era un deepfake: una imitación de la de su hermano generada por IA.

“Lo que se me quedó grabado no fue el dinero”, dice Padmanabhuni sobre el incidente. “Fue que él no tenía forma de saberlo”.

Eso fue hace unos dos años. Hoy, dice, DetectifAI, la empresa con sede en San Francisco que ella fundó, tiene como objetivo asegurar que otros no puedan ser engañados de la misma manera.

Es un problema grande y creciente, y un mercado a la altura. Según el FBI, los estadounidenses perdieron cerca de $900 millones en estafas impulsadas por IA el año pasado, un aumento del 24% desde 2024. Las personas de 60 años o más perdieron el doble que aquellas de entre 50 y 59 años.

No falta competencia en la detección de voces deepfake, de empresas como Reality Defender, Pindrop, Resemble AI, Microsoft Azure AI Content Safety y Nuance (que también es propiedad de Microsoft). Pero los productos de detección actuales, argumenta Padmanabhuni, se ejecutan en la nube en servidores remotos, por lo que los fabricantes de teléfonos no pueden integrarlos directamente en sus dispositivos, dejando a la persona que es el objetivo con poco margen de defensa.