Cómo funciona el sistema que reconstruye el rostro desde la voz

(Por Eduardo Aguirre) Una pregunta recurrente tanto en charlas de café como en ámbitos académicos es ¿hasta dónde pueden llegar los desarrollos tecnológicos tales como machine learning e inteligencia artificial? La respuesta es cada vez más difícil de imaginar. 

Image description
Image description

Es que logros propios del cine y la literatura han abandonado el mundo de la ficción y hoy son realidades tangibles.

Uno de los más recientes y asombrosos ejemplos es Speech2Face, el sistema desarrollado por investigadores del MIT (Massachusetts Institute of Technology) que permite reconstruir el rostro de una persona con solo escuchar algunos segundos de su voz, tal como podés ver en el video que acompaña esta nota.

En la publicación en la cual expusieron los resultados de la investigación los seis responsables afirmaron: ¿Cuánto podemos inferir sobre la apariencia de una persona por la forma en que habla?
En este artículo, estudiamos la tarea de reconstruir una imagen facial de una persona a partir de una breve grabación de su voz hablando. Diseñamos y entrenamos una red neuronal profunda para realizar esta tarea utilizando millones de videos naturales de personas que hablan en sitios como YouTube. Durante la capacitación, nuestro modelo aprende sobre los rostros de las personas y sus correlaciones de voz. Esto le permite producir imágenes que capturan varios atributos físicos de los hablantes, como la edad, el género y la etnia. Esto se hace de manera auto-supervisada, utilizando la co-ocurrencia natural de rostros y habla en videos de Internet, sin la necesidad de modelar los atributos explícitamente. Nuestras reconstrucciones, obtenidas directamente del audio, revelan las correlaciones entre caras y voces. Evaluamos y cuantificamos numéricamente cómo, y de qué manera, nuestras reconstrucciones del audio de Speech2Face se asemejan a las verdaderas imágenes faciales de los altavoces.

Desde luego este tipo de experimentos conllevan un dilema ético al cual los investigadores no le rehúyen. “Aunque se trata de una investigación puramente académica, creemos que es importante discutir explícitamente en el documento un conjunto de consideraciones éticas debido a la posible sensibilidad de la información facial”, sostienen al abrir ese capítulo y añaden que el modelo informático no puede recuperar la verdadera identidad de una persona (es decir, una imagen exacta de su rostro). Esto se debe a que está capacitado para capturar características visuales (relacionadas con la edad, el género, etnia, etc.) que son comunes a muchas personas, y solo en los casos en que existe evidencia lo suficientemente sólida como para conectar esas características visuales con los atributos. Como tal, el modelo solo producirá caras de apariencia promedio, con características visuales que se correlacionan con el habla de entrada. No producirá imágenes de individuos específicos.

Los científicos utilizaron en el momento de la prueba para las reconstrucciones de rostros segmentos de voz de entrada de 3 segundos y 6 segundos respectivamente (en ambos casos usamos el mismo modelo). Como se observa en la imagen que acompaña esta nota, con una mayor duración del habla las caras reconstruidas capturan mejor los atributos faciales. Por cierto, en algunos casos, los resultados obtenidos son realmente asombrosos.

¿Qué más podrán lograr estas tecnologías de redes neuronales? No hay límites a la vista.

El paper completo con los resultados de la experiencia está aquí.

Tu opinión enriquece este artículo:

¿Sabés cuánto cobra Neura por una nota que le hizo a Lucas Salim de Grupo Proaco? (el precio te va a sorprender)

En el cambiante (y acelerado) mundo de los medios de comunicación, las plataformas de streaming están ganando cada vez más protagonismo y revolucionan la manera en que consumimos noticias y entrevistas. Un ejemplo es Neura, la emisora multiplataforma fundada por Alejandro Fantino, por la que días pasados pasó Lucas Salim, fundador y CEO de Grupo Proaco. Estuvo sentado en la mesa de Santiago Bulat y Alan Zuchovicki en "El Inversor", hablando de la construcción y el blanqueo de capitales. 

Siempre Elisa: un emprendimiento familiar de infusiones con impacto social (y visión de exportación)

(Por Julieta Romanazzi) Fundado en 2021 en Justiniano Posse, Siempre Elisa es mucho más que un negocio de té y yerba mate, es un proyecto que fusiona una tradición familiar con un compromiso hacia la comunidad: por cada lata que vende dona un desayuno a un merendero. Más de 2.000 desayunos ya fueron donados, y quieren hacer crecer sus ventas no solo llegando a todo el país, sino también cruzando las fronteras internacionales. 

Profesionales con historia: Mario Luis Galetto, el pediatra sensible que nos remite a la figura de los antiguos médicos rurales

(Por Melina Terraneo) Cada día se lo ve llegar a su consultorio con un pequeño bolso de mano y andar pausado, el esbozo de una sonrisa en el rostro, el gesto amable, como si en ese sencillo acto de entrar a escena y “ponerse el guardapolvo”, parafraseando a Cortázar, en esa tarea de “ablandar el ladrillo” se jugase la vida. Aquí repasamos su historia. 

 

Crecen las franquicias argentinas en el exterior (la gastronomía y los comercios especializados, pican en punta)

Datos, solo datos: desde el 2015 las franquicias argentinas crecieron un 44% globalmente. En el país, solo en 2023 se incorporaron al menos 157 nuevas marcas franquiciantes al mercado, las redes de puntos de venta crecieron un 8,8% en promedio y el 79% de las marcas relevadas realizó nuevas aperturas, por lo que se estima que a principios de 2024 existen en Argentina 1.783 marcas franquiciantes con un total de 50.100 puntos de venta y que generan aproximadamente 245.000 empleos en forma directa. ¿Qué planean para el resto del año?

Los bancos redescubren al sector privado: Santander se hace amigo de Honda para financiar (e impulsar) las ventas de motos 0 km

A través de Santander Consumer, la entidad bancaria firmó un acuerdo con la principal marca en ventas en el país, para facilitar y alentar la adquisición de unidades nuevas, y apoyar a la industria en un contexto donde la compra de este tipo de vehículos se redujo un 26,4% interanual en el primer trimestre del año. Esta es una iniciativa que cobra especial relevancia en un momento en el que el Banco Central de la República Argentina ajustó las tasas de interés, buscando estimular la inversión y el consumo, lo que podría favorecer a quienes estén considerando financiar una compra de este tipo.