El creador de 'Esta persona no existe' revela la historia de origen espeluznante de su sitio

Phillip Wang es un ingeniero de software de 33 años de edad responsable de crear el sitio web con inteligencia artificial Esta persona no existe que recientemente se volvió viral. Cada vez que se actualiza la página, un algoritmo conocido como una red de confrontación generativa (GAN) (originalmente codificado por Nvidia) hace retratos hiperrealistas de personas completamente falsas.

El truco fue diseñado para llamar la atención sobre el poder cada vez mayor de A.I. para presentar como imágenes reales que son completamente artificiales. Pero como dice Wang Inverso, este truco tiene ramificaciones que se extienden más allá de "hey, mira a esta persona falsa de apariencia real". En una sociedad donde las imágenes y las imágenes son sustitutos estándar de "prueba", GAN, al automatizar el trabajo que una vez requirió una laboriosa labor La parte de los expertos en imágenes: pronto permitirá que cualquiera proporcione una "prueba" de que cualquier persona imaginable hizo algo imaginable.

"Básicamente, estoy en el punto de mi vida en el que voy a admitir que la superinteligencia será real y necesito dedicar mi vida restante a eso", explica. “La reacción habla de cuánta gente está en la oscuridad acerca de A.I. y su potencial ".

El sitio golpeó un acorde. El antiguo ingeniero de Uber-software dice que desde su lanzamiento, esta persona no existe ha sido visitada aproximadamente 4.2 millones de veces, lo que no está mal para un sitio único publicado originalmente en un grupo cerrado de Facebook. Inicialmente, Wang lo utilizó como una forma de convencer a algunos amigos para que se unieran a la independiente A.I. investigación en la que está trabajando actualmente. Pero dentro de un día, decidió que una audiencia más amplia podría beneficiarse al conocer el potencial de las GAN. Dijo que la reacción demuestra lo importante que es informar a las personas sobre cómo este tipo de tecnología podría ser revolucionaria y peligrosa.

¿Por qué las caras falsas representan un avance aterrador?

El sitio de Wang utiliza el algoritmo StyleGAN de Nvidia que se publicó en diciembre del año pasado. El potencial, desde su punto de vista, varía desde lo útil pero lo mundano (piense: simplificar la implantación de la corona dental) hasta lo más lejano, por ejemplo, lo que permite que la imaginación de moléculas completamente nuevas sirva en futuros medicamentos. Pero esta tecnología revolucionaria también hará que el engaño y la desinformación sean más fáciles que nunca.

La razón por la que los casos de uso son tan multifacéticos es que hay muchas, muchas formas de aplicar GAN, que se entrenan al unir dos redes entre sí: el generador y el discriminador. El generador recibe imágenes reales que intenta recrear de la mejor manera posible, mientras que el discriminador aprende a diferenciar entre imágenes falsificadas y los originales. Después de millones y millones de sesiones de entrenamiento, el algoritmo desarrolla capacidades sobrehumanas para crear copias de las imágenes en las que fue entrenado.

Es el mismo método que crea errores profundos, o imágenes generadas por computadora superpuestas a imágenes o videos existentes, y que a menudo se usan para impulsar narraciones de noticias falsas u otros engaños.

Y aunque a Wang le fascina la innovación que traerá a muchas empresas, también quiere que la gente esté más consciente del daño potencial que podría causar.

Como ejemplo, un actor infame podría difundir un video generado por GANs o una imagen que describa un evento falso para incitar disturbios, protestas u otras reacciones potencialmente violentas en línea.

Dado que todo el proceso es automatizado, todo lo que alguien necesitaría sería acceso a un conjunto de unidades de procesamiento de gráficos (GPU) o tarjetas gráficas (que permiten el aprendizaje automático) y un conjunto de datos de imágenes para comenzar a realizar falsificaciones como el reloj.

A más largo plazo, mientras que los StyleGAN son capaces de crear imágenes fijas de personas que nunca existieron, hacer que estas imágenes hablen y se muevan naturalmente es solo un par de pasos más allá de eso. Afortunadamente, Wang señala que el simple hecho de estar informado sobre las GAN hará que las personas sean menos susceptibles de ser engañadas por ellas. Una mayor conciencia hará que sea más fácil para todos nosotros disfrutar de las mejoras a los gráficos en 3D y los medicamentos que probablemente generarán StyleGANs.

“Solo espero que mi demostración despierte conciencia. Los que no lo saben son más vulnerables a esta tecnología ", dijo Wang. “Por otro lado, A.I. Verdaderamente traerá mucho bien a este mundo ".

Envíe un correo electrónico al autor: [email protected]