Podría decirse que las falsificaciones profundas son el aspecto más peligroso de la IA. Ahora es relativamente trivial crear fotos, audio e incluso vídeos falsos. Por ejemplo, consulte a continuación las falsificaciones de Morgan Freeman y Tom Cruise.
Pero si bien las redes sociales se han utilizado hasta ahora como un mecanismo para difundir falsificaciones, el director ejecutivo de Instagram, Adam Mosseri, cree que en realidad podrían desempeñar un papel clave para erradicarlas…
Cuán profundamente falsas se crean las cosas
Hasta la fecha, el principal método utilizado para crear vídeos deep fake ha sido un enfoque conocido como redes generativas adversarias (GAN).
Un único modelo de IA crea un videoclip falso o muestra el original. El segundo modelo de IA intenta detectar falsificaciones. Al repetir este proceso, se entrena al primer modelo para crear falsificaciones cada vez más fiables.
Sin embargo, ahora están tomando el relevo modelos de difusión como el DALL-E 2. Toman imágenes de vídeo reales y luego realizan varios cambios para crear una gran cantidad de ellas. Se pueden utilizar instrucciones de texto para instruir al modelo de IA sobre los resultados que queremos, haciéndolos más fáciles de usar, y cuanto más los usen, mejor entrenados estarán.
Ejemplos de videos profundamente falsos
Aquí hay un ejemplo bien conocido de un deepfake de Morgan Freeman de hace tres años, cuando la tecnología era mucho más sofisticada de lo que es hoy:
Y otro más, Tom Cruise como Iron Man:
Los británicos también pueden reconocer a Martin Lewis, un conocido asesor financiero, en una profunda falsificación para promover una estafa criptográfica:
meta ejecutivo Adam Mossery Él cree que a las redes sociales les está yendo mejor que peor al ayudar a detectar contenido falso, aunque dice que no son perfectas para hacerlo y que todos debemos considerar las fuentes.
A lo largo de los años, hemos desarrollado la capacidad de crear imágenes fijas y en movimiento realistas. Jurassic Park me dejó boquiabierto cuando tenía diez años, pero fue una película de 63 millones de dólares. Goldeneye para el N64 me impresiona aún más cuatro años después porque estaba en vivo. Si miramos estos medios ahora, nos parecen, en el mejor de los casos, toscos. Ya sea que sea un alcista o un bajista tecnológico, la IA generativa producirá contenido que es difícil de distinguir de las grabaciones del mundo real y mejorará rápidamente.
amigo, @lessinHace quizás diez años me hicieron creer que cualquier reclamo debería ser juzgado no sólo por su contenido, sino también por la credibilidad de la persona o institución que lo presenta. Puede que este haya sido el caso hace años, pero ahora, cuando evaluamos juntos, parece que es más importante considerar quién habla que qué dice al evaluar la veracidad de una afirmación.
Nuestro papel como plataforma de Internet es marcar la mayor cantidad posible de contenido generado por IA. Pero parte del contenido inevitablemente pasa desapercibido y no toda la información errónea es generada por la IA, por lo que también debemos proporcionar un contexto sobre quién comparte para que puedas confiar en su contenido y decidir lo que quieres.
Cada vez es más importante que un espectador o lector tenga sentido común a la hora de consumir un contenido que sea una cuenta o un reality post. Mi consejo es *siempre* pensar en quién está hablando.
Imagen: Shamook
FTC: utilizamos enlaces de afiliados automáticos para generar ingresos. Más.
