Foto falsa creada en 30 segundos
En un momento en el que puedes pedirle a la IA que modifique una foto existente a tu gusto, o incluso pedirle que cree una imagen completamente artificial, ¿podemos volver a confiar en las fotos?
Apple está trabajando en una solución doble y muchos de nosotros esperamos que se una al nuevo estándar emergente para la autenticidad del contenido…
Este no es un problema nuevo
Si podemos confiar en la autenticidad de una fotografía no es ciertamente un problema nuevo. El fotógrafo siempre ha sabido influir en nuestra percepción de la realidad eligiendo qué incluir o excluir del encuadre.
La elección de sus lentes puede distorsionar la misma vista de diferentes maneras, como hacer que las cosas parezcan más cercanas o más lejanas. Ajustar la exposición puede hacer que las cosas se vean más oscuras o más claras. La elección de la película o del filtro puede afectar la percepción del color. Se pueden utilizar exposiciones prolongadas para eliminar cualquier señal de personas que pasen por la escena. Etcétera.
Entonces apareció un cuarto oscuro. Cosas como enmascarar, quemar y escapar pueden cambiar drásticamente la escena. El programa tradicional para editar fotografías simplemente ha ampliado la gama de cambios.
La edición y creación de fotografías con IA es la última forma en que las fotografías pueden usarse para influir en nosotros o incluso engañarnos.
Pero la IA hace que esto sea un problema mayor
En el pasado, la edición de fotografías requería al menos cierto nivel de habilidad, por lo que crear una imagen convincentemente engañosa no era algo que cualquiera pudiera hacer.
Ahora todos pueden hacerlo en segundos. La imagen falsa de arriba obviamente no es intencionalmente controvertida, pero fácilmente podría haber sido creada para retratar a alguien o algo bajo una luz muy poco halagadora. Todo el proceso de cargar una foto de referencia en Photoshop, crear una consulta de texto y esperar el resultado tomó unos 30 segundos.
Si alguien puede hacerlo en segundos y los resultados se vuelven cada vez más realistas, esto podría crear grandes problemas para el futuro.
Apple está solucionando esto de dos maneras
Con el (lento) lanzamiento de Apple Intelligence, la compañía podría agravar el problema al poner sus herramientas de imágenes de IA en manos de millones de personas. Pero la empresa es muy consciente del riesgo y está tomando dos precauciones.
En primer lugar, Image Playground, que permite a los propietarios de iPhone crear imágenes completamente ficticias a partir de descripciones de texto, excluye deliberadamente los resultados fotorrealistas.
Image Playground admite tres estilos: animación, ilustración y boceto. […] Tenga en cuenta que todas las imágenes mostradas en Image Playground no están animadas ni son reales. Obviamente, Apple no quiere proporcionar herramientas para crear fotografías falsas que parezcan reales.
En segundo lugar, cuando utiliza herramientas de inteligencia artificial para gestionar fotografías reales, Apple define este hecho. De esto habló Craig Federigi en su artículo WSJ entrevista.
La fotografía tiene una historia fascinante y cómo la gente ve el contenido fotográfico como algo en lo que pueden confiar, como un signo de la realidad. Nuestros productos, nuestros teléfonos, se utilizan mucho y es importante que le ayudemos a obtener información precisa, no ficción.
Nos aseguraremos de que elimines los pequeños detalles de la foto. [like a water bottle] Actualizamos los metadatos de la foto para que alguien pueda regresar y verificar que es una foto modificada.
Iniciativa de autenticidad de contenido
Por ahora, Apple está siguiendo su propio camino con las actualizaciones de metadatos, pero el enfoque básico está respaldado por lo que saben muchas empresas y organizaciones de noticias. Iniciativa de autenticidad del contenido (CAI).
El objetivo es garantizar que cualquier creación y edición de IA se refleje en los metadatos de la imagen de una manera estándar que pueda identificarse y definirse.
Las credenciales de contenido lo ayudan a capturar y mostrar los detalles más importantes de su contenido en cada etapa de su ciclo de vida.
Crear: soportes de visualización de cámaras digitales, software, cámaras digitales y más
Dispositivos utilizados para crear contenido.Edición y generación de Al: se pueden registrar todos los cambios: cortes, adiciones y eliminaciones, modificaciones de Al, etc.
Publicación: los consumidores tienen fácil acceso a la creación de credenciales de contenido.
y editar el historial.
Los partidarios de CAI incluyen a Adobe, ABC News, Associated Press, BBC, Canon, Leica, Microsoft, Nikon, The New York Times, Nvidia, Qualcomm, Reuters y el Wall Street Journal.
El estándar es de código abierto, lo que significa que cualquiera puede adoptarlo, por lo que tiene muchas posibilidades de convertirse en un estándar de la industria. Sería útil si Apple pudiera hacer que sus ediciones de metadatos se ajustaran a este estándar.
Imagen: Creación de IA a partir de una foto de Vision Pro y un mensaje de texto en Photoshop
FTC: utilizamos enlaces de afiliados automáticos para generar ingresos. Más.
