Apple Intelligence pudo crear una noticia falsa sobre Luigi Mangione la semana pasada gracias a una función de resumen de notificaciones. De alguna manera decidió que el sospechoso del asesinato del director ejecutivo de United Health, Brian Thompson, se había pegado un tiro.
El error en sí no es sorprendente: los sistemas de inteligencia artificial cometen ese tipo de errores todo el tiempo. Lo que es más sorprendente es que Apple permitió que esto sucediera cuando podría haberse evitado fácilmente…
Los errores de la IA pueden ser divertidos o peligrosos
Los sistemas de IA generativa actuales pueden producir a menudo resultados impresionantes, pero ciertamente no son inteligentes, y está demostrado que cometen algunos errores bastante espectaculares.
La mayoría de estos son interesantes. McDonalds tenía un sistema de inteligencia artificial continuó agregando el pollo a pedidos de clientes hasta un total de 260; Google informa sobre la recomendación de un geólogo comer una piedra al diay ofertas usamos pegamento ayudar a que el queso se adhiera a la pizza; y Microsoft recomienda un banco de alimentos como destino turístico.
Pero ha habido ejemplos de consejos peligrosos de la IA. Había un libro escrito por una IA sobre búsqueda de hongos que recomendaba probar hongos. identificar los tóxicos; aplicaciones de mapeo dirigió a la gente a los incendios forestales; y que sistema Boeing dos aviones se estrellaronMurieron 346 personas.
O tal vez simplemente se sientan avergonzados
Resumen de Apple Intelligence a noticias de la bbc La historia no era ni divertida ni peligrosa, pero sí embarazosa.
Lanzado en el Reino Unido a principios de esta semana, Apple Intelligence utiliza inteligencia artificial (IA) para agregar y agrupar notificaciones externamente. Esta semana, una conclusión basada en inteligencia artificial mostró que BBC News había publicado falsamente un artículo sobre la muerte a tiros de Luigi Mangione, quien fue arrestado tras el asesinato del director ejecutivo de seguros médicos Brian Thompson en Nueva York. Él no lo tiene.
No es la primera vez que vemos esto: el primer ministro israelí en un informe anterior de Apple Intelligence Benjamín Netanyahu fue arrestadoLa verdadera historia fue cuando la CPI emitió una orden de arresto contra él.
Mangione podría evitar las noticias falsas
No hay manera de evitar todos estos errores; Está en la naturaleza de los sistemas simples de IA generativa crearlos.
Esto es especialmente cierto en el caso de los encabezados de mensajes de Apple. Los titulares, por su propia naturaleza, son sólo un resumen muy parcial de la historia. Apple Intelligence intenta condensar una versión muy condensada de la noticia; un resumen muy corto de un resumen muy corto. No es de extrañar que a veces salga mal.
Si bien Apple no puede evitar esto por completo, al menos puede evitar que suceda, especialmente con historias delicadas. Puede atrapar palabras clave como matar, matar, disparar, disparar, morir, etc. y marcarlas para que las personas las revisen antes de usarlas.
En este caso particular, el error fue simplemente vergonzoso, pero no es difícil entender por qué un error en un tema tan delicado causaría enojo a tanta gente. Por ejemplo, imaginemos una conclusión que culpa a las víctimas de un crimen violento o de un desastre.
Por supuesto, investigar a las personas sería una tarea adicional para el equipo de Apple News, pero Apple puede permitirse el lujo de media docena de trabajadores por turnos para realizar una investigación dedicada las 24 horas del día, los 7 días de la semana. Esto parece un gasto muy pequeño por parte de Apple para evitar lo que podría haber sido un gran desastre de relaciones públicas para una característica que aún no ha aparecido.
Autor de la foto Jorge Franganillo activado Chapoteo
FTC: utilizamos enlaces de afiliados automáticos para generar ingresos. Más.
