Los problemas de desinformación creciente de la IA en Apple

Una función de inteligencia artificial (IA) en los iPhones de Apple está generando alertas de noticias falsas, lo que provoca preocupaciones sobre la capacidad de esta tecnología para difundir desinformación.

La semana pasada, una característica nueva de Apple que resume las notificaciones de los usuarios utilizando IA, envió resúmenes inexactos de las notificaciones de la aplicación BBC News sobre la semifinal del Campeonato Mundial de Dardos PDC, afirmando erróneamente que el jugador británico de dardos, Luke Littler, había ganado el campeonato.

El incidente ocurrió un día antes de la final del torneo, la cual Littler efectivamente ganó.

Entonces, solo unas horas después de este incidente, una notificación diferente generada por Apple Intelligence, el sistema de IA de la compañía, afirmó falsamente que la leyenda del tenis Rafael Nadal había salido del closet.

La BBC ha estado tratando de que Apple solucione este problema durante aproximadamente un mes. La cadena de noticias británica se quejó a Apple en diciembre después de que su función de IA generó un titular falso sugiriendo que Luigi Mangione, el hombre arrestado tras el asesinato del CEO de la aseguradora UnitedHealthcare, Brian Thompson, había disparado contra sí mismo —algo que nunca sucedió.

Apple no estuvo disponible de inmediato para comentar cuando fue contactado por CNBC. El lunes, Apple informó a la BBC que está trabajando en una actualización para resolver el problema, que incluirá una aclaración que muestre cuándo Apple Intelligence es responsable del texto mostrado en las notificaciones. Actualmente, las notificaciones generadas aparecen como si provinieran directamente de la fuente.

La compañía afirmó: "Las funciones de Apple Intelligence están en beta y estamos continuamente mejorando con la ayuda de los comentarios de los usuarios". Además, Apple está animando a los usuarios a reportar cualquier inquietud si ven un "resumen de notificación inesperado".

La BBC no es la única organización de noticias afectada por los resúmenes inexactos de Apple Intelligence. En noviembre, la función envió una notificación resumida por IA que erróneamente afirmaba que el primer ministro israelí Benjamin Netanyahu había sido arrestado.

Este error fue señalado en la aplicación de redes sociales Bluesky por Ken Schwencke, editor senior en el sitio de periodismo de investigación ProPublica.

El problema de desinformación de la IA

Apple promociona sus resúmenes de notificaciones generados por IA como una forma efectiva de agrupar y reescribir los avisos de las aplicaciones de noticias en una sola alerta en la pantalla de bloqueo de los usuarios.

Es una función que Apple dice que está diseñada para ayudar a los usuarios a escanear sus notificaciones en busca de detalles clave y reducir la abrumadora marea de actualizaciones que muchos usuarios de teléfonos inteligentes conocen bien.

Sin embargo, esto ha resultado en lo que los expertos en IA denominan "alucinaciones" —respuestas generadas por IA que contienen información falsa o engañosa.

"Sospecho que Apple no será el único que enfrente desafíos con el contenido generado por IA. Ya hemos visto numerosos ejemplos de servicios de IA que afirman con confianza verdades erróneas, denominadas 'alucinaciones'", dijo Ben Wood, analista jefe de la firma de investigación de mercado CCS Insights.

En el caso de Apple, dado que la IA intenta consolidar notificaciones y condensarlas para mostrar solo un resumen básico de información, ha mezclado las palabras de una manera que ha caracterizado inexactamente los eventos —pero presentándolos con confianza como hechos.

"Apple tuvo una complejidad adicional al intentar comprimir contenido en resúmenes muy cortos, lo que terminó entregando mensajes erróneos", agregó Wood. "Apple sin duda buscará abordar esto lo antes posible, y estoy seguro de que sus rivales estarán observando de cerca cómo responde".

La IA generativa trabaja tratando de encontrar la mejor respuesta posible a una pregunta o solicitud insertada por un usuario, confiando en vastas cantidades de datos con los que se entrenan sus modelos de lenguaje subyacentes.

A veces, la IA puede no conocer la respuesta. Pero debido a que ha sido programada para siempre presentar una respuesta a las solicitudes de los usuarios, esto puede resultar en casos donde la IA efectivamente miente.

No está claro exactamente cuándo se solucionará el problema en la función de resumen de notificaciones de Apple. La compañía de iPhone dijo que se espera que llegue una solución en "las próximas semanas".

Apple, IA, desinformación