El riesgo de los resúmenes automáticos de Apple

Apple ha comenzado a implementar un nuevo conjunto de funciones de inteligencia artificial para sus dispositivos, y ya han surgido problemas significativos. Recientemente, la BBC se quejó a Apple porque un resumen notificado por IA alteró un titular de forma que se daba a entender erróneamente que Luigi Mangione, CEO de UHC y asesino, se había disparado a sí mismo. En realidad, Mangione no se disparó y sigue en custodia policial.

La inteligencia de Apple incluye una función en iOS que busca reducir la fatiga del usuario agrupando y resumiendo notificaciones de diferentes aplicaciones. Por ejemplo, si un usuario recibe varios mensajes de texto de una misma persona, en lugar de mostrarlos todos en una larga lista, iOS tratará de resumir las alertas de manera más concisa.

Sin embargo, este enfoque ha revelado que la "inteligencia" detrás de Apple Intelligence puede dar lugar a resultados desafortunados o simplemente incorrectos. Los resúmenes de notificaciones se introdujeron en iOS en la versión 18.1, que se lanzó en octubre. También, recientemente, Apple agregó integración nativa con ChatGPT a Siri.

En un artículo, la BBC mostró una captura de pantalla de una notificación que resumía tres historias diferentes enviadas como alertas. La notificación afirmaba: “Luigi Mangione se dispara; madre siria espera que Assad pague el precio; la policía de Corea del Sur allana la oficina de Yoon Suk Yeol”. Las otras sumas eran correctas, según la BBC.

La BBC ha expresado su preocupación a Apple sobre esta situación, lo cual es embarazoso para la compañía tecnológica y podría dañar la reputación de los medios de comunicación si los lectores creen que están difundiendo desinformación. La BBC no tiene control sobre cómo iOS decide resumir sus notificaciones.

“BBC News es uno de los medios de comunicación más confiables del mundo”, dijo un portavoz de la BBC sobre el asunto. “Es esencial para nosotros que nuestras audiencias puedan confiar en cualquier información o periodismo publicado en nuestro nombre, y eso incluye las notificaciones.” Apple no ha respondido a las preguntas de la BBC sobre este inconveniente.

La inteligencia artificial tiene un gran potencial en muchas áreas, pero los modelos de lenguaje son posiblemente una de las implementaciones menos exitosas. Sin embargo, muchas corporaciones tienen la esperanza de que la tecnología mejore para que se pueda utilizar en áreas como el soporte al cliente o la búsqueda de grandes colecciones de datos internos. Pero, actualmente, no se ha alcanzado ese nivel: de hecho, las empresas que usan IA han señalado que todavía deben editar considerablemente el trabajo que produce.

Es un poco inusual que Apple integre de manera tan profunda una tecnología tan poco confiable e impredecible en sus productos. Apple no controla las salidas de ChatGPT -el creador del chatbot, OpenAI, apenas puede controlar los modelos de lenguaje, y su comportamiento se ajusta constantemente. Los resúmenes de notificaciones breves deberían ser una de las tareas más sencillas para que una IA realice correctamente, pero Apple aún no ha logrado eso.

En el mejor de los casos, algunas de las características de Apple Intelligence demuestran cómo la IA podría tener aplicaciones prácticas. La mejor edición de fotos y un modo de enfoque que entiende qué notificaciones deben ser enviadas son logros positivos. Sin embargo, para una empresa conocida por ofrecer experiencias pulidas, los resúmenes de notificaciones incorrectos y un ChatGPT que produce errores podría hacer que iOS parezca sin pulir. Parece que están apresurándose por el entusiasmo por la tecnología para impulsar las ventas del nuevo iPhone, ya que un iPhone 15 Pro o más reciente es necesario para usar las funciones.

Apple, Inteligencia, Notificaciones, Noticia, IA