Retrasos y problemas con el sistema de transcripción de Apple

La tan esperada actualización de Siri, impulsada por inteligencia artificial de Apple, ha sufrido retrasos significativos debido a problemas de seguridad que han surgido durante su desarrollo.

Además, un reciente error relacionado con la herramienta de transcripción de voz de Apple ha generado dudas sobre la capacidad de la compañía para ofrecer funciones de inteligencia artificial confiables.

Apple ha comunicado que el nuevo Siri, basado en Apple Intelligence, "está tomando más tiempo del que pensábamos" en su desarrollo.

Aunque la empresa no ha dado muchos detalles, expertos señalan que las vulnerabilidades de seguridad, en particular los ataques de inyección de comandos, son un problema clave. Estos ataques permiten que actores maliciosos manipulen la IA para que realice acciones no deseadas, lo que representa un riesgo serio cuando Siri tenga mayor acceso a aplicaciones y datos del usuario.

A medida que Apple enfrenta estos problemas de seguridad, otro error relacionado con la inteligencia artificial ha resaltado los riesgos de utilizar un aprendizaje automático poco confiable.

Una mujer escocesa de 66 años se sorprendió al escuchar que el sistema de transcripción de Visual Voicemail de Apple distorsionó un mensaje rutinario de un concesionario de automóviles, sugiriendo erróneamente que ella había "podido tener relaciones sexuales" y llamándola "una pieza de mierda".

Los expertos creen que la IA tuvo dificultades con el acento escocés del hablante, lo que plantea preocupaciones sobre los datos de entrenamiento del sistema y las salvaguardias contra errores ofensivos.

Este incidente se suma a una serie de fallos relacionados con la inteligencia artificial de Apple, incluidos problemas recientes con transcripciones de voz a texto y resúmenes de noticias generados por IA que producían desinformación.

Aunque Apple Intelligence promete un Siri más avanzado, la compañía debe superar importantes desafíos en términos de seguridad y precisión antes de lanzar sus funciones de inteligencia artificial al público.

Apple, IA, Siri