Apple podría incorporar IA en dispositivos antiguos

Un documento de investigación recién publicado indica que Apple Inc. podría estar planeando implementar capacidades de inteligencia artificial generativa directamente en los iPhones. Este avance significaría una gran mejora en la funcionalidad y autonomía de los dispositivos de la marca.

Qué ha pasado

El documento detalla una metodología propuesta por Apple para ejecutar modelos de lenguaje de gran tamaño en dispositivos con memoria RAM limitada, como es el caso de los iPhones, conocidos por tener menos RAM que muchos de sus competidores en el mercado Android. En lugar de cargar un modelo completo en la memoria, el enfoque de Apple consiste en almacenar los parámetros del modelo y cargar solo las partes necesarias en la memoria RAM del dispositivo a medida que se requieran.

La investigación sugiere que esta técnica podría permitir que los modelos operen con hasta el doble del tamaño de la memoria disponible. Esto llevaría a un aumento significativo en la velocidad de inferencia, mejorando el rendimiento en la CPU hasta 4 o 5 veces y hasta 20 o 25 veces en la GPU.

Impacto en los usuarios

La introducción potencial de AI generativa en el dispositivo podría traducirse en tiempos de espera más cortos para los usuarios y una asistente de IA conversacional más ágil. Según la estrategia de Apple, una gran cantidad de RAM no sería esencial para disponer de una IA receptiva en el dispositivo.

Esta proposición no solo beneficiaría a los modelos nuevos de iPhones sino también a los más antiguos, brindando una experiencia de usuario mejorada sin que la cantidad de RAM sea un impedimento. Además, el documento señala que empresas como Qualcomm Inc. y MediaTek también están trabajando para reducir el tamaño de los modelos de LLMs en sus nuevos procesadores de gama alta.

Por qué es importante

Este documento de investigación se une a revelaciones previas de Apple sobre su tecnología de IA innovadora, Apple, iPhone, IA