Amazon Instruye a Empleados Sobre Herramientas IA de Terceros

Amazon.com Inc (AMZN) ha establecido nuevas directrices internas en las que aconseja a sus colaboradores abstenerse de usar herramientas de IA generativa de terceros en tareas relacionadas con su trabajo.

Detalles de la Advertencia

Según lo reportado por Business Insider, Amazon ha emitido una advertencia a su personal sobre el uso de estas herramientas. La preocupación principal reside en la propiedad de los datos introducidos y generados por dichas herramientas, sobre todo considerando la inversión significativa hecha por Microsoft en OpenAI.

En un correo electrónico reciente enviado a los empleados, la empresa indicó: "Aunque podríamos encontrarnos utilizando herramientas de IA generativa (GenAl), especialmente cuando parecen facilitar las tareas, debemos asegurarnos de no utilizarlas para trabajos confidenciales de Amazon", exhortando además a los empleados a no compartir "ningún dato confidencial de Amazon, clientes o empleados cuando se usen herramientas GenAl de terceros".

Una comunicación de Amazon a Benzinga por correo electrónico destacó que en la empresa ya se venía desarrollando IA generativa y grandes modelos de aprendizaje automático desde hace tiempo. Los empleados hacen uso de estos modelos diariamente en pro de la clientela, desde la generación de recomendaciones de código con Amazon CodeWhisperer hasta la creación de nuevas experiencias en Alexa, siempre con medidas de seguridad para el uso de estas tecnologías, incluyendo pautas sobre el uso de servicios de IA generativa de terceros y la protección de información confidencial.

Política Interna y Excepciones

Los documentos internos de Amazon declaran que usar herramientas de IA generativa de terceros, como ChatGPT de OpenAI, para trabajos confidenciales de Amazon está estrictamente prohibido. Además, advierten que las empresas proveedoras de servicios de IA generativa pueden reclamar propiedad sobre cualquier dato ingresado en sus herramientas.

Un abogado corporativo de Amazon ya había advertido informalmente a los empleados el año pasado de no suministrar información confidencial de Amazon a ChatGPT, tras incidentes donde las respuestas del chatbot mostraban similitudes con datos internos de la compañía.

A pesar de estas precauciones, Amazon ha relajado su postura respecto a los sistemas de Microsoft, reflejado en un acuerdo reciente de $1 mil millones por cinco años por licencias de Microsoft 365.

Contexto del Sector de IA en Amazon

La medida de Amazon para advertir a sus empleados viene en el contexto de varios desarrollos importantes dentro del panorama de IA de la compañía. Este año, el chatbot de IA de Amazon, 'Q', fue criticado por generar salidas incorrectas o 'alucinaciones', después de un lanzamiento apresurado y el uso de una versión menos competente del modelo de IA de Anthropic llamado Claude. Como respuesta, Amazon amplió su equipo de revisores humanos para ajustar manualmente las respuestas del chatbot.

A pesar de estos retos, la empresa presentó una herramienta de IA en su aplicación móvil para atender consultas de clientes sobre productos, con el fin de simplificar la experiencia de compra. Esta herramienta también es capaz de generar contenido en diferentes estilos, como escribir un haiku o emular la manera de hablar de Yoda.

El fundador de Amazon, Jeff Bezos, ha demostrado ser optimista sobre el potencial de las herramientas de IA generativa, alegando que es más probable que estas nos salven que destruyan.

Amazon, IA, Privacidad