Google reconsidera el uso militar de la IA

El 4 de febrero, Google actualizó sus "principios de IA", un documento que define cómo la empresa utilizará y no utilizará la inteligencia artificial en sus productos y servicios. La versión anterior se dividía en dos secciones: "Objetivos para aplicaciones de IA" y "Aplicaciones de IA que no perseguiremos", y prometía explícitamente no desarrollar armas de IA ni herramientas de vigilancia.

La actualización fue notada por primera vez por The Washington Post, y la diferencia más notable es la desaparición completa de la sección "Aplicaciones de IA que no perseguiremos". De hecho, el lenguaje del documento se centra ahora exclusivamente en "lo que Google hará", sin promesas sobre "lo que Google no hará".

Esto es significativo porque si se dice que no se perseguirán armas de IA, entonces simplemente no se pueden perseguir. Sin embargo, si se dice que se empleará "un diseño riguroso, pruebas, monitoreo y salvaguardas para mitigar resultados no deseados o dañinos y evitar sesgos injustos", esto permite a Google buscar lo que quiera y solo argumentar que implementó salvaguardas rigurosas.

Asimismo, cuando Google menciona que implementará "supervisión humana apropiada", no hay forma de saber qué significa esto. Google es quien decide exactamente qué es una supervisión humana apropiada. Este es un problema porque significa que la empresa no está haciendo promesas reales ni proporcionando información sólida. Simplemente está abriendo las puertas para moverse con más libertad —mientras sigue intentando dar la impresión de responsabilidad social.

La participación de Google en el Proyecto Maven del Departamento de Defensa de EE. UU. en 2017 y 2018 fue lo que llevó a la creación del documento original de principios de IA. Miles de empleados protestaron contra este proyecto militar, y como respuesta, Google no renovó el acuerdo y prometió dejar de perseguir armas de IA.

Sin embargo, algunos años después, la mayoría de los competidores de Google están involucrados en este tipo de proyectos, con empresas como Meta, OpenAI, y Amazon permitiendo algún uso militar de su tecnología de IA. Con la mayor flexibilidad de sus nuevos principios de IA, Google está efectivamente libre para volver a involucrarse en este ámbito y generar ingresos militares. Será interesante ver si los empleados de Google tienen algo que decir al respecto en el futuro cercano.

Google, IA, militar