‘Un truco de magia barato’: Amazon, Google y Meta acusados de evadir preguntas del Senado

Los chatbots de inteligencia artificial como ChatGPT, el Gemini de Google y el Llama de Meta deberían considerarse "de alto riesgo" y estar sujetos a requisitos de transparencia, pruebas y responsabilidad, según una pesquisa del Senado. Los ejecutivos de los gigantes tecnológicos de EE.UU. están bajo fuerte crítica por evadir preguntas durante la audiencia.

Estos chatbots están ganando popularidad rápidamente en escuelas y lugares de trabajo, pero el comité bipartidista del Senado encontró que representan riesgos significativos y que las empresas que los desarrollan no han respondido a preguntas clave sobre el uso de datos sensibles.

El senador Laboral Tony Sheldon, presidente del comité, afirmó que observar a las empresas esquivar preguntas era como asistir a un truco de magia barato.

El informe también reveló que los desarrolladores de chatbots han cometido un "robo sin precedentes" contra los trabajadores creativos de Australia, utilizando materiales con derechos de autor para entrenar sus modelos sin permiso o pago.

Después de nueve meses de audiencias, el comité entregó su informe final, emitiendo 13 recomendaciones que incluyen una legislación imponiendo un control estricto a los casos de uso de IA de alto riesgo en toda la economía.

El informe criticó específicamente a los ejecutivos de las empresas tecnológicas Amazon, Google y Meta por sus presentaciones. Los ejecutivos se negaron a ser transparentes y a responder preguntas, especialmente sobre los datos de los usuarios utilizados para entrenar los modelos de lenguaje de gran escala de estas compañías.

"Cuando se les preguntó cómo utilizan los datos personales o privados para entrenar sus productos de IA, las plataformas ofrecieron respuestas en gran medida opacas", señaló el informe. El responsable de políticas públicas de Amazon, Matt Levey, fue cuestionado sobre si el audio grabado por dispositivos Alexa había sido utilizado para entrenar productos de Amazon, y dijo que respondería más tarde, pero no lo hizo.

"Esta negativa a responder preguntas directamente fue una constante en las respuestas de Amazon, Meta y Google", agregó el informe.

"Las tres compañías se refirieron repetidamente al comité a sus políticas de privacidad y términos de uso como justificación para el uso de algunos datos de usuario para entrenar sus productos de IA. Un estudio reciente encontró que un australiano necesitaría 46 horas al mes en promedio para leer todas las políticas de privacidad que encuentra."

Durante la testificación de una ejecutiva de Google, un chatbot de IA interrumpió, lo que llevó a los senadores a preguntarse si la inteligencia artificial había sido utilizada para ayudar a preparar sus respuestas. La ejecutiva, Lucinda Longcroft, negó que eso fuera el caso.

El presidente del comité, el senador Laboral Tony Sheldon, hizo hincapié en que "ver a Amazon, Meta y Google esquivar preguntas durante las audiencias era como asistir a un truco de magia barato... Muchos gestos, una nube de humo y nada que mostrar al final."

"Estos gigantes tecnológicos no son pioneros; son piratas, saqueando nuestra cultura, datos y creatividad para su propio beneficio mientras dejan a los australianos con las manos vacías. Quieren establecer sus propias reglas, pero los australianos necesitan leyes que protejan sus derechos, no las ganancias de Silicon Valley. Necesitamos nuevas leyes de IA independientes para controlar a las grandes empresas tecnológicas y establecer fuertes protecciones para los usos de IA de alto riesgo, mientras que las leyes existentes deberían ser enmendadas según sea necesario."

El comité recomendó una nueva "ley de IA" para regular la tecnología, un concepto respaldado por organizaciones de derechos humanos y compañías de medios, pero criticado por empresas tecnológicas como Atlassian y los cuatro grandes bancos de Australia, quienes consideran que va demasiado lejos.

Esta propuesta alinearía a Australia con la UE, Canadá, el Reino Unido y algunos estados de EE.UU., incluido Colorado, y podría prohibir herramientas de reconocimiento facial como la utilizada por Bunnings que recientemente fue hallada en violación de las leyes de privacidad.

El comité también determinó que los trabajadores creativos, incluidos los actores de voz, escritores y dibujantes, son los que enfrentan el riesgo más inmediato de que la IA impacte severamente en sus medios de vida. Se recomendó que los desarrolladores de IA sean transparentes sobre el uso de materiales con derechos de autor y que otorguen licencias y paguen por ese trabajo.

Más de 36,000 creativos, incluidos la actriz Julianne Moore, el autor James Patterson y Thom Yorke de Radiohead, firmaron recientemente una carta abierta instando a la prohibición de usar arte humano para entrenar a la IA sin permiso. La Asociación Australiana de Actores de Voz presentó evidencia durante la audiencia de que sus contratos otorgaban efectivamente a Amazon derechos para usar sus voces para generar audiolibros a través de la IA, un movimiento que, según el grupo, podría costar miles de empleos en Australia.

"Es alentador ver que el Senado reconoce lo que los creadores han estado diciendo, que estos productos de IA funcionan robando a los artistas", dijo Claire Pullen, directora ejecutiva del Gremio de Escritores Australianos.

"Nos complace ver tales recomendaciones contundentes que reconocen nuestras contribuciones a la economía y cultura nacional de Australia. No debería necesitarse un comité del Senado para decirles a las empresas tecnológicas que no roben a miles de australianos."

El ministro de Industria y Ciencia, Ed Husic, dijo que está considerando el informe. El senador Greens, David Shoebridge, expresó que el informe es un "punto de partida útil", especialmente al reconocer que los trabajadores creativos son rutinariamente explotados por la IA.

"Pero es decepcionante que el informe final no alinee a Australia con líderes globales como el Reino Unido y Europa al recomendar una estrategia nacional sobre la IA", lamentó. El senador independiente David Pocock destacó que el informe es valioso, pero el gobierno ha sido demasiado lento para responder al impacto de la IA.

"Quiero ver un compromiso para introducir legislación que establezca guardrails obligatorios para el uso seguro y responsable de la IA en entornos de alto riesgo en el próximo período de sesiones", agregó Pocock. "También insto al gobierno a priorizar la aprobación de una ley de veracidad en la publicidad política, que incluya una prohibición sobre el uso de IA en asuntos electorales, antes de la próxima elección."

El senador David Pocock subrayó que el gobierno ha sido demasiado lento para responder al impacto de la IA en la vida diaria de los australianos.

El senador liberal James McGrath opinó que el Labor ha estado "dormido" en cuanto a la IA.

IA, Senado, Transparency, BigTech, Derechos