EE.UU., Reino Unido y otros países firman acuerdo para diseñar IA segura

El domingo, Estados Unidos, el Reino Unido y otros países presentaron un acuerdo internacional, descrito por un alto funcionario estadounidense como el primero en su tipo, que tiene como objetivo la seguridad de la inteligencia artificial (IA). El acuerdo exhorta a las compañías a desarrollar sistemas de IA 'seguros por diseño' para protegerse de actores malintencionados.

Creación de un Marco de IA

En un documento de 20 páginas, los 18 países participantes comprometieron a que las compañías que diseñan y utilizan la IA lo hagan de manera que se garantice la seguridad tanto de los clientes como del público en general. Aunque las recomendaciones del acuerdo no son vinculantes, incluyen acciones como monitorear los sistemas de IA en busca de abusos, proteger datos contra alteraciones y evaluar a los proveedores de software.

Importancia del Acuerdo

Jen Easterly, directora de la Agencia de Ciberseguridad e Infraestructura de Seguridad de EE. UU., subrayó la importancia de un pacto internacional que ponga la seguridad en el centro del diseño de sistemas de IA. Según Easterly, esto va más allá de solo 'características interesantes' y competitividad de mercado, enfocándose esencialmente en la seguridad en la fase de diseño.

A pesar de su naturaleza no obligatoria, el acuerdo es un paso más entre varios intentos –la mayoría sin medidas coercitivas– de gobiernos alrededor del mundo para influir en el desarrollo de la IA, cuyo impacto crece tanto en la industria como en la sociedad.

Países Firmantes y Ámbito de Aplicación

Entre los firmantes se encuentran Alemania, Italia, la República Checa, Estonia, Polonia, Australia, Chile, Israel, Nigeria y Singapur, además de EE. UU. y el Reino Unido. El marco del acuerdo aborda cómo prevenir que la tecnología de IA sea utilizada incorrectamente por hackers, recomendando, por ejemplo, que los modelos de IA solo sean liberados después de pruebas de seguridad adecuadas.

El acuerdo no resuelve cuestiones complicadas sobre los usos apropiados de la IA ni sobre cómo se recopilan los datos que alimentan estos modelos.

Regulaciones y Perspectivas Futuras

Mientras Europa lidera las regulaciones sobre IA, con la Unión Europea trabajando en sus propias reglas y Francia, Alemania e Italia proponiendo una regulación de 'autoregulación obligatoria', el progreso en el Congreso de EE. UU. ha sido limitado. No obstante, la administración de Biden busca reducir los riesgos de la IA con órdenes ejecutivas que protejan a consumidores, trabajadores y grupos minoritarios, a la vez que fortalecen la seguridad nacional.

IA, seguridad, acuerdo