Publican la primera guía internacional sobre seguridad en IA por organismo de normas del Reino Unido
El organismo de normas nacional del Reino Unido, conocido como la Institución de Normas Británicas (BSI, por sus siglas en inglés), ha elaborado una guía destinada a ayudar a las organizaciones a desarrollar productos de inteligencia artificial (IA) de manera segura y responsable.
Orientación sobre la gestión segura de IA
La BSI ha establecido una serie de directrices para la correcta gestión de la IA. Estas pautas incluyen la forma de establecer, implementar, mantener y mejorar continuamente un sistema de gestión de IA, poniendo especial énfasis en las medidas de seguridad.
La orientación, que representa un esfuerzo pionero a nivel internacional, ofrece dirección a las empresas sobre cómo pueden desarrollar y desplegar herramientas de IA de manera responsable, tanto internamente como en su oferta al mercado.
Los desafíos de regular la tecnología de IA
La preocupación por regular adecuadamente la velozmente avanzada tecnología de IA ha estado en el centro del debate internacional. Este asunto tomó mayor relevancia después de que herramientas generativas de IA, como ChatGPT, fueran lanzadas al público.
Durante el primer Cumbre Global de Seguridad en IA, celebrado en noviembre en el Reino Unido, líderes mundiales y grandes empresas tecnológicas se reunieron para dialogar acerca del desarrollo seguro y responsable de la IA, así como los potenciales riesgos a largo plazo que esta tecnología podría representar.
El estandar internacional de sistema de gestión de IA
Susan Taylor Martin, directora ejecutiva de BSI, indicó que la IA es una tecnología transformadora que requiere confianza para ser una fuerza significativa para el bien. Según Martin, la publicación de este estándar de sistema de gestión de IA es un paso importante para permitir a las organizaciones manejar con responsabilidad la tecnología, lo que abre la oportunidad de usar la IA para acelerar el progreso hacia un futuro mejor y un mundo sostenible.
Scott Steedman, director general de normas en BSI, agregó que las tecnologías de IA ya están siendo utilizadas ampliamente a pesar de la falta de un marco regulatorio establecido. Es por esto que la publicación del estándar de gestión de IA es crucial, ya que está diseñado para ayudar a las compañías a integrar un uso seguro y responsable de la IA en sus productos y servicios.
Aspectos como diagnósticos médicos, vehículos autónomos y asistentes digitales son ejemplos de productos que se benefician de la IA. La intención del estándar es que la industria y los consumidores tengan confianza en que, en la carrera por desarrollar estas nuevas tecnologías, no se está pasando por alto la discriminación, puntos ciegos de seguridad o la pérdida de privacidad.
IA, seguridad, guía