Tecnología

OpenAI implementa plan de seguridad para IA con opción de revocación por parte de su junta directiva

Published December 18, 2023

La compañía de inteligencia artificial OpenAI ha anunciado un nuevo marco de trabajo para fortalecer la seguridad en sus modelos de IA más avanzados. Uno de los aspectos destacados de este plan es que concede a la junta directiva de la empresa la capacidad de revocar decisiones relacionadas con la seguridad.

Implementación Segura de Tecnología

OpenAI, con respaldo de Microsoft, ha establecido que solo desplegará su tecnología más reciente si se considera segura en áreas críticas como la ciberseguridad y las amenazas nucleares. Para evaluar la seguridad de estos desarrollos, la compañía está conformando un grupo asesor encargado de revisar informes de seguridad y de comunicar sus hallazgos a los ejecutivos y a la junta directiva de OpenAI. Aunque los ejecutivos son los responsables de tomar decisiones iniciales, la junta tiene la autoridad para revertirlas si lo considera necesario.

Preocupaciones sobre la Inteligencia Artificial

Desde el lanzamiento de ChatGPT hace un año, los riesgos potenciales de la IA han captado la atención tanto de investigadores especializados como del público en general. La tecnología generativa de IA ha impresionado a los usuarios con su capacidad para escribir poesía y ensayos; no obstante, también ha generado inquietudes en cuanto a su posible uso para difundir desinformación y manipular a las personas.

En abril, líderes y expertos de la industria de la IA firmaron una carta abierta solicitando una pausa de seis meses en el desarrollo de sistemas más potentes que GPT-4 de OpenAI, señalando riesgos potenciales para la sociedad. Una encuesta de Reuters/Ipsos de mayo reveló que más de dos tercios de los estadounidenses están preocupados por los efectos negativos de la IA y el 61% cree que podría amenazar la civilización.

OpenAI, seguridad, junta