OpenAI forma un equipo para integrar la opinión pública en los modelos de IA

En un esfuerzo por hacer que la inteligencia artificial sea más inclusiva y democrática, OpenAI ha anunciado la creación de un nuevo equipo destinado a incorporar las opiniones y perspectivas del público en el desarrollo y la conducta de sus modelos de IA. Este equipo, conocido como el Equipo de Alineación Colectiva, surge como fruto de un programa de subvenciones iniciado en mayo del año pasado que adjudicó diez becas de 100.000 euros cada una para financiar experimentos en torno a los 'insumos democráticos para la IA'.

Una respuesta a las preocupaciones globales

Lidiando con una amplia gama de retos, desde la brecha digital hasta los grupos polarizados y la diversidad de representación, el Equipo de Alineación Colectiva pretende abordar estas cuestiones crucialmente importantes. A través de la síntesis de diferentes puntos de vista, el equipo trabajará no solo para reflejar la diversidad de opiniones, sino también para tranquilizar y abordar las 'ansiedades' relacionadas con el futuro gobierno de la IA.

Colaboración y experimentación

Este nuevo equipo combinará la expertise de ingenieros y científicos de diversas áreas técnicas, e invita a individuos excepcionales a unirse al proyecto. Colaborando con asesores externos y los equipos que recibieron las subvenciones, planean ejecutar programas piloto que implementen los prototipos desarrollados durante la fase de subsidios, integrando estas ideas en la orientación de sus modelos.

OpenAI reconoce los desafíos inherentes a este tipo de empresa y ha compartido los códigos y resúmenes de los proyectos realizados bajo el programa de subvenciones, subrayando la importancia de la transparencia en el uso de la IA en procesos democráticos. Estos esfuerzos reflejan un compromiso con un proceso en el que un grupo representativo de personas pueda intercambiar opiniones, participar en discusiones deliberativas y decidir sobre resultados a través de un proceso de toma de decisiones transparente.

Los resultados iniciales son prometedores, con muchos participantes expresando una actitud más esperanzadora hacia la capacidad del público de guiar la IA una vez concluidas las sesiones de deliberación. Tal participación pública parece ser un paso crucial hacia la construcción de sistemas de inteligencia artificial que no solo sean potentes, sino también responsables y alineados con los valores de la sociedad.

OpenAI, IA, democracia