El mundo no está preparado para la próxima gran evolución en la IA, dice un investigador de OpenAI

El mundo no está listo para la inteligencia general artificial (AGI), que es el punto en el cual las máquinas pueden realizar tareas al mismo nivel que los humanos, según un investigador senior de OpenAI.

Desde hace años, los investigadores han estado debatiendo sobre la llegada de la AGI, cuándo podrá ocurrir y cuáles serán sus implicaciones. Se ha mencionado que la llegada de esta tecnología podría representar un riesgo existencial, ya que permitiría a las computadoras actuar de maneras que no podemos anticipar.

Recientemente, Miles Brundage, quien estuvo a cargo de preparar a OpenAI para la llegada de la AGI, anunció su salida de la empresa y dijo que tanto la compañía como el mundo todavía no están listos. Brundage ocupó el cargo de "asesor senior para la preparación de AGI" en OpenAI y su anuncio se dio justo cuando la empresa anunció que cerraría su equipo dedicado a este tema.

Brundage comentó que no es una opinión controvertida dentro del liderazgo de OpenAI; más bien, se trata de una cuestión diferente a si la empresa y el mundo están "en camino de estar listos a tiempo". Según él, estar preparados en el momento adecuado dependerá de la regulación y de cómo cambie la cultura en torno a la seguridad de la inteligencia artificial.

OpenAI ha enfrentado críticas recientemente sobre sus planes para la inteligencia artificial y su compromiso con la seguridad. Aunque la organización fue establecida como una entidad sin fines de lucro enfocado en investigar la construcción segura de la inteligencia artificial, el éxito de ChatGPT ha llevado a importantes inversiones y cierta presión para monetizar su nueva tecnología.

Brundage mencionó que sus razones para dejar la empresa eran variadas, incluyendo su falta de tiempo para trabajar en ciertos proyectos y que ya había cumplido gran parte de sus objetivos. Además, señaló que le sería más fácil trabajar desde el exterior, ya que eso le permitiría estar libre de sesgos y conflictos de interés.

IA, AGI, OpenAI