Informe Internacional advierte sobre la pérdida de control sobre la IA

Un informe reciente destaca los riesgos asociados con el desarrollo acelerado de la inteligencia artificial (IA) por parte de las grandes empresas tecnológicas. Yoshua Bengio, un destacado investigador y ganador del Premio Turing en 2018, presentó este informe en el inicio de la cumbre global en París, enfatizando que esta frenética carrera podría tener efectos "perjudiciales".

Riesgos ya conocidos

Bengio señaló riesgos de la IA que ya son ampliamente reconocidos, como su uso para crear contenido falso o engañoso en línea. Sin embargo, también advirtió que están surgiendo pruebas de otros riesgos adicionales, que incluyen ataques biológicos o cibernéticos. El profesor de la Universidad de Montreal expresó su preocupación por la posible "pérdida de control" por parte de los humanos sobre los sistemas de IA, motivadas potencialmente por "su propia voluntad de sobrevivir".

Aceleración del desarrollo de IA

La reciente aparición del modelo de IA chino de bajo costo y alto rendimiento, DeepSeek, se considera un factor que ha acelerado esta competencia en el desarrollo de IA, lo que Bengio califica como algo negativo para la seguridad. Por ello, llamó a una regulación internacional más estricta y a una investigación más amplia sobre la seguridad de la IA, que actualmente recibe solo una pequeña parte de las enormes inversiones en este sector.

Necesidad de intervención gubernamental

"Sin intervención gubernamental, no sé cómo vamos a superar esto", dijo Bengio. Además, destacó que, aunque Estados Unidos sigue siendo la principal nación en el ámbito de la IA, ha abandonado los intentos iniciales de imponer algunas normas de desarrollo desde la llegada del actual presidente Donald Trump.

Preocupaciones sobre el futuro

Al recordar el impacto que produjo la llegada de ChatGPT de OpenAI hace dos años, Bengio sintió la urgencia de abordar la cuestión de la seguridad en la IA. Durante su presentación, comparó el informe con documentos familiares del Panel Intergubernamental sobre Cambio Climático (IPCC). "Lo que más me asusta es la posibilidad de que la humanidad pueda desaparecer en diez años. Es aterrador. No sé por qué más personas no se dan cuenta de esto", dijo.

Alrededor de 100 expertos de 30 países, incluidos la ONU, la Unión Europea y la OCDE, colaboraron en el informe liderado por Bengio, que se publicó a finales de enero. La investigación comenzó en una cumbre previa sobre seguridad en la IA celebrada en Gran Bretaña en noviembre de 2023.

IA, tecnología, seguridad