La IA superará a los humanos en ciberataques para 2030

Tara Deschamps, The Canadian Press

TORONTO — La inteligencia artificial podrá superar a los humanos en ofensivas cibernéticas para finales de esta década, predijo el orador principal en una serie de conferencias organizadas por el luminar de la informática Geoffrey Hinton esta semana.

Jake Steinhardt, profesor asistente de ingeniería eléctrica y ciencias de la computación y estadística en UC Berkeley en California, hizo esta proyección el martes, basándose en su creencia de que los sistemas de IA eventualmente se convertirán en "sobrehumanos" en tareas relacionadas con la codificación y la búsqueda de vulnerabilidades.

Las vulnerabilidades son puntos débiles en el software y hardware que pueden ser abusados. Los delincuentes cibernéticos frecuentemente codician estas vulnerabilidades porque pueden ser utilizadas para obtener acceso no autorizado a sistemas.

Una vez que un criminal tiene acceso a través de una vulnerabilidad, puede llevar a cabo un ataque de ransomware en el que cifra datos sensibles o bloquea a los administradores de acceder al software, con la esperanza de extorsionar dinero de las víctimas.

Para encontrar vulnerabilidades, Steinhardt explicó que los humanos tendrían que revisar todo el código que subyace en un sistema para poder encontrarlas y llevar a cabo un ataque.

“Esto es realmente aburrido,” dijo Steinhardt. “La mayoría de las personas simplemente no tienen la paciencia para hacerlo, pero los sistemas de IA no se aburren.”

No solo la IA se encargará de la tediosa tarea de encontrar vulnerabilidades, sino que también será meticulosa en el proceso, añadió Steinhardt.

Los comentarios de Steinhardt se producen en un momento en que el cibercrimen ha estado en aumento. Un estudio de 2023 de EY Canada realizado a 60 organizaciones canadienses encontró que cuatro de cada cinco habían experimentado al menos 25 incidentes de ciberseguridad en el último año, y los expertos han señalado que algunas empresas enfrentan miles de intentos diariamente.

Muchos han elogiado a la IA como una solución potencial, porque puede ser utilizada para identificar rápidamente a los atacantes y reunir información sobre ellos. Sin embargo, Steinhardt advirtió que también es probable que sea utilizada por personas con intenciones maliciosas.

Ya, dijo, el mundo ha presenciado casos en los que actores maliciosos han aprovechado la tecnología para crear "deep fakes", imágenes, videos o clips de audio manipulados digitalmente que retratan a personas diciendo o haciendo cosas que no han dicho o hecho.

En algunos casos, los deep fakes han sido utilizados para hacer llamadas a personas, sugiriendo que es su ser querido pidiendo urgentemente dinero.

Las empresas también han sido víctimas. A principios de este año, se informó que un empleado de Arup, la compañía de ingeniería británica detrás de edificios prominentes como la Ópera de Sídney, había sido engañado para entregar 25 millones de dólares a estafadores que usaron la tecnología de deep fake para hacerse pasar por el director financiero de la empresa.

“He sido entrenado para estar alerta a estafas y correos electrónicos de phishing, y creo que habría confirmado antes de enviar 25 millones de dólares, pero no estoy seguro,” explicó Steinhardt, señalando lo novedoso del fenómeno y cuán realistas parecen los falsos.

“Esto no es algo a lo que estemos acostumbrados y esta no es la única forma de impersonación digital que crea problemas.”

La charla de Steinhardt concluyó las Conferencias Hinton, una serie de charlas que se llevaron a cabo durante dos noches, organizadas por el Global Risk Institute en el Teatro John W. H. Bassett de Toronto.

El homenajeado del evento, Geoffrey Hinton, conocido como el padrino de la IA, presentó a Steinhardt al comienzo de la velada, describiéndolo como la opción más popular para inaugurar la serie de conferencias.

La noche anterior, Steinhardt había comentado que se considera un “optimista preocupado”, que cree que hay un 10 por ciento de probabilidad de que la IA conduzca a la extinción humana y un 50 por ciento de probabilidad de que cause un inmenso valor económico y "prosperidad radical".

IA, ciberataques, ciberseguridad