Tecnología

La eficacia limitada de la IA en la ciberseguridad frente a su uso ilimitado en el cibercrimen

Published December 20, 2023

La incorporación de la inteligencia artificial (IA) en el mundo de la ciberseguridad ha desencadenado un ciclo interminable. Los profesionales en este campo están utilizando la IA para mejorar sus herramientas y aumentar su capacidad de detección y protección. Sin embargo, los cibercriminales también están aprovechando la IA para realizar ataques más sofisticados. Como resultado, los equipos de seguridad intensifican su uso de la IA para enfrentar estas amenazas, y los actores de amenazas perfeccionan su IA para mantenerse a la par, creando así un ciclo continuo.

A pesar de su potencial, la IA enfrenta limitaciones significativas cuando se usa en ciberseguridad. Hay problemas de confianza en las soluciones de seguridad basadas en IA y los modelos de datos utilizados para desarrollar productos de seguridad impulsados por IA parecen estar siempre en riesgo. Adicionalmente, durante la implementación, la IA a menudo entra en conflicto con la inteligencia humana.

La falta de confianza

Uno de los principales problemas para adoptar soluciones impulsadas por la IA en ciberseguridad es construir confianza. Muchas organizaciones están escépticas sobre los productos de seguridad potenciados por IA ofrecidos por las empresas. Esto se debe a que muchos de estos productos están sobredimensionados y no cumplen con lo prometido. Las afirmaciones de que simplifican las tareas de seguridad de tal modo que incluso personal no especializado puede manejarlas suelen decepcionar, perjudicando la credibilidad de la IA.

Aunque todavía se requiere dirección humana, algunos proveedores sí ofrecen herramientas que aprovechan lo mejor de la IA. Sistemas como la Detección y Respuesta Extendida (XDR), que integran IA, han demostrado ser eficientes detectando y respondiendo a secuencias de ataques complejos.

Limitaciones de los modelos de datos y la seguridad

La efectividad de la IA en combatir amenazas se ve comprometida cuando las organizaciones se centran en datos limitados o no representativos. Idealmente, los sistemas de IA deberían alimentarse con datos del mundo real. Sin embargo, recolectar datos globales es costoso y complicado. Además, al apurarse por lanzar productos al mercado, algunos proveedores exponen sus datos a manipulación o corrupción.

Afortunadamente, existen recursos accesibles, como fuentes de inteligencia de amenazas gratuitas, y marcos de ciberseguridad como el MITRE ATT&CK, que ayudan a abordar estas preocupaciones. Cuando se trata de seguridad de los datos, hay muchas herramientas eficaces y también es crucial contar con regulaciones y políticas internas adecuadas.

La supremacía de la inteligencia humana

La era en la que la IA puede sobrepasar las decisiones humanas todavía está lejana. Aunque los humanos pueden desestimar los juicios o decisiones de la IA, esto también significa que las amenazas dirigidas a humanos como los ataques de ingeniería social siguen siendo fuertes. Las soluciones de seguridad automatizadas deben estar diseñadas para ceder ante decisiones humanas, especialmente debido al problema de la 'caja negra' de la IA. Sin embargo, la educación en ciberseguridad puede ayudar a que los empleados utilicen las prácticas de seguridad adecuadas y detecten amenazas con mayor eficacia.

Conclusiones

Construir y proteger es más difícil que destruir. El uso de la IA para combatir las amenazas cibernéticas siempre será un desafío debido a la necesidad de establecer confianza, la precaución necesaria con los datos y la importancia de las decisiones humanas. Los cibercriminales pueden ignorar fácilmente estas consideraciones, lo que a veces les da la ventaja. A pesar de esto, hay soluciones disponibles. La confianza puede construirse con la ayuda de estándares y regulaciones, así como esfuerzos serios por parte de los proveedores de seguridad para cumplir lo que prometen. Las vulnerabilidades creadas por la dependencia de las decisiones humanas pueden ser abordadas mediante la educación y el entrenamiento en ciberseguridad. Mientras tanto, el ciclo vicioso continúa, pero también hay esperanza en que, a medida que evolucionen las amenazas de IA, la defensa cibernética de la IA también seguirá evolucionando.

ciberseguridad, inteligencia artificial, cibercrimen