Cuatro formas en que ChatGPT está cambiando la ciberseguridad

La inteligencia artificial (IA) ha sido durante mucho tiempo parte de la industria de la ciberseguridad. Sin embargo, las versiones más nuevas de IA, como ChatGPT, han abierto nuevos caminos rápidamente y ya están teniendo un profundo impacto en el futuro.

Aquí hay cuatro formas en que el auge de ChatGPT ya ha cambiado el juego.

Búsquedas dirigidas por IA

Durante décadas, los motores de búsqueda han sido una característica clave de Internet y un área central de especialización tanto para los operadores de ciberseguridad como para los atacantes. Pero a pesar de lo omnipresentes que se han vuelto, los motores de búsqueda siguen siendo solo un índice de lugares a los que ir para encontrar información, una interacción muy asincrónica.

AI como ChatGPT es fundamentalmente un cambio de juego en la forma en que utiliza el procesamiento del lenguaje natural (NLP) para comprender el lenguaje y proporcionar respuestas directas a las preguntas de los usuarios. Proporcione un fragmento de código, y puede brindarle un recorrido línea por línea para un niño de 12 años o un doctorado. candidato.

En lugar de simplemente mirar un video o leer un artículo recomendado, puede interactuar con la lección, hacer preguntas de perfeccionamiento o profundizar en un tema en particular. Como participante comprometido, tiene una influencia más directa sobre el rumbo de la conversación. Es por eso que muchos de los primeros en adoptar, como mi amigo y director ejecutivo de una startup de seguridad, Snehal Antani, ya abandonaron las búsquedas de Google de la vieja escuela en favor de ChatGPT.

Investigación asistida por IA

Los investigadores de seguridad han estado jugando con las capacidades de ChatGPT desde hace algún tiempo. En general, sus opiniones han sido mixtas; de hecho, muchos parecen estar simultáneamente amenazados y no impresionados por la herramienta, y por la IA en general.

Es probable que parte de este rechazo tenga que ver con sus métodos de investigación. Muchos parecen estar haciendo una pregunta básica y no brindan detalles más específicos o instrucciones de seguimiento. Esto oscurece el verdadero poder de ChatGPT, el compromiso sincrónico, es decir, la capacidad de alterar la conversación o el resultado en función de nuevos estímulos.

Cuando se usa correctamente, ChatGPT ya ha demostrado la capacidad de comprender y localizar rápidamente el código de malware ofuscado. Una vez que perfeccionemos nuestros métodos de participación, estas herramientas sin duda ayudarán a mejorar las soluciones en el mercado a un ritmo extremadamente rápido.

Operaciones aumentadas por IA

A través de NLP, ChatGPT no solo entiende los comandos y lee el código, sino que también puede proporcionar información real y consejos de remediación. Aprovechada adecuadamente, esta capacidad puede mejorar en gran medida la eficiencia y la sofisticación de un operador humano al volante.

Para una industria que continúa sufriendo problemas de personal y talento, la inteligencia artificial y el aprendizaje automático ya se están aprovechando para crear eficiencia, mejorar la velocidad y garantizar la precisión operativa.

A medida que continúan evolucionando, estas herramientas incluso tienen el potencial de ayudar a los operadores humanos a lidiar mejor con el "cambio de contexto", es decir, la tendencia natural del cerebro a perder eficiencia cuando se ve obligado a realizar múltiples tareas rápidamente.

Ataques impulsados por IA

Si bien los investigadores y operadores de seguridad están utilizando IA para una detección de amenazas y una respuesta a incidentes más eficientes, es probable que los piratas informáticos estén haciendo lo mismo. De hecho, los atacantes probablemente han ganado más que nadie en los primeros días de los programas de inteligencia artificial potenciados por NLP como ChatGPT.

Sabemos que los actores de amenazas ya están usando ChatGPT para desarrollar malware, incluido el malware polimórfico que muta regularmente para evadir la detección. Actualmente, la calidad de la capacidad de escritura de código de ChatGPT es mediocre, pero estos programas evolucionan rápidamente. Las formas futuras de "IA de codificación" especializada podrían aumentar rápidamente el desarrollo de malware y mejorar su rendimiento.

Muchos piratas informáticos ya se especializan en tipos de ataques específicos, como la ingeniería social o las campañas de phishing. Con el tiempo, la IA los ayudará a automatizar gran parte de su flujo de trabajo y a explotar las vulnerabilidades a las pocas horas de su descubrimiento en lugar de unos pocos días.

Como todos los grandes avances, los primeros días de ChatGPT estuvieron llenos de usuarios que descubrieron nuevas formas de aprovechar la tecnología para bien y para mal. A menudo, estas fuerzas tienden a equilibrarse entre sí.

Dicho esto, las herramientas basadas en IA solo crecerán en complejidad y potencia. Todavía hay preguntas sin respuesta sobre las mejores formas de enseñar a la IA cómo lidiar con información inexacta o mitigar el sesgo en la forma en que procesa los datos sin procesar. Estas preocupaciones, y otras, han llevado al Instituto Nacional de Estándares y Tecnología (NIST) a comenzar a desarrollar un marco de gestión de riesgos de IA para brindar orientación y procesos para minimizar los riesgos de trabajar con IA.

Siguiendo el espíritu del titular, decidí dar la última palabra sobre este tema a ChatGPT. A mi pregunta, "¿cuáles son algunas de las cosas más interesantes que la gente ha hecho con ChatGPT en el área de ciberseguridad?", respondió con una lista propia.

Hay algunas formas diferentes en que las personas han utilizado GPT en el campo de la ciberseguridad. Algunos ejemplos incluyen:

Correos electrónicos de phishing realistas: GPT puede entrenarse en un conjunto de datos de correos electrónicos de phishing reales y luego usarse para generar correos electrónicos de phishing nuevos y convincentes. Esto puede ser útil para probar la eficacia de las herramientas antiphishing y capacitar a los empleados para que reconozcan los intentos de phishing.

Cargas útiles para pruebas de penetración: GPT puede entrenarse en un conjunto de datos de cargas útiles utilizadas en pruebas de penetración y luego usarse para generar nuevas cargas útiles. Esto puede ser útil para probar la seguridad de los sistemas e identificar vulnerabilidades.

Documentación para estándares de seguridad y cumplimiento: GPT puede capacitarse en un conjunto de datos de documentación para estándares de seguridad y cumplimiento, como SOC 2 y PCI-DSS, y luego usarse para generar nueva documentación. Esto puede ser útil para garantizar que la documentación sea precisa y esté actualizada.

Informes para respuesta a incidentes: GPT puede entrenarse en un conjunto de datos de informes de respuesta a incidentes y luego usarse para generar nuevos informes de respuesta a incidentes. Esto puede ser útil para documentar de forma rápida y precisa los detalles de un incidente y los pasos que se toman para contenerlo.

Resúmenes en lenguaje natural de las alertas de seguridad: GPT puede entrenarse en un conjunto de datos de alertas de seguridad y luego usarse para generar resúmenes en lenguaje natural de las alertas, lo que facilita que los analistas de seguridad comprendan y clasifiquen las alertas.

Estos son solo algunos ejemplos de cómo se ha utilizado GPT en ciberseguridad, pero las posibilidades son infinitas.