Por qué la 'buena IA' es probablemente el antídoto para la nueva era del ciberdelito de IA
Cuando se trata de IA, vivimos en la calma que precede a la tormenta, un punto de inflexión antes de que todo cambie.
Considere los últimos dos meses en la academia. ChatGPT de OpenAI, el chatbot más nuevo y avanzado que está disponible para el público, ha amenazado con revolucionar el plagio con su capacidad para generar contenido sobre casi cualquier tema basado en indicaciones simples. Poco más de un mes después de su lanzamiento, una encuesta de más de 1000 estudiantes encontró que el 89 % ya lo estaba usando para ayudarse con sus tareas. Aunque estos casos informados fueron honestos, el mismo software puede ayudar fácilmente a los estudiantes a escribir trabajos escolares en minutos o incluso a aprobar exámenes escritos rigurosos en todos los campos.
La IA puede beneficiar a la sociedad de maneras increíbles. Al mismo tiempo, puede permitir fechorías, actores maliciosos y delitos puros. Así como los estudiantes lo usarán para hacer trampa en clase, los políticos podrían usarlo para propagar propaganda y las empresas podrían usarlo para extraer nuestros datos.
Y los piratas informáticos, tanto o quizás más que cualquier otro grupo demográfico, probablemente usarán la IA para diseñar ataques cibernéticos más peligrosos y en una escala nunca antes concebible.
Cómo la IA transformará la piratería
De alguna manera, los futuros ciberataques de IA confirmarán nuestras preocupaciones más profundas.
Por ejemplo, mire lo que sucedió un viernes por la tarde en marzo de 2019. Un director gerente de una compañía de energía británica recibió una llamada de su superior. Se ordenó al director que transfiriera urgentemente más de $ 240,000 a un proveedor en Hungría para evitar incurrir en cargos por pago atrasado. Era una solicitud extraña, concedida, pero el director ejecutivo por teléfono sonaba perfectamente normal, además de estar muy alarmado. Y entonces el director hizo lo que le dijeron.
Conoce a la multimillonaria inmigrante desconocida que apuesta su fortuna para enfrentarse a Musk en el espacio
Más historias como estaMenos historias como esta
Descubra algunos de los principales destinos vinícolas de Chile
Más historias como estaMenos historias como esta
Cómo TikTok y Bill Nye están ganando la guerra del entretenimiento educativo
Más historias como estaMenos historias como esta
El dinero fue directamente a los piratas informáticos que habían clonado la voz de ese director ejecutivo utilizando un software fácil de obtener.
La historia era siniestra, pero de lo que realmente debemos preocuparnos no está tan preparado para Hollywood. El mayor peligro para nuestra Internet moderna, y quizás para la sociedad en general, puede provenir de las formas ordinarias, casi banales, en que los delincuentes pueden usar la IA para escalar sus ataques.
En diciembre, los investigadores de Check Point Software observaron que todos usaban ChatGPT para escribir poemas y trabajos escolares, y se preguntaron: ¿Podría escribir un correo electrónico de phishing? ¿O qué tal una cadena de ataque completa?
Experimentaron pidiendo primero a ChatGPT que escribiera un señuelo, alentando a las víctimas a descargar un archivo de Excel. Después de algunas iteraciones, el correo electrónico logró todos los trucos que aman los piratas informáticos: falsa legitimidad, un sentido de urgencia y un llamado a la acción efectivo.
Luego, los investigadores hicieron que ChatGPT escribiera una macro, que ejecutaría un código personalizado tan pronto como la víctima abriera el archivo de Excel. Luego, usaron otro programa OpenAI, Codex, para generar automáticamente un shell inverso en funcionamiento, a través del cual podían ejecutar comandos, recopilar datos y enviar más malware a la máquina de destino. También hicieron que Codex desarrollara un escáner de puertos y una herramienta para identificar máquinas virtuales.
El resultado fue un ataque de pintura por números relativamente, pero no está mal para el trabajo de una tarde. Y en teoría, cualquier cantidad de programas que no sean OpenAI podrían haber ayudado a mejorarlo.
Está PassGAN, por ejemplo, un programa basado en redes neuronales que se entrena en filtraciones de datos pasadas para obtener contraseñas de fuerza bruta de manera eficiente. En un estudio de 2019, los investigadores lo usaron para superar incluso las herramientas de adivinación de contraseñas basadas en el aprendizaje automático más modernas.
Aún más insidioso que PassGAN es DeepLocker, otro malware basado en aprendizaje profundo que, según sus progenitores de IBM, puede "infectar millones de sistemas sin ser detectado". reconocimiento facial: se revela, golpeando con precisión láser.
Lo que puede hacer la industria tecnológica
No podremos prevenir el ciberdelito impulsado por la IA, pero podemos trabajar para prevenir lo peor y hacer que nuestra Internet sea aún más segura de lo que es hoy.
Apenas un mes después de que ChatGPT fuera lanzado al público, mientras los maestros protestaban por su potencial para permitir hacer trampa, un estudiante se encargó de solucionar el problema. Edward Tian, un estudiante de último año de Princeton de 22 años, desarrolló una aplicación llamada GPTZero que puede detectar rápida y efectivamente si ChatGPT o un ser humano escribió un ensayo.
En pocas palabras; La IA puede ser armada tan fácilmente por los buenos como por los malos.
Para concluir su experimento, los investigadores de Check Point utilizaron Codex para recopilar datos importantes de grandes conjuntos de datos en YARA y VirusTotal. Ese fue solo un caso de uso limitado. Las herramientas de IA han sido fundamentales durante mucho tiempo para detectar mejor los correos electrónicos maliciosos e identificar comportamientos anómalos mucho más rápido que los humanos para todas nuestras bandejas de entrada y redes de TI. Y eso por no hablar del papel de la IA en la recopilación y gestión de datos, la automatización de tareas y la información de las evaluaciones de riesgos.
Al igual que Godzilla versus King Kong, solo podemos combatir el ciberdelito habilitado por IA con ciberseguridad mejorada por IA. Esta es la próxima frontera. Ya se está desarrollando ante nuestros ojos.
El Consejo de Tecnología de Forbes es una comunidad a la que solo se puede acceder por invitación para CIO, CTO y ejecutivos de tecnología de clase mundial. ¿Califico?
