Google AI y Microsoft ChatGPT no son el mayor riesgo de seguridad, advierte la leyenda del ajedrez Garry Kasparov

En medio de una ráfaga de lanzamientos de IA generativa de Google y Microsoft la semana pasada durante SXSW, Garry Kasparov, gran maestro de ajedrez, embajador de Avast y presidente de la Fundación de Derechos Humanos, me dijo que está menos preocupado por la piratería de ChatGPT en electrodomésticos que por usuarios siendo engañados por malos actores.

“La gente todavía tiene el monopolio del mal”, advirtió, manteniéndose firme en los pensamientos que compartió conmigo en 2018. Ampliamente considerado como uno de los mejores ajedrecistas de todos los tiempos, Kasparov ganó un estatus mítico en la década de 1990 como campeón mundial cuando venció, y luego fue derrotado por la supercomputadora Deep Blue de IBM. Ese momento vino a representar un despertar de que las máquinas algún día podrían dominar a la humanidad.

“La IA gana no porque sea más inteligente que los humanos, sino porque simplemente comete menos errores”, explicó. “Nunca entendí este miedo a la IA: es una herramienta útil que hace lo que le decimos que haga. Soy un gran defensor de la colaboración hombre-máquina”.

Lo que lo mantiene despierto por la noche es mucho más siniestro, dijo. En su cargo en la empresa de seguridad cibernética Avast, que fue adquirida en 2022 por NortonLifeLock Inc. y ahora forma parte de la familia de productos Gen Digital, la empresa descubrió que, si bien el 30 % de los ataques cibernéticos en su plataforma se dirigen a redes vulnerables con seguridad débil, alrededor del 70% son phishing y otras estafas en las que los usuarios están voluntariamente dando su información a los malos.

“Estas amenazas cognitivas cambian las reglas del juego y no es algo contra lo que se pueda construir un firewall”, me dijo el director de tecnología de Gen, Michal Pechoucek. Los ataques de ingeniería social pueden ser particularmente efectivos cuando alguien se hace pasar por un contacto cercano en su círculo íntimo como su jefe y le indica que haga algo, como pagar una factura. Con las herramientas generativas de inteligencia artificial, cada vez es más fácil para los estafadores escribir textos más convincentes porque el aprendizaje por refuerzo ayuda al algoritmo a ajustar los mensajes para optimizar la tasa de clics. Dado que todos los detalles de nuestra vida cotidiana se comparten en las redes sociales, también permite una personalización más nefasta.

“Se trata de que el consumidor tome la decisión correcta”, dijo Pechoucek. Las cosas simples que las personas pueden hacer para protegerse incluyen verificar el correo electrónico del remitente para asegurarse de que la dirección coincida con la identidad, no hacer clic en enlaces ni descargar archivos PDF, nunca reutilizar contraseñas y compartir menos en las redes sociales, aconsejó.

“Es un delincuente perezoso que persigue a un cliente perezoso”, dijo Kasparov. “Intensifica tus defensas un poco y seguirán adelante”.

Con respecto a la piratería generativa de IA en los sistemas, Pechoucek dijo que estaba al tanto de un estudio realizado por la agencia de inteligencia de amenazas cibernéticas Check Point Research que mostró que ChatGPT fue engañado para crear malware, yendo en contra de sus propias reglas. Sin embargo, dijo que Gen usa IA generativa en sus propios modelos de lenguaje grande para garantizar que su defensa sea lo suficientemente fuerte como para atrapar cualquier virus nuevo que se les ocurra a los delincuentes.

Pechoucek dice que puede ver una situación en la que las personas comienzan a cuestionar la realidad misma de todo, especialmente con la llegada de las falsificaciones profundas de texto a video. Una solución podría ser una plataforma donde los usuarios puedan verificar los medios con metadatos encriptados, esto podría generar seguridad y confianza digital, dijo.

Independientemente de cómo se desarrolle la innovación en el espacio, Kasparov, quien se postuló como candidato de la oposición al presidente ruso Vladimir Putin y se exilió hace una década, dijo que Estados Unidos no tiene mucho que temer con respecto a la guerra cibernética global con controlados por el estado. adversarios Seguramente dijo: "La gente libre en los mercados libres siempre tendrá la ventaja".