¿Cómo puede un ciberdelincuente aprovechar ChatGPT?
Zoom sur le Chat(bot)GPT
ChatGPT a été développé par OpenAI en novembre 2022. Ce système, basé sur l’intelligence artificielle, fait appel à un modèle de traitement automatique du langage, appelé GPT (Generative Pre-trained Transformer). L’outil est en mesure de générer des réponses claires sur un sujet soumis par l’utilisateur, et ce, de manière très rapide.
Uso #1 – Crear malware de manera fácil y rápida
Escribir el código fuente de un malware indetectable históricamente representaba un esfuerzo significativo. Luego se volvió más fácil gracias a la presencia de numerosos tutoriales en línea en plataformas como YouTube. Pero hoy en día, es posible hacerlo en segundos con la ayuda de ChatGPT.
Los hackers ahorran tiempo al tener acceso a casi todas las conocimientos disponibles públicamente sobre hacking, como los métodos para eludir el EDR.
Uso #2 – Amplificar la ingeniería social
ChatGPT también puede ser utilizado por los atacantes en la elaboración de sus estrategias, herramientas y vectores de ataque o compromiso.
Por ejemplo, es posible pedir a ChatGPT que escriba correos electrónicos de spam y phishing, incluyendo código malicioso y una cadena de infección. El resultado es de alta calidad y se genera en menos de 1 minuto.
Esta técnica ofrece dos ventajas clave para los ciberdelincuentes:
- Mejora en la autenticidad, grado de personalización y calidad de los mensajes, que a menudo faltan en la actualidad y pueden servir como indicadores para identificar mensajes maliciosos.
- Ahorro de tiempo significativo, permitiendo a los ciberdelincuentes centrarse en los aspectos técnicos puros del ataque.
Uso #3 – Explotar nuevas vulnerabilidades.
ChatGPT también podría ser de gran ayuda para los ciberdelincuentes al facilitar la identificación de nuevas vulnerabilidades. Sin embargo, es necesario que el robot pueda mantenerse actualizado rápidamente e indexar cada vez más contenido sobre la amenaza cibernética. Como resultado, cualquier componente expuesto o mal protegido representa más que nunca una verdadera amenaza, ya que es un punto de entrada potencial para un atacante.
Tomemos un ejemplo: en respuesta a la consulta «El sitio web de la empresa X está alojado por Y, dime la vulnerabilidad de seguridad más reciente que puedo explotar para lanzar un ataque», el hacker obtendrá mucha información para ayudarle.
ChatGPT ouvre la voie aux script kiddies
Les script kiddies sont des hackers néophytes qui se contentent d’exécuter des programmes conçus par des hackers expérimentés, sans vraiment les comprendre ni les maîtriser. Les techniques d’attaque et de défense qui sont aujourd’hui accessibles à tous sur ChatGPT risquent donc de faire entrer dans l’arène de nombreux profils d’attaquants moins expérimentés (et qui sait, cela pourrait même donner des idées à du personnel malveillant) !
El uso de ChatGPT en la empresa: los riesgos
Riesgo #1 – Utilizar datos sin poseer los derechos de propiedad intelectual
Por ejemplo, simplemente copiar y pegar contenido generado por el asistente virtual ChatGPT (sin tomar el tiempo para verificar la información producida) aumenta el riesgo de plagio.
Riesgo #2 – Fuentes difíciles de verificar
Otro problema: el uso de ChatGPT no permite controlar las fuentes de la información generada. Como resultado, las respuestas proporcionadas por el asistente virtual son más difíciles de verificar. Y dado que a menudo parecen más elaboradas, los usuarios pueden verse tentados a considerarlas como una verdad absoluta con demasiada rapidez.
Riesgo #3 – Intensificar las filtraciones de información.
Finalmente, ChatGPT puede llevar a la compartición involuntaria (o intencional) de información sensible con el bot, sin saber si y cómo se utilizará posteriormente. ¡Imagina que tus datos financieros o los datos personales de tus clientes son accesibles a través de la herramienta!
¿Cómo protegerse contra usos maliciosos de ChatGPT?
Consejo n.º 1 – Refuercen sus buenas prácticas de seguridad informática.
Con ChatGPT, el trabajo de los hackers se facilita en gran medida: el tiempo ahorrado en la creación de malware y correos electrónicos de phishing (por ejemplo) les permitirá desarrollar ataques más complejos y más difíciles de detectar. Por lo tanto, las mejores prácticas de seguridad deberán ser una prioridad para minimizar al máximo la superficie de ataque.
Quelques exemples de bonnes pratiques à adopter dès maintenant
- Gérer les vulnérabilités et disposer d’un processus de Patch Management performant.
- Mettre en place un SOC nouvelle génération capable de répondre efficacement aux menaces connues et encore inconnues des bases de signature.
- Renforcer la sensibilisation du personnel face à la montée en puissance de l’ingénierie sociale et du phishing et l’accompagner dans les nouveaux usages.
Consejo n.º 2: Supervisar continuamente las nuevas tácticas de los atacantes.
Para fortalecer su ciberseguridad, la monitorización es una práctica esencial: permite determinar el nivel técnico de los ataques y evitar ser superados por su creciente sofisticación y capacidad para causar daño.
Por lo tanto, se trata de implementar:
- Supervisión de vulnerabilidades, para anticipar nuevas fallas en los componentes.
- Supervisión operativa y estratégica, para seguir de cerca los nuevos métodos de los atacantes (para obtener más información sobre este tema, consulte el framework de MITRE).
- Vigilancia legal, para mantenerse informado sobre las leyes relacionadas con los ataques relacionados con la IA (como la filtración de información sensible).
« L’arrivée d’outils comme ChatGPT a donné naissance à de formidables opportunités pour accélérer et améliorer le quotidien. L’adoption de ces outils doit cependant être accompagnée pour en maîtriser les risques, autant liés à de mauvaises pratiques qu’à de réelles volontés de nuire. La veille technologique est une fois de plus indispensable [pour un RSSI]. »
Tristan Savalle • RSSI, Advens
Profesionales de ciberseguridad: ¿Es ChatGPT una herramienta para explotar?
ChatGPT puede hacer que los profesionales de ciberseguridad duden. De hecho, este asistente virtual revolucionario puede plantear preocupaciones legítimas, pero también puede ser de gran ayuda en su trabajo diario
¡El tema es sin duda importante, y es por eso que Advens invertirá pronto en él para mejorar sus prácticas de seguridad! ¿Quieres ser parte de esta nueva aventura?
