ChatGPT lleva unas semanas en boca de todos. La revolución que ha supuesto esta herramienta de Inteligencia Artificial (IA) ha reavivado como nunca el debate sobre su uso. De momento, siguen surgiendo utilidades que se le puede dar (tanto bien como para mal). Este mes la empresa propietaria de esta plataforma, OpenAI, ha lanzado una actualización GPT-4, que incluye algunas mejoras que restringen los ciberataques.
Sin embargo, expertos del sector ya han demostrado que ChatGPT continúa ayudando a crear malware y correos electrónicos de phishing. La parte positiva es que la herramienta ayuda a reforzar la seguridad de las ciberdefensas.
Investigadores de la empresa de ciberseguridad Check Point mostraron a Forbes cómo esquivaron los bloqueos de OpenAI al desarrollo de malware. Simplemente, eliminando la palabra "malware" en la solicitud. "GPT-4 puede dar a los hackers, incluso a los no técnicos, las herramientas para acelerar y validar su actividad", señalan los investigadores de Check Point en su informe.
"Los actores buenos pueden utilizar GPT-4 para consolidar un código que sea útil para la sociedad; pero simultáneamente, los actores malos pueden usar esta tecnología de IA para la ejecución rápida de ciberdelitos". La compañía no ha respondido a los comentarios sobre estos hallazgos de los investigadores.
Daniel Cuthbert, investigador de ciberseguridad y miembro del comité de revisión de la conferencia de hacking Black Hat, apunta que los hackers ya saben hacer mucho de lo que OpenAI puede, sin necesidad de ayuda artificial. Y que los sistemas de detección modernos también deberían ser capaces de detectar los tipos de malware que ChatGPT ayuda a crear, dado que ha aprendido de ejemplos anteriores vistos en Internet. Cuthbert se muestra interesado con lo que GPT-4 puede hacer por la defensa, después de que le ayudara a detectar errores en el software. "El futuro es genial", dice.
