La Inteligencia Artificial puede ser un arma de doble filo cuando hablamos de ciberseguridad. Sirve para detectar amenazas y mejorar así la seguridad, pero también es algo que pueden utilizar los cibercriminales para lanzar campañas maliciosas y atacar. Por ello, es clave conocer los riesgos. Vamos a hablarte de MessiahGPT, un modelo de IA que están usando los piratas informáticos para crear ransomware y kits de phishing.
Modelo de IA sin restricciones para los hackers
Los principales modelos de Inteligencia Artificial cuentan con restricciones para evitar que ocurra algo así. Si hacemos una prueba con ChatGPT, por ejemplo, para que nos genere un malware y robar contraseñas, nos lanza un mensaje diciendo que no puede hacerlo. Esto es así ya que incumpliría con sus políticas.
Sin embargo, como puedes ver en una publicación que han hecho en Under Code Testing, existe un modelo de Inteligencia Artificial que no tiene restricciones y que ha impulsado una nueva oleada de ataques automatizados de ransomware y phishing.
Este modelo se promociona en la web BreachForums con la capacidad de generar ransomware, kits de phishing o programas maliciosos para robar datos personales. Se diferencia claramente de los modelos de Inteligencia Artificial generativa convencionales, como son ChatGPT o Gemini, donde sí nos encontramos con restricciones para crear software malicioso.
Según indican en la documentación, este modelo de IA fue entrenado desde cero con manuales sin ningún tipo de restricciones, archivos de la Dark Web, documentos filtrados y datos de Internet.
Este servicio se atribuye a Dabial Leaks, que es una comunidad de ciberdelincuentes conocida por compartir bases de datos y realizar actividades maliciosas, así como por su colaboración con grupos afines a los hacktivistas, según la información ofrecida por parte de Undercode Testing.
El hecho de generar ransomware con mayor facilidad puede permitir que cualquier atacante, sin necesidad de contar con una gran experiencia, pueda crear este tipo de software malicioso y secuestrar los equipos. Consiste en cifrar los archivos o robar datos para, posteriormente, pedir dinero a cambio de liberarlos o no filtrar la información.
También es peligroso que puedan generar ataques de phishing de forma automatizada. La IA permite adaptarse mejor a las posibles víctimas y crear mensajes que sean menos sospechosos.
Necesaria una mayor protección
Todo esto hace que debamos estar más protegidos en Internet. Es clave preservar la seguridad y dar prioridad a las cuentas personales. Asegúrate siempre de seguir todas estas recomendaciones:
- Utiliza contraseñas fuertes.
- Habilita la autenticación en dos pasos siempre que sea posible.
- Instala solo software oficial.
- Desconfía de cualquier mensaje.
- No descargues archivos adjuntos que puedan ser dudosos.
Lo más peligroso de este tipo de herramientas que permiten a los ciberdelincuentes usar la IA es que hace que el malware sea más accesible. Además, permite crear campañas maliciosas más personalizadas y que se adapten a las posibles víctimas y tener mayor probabilidad de éxito.
En definitiva, han detectado un modelo de IA sin restricciones para generar ransomware o ataques de phishing. Es algo que facilita el trabajo a los ciberdelincuentes y provoca que el riesgo de sufrir ataques informáticos sea mayor.