Expertos del Centro de Investigación de IA de Kaspersky han descubierto que los ciberdelincuentes utilizan cada vez más modelos de lenguaje a gran escala (LLM, por sus siglas en inglés) para generar contenido en ataques de phishing y llevar a cabo grandes estafas. A medida que los actores de amenazas intentan crear webs fraudulentas en grandes volúmenes, a menudo dejan huellas distintivas, como frases específicas de IA, que diferencian estas páginas de aquellas creadas manualmente. Hasta ahora, la mayoría de los ejemplos de phishing observados por Kaspersky tienen como objetivo los usuarios con carteras de criptomonedas.

    Los expertos de Kaspersky analizaron una muestra de recursos, identificando características clave que ayudan a distinguir y detectar casos en los que se utilizó IA para generar contenido o incluso páginas web completas de phishing y estafas. Uno de los signos destacados del texto generado por LLM es la presencia de descargos de responsabilidad y negativas a ejecutar comandos, incluidas frases como: “Como modelo de lenguaje de IA…”. Por ejemplo, dos páginas de phishing dirigidas a usuarios de KuCoin contienen este tipo de lenguaje.

    Otro indicador distintivo del uso de modelos de lenguaje es la presencia de cláusulas concesivas, como: “Si bien no puedo hacer exactamente lo que deseas, puedo intentar algo similar”. En otros ejemplos dirigidos a usuarios de Gemini y Exodus, el LLM se niega a proporcionar instrucciones detalladas de inicio de sesión.