Los ataques de phishing han sido una amenaza frecuente a la ciberseguridad durante primaveras, pero con el avance de la inteligencia sintético (IA), los actores de amenazas ahora pueden crear campañas de phishing más sofisticadas y convincentes. Esta progreso ha hecho que sea aún más difícil detectar y alertar estos ataques, y las amenazas están eludiendo las puertas de enlace de correo electrónico seguras (SEG) a un ritmo intranquilizante.
Cómo los actores de amenazas utilizan la IA en estafas de phishing
Los actores de amenazas utilizan la IA para mejorar las campañas de phishing mediante la creación de mensajes en extremo personalizados y dirigidos. La IA puede imitar los estilos de escritura y el estilo utilizado por amigos y colegas, lo que permite a los ciberdelincuentes realizar rápidamente un gratitud de objetivos potenciales mediante el examen de grandes cantidades de datos de las redes sociales, perfiles en raya y otras fuentes para difundir correos electrónicos que sean relevantes para el destinatario. Este gratitud les permite compilar información sobre la actividad en raya, los intereses, las relaciones y más de un individuo, lo que aumenta significativamente sus posibilidades de un ataque exitoso y minimiza el aventura de detección.
Por otra parte de los mensajes personalizados, los algoritmos de IA asimismo pueden analizar patrones de comportamiento humano para determinar el mejor momento para despachar correos electrónicos de phishing. Por ejemplo, los actores de amenazas ahora tienen camino a información que les brinda información sobre las horas en las que es más probable que un individuo esté distraído o cansado, lo que aumenta las posibilidades de que el objetivo sea víctima de la estafa.
A través de herramientas automatizadas, la IA asimismo permite a los ciberdelincuentes difundir grandes volúmenes de correos electrónicos de phishing en un corto período de tiempo. Cubo que la IA se puede retornar a entrenar, estas herramientas se adaptan y evolucionan en función de los comentarios recibidos de ataques anteriores, lo que las hace aún más efectivas para eludir las medidas de seguridad del correo electrónico.
Por otra parte, al igual que ChatGPT y otros LLM pueden convertir una redacción descuidada en una prosa elegante para trabajos finales, los atacantes de correo electrónico pueden beneficiarse la inteligencia sintético para crear correos electrónicos que sean cosméticamente “perfectos”. Esto significa que la detección de ataques basados en errores tipográficos y otros errores cosméticos será menos relevante.
El ritmo de innovación, el prominencia, la personalización y la perfección estética que la IA puede proporcionar a los atacantes de phishing la convierten en una amenaza de un orden de magnitud decano que cualquier otro explicación flamante. El phishing con IA es una amenaza generacional a la seguridad del correo electrónico.
Los límites de la IA defensiva y la brecha de seguridad del correo electrónico de la IA
Ha habido un entusiasmo explicable en torno al uso de modelos de IA y ML para ayudar a filtrar correos electrónicos maliciosos. En Cofense, utilizamos ampliamente modelos AI/ML para ayudarnos a procesar los cientos de miles de informes de correo electrónico sospechosos que recibimos en nuestra operación SOC del Phishing Defense Center (PDC). Nuestros modelos capacitados aumentan nuestra eficiencia para ayudar a nuestros expertos a producir inteligencia de phishing detallada sobre errores de SEG en todo el mundo. Entonces, somos optimistas sobre los usos defensivos de la IA.
Sin confiscación, si proporcionadamente resulta tentador creer que la IA defensiva “simplemente se encargará de la amenaza”, esa es una rudimentos errónea. Trataremos este tema con decano profundidad, pero hay una razón muy simple y practicable de entender por la cual la IA defensiva por sí sola, como los SEG basados en modelos de ML, no son suficiente protección: la carrera del educación.
¿Qué queremos proponer con esto? Los modelos de educación forzoso de seguridad del correo electrónico deben aceptar datos de entrenamiento supervisados (correos electrónicos marcados por humanos) para conocer nuevos exploits. Sin confiscación, como sabemos, los atacantes siempre tienen la iniciativa y con la IA pueden innovar con una novedad y una velocidad sin precedentes. Este simple hecho significa que los SEG de IA defensivos nunca alcanzarán los exploits ofensivos de la IA. El resultado es una brecha peligrosa: lo que llamamos la brecha de seguridad del correo electrónico de la IA.
La carencia de IA + inteligencia comprobada por humanos a escalera
Para combatir las campañas de phishing generadas por IA, se necesita un enfoque multifacético que aproveche tanto la IA/ML como el poder de la inteligencia humana a escalera. Si proporcionadamente los SEG basados en modelos y otras tecnologías avanzadas pueden ayudar a detectar y detener estos ataques sofisticados, no se puede tener lugar por parada el papel fundamental de la inteligencia examinada por humanos. Los seres humanos tienen poco que ninguna aparejo de seguridad de IA nunca tendrá: conocimiento contextual institucional y de persona a persona de la comunicación frecuente frente a la anómala.
Cofense comprende el poder de la inteligencia humana a escalera y, hace más de una plazo, comenzó a construir lo que hoy es la red mundial más conspicuo (y única) del mundo con más de 35 millones de empleados capacitados que informan sobre amenazas sospechosas las 24 horas del día, los 7 días de la semana, los 365 días del año. Estos informes son, por definición, conjuntos de datos diversos porque siempre y sólo se basan en correos electrónicos que eluden los SEG, incluidos los AI SEG.
Aprovechando la inteligencia humana diversa derivada de esta red, Cofense ofrece sólidos programas de capacitación en concientización sobre seguridad basados en escenarios de amenazas reales para permitir a los clientes capacitar a sus empleados sobre las últimas amenazas de phishing.
Pero la formación es sólo la primera dormitorio del rompecabezas. La decisión de detección y respuesta de phishing (PDR) de Cofense corrige rápidamente las amenazas con inteligencia diversa derivada de los correos electrónicos reportados por sus empleados combinados con inteligencia colectiva de nuestra red mundial de informes. Nuestros expertos forenses en phishing realizan una investigación humana en profundidad, combinada con examen automatizados utilizando AI/ML, y alimentan la plataforma PDR con inteligencia de amenazas SEG-miss única que presenta casi cero falsos positivos.
Más allá del filtrado en dirección a la papeleo de riesgos
Si aceptamos que los atacantes impulsados por IA siempre estarán algunos pasos por delante incluso de los SEG de IA mejor capacitados, y que los correos electrónicos maliciosos llegarán, entonces someter el tiempo de permanencia con remediación automatizada no es suficiente. El aventura de compromiso requiere que los equipos de seguridad realicen una papeleo de riesgos continua, lo que requiere inteligencia profunda sobre los fallos de SEG. Es por eso que la inteligencia de phishing de Cofense es tan valiosa: ayuda a su equipo a resolver el aventura de forma eficaz.
Obtenga inteligencia examinada por humanos a escalera
Ahora estamos en la era del phishing de IA. La sinergia entre la IA y el conocimiento humano es primordial en la batalla en curso para amparar la información confidencial y mitigar esta decano amenaza.
¿Quiere obtener más información sobre cómo cerrar la brecha de seguridad del correo electrónico con IA? Póngase en contacto con nosotros hoy.
