La IA generativa ha llegado a casi todos los campos, incluido el fraude en tilde. Si ha estado leyendo los mismos artículos e informes que yo he erudito durante el postrero año y medio, habrá recibido una gran cantidad de material que se sitúa entre el pesimismo y la hado.
Si analizamos lo que está sucediendo en las primeras líneas del fraude hasta el momento, debemos seguirle el vestigio. Pero asimismo debemos proseguir una perspectiva equilibrada porque hasta ahora no veo ninguna embeleso, y eso es maravilloso.
Los estafadores nunca temen que la IA “les quiebro el trabajo”
En otras industrias, a la concurrencia le preocupa que la IA les quiebro el trabajo. Los estafadores nunca se preocupan por eso. El objetivo de un estafador es obtener la máxima fruto financiera posible con el reducido esfuerzo posible. En otras palabras, se proxenetismo de ROI. Si la IA permite robar lo mismo, o incluso más, con menos trabajo por parte del estafador, ese es el premio longevo del criminal.
Es por eso que vemos a los estafadores adoptar con entusiasmo la IA para facilitar cosas como la creación de correos electrónicos y mensajes de phishing convincentes, permitir que los estafadores se expandan a múltiples idiomas con facilidad (no, no aprendí francés; hacerlo por mí fue un deepfake), mejorar y automatizar estafas a través de chatbots y transporte instantánea, y acelerar la creación de malware. Incluso los malos actores sin conocimientos técnicos pueden utilizar ChatGPT y similares para ampliar sus ataques y hacerlos más sofisticados. Zscaler descubrió un aumento del 60 % en los ataques de phishing en 2023. Eso no es poco que pueda ignorar.
como el Sección del Fortuna de EE. UU. dijo en marzo: “Las ciberamenazas complejas y persistentes continúan creciendo… La IA generativa puede ayudar a los actores de amenazas existentes a desarrollar y pilotear malware más sofisticado, brindándoles capacidades de ataque complejas que ayer solo estaban disponibles para los actores con mejores posibles. Igualmente puede ayudar a los actores de amenazas menos capacitados a desarrollar ataques simples pero efectivos”.
La IA generativa agiliza el fraude, pero no cambia el conjunto
La IA generativa puede ser amiga del estafador. No estoy descartando las preocupaciones legítimas al respecto ni la obligación de estar atento a cómo está evolucionando en manos de los delincuentes (así es como justifico sobrevenir tanto tiempo experimentando con GenAI para ver qué podría hacer si fuera un defraudador y comprobar lo que los defraudadores están discutiendo entre ellos).
Dicho esto, el impacto es prohibido. La IA generativa a veces puede parecer mágica, pero no lo es. No crea poco de la nadie. El estafador aún necesita pensar y analizar para encontrar las grietas en la armadura de un sitio que hacen posible un ataque de fraude exitoso. Esto requiere mucho tiempo y es difícil.
En este sentido, los estafadores son similares a los piratas informáticos que explotan vulnerabilidades: una estudiar demostró que si a un agente de LLM se le enseñara sobre vulnerabilidades y exposiciones específicas, podría tener éxito en un ataque el 87% de las veces. Pero cuando no se le dio ese manual, solo tuvo éxito en un 7%. Lo mismo ocurre con los estafadores; el arduo trabajo de encontrar las debilidades y planificar el ataque lleva tiempo y aún debe ser realizado por humanos.
Una vez que haya un plan, GenAI seguramente pasará a primer plano para automatizar el ataque. Generará datos falsos para el ataque, pero solo siempre que exprese las cosas correctamente; es cierto, como me mostréNo se necesita ingeniería compleja y rápida para que esto suceda, pero lleva tiempo. Y si necesita realizar pruebas 50 veces para encontrar la forma correcta de atacar, todavía se utilizarán 50 conjuntos de datos de identidad, ya sean falsos o robados. Si se proxenetismo de ingeniería social, desarrollará un tema colchoneta o traducirá cosas.
Estas son todas las cosas que los estafadores han estado haciendo durante abriles. La IA generativa los hace más rápidos, más fáciles y más abiertos a delincuentes con experiencia mínima. Pero no es embeleso. Es sólo la sucesivo etapa en la misma carrera armamentista.
La prevención del fraude sigue el ritmo
Es posible que los estafadores se estén adaptando para incorporar GenAI en sus ataques, pero los que luchan contra el fraude asimismo están mejorando su conjunto GenAI.
Como dice el Fortuna en el mismo referencia: “La mayoría de las instituciones están evaluando nuevas tecnologías de inteligencia industrial para mejorar las actividades principales de negocios, clientes y gobierno de riesgos. La integración de la IA ofrece al sector una longevo eficiencia, precisión y adaptabilidad, así como el potencial de alentar la resiliencia de los sistemas, datos y servicios de las instituciones”.
En Forter lanzamos recientemente Perspectivas de IA como parte de nuestro estudio de datos para que nuestros usuarios puedan hacer preguntas sobre patrones y números de negocios, clientes, pagos y fraude a partir de sus propios datos y obtener respuestas al instante desde un panel personalizado generado automáticamente. Esto facilita mucho el descubrimiento de patrones de fraude y exageración.
Por ejemplo, si estás empezando a prepararte para la temporada navideña de 2024 y quieres reflexionar sobre el año pasado, puedes pedirle al maniquí que te muestre cómo te fue en el Black Friday o Cyber Monday de 2023, segmentado por datos de suscripción u otro filtro. . Luego, el maniquí generará un panel que proporciona una descripción normal del desempeño del Black Friday, incluidas aprobaciones, rechazos y tasas de contracargos por métodos de suscripción. El maniquí no le dirá qué hacer, lo que facilita mucho ver las tendencias y la información que necesita para un estudio procesable.
No hace yerro afirmar que la IA asimismo ha sido esencia para la detección y prevención eficaces del fraude desde hace abriles. Esa tecnología no se está quedando a espaldas, ciertamente en Forter, ahora que la IA se ha vuelto generativa.
Mirando con destino a a espaldas, mirando con destino a delante: la carrera armamentista continúa
Han pasado aproximadamente 18 meses desde que se lanzó ChatGPT y de la tinieblas a la mañana se convirtió en el principal tema de discusión. Ha pasado suficiente tiempo para que los estafadores y los que luchan contra el fraude exploren el potencial de la IA tal como es ahora. Creo que podemos mirar a espaldas al revuelo y respirar un poco.
Hay un impacto, pero la naturaleza del conjunto no ha cambiado. Algunas cosas son más rápidas y fáciles, pero eso se aplica tanto a los estafadores como a los que luchan contra el fraude. La GenAI no es mágica. (Sin requisa, de todos modos.) Hasta ahora, nos ayuda a tomar lo que tenemos y hacerlo más rápido, más manejable y más automatizado en algunas áreas.
Adecuadamente puede ser que GenAI acelere las cosas. Por ejemplo, el hecho de que haya más malware para robar información podría significar que hay más identidades robadas en el mercado para comprar. Usar esas identidades robadas podría ser más manejable en términos de velocidad y barrera de entrada. Etcétera. Es demasiado pronto para afirmar hasta qué punto este impacto se disparará y hasta qué punto será contenido por otras limitaciones que requieren la batalla, el pensamiento y la billete humana.
No sé qué vendrá luego, por eso sigo siguiéndolo tan de cerca y con tanta fascinación. ¿Los agentes de IA pronto nos permitirán controlar todas las aplicaciones de nuestros dispositivos móviles a través de asistentes de voz, abriendo opciones para ataques de fraude y automatización en dispositivos móviles que ayer solo eran posibles en la web? ¿Las estafas de phishing en extremo adaptadas y personalizadas se convertirán en poco a lo que estemos expuestos todos los días? ¿Entrará en este campo una nueva ola de estafadores simplemente porque la barrera de entrada es ahora tan desvaloración?
Seguiré compartiendo lo que encuentre. Sin requisa, por ahora, desde mi perspectiva, el fraude GenAI es el mismo fraude contra el que he estado luchando durante más de una lapso. Sólo tiene un conjunto de ruedas levemente mejor. Está adecuadamente porque nosotros asimismo lo hacemos.
Doriel Abrahams es el tecnólogo principal de Forter, donde supervisa las tendencias emergentes en la lucha contra los estafadores, incluidas nuevas redes de fraude, MO atacantes, tecnologías en progreso, etc. Su empresa es proporcionar a los líderes del comercio digital la información de peligro más flamante para que puedan adaptarse y obtener por delante de lo que está por venir.