El resonante y diverso ecosistema criminal en rasgo, con sus mercados, foros, aplicaciones y servicios, a veces me parece una verdadera sombra de Internet cuando exploro sus callejones. Parece que puedes comprar cualquier cosa por un precio arreglado si miras lo suficiente (odio decirte esto, pero prácticamente puedes).
A veces, eso puede resultar abrumador si estás del flanco de los ángeles, pero recientemente me he hexaedro cuenta de que incluso es una afición en el flanco criminal ahora que la IA generativa está en cuadro.
Fraude como servicio práctico y elegante
El ecosistema criminal en rasgo se divide en áreas de especialización. Algunos delincuentes son expertos en crear scripts para llamadas o chats fraudulentos, por ejemplo, mientras que otros tienen amplia experiencia en la creación de scripts automatizados para acelerar el flujo de pasos necesarios para un ataque a un sitio de comercio digital.
Otros pueden ser excelentes creando malware por encargo, mientras que otros aún centralizan y organizan datos de identidad robados o ingresan cuentas pirateadas para determinar su valencia, de modo que otros estafadores puedan tomar decisiones de transacción informadas sobre a qué cuentas pirateadas desean comprar acercamiento. Aún así, otros brindan servicios de custodia para ayudar a cubrir el hecho de que los delincuentes (con razón) no confían entre sí. Etcétera.
Esta es una preeminencia considerable para los delincuentes, ya que les brinda acercamiento a conocimientos, habilidades y aplicaciones que van mucho más allá del difusión de cualquier estafador. Significa que el ecosistema ha evolucionado hasta alcanzar un parada nivel de sofisticación porque aquellos que se centran en áreas específicas pueden arribar a ser muy buenos en ellas, un beneficio que otros delincuentes pueden explotar.
Esta configuración ha estado vivo durante más de una término y su escalera solo ha aumentado con el tiempo. Sin retención, finalmente me he hexaedro cuenta de que no se está convirtiendo en una preeminencia cuando se comercio de IA generativa de la forma que esperaba.
La división del trabajo evita un éxito fortuito
Intuitivamente, habría esperado que la sofisticación del ecosistema de fraude como servicio se convirtiera en la pesadilla de quienes luchan contra el fraude una vez que la IA generativa irrumpiera en cuadro. Como he escrito en otra parte, hay muchas maneras en que LLM aumentar la velocidad y la escalera de las operaciones de fraude existentes.
Pero correcto al enfoque de divide y vencerás que el Fraude como Servicio ha incorporado, las cosas no son así.
Tomemos como ejemplo un ataque a un sitio de comercio electrónico. Los estafadores tienen que explorar nuevos sitios objetivo y recorrer el flujo de transacción poco a poco, examinando vulnerabilidades y descubriendo trampas colocadas para detectarlas, como controles de velocidad, bloqueos de IP, evaluación de la velocidad de navegación o desplazamiento, etc. para descubrir cómo evitar tales trampas.
Ponen a prueba su ataque quemando identidades hasta que llegan a un cuota exitoso y saben que han contrario un camino seguro para cobrar con su ataque. Sólo una vez que han llegado a este punto se ponen en contacto con un codificador criminal para que automatice el camino que encontraron para poder usarlo a escalera y velocidad.
Una vez que tienen el script automatizado, solo tienen un número prohibido de ejecuciones hasta que los sistemas de fraude lo detecten, aunque cuán prohibido depende del sistema implementado y no saben de antemano cuál será el orilla. Una vez que han maximizado ese truco, tienen que iniciar de nuevo, intentando nuevas variaciones, que serán llevadas a un codificador para que las automatice cuando estén listas.
Para adicionar un poco más de complejidad a este proceso, los codificadores criminales a menudo se separan intencionalmente de cualquier contacto con información actual robada, negándose a cargarla en sus scripts o a ser parte de ello. Es una forma de protección personal o invalidez, si se prefiere. Entonces ese es un paso adicional para el estafador.
La IA generativa no está cerrando la brecha
Supuse que la IA generativa sería un gran paso para avivar este proceso, encontrar nuevas vulnerabilidades como rayos y explotarlas el mismo día o incluso más rápido. Pero ese no es el caso. Primero, GenAI lucha por explotar vulnerabilidades sin orientacióny segundo, la preservación de la especialización entre diferentes áreas del ámbito del fraude significa que los conocimientos e incentivos relevantes no se combinan.
Los programadores no están incentivados a ser creativos para encontrar nuevas áreas de explotación o encontrar formas de mejorar GenAI porque eso no es parte de su proceso presente. Construyen por encargo; no cazan. Por otro flanco, aquellos que se vuelven creativos a la hora de encontrar exploits generalmente no son los que están acostumbrados a trabajar en la automatización.
Pueden usarlo para avivar sus partes del proceso, como haciendo datos falsos o encontrar direcciones IP que coincidan con la dirección de facturación de un conjunto de tarjetas de crédito que tienen, pero si proporcionadamente esto acelera un poco las cosas, no elimina el esfuerzo principal del proceso descrito anteriormente.
Excepción: phishing
Aquí hay una excepción importante que quiero señalar, aunque no profundizaré en ella en detalle en este artículo. El phishing no está protegido por la división del trabajo que he comentado aquí. Todo lo que necesita para explotar GenAI para modernizar sus ataques de phishing es el conocimiento primordial de cómo utilizar los LLM en gran medida intuitivos que todos ya conocemos y entendemos.
Los vídeos que he mencionado ayer son ejemplos de lo cierto que es esto. Fue impactante lo posible que fue conseguir una interpretación de mi vídeo en francésque no hablo. Podría haberlo hecho en gachupin, tudesco, sueco, lo que sea, con la misma facilidad. Muchos estafadores están haciendo precisamente eso. Esto significa que la audiencia a la que pueden atacar de repente es integral.
Hay mensajes de voz deepfake, de esos que se usaban para robar $25 millones recientemente y puede emplearse en diversos entornos de estafa profesionales y personales. Todavía está el formato de los mensajes de chat, que son igualmente vulnerables a la hora de aumentar el difusión y la extensión de los éxitos de las estafas. Engañar a las personas para que entreguen su información personal puede ser tan posible ahora como 1, 2, 3.
Mire este espacio…
Ésta es la situación presente. Más allá de la esfera del phishing y la estafa, el poderoso maniquí de fraude como servicio ha actuado, curiosamente, como una especie de creador retardador en el impacto de la IA generativa en el mundo del fraude en caudillo.
Si las plataformas de código bajo/sin código se vuelven omnipresentes internamente de la cuadro de codificación GenAI, todo esto podría cambiar en unos días. Sin retención, al menos por ahora, es bueno conocer que existe una preeminencia inesperada en la lucha contra el fraude en esta dominio. Como analista, me resulta satisfactorio comprender algunas de las razones de esto.
Sin retención, como analista de fraude, admito que tengo una pequeña voz de advertencia paranoica en el fondo de mi mente. No hay forma de conocer dónde estará todo esto internamente de seis meses, y mucho menos de un año. Estaré observando este espacio muy de cerca.
Doriel Abrahams es el tecnólogo principal de Forter, donde monitorea las tendencias emergentes en la lucha contra los estafadores, incluidas nuevas redes de fraude, MO atacantes, tecnologías en progreso, etc. Su representación es ofrecer a los líderes del comercio digital la información de peligro más nuevo para que puedan adaptarse y obtener por delante de lo que está por venir.