Publicado:
2 de agosto de 2024
Tiempo de estudiar:
repaso de 5 minutos
Escrito por:
Doriel Abrahams
En los últimos abriles, han aparecido artículos en todas partes sobre cómo la IA generativa como ChatGPT revolucionaría el fraude y cómo, esencialmente, el desastre del fraude estaba sobre nosotros. A esta mérito, creo que está claro que ese no ha sido el caso.
ya lo he explicado por qué la IA generativa no es mágicaY en este artículo quiero profundizar un poco más en sus limitaciones hasta el momento y en las áreas en las que representa una prosperidad significativa para los estafadores. Comprender por qué y cómo los estafadores utilizan los LLM hoy en día es un conocimiento esencial para los luchadores contra el fraude que quieren estar preparados para lo que depara el futuro.
Hacer un LLM sobre fraude es más difícil de lo que cree
Usar un LLM es tan obediente que no siempre es intuitivo recapacitar que la infraestructura detrás de la interfaz es todo menos simple. Sin bloqueo, tendría que crear uno si quisiera un LLM totalmente dedicado al fraude, porque los modelos legítimos nunca están diseñados para casos de uso de fraude o delictivos y tienen algunos bloques creados para evitar este tropelía.
Como he escrito antaño y profundizaré, hay muchas maneras de evitar estas protecciones. Pero si está considerando un LLM diseñado para ayudar a los estafadores, eso es poco completamente diferente. Los tipos de datos relacionados con actividades delictivas que se pueden obtener al utilizar datos de la red oscura como parte del conjunto de capacitación están fuera del trascendencia de las empresas legítimas.
Construir uno que incorpore esos datos requeriría un trabajo enorme y pesado para un colección criminal. Ni siquiera la NSA podría ocurrir desarrollado LLMdijo Gilbert Herrera, director de investigación de la Agencia de Seguridad Doméstico de EE.UU., porque “positivamente tiene que ocurrir multitud que tenga suficiente hacienda para una inversión de haber de decenas de miles de millones y [who] tener llegada al tipo de datos que pueden producir estas propiedades emergentes”.
El ecosistema de fraude es impresionante, pero no tiene ese tipo de trascendencia apto. La inversión, el tiempo, el trabajo y los gastos serían prodigiosos, especialmente si se consideran inversiones adicionales en funcionamiento y mantenimiento.
Adaptarse, no progresar
La dificultad y los gastos necesarios para crear un LLM centrado en el fraude desde cero son una parte esencial de por qué las predicciones catastróficas de hace aproximadamente un año no se han hecho verdad. Por otro costado, la IA generativa sin duda ha llegado al mundo del fraude y no es poco que ningún perseverante contra el fraude pueda darse el opulencia de ignorar.
Hay una gran cantidad de lo que yo llamaría superposiciones colocadas sobre los LLM legítimos existentes. Es como juntar una capa encima de poco como ChatGPT para cortocircuitar o evitar sus protecciones contra el crimen o acelerar procesos específicos. El proceso por el que pasé para persuadir a un LLM para que me diera datos falsos es poco que hice manualmente, pero se puede integrar en una superposición para acelerar y avivar el proceso. Las superposiciones incluso pueden ofrecer anonimato adicional al legatario fraudulento.
Algunas de estas superposiciones se han ofrecido como creaciones independientes. Aún así, cada vez que he investigado, resulta ser simplemente un velo colocado sobre un maniquí de IA generativo, probado y existente. Eso hace que parezca inocuo, pero me ha intrigado lo que se puede hacer con ese tipo de truco simple.
Profundice en los vídeos deepfake
Mira estos vídeos, por ejemplo. Sí, son todos de mí. ¡Hola! 👋 Quizás me recuerdes de éxitos como Encontrar un trabajo de lucha contra el fraude, 5 estafas en 5 minutos, En vivo desde MRC con Alexander Vestíbuloetcétera. Gracias, gracias, estaré aquí toda la semana.
El punto, sin bloqueo, es que hacer esos Que fraude? Los videos requirieron tiempo, pensamiento y ajuste. Son divertidos y me encanta hacerlo, pero son trabajo. Haciendo los vídeos que estoy a punto de compartir, no tanto.
- Aquí estoy yo pidiendo hacienda – este es un video positivo que hice yo mismo. Es el vídeo pulvínulo, por así decirlo, similar a los vídeos utilizados como núcleo de muchos intentos de estafa.
- Aquí estoy yo otra vez, esta vez pidiendo hacienda en francés. No, no hablo francés. Pero con una superposición de LLM, no hay nulo más obediente que convertir mi vídeo llamativo a un idioma diferente.
- Aquí estoy yo una vez más, y este video es aparente. Un deepfake, si quieres. Basado en el video llamativo, no puedo decirte lo obediente que fue hacerlo.
Veamos los casos de uso
Una vez que vea lo obediente que es crear los tipos de videos que acabo de compartir, podrá apreciar lo valiosa que es esta tecnología para todo tipo de estafas. Tenga en cuenta incluso cuántos vídeos muchas personas publican públicamente sobre sí mismas en las redes sociales y similares. Conseguir el material para un deepfake convincente, utilizando como minúsculo la voz de algún, suele ser trivial.
Usar un LLM para automatizar gran parte de un chat en andana es aún más sencillo. Cuando consideramos las estafas románticas, las estafas que pretenden que un amigo o un ser querido necesita hacienda de inmediato, estafas de liquidación de entradas para eventos deportivos o conciertos popularesestafas de phishing, compilación de datos personalesetc., podrá comprobar inmediatamente lo rápido y obediente que resulta todo para un estafador.
Como ya he demostrado, la creación de datos falsos puede seguir exactamente el mismo proceso. Las superposiciones simplifican el proceso y agilizan los pasos que tuve que seguir para convencer al LLM de que me ayudara sin darme cuenta de que estaba preparando el dominio para el fraude.
Por otra parte, como hemos discutido en el pasadopuede acelerar la creación de malwareincluso para personas sin experiencia técnica positivo, y incluso ayuda propagar malware más amplia y fácilmente.
A citarme a mí mismomientras La IA no es un buen instigador de fraude, sino un gran acelerador de fraude.
No subestimes las superposiciones
En última instancia, se alcahuetería de ROI. Los estafadores quieren robar la veterano cantidad de hacienda posible con el último esfuerzo posible. ¿Vale la pena crear un nuevo LLM dedicado a atender un caso de uso de fraude? No, no cuando los LLM existentes hacen un gran trabajo con algunos ajustes.
Esto explica por qué las funestas predicciones originales no se han cumplido. Los estafadores no están incentivados a cambiar en la creación de poco nuevo y revolucionario porque la inversión involucrada sería significativa y podría no funcionar como les gustaría. Por otro costado, el minúsculo esfuerzo aprovechando los modelos existentes les da un impulso positivo a la hora de racionalizar y ampliar sus trucos criminales.
Por un costado, es un alivio que los estafadores estén felices de seguir lixiviando los esfuerzos de otros para cobrar superioridad en la flagrante carrera armamentista entre ellos y los que luchan contra el fraude. Aún no hay revolución. Por otro costado, es estimulador darse cuenta de que la razón es que, por ahora, ya tienen todo lo que quieren.
Doriel Abrahams es el tecnólogo principal de Forter, donde monitorea las tendencias emergentes en la lucha contra los estafadores, incluidas nuevas redes de fraude, MO atacantes, tecnologías en medra, etc. Su delegación es proporcionar a los líderes del comercio digital la información de peligro más fresco para que puedan adaptarse y obtener por delante de lo que está por venir.
