Publicado:
8 de agosto de 2024
Tiempo de descifrar:
lección de 6 minutos
Escrito por:
Doriel Abrahams
El 14 de mayo, Google anunció que implementaría respuestas generadas por IA para complementar las respuestas de sus motores de búsqueda. AI Overviews debidamente animado, y en unos días, como cableado Lo resumió maravillosamente: “La función fue ampliamente objeto de burlas por producir respuestas incorrectas y, a veces, locas, como recomendaciones para ingerir piedras o hacer pizza con pegamento”. Google publicó un entrada en el blog admitiendo los problemas y detuvo el impulso.
Estaba tan entretenido, atónito y horrorizado como cualquiera por lo que una de las empresas más grandes del mundo había conseguido con esta nueva tecnología poderosa y significativa, sacrificando precisión y responsabilidad en la carrera por ser el primero.
Sin secuestro, lo que verdaderamente me llamó la atención fue que gran parte de la conversación posterior giró en torno a la carestia de precisión y seguridad. Porque hay un rama de personas que conozco asaz acertadamente a quienes no les importa en ilimitado la precisión o la seguridad. Y si acertadamente la carestia de hacerlo mejor que AI Insights y AI Recall de Microsoft hará (con suerte) que las empresas legítimas tengan cuidado con los nuevos usos de la IA, para los estafadores, lo suficientemente bueno es más que suficiente.
La precisión es, en última instancia, una cuestión de retorno de la inversión (ROI)
AI Insights fue un desastre de relaciones públicas para Google, pero esto oscurece el hecho de que la razón principal para preocuparse por la precisión es que está orientada a resultados. Esto significa que el objetivo del examen no es lo específico que obtienes al usar la IA, sino más acertadamente lo que puede hacer por ti, tus objetivos y tu negocio. Es un paso en un proceso, no su propio fin. Daré sólo algunos ejemplos para mostrar lo que quiero opinar.
- IA en chatbots para acelerar el servicio al cliente: Podría ser increíble, pero igualmente, si el bot no es lo suficientemente bueno, podría dar extensión a promesas vinculantes sobre servicios o devoluciones que la empresa nunca pretendió y que son costosas de cumplir.
- GenAI para acelerar la transporte: Si lo hace mal, podría estar gastando bienes valiosos enviando cosas equivocadas a lugares equivocados y no teniendo suficientes cosas correctas en los lugares correctos.
- GenAI analizando materias primas o productos terminados: Si es exacto, podría ser una excelente modo de certificar que las cosas sean como deberían ser. De lo contrario, solucionarlo podría resultar enormemente costoso.
- Compras conversacionales (IA brinda asesoramiento y facilita las compras, incluso posiblemente a través de un asistente de voz): increíblemente conveniente, siempre y cuando no se cometan errores sobre lo que un cliente quiere, dice o lo que verdaderamente quiere comprar al final. Corregir errores puede resultar costoso y provocar además pérdidas de aduanas en el futuro a extenso plazo.
Si GenAI no es lo suficientemente precisa, no vale la pena valer el peligro en este tipo de casos de uso, lo que significa que no es una tecnología procesable para muchas de las cosas que se están discutiendo. El lista de la precisión es stop.
Por otro costado, hay algunos casos de uso de cara al consumidor, a menudo cosas que consideramos “sólo por diversión”, donde la precisión es mucho menos importante porque no estás centrado en el resultado como en los casos que acabamos de analizar. describiendo sino más acertadamente en el resultado efectivo de GenAI. Conversaciones divertidas con personajes históricos, imágenes con fines ilustrativos o memes, tal vez productos digitales para usar en juegos. Aquí, lo suficientemente bueno es lo suficientemente bueno.
Las personas generalmente están dispuestas a realizar muchas rondas en estos casos de uso para obtener poco parecido a lo que desean y, por lo caudillo, no son demasiado precisas sobre el resultado deseado. Aquí está la cuestión: ningún de estos “suficientemente buenos” cambia las reglas del surtido para ninguna industria. Es bueno tenerlos. Por lo caudillo, hay poco o ningún billete sobre la mesa, y la precisión no es un problema porque simplemente no hay mucho en surtido en el resultado.
El fraude, como suele suceder, es diferente.
Los estafadores pueden aceptar un lista bajo
Con el fraude en ruta, hay mucho billete sobre la mesa. En los EE.UU, más de 12.500 millones de dólares se perdió en 2023 adecuado a un fraude en ruta denunciado. Por otra parte, el año pasado, el sector minorista mundial perdió $429 mil millones al fraude en los pagos. Los estafadores tienen todos los incentivos para seguir con su negocio desaseado.
El fraude es inusual porque está orientado a resultados, como los casos de uso empresarial que mencioné anteriormente. La cuestión es el billete que se puede robar, no cualquier cosa individual que la IA pueda crear. La IA es sólo una utensilio; usarlo es sólo un paso más en el camino de un estafador con destino a la monetización exitosa de un ataque.
Por otra parte, la precisión no es crucial. Los estafadores se centran en el retorno de la inversión. Entonces la pregunta es: ¿GenAI acelera las cosas lo suficiente como para que valga la pena usarlo, incluso si es inexacto? Hasta ahora, los indicios son que así es. Incluso si pienso sólo en las cosas que he administrado yo mismo usando GenAI, es evidente que estos beneficios son lo suficientemente lucrativos a escalera como para que valga la pena la inversión.
- Acelerar la creación de datos falsos, como lo hice aquí. Tomó tiempo, pero aun así fue relativamente rápido y casquivana.
- Deleitar un vídeo existente en un idioma diferente para uso en ingeniería social, como lo hice aquí. Fue rápido y sorprendentemente simple, abriendo potencialmente nuevas geografías lingüísticas al ataque.
- Creando un deepfake, como lo hice aquíque se puede utilizar en una amplia variedad de ataques. Nuevamente, es muy rápido, muy casquivana y muy adaptable.
Con todo esto, está acertadamente si no es valentísimo. No es necesario que funcione siempre; sólo necesita funcionar con suficiente frecuencia. Por el lamentable éxito de la estafa y el phishing, sabemos que es así. Una precisión disminución está acertadamente porque aún así puede crear una galardón reincorporación.
Los que luchan contra el fraude deben seguir estas tendencias
Por ahora, esto ocurre principalmente en el mundo de la ingeniería social y el phishing. Esto es parte del mundo del fraude en ruta, entre otras cosas porque da como resultado que haya más datos de cuentas robadas disponibles. Todavía hay un sorpresa en sujeción, porque una longevo ofrecimiento generalmente significa precios más bajos. Eso, a su vez, significa que es más rebajado comprar identidades y, por lo tanto, perfeccionar un ataque (que generalmente requiere hartar algunas identidades como pruebas) se vuelve más asequible. Sin secuestro, por ahora, el sorpresa es pequeño.
Los que luchan contra el fraude deben ser conscientes y seguir estas tendencias porque las limitaciones pueden volverse mucho menos restrictivas con el tiempo. Cuanto más evoluciona GenAI, más probable es que los estafadores sin experiencia técnica puedan utilizar interfaces sin código o con poco código para optimizar sus ataques de numerosas maneras. (Esto lo hace más rebajado desde el principio porque ya no necesitan pagarle a un codificador para que les escriba el asunto). Por ejemplo:
- Si el phishing y la ingeniería social se vuelven lo suficientemente efectivos a una escalera suficientemente egregio, los intentos de apropiación de cuentas podrían dispararse.
- Si este tipo de información de la cuenta puede ser robada yuxtapuesto con más información sobre la huella digital de un favorecido (navegador, dispositivo, configuración, etc.), identificar las apropiaciones de cuentas podría volverse más difícil incluso para los equipos que actualmente se encuentran cómodamente encima de este problema.
- Escribir programas para automatizar la búsqueda de identidades y la comparación de proxies como parte de un ataque podría volverse accesible para cualquiera, incluidos los estafadores sin habilidades de ingeniería de software.
- Automatizar la actividad de navegación web podría resultar igualmente casquivana y ampliamente accesible.
Una vez más, los estafadores no necesitarán un stop nivel de precisión. Sólo necesitarán que sea lo suficientemente bueno. Si los equipos de prevención de fraude no están preparados, es posible que un ataque no necesite mucho para ser lo suficientemente bueno.
Doriel Abrahams es el tecnólogo principal de Forter, donde monitorea las tendencias emergentes en la lucha contra los estafadores, incluidas nuevas redes de fraude, MO atacantes, tecnologías en mejora, etc. Su representación es proporcionar a los líderes del comercio digital la información de peligro más flamante para que puedan adaptarse y obtener por delante de lo que está por venir.
