Hoy veremos cómo The Fraud Explorer junto con FraudGPT analizaron una conversación corporativa que se dió en el contexto de una negociación en el área de compras de una organización multinacional. Un día cualquiera, uno de los negociadores del área se comunicó por WhatsApp con uno de los proponentes de un proceso de contratación que estaba llevando a cabo su empresa y le propuso una “operación” para un “gana-gana”.
FraudGPT es la inteligencia artificial generativa (modelo LLM) que ha entrenado NOFRAUD con más de 100 mil casuísticas de actos anti-éticos.
The Fraud Explorer, con sus agentes y consola de analítica, recaudaron la conversación en tiempo real y la pasaron por su algoritmo del triángulo del fraude. Este algoritmo analizó la conversación y verificó si cumplía con las condiciones de “sospecha” para pasarla a FraudGPT para llevar a cabo un razonamiento.
La conversación en tiempo real
Una de las primeras cosas que hizo el algoritmo de The Fraud Explorer (sin inteligencia artificial) fue determinar si existieron expresiones relacionadas con la teoría del triángulo del fraude en esa conversación, y en caso de que sí, las memorizaría, las señalaría, las clasificaría y generaría unos registros con información de valor a partir de esos datos. La conversación del caso fue:
El razonamiento de FraudGPT
FraudGPT es un modelo de lenguaje natural basado en IA generativa que fue entrenado para entender la casuística de los comportamientos anti-éticos que se dan al interior de una organización. Un modelo LLM genérico no está entrenado de fabrica para razonar sobre conversaciones, porque su entrenamiento no se realizó con este tipo de datos (por privacidad), sino que se dio con otro tipo de datos (por ejemplo, con los de Wikipedia).
Fue tarea de NOFRAUD enseñarle “cómo conversan los humanos” en un ambiente corporativo a la IA Generativa y mostrarle qué terminología usan en cada área de la organización. Veamos un ejemplo de cómo razonaría un LLM normal, sin entrenar, ante la conversación que estamos presentando:
La IA Generativa no sabe qué es el “cvy”, porque como indicamos anteriormente, ese tipo de terminología se ve solamente en conversaciones donde una persona está tratando de pedir algo (generalmente dinero) a cambio de un favor. En nuestra terminología antifraude un “cvy” traduce “cómo voy yo”, que significa en palabras entendibles “qué me vas a dar a mi”. En este análisis se observa que la IA Generativa se equivoca al pensar que “cvy” es la abreviatura de “costo de vida”, dañando totalmente su interpretación.
Con nuestro LLM FraudGPT, ya entrenado con más de 100 mil casuísticas de expresiones anti-éticas, cambió totalmente el razonamiento de la conversación, indicando correctamente que se trató de pedir una comisión a cambio de dejarlo ganar con su cotización, como observamos a continuación:
Todo el proceso de alertamiento
Vamos a resumir aquí todo lo que pasó para poder generar una alerta a partir de la conversación que está teniendo el colaborador en ambiente corporativo con un potencial proveedor. Vamos a enumerar los puntos para que coincidan con los de la imagen al inicio de éste artículo (del 1 al 10).
- Implementación de The Fraud Explorer: la empresa implementó el software antifraude y seleccionó a todas las personas del departamento de compras y abastecimiento para el monitoreo. Esto quiere decir que estas personas tenían el agente antifraude instalado en los dispositivos que usaban en la empresa (PC, Mac, Android, Tabletas o Teléfono Fijo). El algoritmo del triángulo del fraude fue construido para que entendiera, de una manera independiente y específica la terminología usada en varias áreas de una organización, esto significa que el algoritmo no funciona igual si analiza personal de compras a si analiza personal de tesorería.
- Identificación de riesgos: una vez analizada la conversación, el algoritmo del triángulo del fraude (todavía no FraudGPT) identificó si existían riesgos y cuáles eran. En este caso, identificó riesgos financieros, comerciales, de proveedores, riesgos en contratos y riesgos de ocultamiento.
- Almacenamiento de las frases del triángulo del fraude: el algoritmo identificó en la conversación qué frases hicieron “match” con los vértices del triángulo del fraude. En este caso, identificó que existieron 4 frases y las clasificó como 3 de oportunidad y 1 de presión. El algoritmo se basó en un conjunto de datos de tipo “léxico” que previamente NOFRAUD construyó manualmente sin ayuda de IA.
- Generación de la probabilidad de fraude: basados en la conversación y en la identificación de frases del triángulo del fraude, el algoritmo hizo un cálculo interno que no solamente tuvo en cuenta la ocurrencia de frases, sino también su relevancia y su tono. En este caso, el algoritmo (sin el uso de FraudGPT aún) clasificó esta conversación como sospechosa en un 77%.
- Comportamientos de presión: como primer vértice del triángulo el fraude, la presión hace referencia a esas situaciones donde un colaborador se ve forzado a actuar de alguna manera, generalmente no ética, para solucionar un problema. En esta conversación la situación de presión estuvo relacionada a la frase “lo que tenés que hacer es pasar la tuya por un precio más bajo”.
- Comportamientos de oportunidad: la teoría indica que las personas que tienen problemas, encuentran oportunidad para solucionarlos. En este caso, la oportunidad se expresó a través de las frases “no está de más recordarte el cyv de todo este proceso”, donde el colaborador trató de aprovechar una ventaja de acuerdo a su posición de negociador.
- Comportamientos de justificación: las personas racionalizan sus comportamientos justificándose a si mismos como buenas personas que están pasando por un mal momento. A partir de allí pueden nacer expresiones como “me pagas en efectivo para que no quede trazabilidad”, donde mas o menos se puede interpretar como el intento de ocultamiento de toda la operación para que a nadie le aparezca que fue fraude.
- Tópicos y temáticas de la conversación: para efectos de una correcta clasificación, es necesario que en la conversación queden correctamente identificados los temas sobre los cuales se están hablando. En este caso el algoritmo identificó (sin ayuda de FraudGPT aún) que se está hablando de pagos, de cotizaciones, de proveedores, de precios y de procesos. Con esta información el algoritmo empezó a tener datos de mucho valor, porque ya no solo tenía identificadas las frases de triángulo del fraude sino que también supo de qué se estaba conversando.
- Comportamientos expresados: una cosa es el triángulo del fraude, que puede usarse para identificar frases de presión, oportunidad y justificación y otra muy diferente es detectar qué tipo de comportamientos están presentes en una conversación. En este caso, el algoritmo (sin ayuda de FraudGPT) encontró que en la conversación existieron sentimientos de riesgo, de ventajas, de peticiones y ocultamiento.
- Razonamiento automático: aquí es donde entró por primera y unica vez FraudGPT en todo este proceso de generación de la alerta. Antes de la aparición de los LLM, el personal humano de NOFRAUD era el encargado de realizar un primer análisis de las alertas, antes de considerarse útiles para la prevención y detección del fraude. Ahora, esta tarea se la hemos delegado a FraudGPT, un LLM que NOFRAUD ha entrenado para la labor. En este caso el LLM razonó y dedujo con bastante precisión que realmente se trataba de una alerta pertinente y no un falso positivo.
Existen otras cosas que ocurren antes y después de generar una alerta (como el algoritmo de privacidad e intimidad, de tonos, de selección semántica de datos) que no trataremos en este artículo, sin embargo, es importante mencionar que el proceso fue un poco más complejo de lo que se muestra hoy en este artículo.
Velocidad en la detección del fraude
Como se pudo ver en el artículo de hoy, The Fraud Explorer, junto con FraudGPT fueron protagonistas a la hora de detectar y quizás prevenir un fraude en el departamento de compras relacionado con la colusión. El cliente que se benefició de esta alerta implementó The Fraud Explorer en su organización en menos de 1 mes y pasados 15 días de iniciado el proyecto ya la tenía en sus manos.
Tenemos una frase que nos gusta mucho decir y es: “antes de que el perpetrador termine de hablar o de escribir, ya se ha generado una alerta de fraude“. Estás preparado para esta velocidad ?
Referencias
(Triángulo del Fraude, 2024) The Other’s Money, Donald Cressey
Acerca de NOFRAUD
NOFRAUD es la compañía que desarrolla el software antifraude The Fraud Explorer y apoya a personas y empresas a enfrentar y solucionar sus retos en materia de fraude interno, corrupción y abuso corporativo. NOFRAUD ha creado la base de datos conductual de actos deshonestos más grande del mundo en Español e Inglés, que sirve para que la inteligencia artificial encuentre patrones sospechosos de corrupción al interior de las organizaciones.
Mejoramos la capacidad de las organizaciones incrementando sus beneficios, arrebatándole a los perpetradores la posibilidad de afectar negativamente los ingresos a través del fraude, la corrupción, el abuso corporativo y la generación de ambientes tóxicos.
Contacte conmigo en » jrios@nofraud.la y Visítenos en » www.nofraud.la.
