Confianza y confidencialidad, el papel de la IA en las actividades financieras

Abstract

Las inteligencias artificiales (IA) generativas se han convertido en parte de nuestras vidas de manera acelerada, prácticamente en todos los aspectos personales y laborales: se consultan por temas de salud, recetas e información básica, incluso en servicios financieros. En 2025, la University of Melbourne y KPMG realizaron un estudio en el que establecieron que el 66% de la población mundial utiliza IA de manera regular. En el mismo año, la U.S. Government Accountability Office (GAO) emitió un informe en el que describe que, en el ámbito financiero, la IA se usa para decisiones de crédito, evaluación de riesgo, inversión y atención al cliente, generando beneficios como eficiencia y personalización, pero también riesgos relacionados con privacidad, sesgos y confianza del público (U.S. Government Accountability Office, 2025). Marmolejo-Ramos et al. (2025) analizaron la confianza en decisiones algorítmicas y examinaron su relación con variables como alfabetización estadística y familiaridad con algoritmos. Sus resultados sugieren que las decisiones asistidas por IA pueden percibirse como menos confiables que aquellas en las que interviene un humano y que dicha percepción varía según el nivel de conocimiento del usuario. Los empleados del sector financiero también hacen parte de este proceso, pues ya utilizan estas herramientas en sus actividades para realizar consultas, resolver inquietudes, buscar información técnica o legal, resumir reuniones, generar borradores de correos y revisar propuestas financieras. No obstante, aunque este uso puede ser frecuente, persisten inquietudes sobre si las IA generativas son confiables y si es seguro compartir información sensible sin incurrir en riesgos. El banco sobre el cual se realizará el estudio de caso cuenta con equipos especializados por área y plataformas técnicas robustas. Actualmente se está incursionando en el uso de IA generativa y se evalúa la relación entre oportunidad y riesgo. Si bien su uso puede asociarse con eficiencias en análisis financiero y optimización de procesos internos, algunos colaboradores manifiestan preocupación por exponer información en estas herramientas, especialmente cuando se trata de datos personales, información confidencial de clientes o información financiera en entornos externos. En Colombia y de manera particular en entidades financieras como la de nuestro caso de estudio, no se identifican estudios que evalúen cómo los empleados hacen uso de las IA generativas o el nivel de confianza que tienen en ellas al momento de ingresar información que pueda considerarse sensible o confidencial. De igual forma, no es claro el grado de riesgo percibido al usar estas herramientas, entendiendo que los bancos hacen parte de un sector donde la confidencialidad es un factor clave en el manejo de la información. Lo anterior permite evidenciar una brecha: aunque el avance tecnológico se incorpora de manera acelerada en la vida cotidiana, la seguridad y la confianza en estas tecnologías emergentes no es plena. En decisiones financieras, que afectan directamente a las personas, podría existir una percepción de menor confiabilidad, más aún en entornos donde el fraude y la suplantación son riesgos frecuentes. En esa línea, Orbán y Stefkovics (2025) encontraron que las decisiones financieras asistidas por IA suelen percibirse como menos confiables que aquellas con intervención humana, y que esta tendencia puede variar según el nivel de conocimiento del usuario y su preocupación por la privacidad. En este sentido, es importante que el banco objeto de estudio entienda el comportamiento y la percepción de sus colaboradores frente al uso de IA generativa, con el fin de usar esta información para el diseño de lineamientos internos, determinar ámbitos de uso y fortalecer la capacitación, sin poner en riesgo información sensible y/o confidencial.

Generative artificial intelligence (AI) has rapidly become an integral part of our lives, permeating virtually every personal and professional aspect: it is consulted for health advice, prescriptions, and basic information, even in financial services. In 2025, the University of Melbourne and KPMG conducted a study that established that 66% of the world's population uses AI regularly. That same year, the U.S. Government Accountability Office (GAO) issued a report describing how, in the financial sector, AI is used for credit decisions, risk assessment, investment, and customer service, generating benefits such as efficiency and personalization, but also risks related to privacy, bias, and public trust (U.S. Government Accountability Office, 2025).

Marmolejo-Ramos et al. (2025) analyzed trust in algorithmic decisions and examined its relationship with variables such as statistical literacy and familiarity with algorithms. Their results suggest that AI-assisted decisions may be perceived as less reliable than those involving a human, and that this perception varies depending on the user's level of knowledge. Employees in the financial sector are also part of this process, as they already use these tools in their work to conduct inquiries, resolve concerns, search for technical or legal information, summarize meetings, generate email drafts, and review financial proposals. However, although this use may be frequent, concerns persist about whether generative AI is reliable and whether it is safe to share sensitive information without incurring risks. The bank where the case study will be conducted has specialized teams for each area and robust technical platforms. It is currently exploring the use of generative AI and evaluating the relationship between opportunity and risk. While its use can be associated with efficiencies in financial analysis and optimization of internal processes, some employees express concern about exposing information to these tools, especially when it involves personal data, confidential customer information, or financial information in external environments.

In Colombia, and particularly in financial institutions like the one in our case study, no studies have been identified that evaluate how employees use generative AI or the level of trust they have in it when entering information that could be considered sensitive or confidential. Similarly, the degree of perceived risk when using these tools is unclear, given that banks are part of a sector where confidentiality is a key factor in information management. This highlights a gap: although technological advancements are rapidly being incorporated into daily life, security and trust in these emerging technologies are not yet complete. In financial decisions, which directly affect people, there may be a perception of lower reliability, especially in environments where fraud and identity theft are frequent risks. Along these lines, Orbán and Stefkovics (2025) found that AI-assisted financial decisions are generally perceived as less reliable than those with human intervention, and that this trend can vary depending on the user's level of knowledge and their privacy concerns.

In this sense, it is important that the bank under study understands the behavior and perception of its employees regarding the use of generative AI, in order to use this information for the design of internal guidelines, determine areas of use and strengthen training, without putting sensitive and/or confidential information at risk.