Prototipo de software para la detección de contenido perjudicial en dispositivos de menores de edad mediante redes neuronales profundas de procesamiento de lenguaje natural

Abstract

El propósito de esta investigación es poder informar y alertar a los padres y/o tutores de un menor de edad cuando estos estén accediendo o brindando algún tipo de información que pueda comprometer su seguridad y pueda ponerlos en peligro; esto teniendo en cuenta la gran cantidad de casos de ciber acoso que se pueden presentar en un año; desde la oficina de seguridad cibernética de la Policía nacional de Colombia aseguran que durante el 2022 se presentaron 8.981 casos de ciberacoso. (Rico muñoz, 2022).Ante este antecedente, inicia la investigación de tipo descriptiva correlacional – cualitativa que busca desarrollar una herramienta tecnológica que permitan a los padres o responsables del menor recibir alertas si la actividad en línea de sus hijos se ve comprometida de manera insegura. El presente proyecto propone el desarrollo de un prototipo de software capaz de detectar señales de alerta en la comunicación en línea de los menores cuando están en chats, en grupos, redes sociales y mensajes de texto, brindando a los padres una herramienta necesaria para proteger a sus hijos. Para llevar a cabo esta investigación, es crucial identificar las variables que permiten evaluar la relación entre el desarrollo de la herramienta tecnológica y su efectividad en la protección de los menores contra el ciberacoso. Entre estas variables se encuentran el tiempo total que los menores pasan en internet y la cantidad de ese tiempo que ocurre sin supervisión adecuada. También se investigará si existe una correlación entre el tiempo total en internet y el tiempo específico dedicado a chats y redes sociales. Además, se analizará cómo el tipo de comunicación que utilizan los menores afecta el número de alertas generadas por la herramienta, con el objetivo de determinar si ciertos tipos de comunicación están asociados a una mayor generación de alertas.

The purpose of this investigation is to be able to inform and alert the parents and/or guardians of a minor when they are accessing or providing any type of information that may compromise their safety and may endanger them; this taking into account the large number of cases of cyberbullying that can occur in a year; the cybersecurity office of the Colombian National Police assures that during 2022 there were 8,981 cases of cyberbullying. (Rico Muñoz, 2022). Given this background, it initiates the correlational-qualitative descriptive research that seeks to develop a technological tool that allows parents or guardians of the minor to receive alerts if their children's online activity is compromised in an unsafe way. This project proposes the development of a software prototype capable of detecting warning signs in the online communication of minors when they are in chats, groups, social networks and text messages, providing parents with a necessary tool to protect their children. To carry out this research, it is crucial to identify the variables that allow us to evaluate the relationship between the development of the technological tool and its effectiveness in protecting minors against cyberbullying. Among these variables are the total time that minors spend on the internet and the amount of that time that occurs without adequate supervision. It will also investigate whether there is a correlation between total time spent on the internet and specific time spent on chats and social networks. In addition, it will be analysed how the type of communication used by minors affects the number of alerts generated by the tool, with the aim of determining whether certain types of communication are associated with a greater generation of alerts.