La creación de identidades falsas, la difusión de contenido ofensivo y la escasa regulación dificultan tanto la detección temprana como el acompañamiento familiar. Expertos en seguridad informática y educación advierten sobre el crecimiento de estos episodios.
El avance de la inteligencia artificial en entornos digitales está generando nuevas formas de violencia que preocupan a especialistas, educadores y familias. En Argentina, los casos de ciberacoso potenciados por IA muestran un crecimiento sostenido, con niños, adolescentes y mujeres como principales víctimas. La manipulación de imágenes, la creación de perfiles falsos y el uso de bots para hostigar en redes sociales son algunas de las prácticas que se intensificaron en el último año.
Según datos relevados por la Licenciada en Comunicación Social y especialista en el tema Laura Bolognesi, los intentos de ciberataques en el país siguen creciendo y aún más los potenciados por la Inteligencia Artificial.
La especialista advirtió que “lo más frecuente es que se están generando imágenes falsas, incluso videos, por ejemplo con imágenes íntimas y el rostro de personas, las cuales se viralizan y se toman por reales”. Bolognesi remarcó que un estudio realizado en Singapur, en 2017 a 2023, identificaron que la IA incitaba a situaciones de violencia, acoso y autolesión. “También tenemos un riesgo latente porque no sabemos hasta donde es capaz de llegar la IA porque se está entrenando constantemente”.
Ante esas situaciones, la especialista remarcó que hay que apuntar al diálogo en las casas, “hay una legislación si hay acoso de adultos a menores, pero no hay una legislación que pueda proteger de menores a menores. Lo que está sucediendo es que son menores de edad los que distribuyen”.
También recomendó el uso de aplicaciones de control parental como herramientas preventivas. “Hay que estar atentos con quienes hablan. En Roblox, por ejemplo, hay adultos haciéndose pasar por niños”.
En el ámbito educativo, se aborda este tema desde lo comunicacional y desde lo psicopedagógico. “Están preocupadas las escuelas porque también es una problemática que se da puertas adentro. Se está generando el debate de que hacer con este problema. Existen y están, las aplicaciones y las redes sociales, los niños y niñas son usuarios. Entonces tenemos que ver cómo trabajamos con esto y como lo incorporamos de una manera en que podamos educar a través de esta plataforma y también sobre los riesgos que conllevan”.
Entre las recomendaciones, la licenciada destacó algunas que hay que tener en cuenta a la hora de abordar la tecnología en los más chicos:
- Si tienen redes sociales fijarse que estén como privadas y no que el perfil esté público.
- Fijarse quiénes son los amigos, los seguidores.
- Prestar atención a las cuestiones de privacidad.
La Lic. Laura Bolognesi visitó Cada Día, mirá aquí el informe completo: