En las actividades que permanentemente realizamos, dedicadas a la prevención o la atención del acoso escolar, el papel de las tecnologías es cada vez más prominente. Sin duda el uso de las aplicaciones de mensajería, las redes sociales y ahora la inteligencia artificial ubican el fenómeno del bullying en otro nivel y complejizan su abordaje.
La incertidumbre que todo esto genera hace que se comiencen a endilgar las responsabilidades a otros: “Las familias son las que deben velar por lo que sus hijos publican o el uso que hacen de los dispositivos”, “los centros educativos tienen responsabilidad en la forma en que los estudiantes utilizan la tecnología para agredirse”, son algunas de las expresiones que se escuchan.
Sin duda se puede convertir en un terreno fangoso donde todos quedemos entrampados.
Acoso digital
Un caso tiene conmocionada a la localidad española de Badajoz. Una treintena de adolescentes (12 a 14 años) fueron sometidas al escarnio público pues sus “fotos” completamente desnudas circularon por Whatsapp y Telegram.
La responsabilidad recae sobre un grupo de adolescentes de edades similares que, haciendo uso de aplicaciones de inteligencia artificial, generaron las imágenes a partir del rostro real de las chicas. Aunque el cuerpo no corresponde a ellas, el realismo de las imágenes es tal que las ha afectado inmediatamente.
Un caso que está siendo investigado por la Fiscalía para identificar a las víctimas e identificar y procesar a los responsables. Ya tienen a varios adolescentes que, por tener 14 años, serán imputados tal como prevé la ley en estos casos.
Juristas, fiscales, jefes policiales debaten sobre si puede haber un delito al tratarse de imágenes creadas. Algunos expresan categóricos que el articulado penal establece, en el caso de España, que la creación, uso y difusión de imágenes realistas es considerado igualmente pornografía. Mientras que otros son más cautos al expresar que en esta materia hay muchos vacíos en la legislación.
Las investigaciones buscan establecer si las imágenes solo se difundieron en la mensajería o se publicaron en alguna plataforma o se obtuvo algún lucro por ello. Hasta ahora, una sola de las víctimas señaló que se le pidió dinero a cambio de no difundir su imagen.
Uso de la IA para prevenir
Se ha venido anunciando la puesta en práctica de varias aplicaciones y herramientas de IA para luchar contra el acoso digital. El español Jairo Lorenzo, creador del sitio WorkStopIA sistematiza estos alcances:
Identificar incidentes de acoso escolar:
La inteligencia artificial se puede utilizar para identificar incidentes de acoso escolar en correos electrónicos escolares, publicaciones en redes sociales y otras actividades en línea.
Brindar apoyo a las víctimas de acoso escolar:
Los chatbots pueden ofrecer consejos y orientación y también pueden conectar a las víctimas de acoso escolar con otros recursos, como servicios de asesoramiento.
Educar a los estudiantes sobre el acoso escolar:
La IA puede hacerlo utilizando juegos educativos, videos y otros contenidos interactivos.
Intervenir en incidentes de acoso escolar:
Esto se puede hacer enviando alertas a los profesores o padres, o bloqueando a los acosadores para que no se comuniquen con sus víctimas.
A pesar de los beneficios que la IA puede aportar en la prevención del ciberbullying, también surgen preocupaciones éticas y legales como las expresadas por Lorenzo: “Existe el riesgo de que los algoritmos de IA puedan cometer errores y etiquetar erróneamente contenido inofensivo como contenido hiriente. Esto podría tener consecuencias negativas para la libertad de expresión y la privacidad de los usuarios”.
Como se puede ver, muchas variables complejizan el terreno; pero lo que está claro es que no existe una solución mágica y que, al contrario, tenemos que trabajar más que nunca para educar y concientizar a todos los miembros de las comunidades educativas en los derechos y deberes en el mundo digital y la responsabilidad que entrañan nuestras publicaciones y el gran daño que podemos hacer, tal como lo evidencia el caso de Badajoz.
