Junto con la explosión de las redes sociales aparecieron una serie de amenazas para los usuarios que son realmente preocupantes, sobre todo cuando dentro de los usuarios e redes sociales hay menores de edad que pueden terminar viendo contenido que no está orientado para ellos y donde todo puede ser desde un poco “subido de tono” a imágenes altamente perturbadoras que un niño no debe ver bajo ninguna justificación.
Los creadores de redes sociales son consientes de los problemas que pueden enfrentar con los menores de edad en plataformas como Youtube, y si bien es cierto que Google ha trabajado bastante para que sus filtros y su IA se encargue de llevar contenido seguro a los más pequeños del hogar, siempre existen errores que pueden terminar vulnerando los controles y exponiendo contenido para adultos a niños.
Youtube se preocupa tanto por que los niños no vean contenido inapropiado, que creó Youtube Kids para que los niños puedan tener en esa aplicación su lugar seguro, pero con todas esa han tenido problemas donde el filtro no ha funcionado y donde niños podían acceder a contenido no apto para ellos, mismo problema que se tradujo en una multa de 170 millones de dólares que tuvo que pagar Youtube, monto menor si se considera un error que pueda vulnerar la Ley de protección de la privacidad en línea para niños
¿Como pretendía Youtube velar porque el contenido de Youtube Kids sea apropiado para sus pequeños usuarios?, pues bien, reunieron un grupo de 40 empleados de la compañía que bajo el nombre clave Crosswalk se encargarían de revisar uno por uno cada video que este circulando en Youtube Kids catalogado para menores de 8 años, para así asegurarse de que todo está en orden y de primera mano, ya no obedeciendo a filtros automáticos ni IA.
¿Porque Youtube se tomó tan en serio el revisar personalmente cada video catalogado para menores de 8 años?, simple, durante el año 2018 se identificaron videos inquietantes con suicidios y violencia, a menudo con versiones falsas de personajes de dibujos animados queridos como Mickey Mouse y Peppa Pig, y la forma de evitarlo es verlo todo antes de publicarlo.
La idea parecía buena, hasta que la CEO Susan Wojcicki decidió cancelar todo el plan que estaban probando, alegando que tal moderación haría que el sitio se pareciera demasiado a una compañía de medios por lo que decidieron seguir implementando nuevas medidas de seguridad para velar por los menores de edad, aunque no se puede hablar de un funcionamiento 100% seguro para ellos.
Se entiende que con la cantidad de videos que se suben cada hora en Youtube sea casi imposible revisar todo el contenido, pero se le debe dar una vuelta más al asunto de la revisión “en persona”, por lo menos a lo que corresponde a Youtube Kids, será una tarea ardua, pero no parece haber por ahora otra opción que nos de mayor seguridad para que los niños puedan usar sin supervisión dicho servicio.
Fuente: Bloomberg.
Autor: Elias Villagrán Donaire.