YouTube también pretende acabar con los mensajes de odio

Si ayer era Twitter quien avanzaba en la lucha contra los mensajes de odio, hoy es YouTube quien da un paso en ese sentido. Y es que, si bien este tipo de mensajes no se percibe de igual modo en unos servicios online que en otros, y en el caso de YouTube solo seremos conscientes de su existencia si entramos a los comentarios de los vídeos. El problema es que, una vez que lo haces, puedes encontrar verdaderas barbaridades en todo tipo de contenidos.

Y cuando digo todo tipo de contenidos, lo hago de manera literal. Hace unos meses descubrí en YouTube, por casualidad, un tipo de vídeo que me resultó de lo más peculiar: extranjeros que visitan supermercados en nuestro país y comentan los productos. Un tipo de contenido que siempre suele ser amable y bienintencionado y que, sin embargo, en  no pocas ocasiones es objetivo de mensajes de odio con descalificaciones, «invitaciones» a que el autor se vuelva a su país de origen, etcétera.

Y hablo de ese tipo de contenido como podría hacerlo sobre jóvenes que cuentan su experiencia sacándose el carné de conducir, divulgadores, científicos… incluso cocineros, cualquier tipo de contenido en YouTube es susceptible de recibir mensajes de odio. Y ojo, en este punto aclaro que no me refiero a críticas, que formuladas adecuadamente siempre son legítimas. No, hablo de insultos y ataques personales.

Para combatir este tipo de mensajes, YouTube ha iniciado el despliegue de una nueva función, de momento disponible solo en su app para Android, que analiza los comentarios antes de publicarlos y, en caso de identificar que podría tratarse de un comentario ofensivo, muestra un mensaje en el que se indica que se debe mantener el respeto en la plataforma, permitiendo al usuario publicarlo de todos modos (tanto si es un error como si es ofensivo pero decide seguir adelante) o modificarlo para adecuarlo a las normas de uso.

Esta nueva función identifica contenido que puede ser ofensivo, pero no tiene la certeza de que así sea, lo que explica que aún así sea posible publicar el comentario sin modificarlo. No obstante, tiene sentido pensar que esos mensajes quedarán marcados de algún modo, para el hipotético caso de que sean denunciados posteriormente. Y, en tal caso, tendría sentido que YouTube acelerara el proceso de revisión y eliminación (si procede) de los mismos.

Adicionalmente, para los creadores de contenido, Google también va a probar una nueva función que se integrará en YouTube Studio, que se encargará de filtrar automáticamente «comentarios potencialmente inapropiados e hirientes«, facilitando de este modo que los responsables de dichos canales puedan evitar ver ese tipo de mensajes o, al menos, revisarlos solo cuando deseen hacerlos, en vez de encontrarlos siempre que estén revisando las respuestas a sus vídeos.

Más información: YouTube