Moderacion

El problema de los automatismos empleados como único instrumento de moderación ha quedado patente de nuevo, Google Street View publica una foto de un niño de 3 años que jugaba en el jardín de la casa de su abuela. Esto podría ser un hecho anecdótico para Google si llega a pasar en cualquier parte del mundo pero ha pasado en Inglaterra y seguramente le cueste una demanda que tiene perdida de antemano. En España también la tendría perdida por la ley de protección al menor pero aquí aún los jueces no dan millones y millones por la lesión de derechos.

Google se defiende diciendo que tiene un sistema automatizado que pixelas las caras y las matriculas. Por las matriculas no hay problemas porque es configuran un conjunto de colores que se repiten secuencialmente y son muy fáciles de localizar y borrar, el problema viene con los seres humanos que tienen la extraña manía de ser diferentes los unos de los otros y no tienen ni el mismo color de piel ni el mismo tono y por lo tanto es difícil pixelarlos al ser casi imposible localizarlos. Los mismo ocurre con las expresiones humanas es difícil emplear sistemas automatizados que suplanten un moderador ya que los software no saben interpretar el sentido de la expresión humano, y no hablamos sólo de polisemias sino del alma que el humano es capaz de reflejar la palabra y da lugar a ironías, giros y expresiones populares que ningún programa a día de hoy es capaz de interpretar ya que ello significaría haber alcanzado la AI absoluta (Inteligencia Artificial) no aquella inteligencia que responde a determinados eventos como por ejemplo los sistemas automatizados de atención al cliente sino aquellos que saben determinar el estado del cliente y saber si hoy quiero un sofa rojo o blanco. Pero de la Inteligencia Artificial y la semántica ya hablaremos otro día.

En moderacion.net hemos tenido la oportunidad de probar varias tecnologías que supuestamente diferenciaba las escenas de sexo o desnudos de las fotografías normales pero iban más allá y decían que incluso se podían crear normas de moderación para eliminar imágenes nocivas, todo funciono perfectamente hasta que usamos nuestras propias fotografías de playas, conciertos con alguien sin camiseta, eventos, etc y entonces es cuando nos dieron miles de razones muy loables para explicarnos que sólo funcionaba con puro sexo y que todo sistema tiene una tasa de error. Es decir pasamos de prometernos la semántica contextual y la AI a darnos todo tipo de explicaciones de porque no funcionaba en caso de duda.

Volviendo al niño desnudo y a la moderación de contenidos gráficos inapropiados existen sistemas que funcionan bastante bien en entornos muy cerrados es decir dentro del entorno del desarrollador pero en el momento que salen a producción es cuando se ven claramente los fallos ya que las normas de moderación de fotografías son muy sencillas pero muy complicadas de cumplir. A nuestro entender hay dos tipos de normas o dos elementos a tener a valorar a la hora de moderar una fotografía;

La aplicables al autor y el contenido, es decir contenidos prohibidos como son (en todos los casos daremos algunos ejemplos, no siendo un listado cerrado)

Sexo
Desnudos o posturas indecorosas
Maltrato de ningún tipo
Contenido publicitario
Presencia de menores
Matriculas o elementos identificables
Publicidad encubierta
Elementos prohibidos en medios de comunicación como por ejemplo alcohol, etc.

Las aplicables al contenido relacionado

En fotografías grupales no presencia de menores
En fotografías de calle vigilancia de las ventanas para evitar presencia de personas en la intimidad de su hogar
En las fotografías de playa evitar menores desnudos
En la fotografías de playa evitar personas en topless en zonas privadas como jardines cercanos

Excepciones

Y es en este punto cuando todo se complica
Presencia de menores salvo con autorización de los padres
Presencia de menores con autorización tácita de los padres, por ejemplo fotografía de cumpleaños
Presencia de menores que son parte de la imagen por ejemplo desfile por el Día de los Reyes Magos
Matrículas salvo cuando sean denuncias públicas

y un largo etc de salvedades a las normas principales.

Con esto no queremos decir que el software de moderación de contenidos no sea el futuro sino que es un camino que hemos emprendido y esta lleno de piedras y baches que deberemos superar o sino sólo tenemos que recordar los viejos filtros ant-spam que eliminaban más e-mail de amigos de que spammers y en cambio ahora es una tecnología 100% solvente y reconocida.