La aplicación de servicio privado Uber, dio a conocer un nuevo proceso de detección automática de lenguaje inapropiado en los mensajes que se envían en el chat dentro de la app. Como se establece en “las Guías Comunitarias de Uber”, cualquier comportamiento que implique violencia, conducta sexual, acoso o discriminación al usar la app implica la pérdida de acceso a la cuenta. Esto se extiende también a lo que se dice a través de los mensajes que se pueden enviar en la aplicación, puesto que todas las interacciones suman, o restan, para mantener una comunidad de respeto para todos. De esta forma, el nuevo algoritmo de la firma, detecta automáticamente el lenguaje inapropiado en los mensajes que se envían dentro del chat de la app entre usuarios y socios conductores, clasificándolos en la categoría de “palabras inaceptables” o que generan una alerta.

Uber define las palabras inaceptables como aquellas que vulneran la integridad de la persona, por lo que estos mensajes automáticamente entran a un proceso de desactivación permanente de la cuenta. Por su parte, las palabras que implican una alerta por usar lenguaje inapropiado, generan un aviso al usuario sobre la importancia del respeto mutuo en la app. Asimismo, se le recuerda que el incumplimiento de estos términos puede derivar en la desactivación permanente de la cuenta. La firma hace énfasis en que un equipo de expertos hace una revisión caso por caso por si existen dudas, falsos positivos o circunstancias especiales. “En Uber la tecnología siempre está en el centro de nuestras soluciones. A través de ésta podemos aportar de manera significativa a las comunidades donde operamos. En este caso, anunciamos una innovación que nos ayuda a promover interacciones respetuosas”, señaló Charlotte Serres, responsable de Operaciones de Seguridad y Confianza en América Latina. “Continuaremos trabajando en este sentido, para mejorar los procesos y la experiencia de todos los usuarios”, puntualizó. La detección automática de mensajes inapropiados está en operación en México desde este mes en las 43 ciudades donde Uber opera.