Tem certeza? Essa é a pergunta que o Tinder está passando a fazer para quem usar linguagem inadequada em conversas pelo aplicativo de namoro, com o objetivo de evitar assédio e agressividade entre os membros. O AYS (Are you Sure?) utiliza inteligência artificial para detectar linguagem prejudicial e alerta o remetente sobre o risco de a mensagem ser ofensiva, fazendo-o pensar duas vezes antes de enviar. 

A novidade foi anunciada na semana passada nos Estados Unidos. Segundo a empresa, os testes com o AYS mostraram redução de mais de 10% no volume de mensagens consideradas inadequadas.  O aprendizado de máquina foi baseado no que os membros relataram no passado e, de acordo com o Tinder, irá evoluir e melhorar com o tempo. 

Segundo o Pew Research Center, 40% dos americanos relataram ter sofrido assédio online em 2020. Para 10% o assédio aconteceu em aplicativos de namoro. 

“Palavras são tão poderosas quanto ações. Estamos assumindo uma posição ainda mais forte de que o assédio não tem lugar no Tinder”, disse Tracey Breeden, chefe de segurança e defesa social do Match Group, dona do Tinder. “Os primeiros resultados nos mostram que a intervenção feita da maneira certa pode ser realmente significativa na mudança de comportamento e na construção de uma comunidade onde todos sentem que podem ser eles mesmos”.

O aplicativo já tem outros recursos semelhantes, como o Does This Bother You? (Isso te incomoda?), que fornece suporte proativo aos membros quando uma linguagem prejudicial é detectada em uma mensagem que receberam. Segundo o Tinder, os relatos de mensagens inadequadas aumentaram 46% depois da implantação do “Isso te incomoda?”

O projeto recebeu aprovação da RAINN, a maior organização antiviolência sexual do Estados Unidos, que opera uma linha direta para receber denúncias de assédio sexual.  

“Ao transmitir sua expectativa de comunicação respeitosa e permitir que os usuários parem por um momento para repensar uma mensagem que pode ofender, o Tinder está engajando sua comunidade para criar uma plataforma mais segura. E ao fornecer aos usuários uma maneira fácil de sinalizar mensagens de assédio, essa nova ferramenta ajudará o Tinder a identificar − e tomar medidas contra − os usuários que não desejam agir com responsabilidade ”, disse Scott Berkowitz, presidente da RAINN. 

O novo recurso já está disponível em inglês e japonês para usuários do Tinder em Japão, Estados Unidos,  Austrália, Canadá, Nova Zelândia, Reino Unido e Irlanda. A empresa espera implantá-lo em outros mercados nos próximos meses.