O aplicativo SimSimi é alvo de acusações polêmicas no Brasil e no mundo. O app usa a tecnologia de inteligência artificial para conversar com os usuários e é suspeito de enviar mensagens impróprias, como conteúdo sexual, práticas de bullying e até mesmo ameaças de morte.

As conversas são conduzidas por um personagem amarelo carismático e, por isso, alcança popularidade entre crianças e adolescentes. O recurso está disponível em iPhone (iOS), Android e na versão web. A seguir, saiba o que é SimSimi e como funciona o serviço, além de descobrir como proteger crianças de conteúdos perigosos.

Como evitar que crianças tenham acesso a conteúdo adulto na Internet

O app gratuito desenvolvido pela empresa SimSimi Inc. consiste em um chat robô (ou chatbot) capaz de conversar com as pessoas. Por meio da tecnologia de inteligência artificial, o programa consegue aprender com as respostas dos usuários e, assim, aumentar a base de dados. No entanto, esse fato promove um recurso de respostas com piadas e palavrões.

Com um plano de fundo de céu azul cheio de nuvens, o chat é respondido por um simpático boneco amarelo, que pode servir como chamariz para as crianças e adolescentes. O personagem incentiva o bate-papo e, muitas vezes, parte desse conteúdo pode ser considerado ofensivo ou com teor sexual.

O visual amigável engana também os responsáveis, pois não reparam que o programa tem indicação etária de 16 anos. Além disso, a ferramenta é especificada nas lojas de aplicativos como de “violência, conteúdo sexual e drogas”.

Por causa do aprendizado nativo do sistema, o resultado apresentado pode não ser apropriado para crianças. A figura é capaz de fazer propostas sexuais, usar palavrões e até mesmo fazer ameaças, que podem assustar os pequenos. O relato de uma mãe, viralizado no Facebook, afirma que a aplicação ameaçava sua família de morte e, por isso, a criança teria ficado apavorada.

Por ser uma plataforma na qual o usuário se mantém anônimo, ela pode ser usada para o bullying. Isso se dá pois, em algumas conversas, o programa cita o nome de uma pessoa associada a uma característica, como, por exemplo, “Fulano é feio”. Tal conteúdo, se replicado por dispositivos de bate-papo ou redes sociais, pode ser usado para atingir outras pessoas.

O SimSimi não permite restringir seu uso por idade, mas conta com alguns recursos que garantem a exibição de conteúdos menos ofensivos. Ainda assim, é importante não esquecer que o programa foi desenvolvido para usuários com 16 anos ou mais e não para crianças. Portanto, para ter maior controle das aplicações usadas pelos pequenos, o Google Play um oferece um sistema de controle dos pais, bem como a App Store da Apple.

O SimSimi dispões de algumas ferramentas para proteger as crianças de conteúdos indesejados. E são:

Para isso, acesse a opção “Configuração”. Em seguida, em “Usar palavras ruins”, arraste o “termômetro” para baixo até “Quase nunca”. No entanto, isso não significa que palavrões e termos obscenos deixarão de ser exibidos, mas aparecerão em menor frequência.

Na janela do chat, clique no ícone de três pontinhos no lado superior direito da tela. No menu que surgir, vá em “Nome Proteger (Beta)”. Escreva os nomes que o app não deve usar nas conversas nos campos "Seu nome" e clique em "OK". Caso forem nomes comuns ou de artistas, a ferramenta não removerá e vai sugerir o envio de um e-mail para a fabricante com a solicitação.

Caso receba uma resposta desagradável, basta pressionar o balão refer