O SimSimi é um aplicativo de chatbot que faz sucesso no Brasil há algum tempo. Com ele, o usuário pode fazer qualquer pergunta para receber uma resposta de uma inteligência artificial, permitindo ter uma conversa agradável com um robô.
No entanto, o SimSimi anunciou que vai deixar de oferecer o aplicativo para o público brasileiro. O motivo é uso abusivo por parte de usuários daqui, que ensinam frases com palavrão e comportamento inadequado para a inteligência artificial. Com dificuldade em fazer um filtro de palavrões funcionar, a empresa responsável pelo app decidiu suspender seu funcionamento no Brasil.
Em um comunicado divulgado na sexta-feira passada, 20, a ISMAKER, empresa coreana responsável pelo app, explicou os motivos da suspensão do seu funcionamento. “Foi inevitável porque, ao menos nos últimos dias, o app SimSimi teve um impacto social negativo significativo no Brasil,” explica a companhia.
“Aparentemente, alguns usuários brasileiros começaram a ensinar respostas maliciosas para o SimSimi”, continua o comunicado. “A maioria dessas respostas conta com ameaças de crimes como assassinato e sequestro de crianças e famílias”.
Popular entre crianças
Na Play Store do Android, o aplicativo é indicado para maiores de 16 anos de idade. Nos termos de uso do serviço, ele restringe o uso a maiores de 13 anos. No entanto, o app vem ganhando popularidade especialmente dentro de escolas brasileiras, com o conteúdo sendo exposto para crianças.
A ONG SaferNet divulgou um comunicado alertando pais sobre a popularização do app e as respostas inadequadas fornecidas pela inteligência artificial. “Em menos de cinco minutos de interação com a equipe da SaferNet Brasil, o algoritmo de inteligência artificial do SimSimi espontaneamente violou as próprias políticas de conteúdo que deveria implementar, e explicitamente veiculou mensagens com incentivo ao abuso sexual de crianças.”
A SaferNet disse ter tentado contato com a ISMAKER. Em seu site oficial, a desenvolvedora coreana diz só ser capaz de se comunicar em inglês e coreano, e pediu ajuda de usuários brasileiros para que eles denunciem palavras ameaçadores à equipe responsável pelo app.
De acordo com a empresa, o aplicativo só voltará a funcionar no Brasil quando eles desenvolverem um sistema para controlar o conteúdo ensinado para a inteligência artificial.
Tags: