Justiça manda Bing remover acusações falsas contra médico em ferramenta de IA

Tudo sobre Inteligência Artificial

A 7ª Vara Cível de Bauru (SP) determinou que o Bing, mecanismo de busca da Microsoft, remova informações falsas geradas por inteligência artificial que imputam a um médico da cidade crimes de assédio sexual.

O que você precisa saber

Um médico, ao buscar pelo próprio nome, descobriu que a ferramenta de IA do Bing o acusava de assédio sexual
O médico em questão estava apurando denúncias referentes a outro profissional quando descobriu que seu nome era vinculado a crimes
A Justiça de São Paulo determinou a remoção do conteúdo inverídico em até 48 horas sob pena de multa diária de R$ 5 mil
A Microsoft não comentou o caso

IA do Bing acusou médico de crimes que ele não cometeu

O caso envolve a ferramenta de inteligência artificial do ChatGPT que foi integrada ao buscador Bing, da Microsoft. Ao buscar pelo próprio nome, o médico descobriu que a IA o vinculava a crimes que ele não só não tinha cometido como sequer tinha sido acusado.

A advogada Gisele Moreno, que representa o médico que teve informações inverídicas geradas pela ferramenta, disse que seu cliente estava apurando denúncias referentes a outro profissional quando descobriu que a inteligência artificial apresentava as falsas acusações de assédio sexual contra ele quando seu nome era buscado pela ferramenta.

Leia mais:

“O uso da ferramenta foi por pura curiosidade para ver o que a ferramenta respondia com o uso de uma pessoa comum qualquer que se interessa por ver quais são as respostas que essa ferramenta oferece e ele se deparou com essa situação chocante e estarrecedora”, diz a advogada.

Ela solicitou a remoção das informações devido aos prejuízos irreparáveis que ela pode causar à vida e carreira do médico.

Justiça determina remoção e impõe multa para descumprimento

A Justiça determinou um período de 48 horas para as informações falsas serem removidas da ferramenta, com uma multa diária de R$ 5 mil em caso de descumprimento, até o limite de R$ 250 mil.

“Alterando por completo a realidade fática, a ré [Microsoft] apresenta em sua plataforma de pesquisa a informação inverídica de que o autor seria investigado por crimes de assédio sexual no seu ofício de médico, quando em realidade, na matéria jornalística reportada no resultado da pesquisa, a informação é de que atua na apuração de tais faltas à frente do CRM”, escreveu Jayter Cortez Junior, juiz responsável pela decisão.

“Aparentemente o site de pesquisa da ré não se limita a coletar e reproduzir, com fidedignidade, informações criadas por terceiro, para se cogitar de responsabilidade exclusiva destes, mas altera equivocadamente a informação lançada em matéria jornalística, em exercício de (in)inteligência artificial, atribuindo indevidamente ao autor fato criminoso praticado por terceiro e por ele investigado”, continuou o magistrado.

Ao G1, a Microsoft informou que não recebeu intimação sobre o caso e que, por política corporativa, não comenta casos em andamento.

Via G1

Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!