Um agente de inteligência artificial voltado para tarefas de programação apagou todo o banco de dados de uma empresa em questão de segundos – e sem autorização. O incidente causou uma interrupção de mais de 30 horas nos serviços. Após o ocorrido, a ferramenta pediu desculpas.
O pedido de desculpas da IA tem algum valor real? Este é o tema da coluna Fala AI desta semana, com Roberto Pena Spinelli, físico pela USP, com especialidade em Machine Learning por Stanford e pesquisador na área de Inteligência Artificial.
Na coluna de hoje, você ainda vai ver:
- Um novo estudo identificou que o ChatGPT pode espelhar o comportamento humano – positivo ou negativo – e exibir sinais de agressividade para o usuário. O que essa conclusão revela sobre o desenvolvimento dessas ferramentas?
- O Google anunciou uma mudança em uma das ferramentas de segurança mais utilizadas da internet, o reCAPTCHA, conhecido popularmente pelo teste “eu não sou um robô”. A reformulação marca uma resposta direta ao avanço dos agentes de IA, que já conseguem simular comportamentos humanos com facilidade. O que muda na prática? Será que isso é o bastante para garantir a segurança da navegação na era da IA?
Roberto "Pena" Spinelli
Roberto "Pena" Spinelli, físico pela Universidade de São Paulo, com especialização em Machine Learning pela Universidade de Stanford, e colunista do Olhar Digital.
