A inteligência artificial avança um pouco mais todos os dias. Do ponto de vista médico, isso quer dizer que, num futuro próximo, pessoas poderão tirar dúvidas com a tecnologia. Mas, como garantir que essa interação será realmente segura? Esse é um dos dilemas da FDA (Food and Drug Administration), agência federal do Departamento de Saúde e Serviços Humanos dos Estados Unidos.
Responsável por aprovar e regulamentar os dispositivos médicos com IA presentes no mercado dos Estados Unidos, a organização tem enfrentado desafios em acompanhar a rapidez com que a tecnologia é atualizada e, ao mesmo tempo, garantir que não estejam causando mais danos do que melhorias no atendimento de pacientes.
Entre 2020 a 2022, a FDA aprovou mais de 300 dispositivos médicos com recursos de IA, comprovando a rápida da adoção dessa tecnologia na área de saúde. Por isso, a organização está introduzindo novas orientações para o mercado.
Plano de Controle de Mudanças Predeterminados
- Quando a FDA aprova uma versão do dispositivo, somente essa configuração poderá ser comercializada. Novas atualizações necessitam de novas aprovações do regulador.
- O problema é que dispositivos de IA frequentemente usam algoritmos que precisam ser atualizados rapidamente.
- Pensando nisso, a agência tem se esforçando para criar novas diretrizes mais flexíveis, como o Plano de Controle de Mudanças Predeterminados.
- A orientação é para que desenvolvedores de IA descrevam as alterações esperadas na tecnologia no plano.
- Assim, uma vez que a FDA aprova o equipamento, as empresas podem atualizar seus produtos dentro do escopo do plano sem necessidade aprovação adicional.
Leia mais:
- Qual é o futuro da IA generativa? Analistas têm um palpite
- Cientistas criam projeto para estimular aplicação da IA na medicina
- Google lança IA generativa para ajudar médicos; veja como funciona
Em conversa com o The Wall Street, Troy Tazbaz, diretor de Centro de Excelência em Saúde Digital da FDA, explicou o objetivo do projeto:
Garantir que o mercado tenha alguma flexibilidade para continuar a ultrapassar os limites da inovação que está a fazer, ao mesmo tempo que segue as barreiras de proteção que estabelecemos quando aprovamos um produto.
O Plano de Controle de Mudanças Predeterminados não é a única ideia da FDA. Alguns funcionários também discutem a possibilidade de exigir monitorização em tempo real de dispositivos de IA após o lançamento no mercado. Mas, na prática, essa ideia exigiria autoridade legal que a agência ainda não possui.
O que as empresas acham disso?
Empresas do setor estão divididas em relação à regulamentação de dispositivos médicos com IA. Alguns apoiam as novas diretrizes da FDA e enxergam isso como uma oportunidade de melhorar produtos ao longo do tempo. Mas, outros têm preocupações sobre a possibilidade de introduzir riscos, como os preconceitos algorítmicos.
A IA traz consigo tipos muito diferentes de danos – danos algorítmicos que são difíceis de compreender e explicar […] a FDA está dando aos fabricantes muita margem de manobra.
Mason Marks, professor de direito da saúde na Florida State University.
Além disso, as organizações pedem mais clareza sobre as novas orientações, já que prever as atualizações de IA não é tarefa fácil.
Será um desafio pré-determinar antecipadamente quais são as possíveis mudanças que gostaríamos de fazer. A única coisa que sabemos que é previsível na ciência é que é imprevisível.
Lara Jehi, diretora de informações de pesquisa do Cleveland Clinic Health System
Depois da divulgação mais recente da orientação da FDA, a agência afirma que em breve irão surgir outras diretrizes, à medida que o órgão está se esforçando para compreender e acompanhar os avanços do campo.
Tags: