A Food and Drug Administration (FDA) dos EUA divulgou recentemente seu projeto de orientação intitulado "Funções de software de dispositivos habilitados para inteligência artificial: recomendações de envios de marketing e gestão de ciclo de vida." Este rascunho chega em um momento crucial, pois a inteligência artificial (IA) está transformando a tecnologia médica e de saúde. Até o momento, o FDA autorizou mais de 1.000 dispositivos habilitados para IA, ressaltando o papel crescente da IA no avanço do atendimento ao paciente. A orientação da FDA descreve considerações essenciais para o design, desenvolvimento e manutenção contínua de dispositivos médicos habilitados para IA, com foco em garantir que essas tecnologias permaneçam seguras e eficazes ao mesmo tempo em que abordam os desafios únicos da IA.
Principais recomendações da orientação da FDA
Transparência e Documentação
Um aspecto notável da orientação da FDA é sobre transparência. A FDA incentiva os fabricantes a divulgarem claramente como a IA é integrada em seus produtos, fornecendo detalhes, incluindo o tipo de modelo usado, os conjuntos de dados empregados para desenvolvimento e validação e os métodos para atualizações e manutenção contínuas.
Os desenvolvedores também são incentivados a usar ferramentas como cartões modelo, que são documentos concisos que fornecem informações essenciais sobre um modelo de IA para melhorar o entendimento do usuário. A transparência se estende aos conjuntos de dados usados, exigindo que os fabricantes incluam detalhes demográficos e uma descrição clara dos métodos empregados para garantir que o sistema de IA seja aplicável em diversas populações de pacientes.
Além disso, o FDA determina que, para a maioria dos dispositivos autorizados, um resumo público deve estar disponível. Esses resumos devem oferecer detalhes suficientes para garantir transparência e fornecer às partes interessadas informações sobre o design, a funcionalidade e a validação do modelo de IA.
Abordando o preconceito em modelos de IA
O viés em dispositivos habilitados para IA é uma grande preocupação destacada no rascunho da orientação. Os modelos de IA podem produzir resultados distorcidos se treinados em dados insuficientes ou não representativos, potencialmente prejudicando certos grupos demográficos. O FDA recomenda que os fabricantes usem conjuntos de dados de validação robustos que reflitam com precisão a população de usuários pretendida.
Os fabricantes são aconselhados a avaliar o desempenho do dispositivo em vários subgrupos, delinear métodos de coleta de dados e descrever estratégias para melhorar a diversidade do conjunto de dados. Isso ajuda a garantir que os dispositivos de IA tenham um desempenho confiável em diferentes populações de pacientes e ambientes clínicos, reduzindo o risco de resultados tendenciosos.
Monitoramento Pós-Comercialização
Dada a natureza dinâmica da IA, há um risco de degradação do desempenho ao longo do tempo devido a mudanças nos dados de entrada ou contextos do dispositivo. O rascunho da orientação do FDA enfatiza a importância de monitoramento de desempenho pós-comercialização para identificar e abordar proativamente tais mudanças que podem impactar a eficácia do dispositivo.
Embora não sejam obrigatórios para todos os dispositivos, os planos de monitoramento pós-mercado são necessários para dispositivos sob certos caminhos regulatórios. Esses planos devem delinear métodos para rastrear o desempenho, implantar atualizações e implementar ações corretivas para manter a segurança e a eficácia.
Planos de controle de mudanças pré-determinados (PCCP)
Consistente com a orientação anterior, o FDA apoia o uso de PCCPs para dispositivos habilitados para IA. Esta estrutura permite que os fabricantes melhorem o desempenho do dispositivo pós-mercado sem a necessidade de uma nova submissão, desde que as alterações sejam pré-aprovadas dentro do PCCP.
Feedback público e próximos passos
A FDA convida comentários públicos sobre o rascunho da orientação até 7 de abril de 2025. Além disso, a agência planeja sediar um webinar em 18 de fevereiro de 2025 para discutir o conteúdo do documento. Essa abordagem aberta reflete o comprometimento da FDA com a colaboração com as partes interessadas na formação dos regulamentos para tecnologias de saúde digital.
Você pode ler o rascunho completo aqui.