A Administração de Alimentos e Medicamentos dos EUA (FDA) divulgou recentemente seu projecto de orientação intitulado "Funções de software de dispositivos habilitados para inteligência artificial: Gestão do ciclo de vida e recomendações de submissões de marketing". Este rascunho chega em um momento crucial, pois a inteligência artificial (IA) está transformando a saúde e a tecnologia médica. Até o momento, o FDA autorizou mais de 1,000 dispositivos habilitados para IA, ressaltando o papel crescente da IA no avanço do atendimento ao paciente. A orientação da FDA descreve considerações essenciais para o projecto, desenvolvimento e manutenção contínua de dispositivos médicos habilitados para IA, com foco em garantir que essas tecnologias permaneçam seguras e eficazes, ao mesmo tempo em que abordam os desafios exclusivos da IA.
Principais recomendações das orientações da FDA
Transparência e documentação
Um aspecto notável da orientação da FDA é a transparência. A FDA incentiva os fabricantes a divulgarem claramente a forma como a IA é integrada nos seus produtos, fornecendo pormenores que incluem o tipo de modelo utilizado, os conjuntos de dados utilizados para o desenvolvimento e validação e os métodos para actualização e manutenção contínuas.
Os programadores são também instados a utilizar ferramentas como cartões de modelo, que são documentos concisos que fornecem informações essenciais sobre um modelo de IA para melhorar a compreensão do utilizador. A transparência estende-se aos conjuntos de dados utilizados, exigindo que os fabricantes incluam detalhes demográficos e uma descrição clara dos métodos empregues para garantir que o sistema de IA é aplicável a diversas populações de doentes.
Além disso, a FDA exige que, para a maioria dos dispositivos autorizados, esteja disponível um resumo público. Esses resumos devem oferecer detalhes suficientes para garantir a transparência e fornecer às partes interessadas as informações sobre o design, a funcionalidade e a validação do modelo de IA.
Abordar o enviesamento nos modelos de IA
O enviesamento nos dispositivos com IA é uma das principais preocupações destacadas no projeto de orientações. Os modelos de IA podem produzir resultados distorcidos se forem treinados com base em dados insuficientes ou não representativos, potencialmente prejudicando determinados grupos demográficos. A FDA recomenda que os fabricantes utilizem conjuntos de dados de validação robustos que reflictam com precisão a população de utilizadores pretendida.
Os fabricantes são aconselhados a avaliar o desempenho do dispositivo em vários subgrupos, a delinear métodos de recolha de dados e a descrever estratégias para melhorar a diversidade do conjunto de dados. Isto ajuda a garantir que os dispositivos de IA têm um desempenho fiável em diferentes populações de doentes e contextos clínicos, reduzindo o risco de resultados tendenciosos.
Monitorização pós-comercialização
Dada a natureza dinâmica da IA, existe um risco de degradação do desempenho ao longo do tempo devido a alterações nos dados de entrada ou nos contextos dos dispositivos. O projeto de orientações da FDA sublinha a importância da monitorização do desempenho pós-comercialização para identificar e abordar proactivamente essas alterações que podem ter impacto na eficácia do dispositivo.
Embora não sejam obrigatórios para todos os dispositivos, os planos de monitorização pós-comercialização são exigidos para os dispositivos abrangidos por determinadas vias regulamentares. Estes planos devem delinear métodos para acompanhar o desempenho, implementar actualizações e implementar acções corretivas para manter a segurança e a eficácia.
Planos de controlo de alterações pré-determinadas (PCCP)
De acordo com as orientações anteriores, a FDA apoia a utilização de PCCP para dispositivos com IA. Esta estrutura permite que os fabricantes melhorem o desempenho do dispositivo após a comercialização sem a necessidade de uma nova submissão, desde que as alterações sejam pré-aprovadas no PCCP.
Feedback do público e próximas etapas
O FDA convida comentários públicos sobre o projeto de orientação até 7 de abril de 2025. Além disso, a agência planeia organizar um webinar a 18 de fevereiro de 2025, para discutir o conteúdo do documento. Essa abordagem aberta reflete o compromisso da FDA com a colaboração com as partes interessadas na definição dos regulamentos para tecnologias digitais de saúde.
Pode ler o projeto completo aqui.
Newsletter DQS
Mantenha-se informado e subscreva a nossa newsletter!