Parachute é uma infraestrutura de governança que permite aos hospitais avaliar e monitorar ferramentas de IA clínica em escala.
A plataforma avalia fornecedores face às necessidades clínicas e identifica riscos de conformidade e segurança antes do início dos pilotos.
Executa testes automatizados de benchmarking e red-teaming para detetar alucinações, vieses e falhas de segurança nos modelos.
Após a implementação, monitora continuamente precisão, deriva, vieses e disponibilidade dos modelos, enviando alertas quando os limites são ultrapassados.
Regista todas as aprovações, testes e alterações em uma trilha de auditoria imutável para apresentação a reguladores.
Parachute já está em uso no Columbia University Irving Medical Center.
A equipa procura profissionais com experiência hospitalar interessados em implementar IA de forma segura.
Profissionais do NHS Wales mostraram interesse em colaborar e há dúvidas sobre a automação completa da avaliação de IA.
Get notified when new stories are published for "Hacker News 🇵🇹 Português"