Parachute udvikler en styringsplatform til sikker evaluering og løbende overvågning af kliniske AI-modeller i hospitaler.
Platformen udfører automatiserede benchmarking- og red-teaming-test for at identificere hallucinationer, bias og sikkerhedsgab før pilotprojekter.
Efter implementering overvåger Parachute løbende modelpræcision, drift, bias og oppetid med alarmer ved overskridelse af grænser.
Alle godkendelser, testresultater og ændringer logføres i et uforanderligt revisionsspor, der kan vises til reguleringsmyndigheder.
Columbia University Irving Medical Center bruger allerede Parachute aktivt til at spore AI-modeller i drift.
Get notified when new stories are published for "Hacker News 🇩🇰 Dansk"