VEM har utfärdat ny vägledning om etik och styrning av stora multimodala modeller (LMM) för lämplig användning för att främja och skydda befolkningens hälsa. LMM är en typ av snabbväxande generativ artificiell intelligens (AI)-teknik som har fem breda tillämpningar för hälsa in
1. Diagnos och klinisk vård, som att svara på patienters skriftliga frågor;
2. Patientstyrd användning, såsom för att undersöka symtom och behandling;
3. Administrativa och administrativa uppgifter, såsom att dokumentera och sammanfatta patientbesök i elektroniska journaler;
4. Läkar- och sjuksköterskeutbildning, inklusive att förse praktikanter med simulerade patientmöten, och;
5. Vetenskaplig forskning och läkemedelsutveckling, inklusive för att identifiera nya föreningar.
Dessa applikationer inom vården löper dock risken att producera falska, felaktiga, partiska eller ofullständiga påståenden, vilket kan skada människor som använder sådan information för att fatta hälsobeslut. Dessutom kan LMM:er tränas på data som är av dålig kvalitet eller partisk, oavsett om det beror på ras, etnicitet, härkomst, kön, könsidentitet eller ålder. Det finns också bredare risker för hälso- och sjukvårdssystemen, såsom tillgänglighet och överkomliga priser för de bäst presterande LMM:erna. LMM:er kan också uppmuntra "automatiseringsbias" av hälso- och sjukvårdspersonal och patienter, varigenom fel som annars skulle ha identifierats förbises eller svåra val felaktigt delegeras till en LMM. LMM, liksom andra former av AI, är också sårbara för cybersäkerhetsrisker som kan äventyra patientinformation eller tillförlitligheten hos dessa algoritmer och tillhandahållandet av hälso- och sjukvård mer allmänt.
För att skapa säkra och effektiva LMM har WHO därför gett rekommendationer till regeringar och utvecklare av LMM.
Regeringar har det primära ansvaret att sätta standarder för utveckling och distribution av LMM och deras integrering och användning för folkhälso- och medicinska ändamål. Regeringar bör investera i eller tillhandahålla icke-vinstdrivande eller offentlig infrastruktur, inklusive datorkraft och offentliga datamängder, tillgänglig för utvecklare inom den offentliga, privata och ideella sektorn, som kräver att användarna följer etiska principer och värderingar i utbyte mot tillgång.
· Använd lagar, policyer och förordningar för att säkerställa att LMM och applikationer som används inom hälso- och sjukvård och medicin, oavsett risken eller nyttan som är förknippad med AI teknik, uppfylla etiska skyldigheter och mänskliga rättigheter som påverkar till exempel en persons värdighet, autonomi eller integritet.
· Tilldela en befintlig eller ny tillsynsmyndighet att bedöma och godkänna LMM och applikationer avsedda för användning inom hälso- och sjukvård eller medicin – allteftersom resurserna tillåter.
· Införa obligatorisk granskning och konsekvensbedömningar efter utgivningen, inklusive för dataskydd och mänskliga rättigheter, av oberoende tredje parter när en LMM används i stor skala. Revisionen och konsekvensbedömningarna bör offentliggöras
och bör inkludera resultat och effekter uppdelade efter typ av användare, inklusive till exempel efter ålder, ras eller funktionshinder.
· LMM är designade inte bara av forskare och ingenjörer. Potentiella användare och alla direkta och indirekta intressenter, inklusive medicinska leverantörer, vetenskapliga forskare, vårdpersonal och patienter, bör engageras från de tidiga stadierna av AI utveckling av strukturerad, inkluderande, transparent design och ges möjligheter att ta upp etiska frågor, uttrycka oro och ge input för AI ansökan under behandling.
LMM:er är utformade för att utföra väldefinierade uppgifter med nödvändig noggrannhet och tillförlitlighet för att förbättra hälsosystemens kapacitet och främja patientintressen. Utvecklare bör också kunna förutsäga och förstå potentiella sekundära resultat.
***
Källa:
WHO 2024. Etik och styrning av artificiell intelligens för hälsa: vägledning om stora multimodala modeller. Tillgänglig på https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
