ANNONS

Generativ artificiell intelligens (AI): WHO utfärdar ny vägledning om styrning av LMM

VEM har utfärdat ny vägledning om etik och styrning av stora multimodala modeller (LMM) för lämplig användning för att främja och skydda befolkningens hälsa. LMM är en typ av snabbväxande generativ artificiell intelligens (AI)-teknik som har fem breda tillämpningar för hälsa in 

1. Diagnos och klinisk vård, som att svara på patienters skriftliga frågor; 

2. Patientstyrd användning, såsom för att undersöka symtom och behandling; 

3. Administrativa och administrativa uppgifter, såsom att dokumentera och sammanfatta patientbesök i elektroniska journaler; 

4. Läkar- och sjuksköterskeutbildning, inklusive att förse praktikanter med simulerade patientmöten, och; 

5. Vetenskaplig forskning och läkemedelsutveckling, inklusive för att identifiera nya föreningar. 

Dessa applikationer inom vården löper dock risken att producera falska, felaktiga, partiska eller ofullständiga påståenden, vilket kan skada människor som använder sådan information för att fatta hälsobeslut. Dessutom kan LMM:er tränas på data som är av dålig kvalitet eller partisk, oavsett om det beror på ras, etnicitet, härkomst, kön, könsidentitet eller ålder. Det finns också bredare risker för hälsosystemen, såsom tillgänglighet och överkomliga priser för de bäst presterande LMM:erna. LMM:er kan också uppmuntra "automatiseringsbias" av hälso- och sjukvårdspersonal och patienter, varigenom fel som annars skulle ha identifierats förbises eller svåra val felaktigt delegeras till en LMM. LMM, liksom andra former av AI, är också sårbara för cybersäkerhetsrisker som kan äventyra patientinformation eller tillförlitligheten hos dessa algoritmer och tillhandahållandet av hälso- och sjukvård i ett bredare perspektiv. 

För att skapa säkra och effektiva LMM har WHO därför gett rekommendationer till regeringar och utvecklare av LMM. 

Regeringar har det primära ansvaret att sätta standarder för utveckling och distribution av LMM och deras integrering och användning för folkhälso- och medicinska ändamål. Regeringar bör investera i eller tillhandahålla icke-vinstdrivande eller offentlig infrastruktur, inklusive datorkraft och offentliga datamängder, tillgänglig för utvecklare inom den offentliga, privata och ideella sektorn, som kräver att användarna följer etiska principer och värderingar i utbyte mot tillgång. 

· Använd lagar, policyer och förordningar för att säkerställa att LMM:er och applikationer som används inom hälso- och sjukvård och medicin, oavsett risken eller nyttan förknippad med AI-tekniken, uppfyller etiska skyldigheter och mänskliga rättigheter som påverkar till exempel en persons värdighet, autonomi eller integritet. 

· Tilldela en befintlig eller ny tillsynsmyndighet att bedöma och godkänna LMM och applikationer avsedda för användning inom hälso- och sjukvård eller medicin – allteftersom resurserna tillåter. 

· Införa obligatorisk granskning och konsekvensbedömningar efter utgivningen, inklusive för dataskydd och mänskliga rättigheter, av oberoende tredje parter när en LMM används i stor skala. Revisionen och konsekvensbedömningarna bör offentliggöras 

och bör inkludera resultat och effekter uppdelade efter typ av användare, inklusive till exempel efter ålder, ras eller funktionshinder. 

· LMM är designade inte bara av forskare och ingenjörer. Potentiella användare och alla direkta och indirekta intressenter, inklusive medicinska leverantörer, vetenskapliga forskare, vårdpersonal och patienter, bör engageras från de tidiga stadierna av AI-utveckling i strukturerad, inkluderande, transparent design och ges möjligheter att ta upp etiska frågor, uttrycka oro och ge input för den AI-applikation som övervägs. 

LMM:er är utformade för att utföra väldefinierade uppgifter med nödvändig noggrannhet och tillförlitlighet för att förbättra hälsosystemens kapacitet och främja patientintressen. Utvecklare bör också kunna förutsäga och förstå potentiella sekundära resultat. 

*** 

Källa: 

WHO 2024. Etik och styrning av artificiell intelligens för hälsa: vägledning om stora multimodala modeller. Tillgänglig på https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y 

***

SCIEU Team
SCIEU Teamhttps://www.ScientificEuropean.co.uk
Scientific European® | SCIEU.com | Betydande framsteg inom vetenskapen. Inverkan på mänskligheten. Inspirerande sinnen.

Prenumerera på vårt nyhetsbrev

Uppdateras med alla de senaste nyheterna, erbjudanden och specialmeddelanden.

Mest populära artiklar

Kan polymersomer vara bättre transportmedel för COVID-vacciner?

Ett antal ingredienser har använts som bärare...

NASA:s OSIRIS-REx-uppdrag tar prov från asteroiden Bennu till jorden  

NASA:s första återkomstuppdrag för asteroidprov, OSIRIS-REx, lanserade sju...

Stress kan påverka utvecklingen av nervsystemet i tidig tonåren

Forskare har visat att miljöstress kan påverka normala...
- Annons -
94,525FläktarTycka om
47,683följareFölj
1,772följareFölj
30abonnenterPrenumerera