Waarschuwing van de WHO
Reference News Network meldde op 20 januari dat volgens AFP op 18 januari.
De Wereldgezondheidsorganisatie waarschuwde dat generatieve kunstmatige intelligentie (AI) ontwrichtende veranderingen in de medische zorg kan teweegbrengen door snelle diagnose van ziekten, maar dat de haast en ongegarandeerde implementatie ervan ook gevaren met zich meebrengt.
Volgens rapporten analyseerde de WHO in een document dat op de 18e werd vrijgegeven de gevaren en voordelen van het gebruik van grote multimodale modellen (LMM) voor medische behandelingen. Dit soort generatieve AI kan een verscheidenheid aan gegevens (tekst, afbeeldingen en video's) gebruiken om diagnostische resultaten te genereren
gebaseerd op algoritmen die niet beperkt zijn tot gegevenstypen.
"Sommige mensen geloven dat LMM menselijke gedachten en gedragingen zal imiteren en sommige menselijke problemen op een interactieve manier zal oplossen." zei Alan Labrick, hoofd van de digitale en innovatieve gezondheidsafdeling van de WHO.
De WHO gelooft dat LMM in de toekomst op grote schaal zal worden gebruikt bij medische behandelingen, wetenschappelijk onderzoek en medicatie. De organisatie identificeerde vijf gebieden waarop de technologie zou kunnen worden gebruikt: diagnostiek, wetenschappelijk onderzoek en medicijnontwikkeling, medisch en verpleegkundig onderwijs, administratie en symptoomverificatie.
Hoewel LMM een groot toepassingspotentieel heeft, zei de WHO dat de technologie “valse, onjuiste, vertekende of onvolledige” resultaten kan opleveren. "Aangezien LMM's steeds vaker worden gebruikt in de gezondheidszorg en de geneeskunde, zijn fouten, onjuist gebruik en persoonlijk letsel onvermijdelijk", aldus de organisatie.
Het WHO-document introduceert de nieuwe ethische tendensen en managementkwesties van LMM en geeft veertig aanbevelingen aan overheden, bedrijven en patiënten over hoe deze technologie veilig kan worden gebruikt.
De WHO vindt dat de technologie eerst in de medische sector moet worden toegepast, zodat fouten ontdekt en gecorrigeerd kunnen worden. Jeremy Farrar, hoofdwetenschapper van de Wereldgezondheidsorganisatie, benadrukte: “Generatieve AI kan de medische zorg verbeteren, maar dit moet gebeuren met ontwikkelaars, regelgevers en gebruikers die zich volledig bewust zijn van de daarmee gepaard gaande risico’s.”
"We hebben transparante informatie en beleid nodig met betrekking tot het concept, de ontwikkeling en het gebruik van LMM om de best mogelijke resultaten in de gezondheidszorg te bereiken en aanhoudende ongelijkheden in de gezondheidszorg te overwinnen", zei Farrar.
De WHO roept op tot de invoering van enkele garanties, zodat gebruikers die schade ondervinden van LMM een redelijke compensatie kunnen krijgen en over reddingsmiddelen kunnen beschikken.
Volgens het rapport wordt AI gebruikt in de volksgezondheid en de klinische geneeskunde, maar de WHO is van mening dat er enkele risico's kleven aan LMM en dat "de samenleving, medische systemen en eindgebruikers mogelijk niet volledig voorbereid zijn om ermee om te gaan."
De WHO is ook van mening dat LMM doorgaans wordt ontwikkeld en toegepast door technologiegiganten, wat aanleiding kan geven tot zorgen en risico's over het monopolie van deze bedrijven op de technologie. De WHO vereist dat het onderzoek en de ontwikkeling van LMM niet alleen afhankelijk zijn van wetenschappers en ingenieurs, maar ook van praktijkmensen en patiënten op medisch gebied.
De organisatie waarschuwde ook voor de kwetsbaarheden van LMM op het gebied van cyberbeveiliging, waardoor patiëntgerelateerde informatie en zelfs de betrouwbaarheid van de medische zorg in gevaar zouden kunnen komen. Het concludeerde dat overheden toezichthouders verantwoordelijk moeten houden voor het goedkeuren van LMM's voor medisch gebruik en dat er hoorzittingen moeten plaatsvinden over het gebruik ervan om de impact van de technologie te beoordelen.
