70 – Barncentrerad AI – Risker och möjligheter för barns hällsa med artificiell intelligens

Åldersövergripande arbete
Petter Wärnsberg Lund University Commissioned Education och Malin Larsson, AI Sweden

Sammanfattning: Artificiell intelligens (AI) är en av vår tids stora utmaningar. Med avstamp i de möjligheter och risker för barns hälsa som AI innebär delar vi lärdomar från det unika pilotprojekt för UNICEF som genomförs i samverkan mellan Lunds, Malmö och Helsingborgs kommun. Vi berättar om hur sverige bidrar till UNICEFs rekommendationer för skapandet av Barncentrerad AI, hur rekommendationerna användas i praktiken och varför det är viktigt att engagera sig nu.

Beskrivning: Utvecklingen av artificiell intelligens sker i rasande takt och finns redan idag runt omkring oss. I synliga produkter som rekommendationer på YouTube, i robotdammsugare och interaktiva leksaker. I ökande grad formas produkter och tjänster av AI inom både den privata och offentliga sektorn. Barnen påverkas i hög grad redan idag och UNICEF arbetar globalt för att barnrättsperspektivet inte ska glömmas bort när AI policyer och system utvecklas.

AI erbjuder stora möjligheter att säkra barns hälsa genom att till exempel:

  • Anpassa tjänster och användandet av resurser efter vart barns behov inom bland annat utbildning och vård
  • Kompensera funktionshinder och nedsatta förmågor med virtuella assistenter, robotproteser och chatbotar som ger mentalt stöd
  • Bidra till att vi når hållbarhetsmålen.

Samtidigt finns det stora risker med AI genom att till exempel

  • Barns integritet kan kränkas än mer specifikt och träffsäkert
  • Barns framtidsutsikter kan förutspås och begränsas baserat på genetisk analys
  • Vi inte vet vad som händer med hjärnans utveckling när vi lämnar över kognitiva uppgifter till AI och vad de långsiktiga konsekvenserna är när vi använder kognitiv manipulation för att styra våra barns beteenden.

Efter en studie av nationella AI strategier där barnrättsperspektivet var oroväckande frånvarande tog UNICEF fram rekommendationer för utvecklandet av barncentrerat AI. I ett pilotprogram för att testa dessa rekommendationer har AI Sweden och Lunds Universitet tillsammans med Lunds, Malmö och Helsingborgs kommun arbetat med UNICEF i ett antal testbäddar.

Det blir en blandning av konkreta exempel från pilotprogrammet med lärdomar och praktiska metoder, och ett utforskande av varför Barncentrerad AI är en sådan viktig fråga att engagera sig i idag. Det är ett område vi alla har något att bidra till och samarbete är väsentligt när vi tar oss an något så komplext.

Anknytning till artikel 24: AI kan som teknik bidra till att lösa många av de stora utmaningar som direkt eller indirekt påverkar barns hälsa. Samtidigt finns det många risker med tekniken vilket gör det viktigt att vi på ett så tidigt stadium som möjligt lyfter barnrättsperspektivet i utvecklandet av AI system och policyer. Med vårt seminarium vill vi upplysa och inspirera till ett engagemang som fångar möjligheterna och minimerar riskerna.