ISCs guide tilbyr et omfattende rammeverk designet for å bygge bro mellom prinsipper på høyt nivå og praktisk, handlingskraftig politikk. Den svarer på det presserende behovet for en felles forståelse av både mulighetene og risikoene som fremvoksende teknologier gir. Dette er et essensielt dokument for de som jobber med policy-nexus i vår raskt skiftende digitale tidsalder.
Rammeverket utforsker potensialet til AI og dets derivater gjennom en omfattende linse, som omfatter menneskelig og samfunnsmessig velvære sammen med eksterne faktorer som økonomi, politikk, miljø og sikkerhet. Noen aspekter ved sjekklisten kan være mer relevante enn andre, avhengig av konteksten, men bedre beslutninger virker mer sannsynlige hvis alle domener vurderes, selv om noen raskt kan identifiseres som irrelevante i spesielle tilfeller. Dette er den iboende verdien av en sjekklistetilnærming.
"I en tid preget av rask teknologisk innovasjon og komplekse globale utfordringer, gir ISCs rammeverk for omfattende og flerdimensjonal analyse av potensielle påvirkninger ledere i stand til å ta informerte, ansvarlige beslutninger. Det sikrer at når vi avanserer teknologisk, gjør vi det med en nøye vurdering av de etiske, sosiale og økonomiske implikasjonene."
Peter Gluckman, ISC-president
Mens prinsipper på høyt nivå har blitt kunngjort av blant annet UNESCO, OECD, Europakommisjonen og FN, og ulike diskusjoner fortsetter angående spørsmål om potensiell styring, regulering, etikk og sikkerhet, er det et stort gap mellom slike prinsipper og en styring eller regelverk. ISC adresserer dette behovet gjennom sin nye veiledning for beslutningstakere.
Denne veiledningen for beslutningstakere er ikke ment å forby et reguleringsregime, men snarere å foreslå et adaptivt og utviklende analytisk rammeverk som kan underbygge enhver vurdering og reguleringsprosesser som kan utvikles av interessenter, inkludert regjeringer og det multilaterale systemet.
"Rammeverket er et kritisk skritt i den globale samtalen om AI, da det gir et grunnlag for å bygge konsensus om implikasjonene av teknologien for både nå og i fremtiden."
Hema Sridhar, tidligere sjefsvitenskapelig rådgiver, Forsvarsdepartementet, New Zealand og nå seniorforsker FellowUniversitetet i Auckland, New Zealand.
Siden oktober 2023 har det vært flere betydelige nasjonale og multilaterale initiativer med ytterligere vurdering av AIs etikk og sikkerhet. Implikasjonene av AI på integriteten til noen av våre kritiske systemer, inkludert finansiell, offentlig, juridisk og utdanning, samt ulike kunnskapssystemer (inkludert vitenskapelig og urfolkskunnskap), gir økende bekymring. Rammeverket gjenspeiler disse aspektene ytterligere.
Tilbakemeldingene som er mottatt fra ISC-medlemmer og det internasjonale politikkutformende fellesskapet til dags dato, gjenspeiles i den reviderte versjonen av det analytiske rammeverket, som nå er utgitt som en veiledning for beslutningstakere.
En veiledning for beslutningstakere: Evaluering av raskt utviklende teknologier, inkludert AI, store språkmodeller og mer
Dette diskusjonspapiret gir skissen til et innledende rammeverk for å informere om de mange globale og nasjonale diskusjonene som finner sted relatert til AI.
Last ned rammeverket for bruk i din organisasjon
Her tilbyr vi rammeverkverktøyet som et redigerbart Excel-ark for bruk i din organisasjon. Hvis du foretrekker et åpen kildekode-format, kan du kontakte secretariat@council.science.
Introduksjon
Raskt fremvoksende teknologier byr på utfordrende problemer når det gjelder bruk, styring og potensiell regulering. Den pågående politikken og offentlige debatter om kunstig intelligens (AI) og bruken av den har satt disse spørsmålene i akutt fokus. Brede prinsipper for kunstig intelligens er kunngjort av UNESCO, OECD, FN og andre, inkludert Storbritannias Bletchley-erklæring, og det er nye jurisdiksjonsforsøk på regulering av aspekter ved teknologien gjennom for eksempel AI fra EU (EU) Act eller den nylige amerikanske AI Executive Order.
Mens bruken av kunstig intelligens diskuteres inngående i disse og andre fora, på tvers av geopolitiske skillelinjer og i land på alle inntektsnivåer, er det fortsatt et ontologisk gap mellom utviklingen av prinsipper på høyt nivå og deres inkorporering i praksis gjennom enten regulering, politikk, styring eller forvaltning nærmer seg. Veien fra prinsipp til praksis er dårlig definert, men gitt arten og frekvensen av AI-utvikling og -applikasjon, mangfoldet av interesser som er involvert og spekteret av mulige applikasjoner, kan ikke enhver tilnærming være altfor generisk eller foreskrivende.
Av disse grunner fortsetter det ikke-statlige vitenskapelige samfunnet å spille en spesiell rolle. International Science Council (ISC) – med sitt pluralistiske medlemskap fra samfunns- og naturvitenskap – ga ut et diskusjonspapir i oktober 2023 som presenterte et foreløpig analytisk rammeverk som vurderte risikoene, fordelene, truslene og mulighetene knyttet til digital teknologi i rask bevegelse. Selv om den ble utviklet for å vurdere AI, er den iboende teknologiagnostisk og kan brukes på en rekke nye og forstyrrende teknologier, som syntetisk biologi og kvante. Det diskusjonspapiret inviterte til tilbakemeldinger fra akademikere og beslutningstakere. De overveldende tilbakemeldingene gjorde det nødvendig å gjennomføre en slik analyse og var en verdifull tilnærming for å adressere nye teknologier som AI.
Formålet med rammeverket er å gi et verktøy for å informere alle interessenter – inkludert regjeringer, handelsforhandlere, regulatorer, sivilsamfunn og industri – om utviklingen av disse teknologiene for å hjelpe dem med å finne ut hvordan de kan vurdere implikasjonene, positive eller negative, av selve teknologien, og mer spesifikt dens spesielle anvendelse. Dette analytiske rammeverket er utviklet uavhengig av myndigheter og industriinteresser. Den er maksimalt pluralistisk i sine perspektiver, og omfatter alle aspekter av teknologien og dens implikasjoner basert på omfattende konsultasjoner og tilbakemeldinger.
Dette diskusjonspapiret for beslutningstakere er ikke ment å forby et reguleringsregime, men snarere å foreslå et adaptivt og utviklende analytisk rammeverk som kan underbygge enhver vurdering og reguleringsprosesser som kan utvikles av interessenter, inkludert regjeringer og det multilaterale systemet.
Ettersom beslutningstakere globalt og nasjonalt vurderer hensiktsmessige politiske innstillinger og spaker for å balansere risikoene og fordelene ved en ny teknologi som AI, er det analytiske rammeverket ment som et komplementært verktøy for å sikre at hele pakken av potensielle implikasjoner er tilstrekkelig reflektert.
Bakgrunn: hvorfor et analytisk rammeverk?
Den raske fremveksten av teknologier med kompleksiteten og implikasjonene til AI driver mange påstander til stor nytte. Det vekker imidlertid også frykt for betydelige risikoer, fra individ til geostrategisk nivå.1 Mye av diskusjonen til dags dato har blitt vurdert i binær forstand, da offentlig uttrykte synspunkter har en tendens til å finne sted i de ytterste ender av spekteret. Påstandene som fremsettes for eller mot AI er ofte hyperbolske og – gitt teknologiens natur – vanskelig å vurdere.
En mer pragmatisk tilnærming er nødvendig der hyperbole erstattes med kalibrerte og mer granulære evalueringer. AI-teknologi vil fortsette å utvikle seg, og historien viser at praktisk talt hver teknologi har både fordelaktige og skadelige bruksområder. Spørsmålet er derfor: hvordan kan vi oppnå de fordelaktige resultatene fra denne teknologien, samtidig som vi reduserer risikoen for skadelige konsekvenser, hvorav noen kan være eksistensielle i omfang?
Fremtiden er alltid usikker, men det er tilstrekkelig med troverdige og ekspertstemmer angående AI og generativ AI til å oppmuntre til en relativt føre-var-tilnærming. I tillegg er en systemtilnærming nødvendig siden AI er en klasse av teknologier med bred bruk og anvendelse av flere typer brukere. Dette betyr at hele konteksten må tas i betraktning når man vurderer implikasjonene av enhver bruk av AI for individer, sosialt liv, samfunnsliv, samfunnsliv og i global kontekst.
I motsetning til de fleste andre teknologier, for digitale og relaterte teknologier, er tiden mellom utvikling, utgivelse og applikasjon ekstremt kort, i stor grad drevet av interessene til produksjonsselskapene eller byråene. I sin natur – og gitt at den er basert på den digitale ryggraden – vil AI ha applikasjoner som er raskt gjennomgripende, som allerede har blitt sett med utviklingen av store språkmodeller. Som et resultat kan enkelte egenskaper først bli synlige etter løslatelse, noe som betyr at det er risiko for uforutsette konsekvenser, både ondsinnede og velvillige.
Viktige samfunnsverdidimensjoner, spesielt på tvers av ulike regioner og kulturer, vil påvirke hvordan enhver bruk blir oppfattet og akseptert. Videre dominerer allerede geostrategiske interesser diskusjonen, med suverene og multilaterale interesser som kontinuerlig krysser hverandre og dermed driver konkurranse og splittelse.
Til dags dato har mye av reguleringen av en virtuell teknologi i stor grad blitt sett gjennom linsen av "prinsipper" og frivillig etterlevelse, men med EUs AI-lov2 og lignende ser vi et skifte til mer håndhevbare, men noe snevre regler. Det er fortsatt utfordrende å etablere et effektivt globalt eller nasjonalt teknologistyringssystem og/eller reguleringssystem, og det er ingen åpenbar løsning. Flere lag med risikoinformert beslutningstaking vil være nødvendig langs kjeden, fra oppfinner til produsent, til bruker, til myndigheter og til det multilaterale systemet.
Mens prinsipper på høyt nivå har blitt kunngjort av blant annet UNESCO, OECD, Europakommisjonen og FN, og ulike diskusjoner på høyt nivå fortsetter angående spørsmål om potensiell styring, regulering, etikk og sikkerhet, er det et stort gap mellom slike prinsipper og et styrings- eller regelverk. Dette må tas tak i.
Som et utgangspunkt vurderer ISC å utvikle en taksonomi av hensyn som enhver utvikler, regulator, politisk rådgiver, forbruker eller beslutningstaker kan referere til. Gitt de brede implikasjonene av disse teknologiene, må en slik taksonomi vurdere helheten av implikasjoner i stedet for en snevert fokusert innramming. Global fragmentering øker på grunn av geostrategiske interessers innflytelse på beslutningstaking, og gitt hvor presserende denne teknologien er, er det avgjørende at uavhengige og nøytrale stemmer vedvarende forkjemper en enhetlig og inkluderende tilnærming.
1) Hindustan Times. 2023. G20 må sette ned et internasjonalt panel om teknologiske endringer.
https://www.hindustantimes.com/opinion/g20-must-set-up-an-international-panel-on-technological-change-101679237287848.html
2) EUs lov om kunstig intelligens. 2023. https://artificialintelligenceact.eu
Utvikling av et analytisk rammeverk
ISC er den primære globale ikke-statlige organisasjonen som integrerer natur- og samfunnsvitenskap. Dens globale og disiplinære rekkevidde betyr at den er godt posisjonert til å generere uavhengige og globalt relevante råd for å informere om de komplekse valgene fremover, spesielt ettersom de nåværende stemmene på denne arenaen i stor grad er fra industrien eller fra de politiske og politiske fellesskapene til de store teknologiske maktene.
Etter en periode med omfattende diskusjoner, som inkluderte vurderingen av en ikke-statlig vurderingsprosess, konkluderte ISC med at dets mest nyttige bidrag ville være å produsere et adaptivt analytisk rammeverk som kan brukes som grunnlag for diskurs og beslutningstaking av alle interessenter, inkludert under eventuelle formelle vurderingsprosesser som dukker opp.
Det foreløpige analytiske rammeverket, som ble utgitt for diskusjon og tilbakemelding i oktober 2023, hadde form av en overordnet sjekkliste designet for bruk av både offentlige og ikke-statlige institusjoner. Rammeverket identifiserte og utforsket potensialet til en teknologi som AI og dens derivater gjennom en vid linse som omfatter menneskelig og samfunnsmessig velvære, så vel som eksterne faktorer som økonomi, politikk, miljø og sikkerhet. Noen aspekter ved sjekklisten kan være mer relevante enn andre, avhengig av konteksten, men bedre beslutninger virker mer sannsynlige hvis alle domener vurderes, selv om noen raskt kan identifiseres som irrelevante i spesielle tilfeller. Dette er den iboende verdien av en sjekklistetilnærming.
Det foreløpige rammeverket ble utledet fra tidligere arbeid og tenkning, inkludert International Network for Governmental Science Advice (INGSA) sin rapport om digital velvære3 og OECD Framework for the Classification of AI Systems,4 for å presentere helheten av potensielle muligheter, risikoer og virkninger av AI. Disse tidligere produktene var mer begrenset i sin hensikt gitt deres tid og kontekst; det er behov for et overordnet rammeverk som presenterer hele spekteret av problemstillinger både på kort og lengre sikt.
Siden utgivelsen har diskusjonspapiret fått betydelig støtte fra mange eksperter og beslutningstakere. Mange har spesifikt sluttet seg til anbefalingen om å utvikle et adaptivt rammeverk som gir mulighet for bevisst og proaktiv vurdering av risikoene og implikasjonene av teknologien, og ved å gjøre det, alltid vurderer helheten av dimensjoner fra individ til samfunn og systemer.
En viktig observasjon gjort gjennom tilbakemeldingen var en erkjennelse av at flere av implikasjonene som vurderes i rammeverket er iboende mangefasetterte og strekker seg over flere kategorier. For eksempel kan desinformasjon vurderes fra både den individuelle og geostrategiske linsen; dermed ville konsekvensene være vidtgående.
Alternativet for å inkludere casestudier eller eksempler for å teste rammeverket ble også foreslått. Dette kan brukes til å utvikle retningslinjer for å vise hvordan det kan brukes i praksis i ulike sammenhenger. Dette vil imidlertid være en betydelig forpliktelse og kan begrense hvordan ulike grupper oppfatter bruken av dette rammeverket. Det gjøres best av beslutningstakere som jobber med eksperter i spesifikke jurisdiksjoner eller kontekster.
Siden oktober 2023 har det vært flere betydelige nasjonale og multilaterale initiativer med ytterligere vurdering av AIs etikk og sikkerhet. Implikasjonene av AI på integriteten til noen av våre kritiske systemer, inkludert finansiell, offentlig, juridisk og utdanning, samt ulike kunnskapssystemer (inkludert vitenskapelig og urfolkskunnskap), gir økende bekymring. Det reviderte rammeverket gjenspeiler disse aspektene ytterligere.
Tilbakemeldingene som er mottatt så langt gjenspeiles i den reviderte versjonen av det analytiske rammeverket, som nå er utgitt som en veiledning til beslutningstakere.
Mens rammeverket presenteres i sammenheng med AI og relaterte teknologier, kan det umiddelbart overføres til hensynet til andre raskt fremvoksende teknologier som kvantebiologi og syntetisk biologi.
3) Gluckman, P. og Allen, K. 2018. Forstå velvære i sammenheng med raske digitale og tilhørende transformasjoner. INGSA.
https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf
4) OECD. 2022. OECDs rammeverk for klassifisering av AI-systemer. OECD Digital Economy Papers, nr. 323,#. Paris, OECD Publishing.
https://oecd.ai/en/classificatio
Rammeverket
Tabellen nedenfor presenterer dimensjonene til et antatt analytisk rammeverk. Eksempler er gitt for å illustrere hvorfor hvert domene kan ha betydning; i sammenheng vil rammeverket kreve kontekstuelt relevant utvidelse. Det er også viktig å skille mellom de generiske problemene som oppstår under plattformutvikling og de som kan dukke opp under spesifikke applikasjoner. Ingen enkelt hensyn inkludert her bør behandles som en prioritet, og som sådan bør alle undersøkes.
Problemene er grovt sett gruppert i følgende kategorier som skissert nedenfor:
Tabellen beskriver dimensjoner som kanskje må vurderes når en ny teknologi evalueres.
– INGSA. 2018. Forståelse av velvære i sammenheng med raske digitale og tilhørende transformasjoner.
https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf
– Nye beskrivelser (hentet gjennom den omfattende konsultasjonen, tilbakemeldingene og litteraturgjennomgangen)
– OECD-rammeverket for klassifisering av KI-systemer: et verktøy for effektiv KI-politikk.
https://oecd.ai/en/classification
| Kriterier | Eksempler på hvordan dette kan gjenspeiles i analyse |
| Brukernes AI-kompetanse | Hvor kompetente og bevisste på systemets egenskaper er de sannsynlige brukerne som vil samhandle med systemet? Hvordan vil de få relevant brukerinformasjon og advarsler? |
| Berørte interessenter | Hvem er de primære interessentene som vil bli påvirket av systemet (individer, lokalsamfunn, sårbare, sektorarbeidere, barn, beslutningstakere, fagpersoner osv.)? |
| Valgfrihet | Får brukerne mulighet til å velge bort systemet eller gis de muligheter til å utfordre eller korrigere resultatet? |
| Risikoer for menneskerettigheter og demokratiske verdier | Har systemet fundamental innvirkning på menneskerettighetene, inkludert men ikke begrenset til personvern, ytringsfrihet, rettferdighet, ikke-diskriminerende osv.? |
| Potensielle effekter på folks velvære | Relaterer systempåvirkningsområdene den enkelte brukers velvære (jobbkvalitet, utdanning, sosiale interaksjoner, psykisk helse, identitet, miljø osv.)? |
| Potensial for menneskelig fortrengning av arbeidskraft | Er det et potensial for systemet til å automatisere oppgaver eller funksjoner som ble utført av mennesker? I så fall, hva er konsekvensene nedstrøms? |
| Potensial for identitets-, verdi- eller kunnskapsmanipulasjon | Er systemet designet eller potensielt i stand til å manipulere brukerens identitet eller verdier satt, eller spre desinformasjon? |
| Muligheter for selvutfoldelse og selvrealisering | Er det et potensial for kunstgrep og selvtillit? Er det et potensial for falsk eller ukontrollerbare påstander om ekspertise? |
| Mål for egenverd | Er det press for å fremstille idealiserte selv? Kan automatisering erstatte en følelse av personlig oppfyllelse? Er det press for å konkurrere med systemet i arbeidsplass? Er individuell omdømme vanskeligere å beskytte mot desinformasjon? |
| Privatliv | Er det spredte ansvar for å ivareta personvernet og finnes det noen gjøres forutsetninger om hvordan personopplysninger brukes? |
| Autonomi | Kan AI-systemet påvirke menneskets autonomi ved å generere overavhengighet ved sluttbrukere? |
| Menneskelig utvikling | Er det innvirkning på tilegnelse av nøkkelferdigheter for menneskelig utvikling, som f.eks utøvende funksjoner eller mellommenneskelige ferdigheter, eller endringer i oppmerksomhetstid som påvirker læring, personlighetsutvikling, psykiske helseproblemer etc.? |
| Personlig helsevesen | Er det påstander om selvdiagnose eller personlige helsetjenester? I så fall, er de validert i henhold til regulatoriske standarder? |
| Mental Helse | Er det fare for økt angst, ensomhet eller andre psykiske problemer, eller kan teknologien lindre slike påvirkninger? |
| Menneskelig evolusjon | Kan store språkmodeller og kunstig generell intelligens endre forløpet av menneskelig evolusjon? |
| Menneske-maskin interaksjon | Kan bruken føre til dekompetanse og avhengighet over tid for enkeltpersoner? Are påvirker det menneskelig samhandling? |
| Kriterier | Eksempler på hvordan dette kan gjenspeiles i analyse |
| Samfunnsverdier | Endrer systemet fundamentalt samfunnets natur, muliggjør normalisering av ideer som tidligere ble ansett som antisosiale, eller bryter de samfunnsverdiene i kulturen det brukes i? |
| Sosiale interaksjoner | Er det en effekt på meningsfull menneskelig kontakt, inkludert følelsesmessige relasjoner? |
| Befolknings helse | Er det et potensial for systemet til å fremme eller undergrave befolkningens helseintensjoner? |
| Kulturelt uttrykk | Er en økning i kulturell appropriasjon eller diskriminering sannsynlig eller vanskeligere å håndtere? Utelukker eller marginaliserer avhengighet av systemet for beslutningstaking kulturelt relevante seksjonsbånd i samfunnet? |
| Offentlig utdanning | Er det en effekt på lærerroller eller utdanningsinstitusjoner? Fremhever eller reduserer systemet det digitale skillet og ulikheten blant studenter? Er den iboende verdien av kunnskap eller kritisk forståelse avansert eller undergravd? |
| Forvrengte virkeligheter | Er metodene som brukes for å finne ut hva som er sant fortsatt anvendelige? Er virkelighetsoppfatningen kompromittert? |
| Kriterier | Eksempler på hvordan dette kan gjenspeiles i analyse |
| Industrisektoren | I hvilken industrisektor brukes systemet (finans, landbruk, helsevesen, utdanning, forsvar osv.)? |
| Forretningsmodell | I hvilken forretningsfunksjon brukes systemet og i hvilken kapasitet? Hvor brukes systemet (privat, offentlig, non-profit)? |
| Konsekvenser for kritiske aktiviteter | Vil en forstyrrelse av systemets funksjon eller aktivitet påvirke viktige tjenester eller kritisk infrastruktur? |
| Bredde av distribusjon | Hvordan er systemet distribuert (smal bruk innenfor enhet vs. utbredt nasjonalt/internasjonalt)? |
| Teknisk modenhet | Hvor teknisk modent er systemet? |
| Interoperabilitet | Er det sannsynlig at det vil være siloer, nasjonalt eller globalt, som hemmer frihandel og påvirker samarbeid med partnere? |
| Teknologisk suverenitet | Driver et ønske om teknologisk suverenitet oppførsel, inkludert kontroll over hele AI-forsyningskjeden? |
| Inntektsomfordeling og nasjonale finanspolitiske grep | Kan den suverene statens kjerneroller bli kompromittert (f.eks. reservebanker)? Vil statens evne til å møte innbyggernes forventninger og implikasjoner (sosiale, økonomiske, politiske etc.) bli fremmet eller redusert? |
| Digitalt skille (AI-skille) | Forverres eksisterende digitale ulikheter eller skapes nye? |
| Kriterier | Eksempler på hvordan dette kan gjenspeiles i analyse |
| Styresett og offentlig tjeneste | Kan styringsmekanismene og det globale styringssystemet påvirkes positivt eller negativt? |
| Nyhetsmedia | Er det sannsynlig at den offentlige diskursen blir polarisert og forankret på befolkningsnivå? Vil det være en effekt på nivåene av tillit til fjerdestanden? Vil konvensjonell journalistetikk og integritetsstandarder bli ytterligere påvirket? |
| Rettssikkerhet | Vil det være en effekt på evnen til å identifisere enkeltpersoner eller organisasjoner som skal holdes ansvarlige (f.eks. hva slags ansvarlighet å tildele en algoritme for uønskede utfall)? Er det skapt et tap av suverenitet (miljø, finans, sosialpolitikk, etikk osv.)? |
| Politikk og sosialt samhold | Er det en mulighet for mer forankret politiske synspunkter og mindre mulighet for konsensusbygging? Er det mulighet for ytterligere marginalisering av grupper? Er motstridende politikkstiler mer eller mindre sannsynlige? |
| Sosial lisens | Er det personvernhensyn, tillitsproblemer og moralske bekymringer som må vurderes for at interessentene skal akseptere bruken? |
| Urfolkskunnskap | Kan urfolks kunnskap og data bli ødelagt eller misbrukt? Finnes det tilstrekkelige tiltak for å beskytte mot uriktig fremstilling, feilinformasjon og utnyttelse? |
| Vitenskapelig system | Er akademisk og forskningsmessig integritet kompromittert? Er det tap av tillit til vitenskapen? Er det muligheter for misbruk, overbruk eller misbruk? Hva er konsekvensen av utøvelse av vitenskap? |
| Kriterier | Eksempler på hvordan dette kan gjenspeiles i analyse |
| Presisjonsovervåking | Er systemene trent på individuelle atferdsmessige og biologiske data og kan de brukes til å utnytte individer eller grupper? |
| Digital konkurranse | Kan statlige eller ikke-statlige aktører (f.eks. store teknologiselskaper) utnytte systemer og data for å forstå og kontrollere andre lands befolkninger og økosystemer, eller undergrave jurisdiksjonskontroll? |
| Geopolitisk konkurranse | Kan systemet skape konkurranse mellom nasjoner om å utnytte individuelle og gruppedata for økonomiske, medisinske og sikkerhetsmessige interesser? |
| Skift i globale makter | Er nasjonalstatenes status som verdens primære geopolitiske aktører truet? Har teknologiselskaper makt en gang forbeholdt nasjonalstater og har de blitt uavhengige, suverene aktører (fremvoksende teknopolar verdensorden)? |
| desinformasjon | Ville systemet legge til rette for produksjon og spredning av desinformasjon fra statlige og ikke-statlige aktører med innvirkning på sosial samhørighet, tillit og demokrati? |
| Dobbeltbruksapplikasjoner | Er det mulighet for både militær bruk og sivil bruk? |
| Fragmentering av den globale orden | Kan det utvikles siloer eller klynger av regulering og etterlevelse som hindrer samarbeid, fører til inkonsekvens i anvendelsen og skaper rom for konflikt? |
| Kriterier | Eksempler på hvordan dette kan gjenspeiles i analyse |
| Energi- og ressursforbruk (karbonfotavtrykk) | Øker systemet og kravene opptak av energi og ressursforbruk utover effektivitetsgevinstene som oppnås gjennom søknaden? |
| Energikilde | Hvor er energien hentet fra for systemet (fornybart vs. fossilt brensel etc.)? |
| Kriterier | Eksempler på hvordan dette kan gjenspeiles i analyse |
| Retning og samling | Er dataene og inndataene samlet inn av mennesker, automatiserte sensorer eller begge deler? |
| Opprinnelsen til dataene | Er dataene og innspillene fra eksperter gitt, observert, syntetiske eller avledet? Er det vannmerkebeskyttelse for å bekrefte herkomst? |
| Dynamisk karakter av dataene | Oppdateres dataene dynamiske, statiske, dynamiske fra tid til annen eller i sanntid? |
| Rettigheter | Er dataene proprietære, offentlige eller personlige (relatert til identifiserbare individer)? |
| Identifiserbarhet og personopplysninger | Hvis personopplysningene er anonymiserte eller pseudonymiserte? |
| Strukturen til dataene | Er dataene strukturerte, semistrukturerte, komplekse strukturerte eller ustrukturerte? |
| Formatet på dataene | Er formatet på dataene og metadataene standardisert eller ikke-standardisert? |
| Skalaen til dataene | Hva er skalaen til datasettet? |
| Hensiktsmessighet og kvalitet på dataene | Er datasettet egnet til formålet? Er utvalgsstørrelsen tilstrekkelig? Er det representativt og fullstendig nok? Hvor støyende er dataene? Er den utsatt for feil? |
| Kriterier | Eksempler på hvordan dette kan gjenspeiles i analyse |
| Informasjon tilgjengelig | Er det tilgjengelig informasjon om systemets modell? |
| Type AI-modell | Er modellen symbolsk (menneskeskapte regler), statistisk (bruker data) eller hybrid? |
| Rettigheter knyttet til modellen | Er modellen åpen kildekode eller proprietær, egen- eller tredjepartsadministrert? |
| En av flere modeller | Er systemet sammensatt av én modell eller flere sammenkoblede modeller? |
| Generativ eller diskriminerende | Er modellen generativ, diskriminerende eller begge deler? |
| Modellbygg | Lærer systemet basert på menneskeskrevne regler, fra data, gjennom veiledet læring eller gjennom forsterkende læring? |
| Modellutvikling (AI-drift) | Utvikler modellen seg og/eller tilegner seg evner ved å samhandle med data i feltet? |
| Federert eller sentral læring | Er modellen trent sentralt eller i flere lokale servere eller 'edge'-enheter? |
| Utvikling/vedlikehold | Er modellen universell, tilpassbar eller skreddersydd til AI-aktørens data? |
| Deterministisk eller probabilistisk | Er modellen brukt på en deterministisk eller sannsynlig måte? |
| Modelltransparens | Er informasjon tilgjengelig for brukere slik at de kan forstå modellutdata og begrensninger eller bruke begrensninger? |
| Beregningsbegrensning | Er det beregningsbegrensninger for systemet? Er det mulig å forutsi kapasitetshopp eller skaleringslover? |
| Kriterier | Eksempler på hvordan dette kan gjenspeiles i analyse |
| Oppgave(r) utført av systemet | Hvilke oppgaver utfører systemet (gjenkjenning, hendelsesdeteksjon, prognose etc.)? |
| Kombinere oppgaver og handlinger | Kombinerer systemet flere oppgaver og handlinger (innholdsgenereringssystemer, autonome systemer, kontrollsystemer etc.)? |
| Systemets nivå av autonomi | Hvor autonome er systemets handlinger og hvilken rolle spiller mennesker? |
| Grad av menneskelig involvering | Er det noe menneskelig involvering for å overvåke den generelle aktiviteten til AI-systemet og evnen til å bestemme når og hvordan AI-systemet skal brukes i enhver situasjon? |
| Kjerneapplikasjon | Tilhører systemet et kjerneapplikasjonsområde som menneskelig språkteknologi, datasyn, automatisering og/eller optimalisering eller robotikk? |
| Evaluering | Er standarder eller metoder tilgjengelige for å evaluere systemutdata? |
Hvordan kan dette rammeverket brukes?
Dette rammeverket kan brukes på mange måter, inkludert:
En vei fremover
Oppsummert er det analytiske rammeverket gitt som grunnlaget for et verktøysett som kan brukes av interessenter til å se på enhver betydelig utvikling enten av plattformer eller bruk på en konsistent og systematisk måte. Dimensjonene som presenteres i dette rammeverket har relevans fra teknologivurdering til offentlig politikk, fra menneskelig utvikling til sosiologi, og fremtids- og teknologistudier. Selv om dette analytiske rammeverket er utviklet for AI, har det mye bredere anvendelse på enhver annen ny teknologi.
Takk til
Mange har blitt konsultert og gitt tilbakemeldinger i utviklingen av både det første diskusjonsnotatet og tilbakemeldinger etter at det ble publisert. Begge notatene ble utarbeidet av Sir Peter Gluckman, president, ISC og Hema Sridhar, tidligere sjefsvitenskapelig rådgiver, Forsvarsdepartementet, New Zealand og nå seniorforskningssjef FellowUniversitetet i Auckland, New Zealand.
Spesielt ISC Lord Martin Rees, tidligere president i Royal Society og medgründer av Center for the Study of Existential Risks, University of Cambridge; professor Shivaji Sondhi, professor i fysikk, University of Oxford; Professor K Vijay Raghavan, tidligere hovedvitenskapelig rådgiver for Indias regjering; Amandeep Singh Gill, FNs generalsekretærs utsending for teknologi; Seán Ó hÉigeartaigh, administrerende direktør, Center for the Study of Existential Risks, University of Cambridge; Sir David Spiegelhalter, Winton-professor i offentlig forståelse av risiko, universitetet
av Cambridge; Amanda-June Brawner, seniorpolitisk rådgiver og Ian Wiggins, direktør for internasjonale anliggender, Royal Society, Storbritannia; Dr Jerome Duberry, administrerende direktør og Dr Marie-Laure Salles, direktør, Geneva Graduate Institute; Chor Pharn Lee, Center for Strategic Futures, statsministerens kontor, Singapore; Barend Mons og Dr Simon Hodson, Datakomiteen (CoDATA); Professor Yuko Harayama, tidligere administrerende direktør, RIKEN; Professor
Rémi Quirion, president, INGSA; Dr. Claire Craig, University of Oxford og tidligere sjef for fremsyn, Government Office of Science; Prof Yoshua Bengio, FNs generalsekretærs vitenskapelige råd og ved Université de Montréal; og de mange andre som ga tilbakemelding til ISC på det første diskusjonspapiret.
Forbereder nasjonale forskningsøkosystemer for AI: Strategier og fremgang i 2024
Dette arbeidspapiret fra ISCs tenketank, Center for Science Futures, gir grunnleggende informasjon og tilgang til ressurser fra land fra alle deler av verden, på ulike stadier av integrering av AI i forskningsøkosystemene deres.
Bygge fremtidssikrede vitenskapssystemer i det globale sør
Nye teknologier omformer måten vitenskap drives på, og tilbyr et betydelig potensial for å styrke vitenskapssystemer i det globale sør – dersom adopsjonen av dem styres av inkluderende, godt støttede og kontekstsensitive tilnærminger. Hvordan sikre at disse teknologiene bidrar til mer rettferdige og robuste vitenskapssystemer, i stedet for å forsterke eksisterende ulikheter, var det sentrale fokuset for dette nylige strategiske retrettmøtet.
Les mer om AI-avsløring i forskning: mot en global rapporteringsstandard
Les mer om Mot likestilling i vitenskapelige organisasjoner: vurdering og anbefalinger
Les mer om Muscat Global Knowledge Dialogue
