Et rammeverk for å evaluere raskt utviklende digitale og relaterte teknologier: AI, store språkmodeller og mer

• Introduksjon 
• Bakgrunn 
• Utvikling av et analytisk rammeverk 
• Bruke det analytiske rammeverket 
• Dimensjoner å vurdere når man vurderer en ny teknologi 
• En vei fremover 
• Takk til

Raskt fremvoksende teknologier byr på utfordrende problemer når det gjelder styring og potensiell regulering. Politikken og den offentlige debatten om kunstig intelligens (AI) og bruken av den har satt disse spørsmålene i akutt fokus. Mens brede prinsipper for AI har blitt kunngjort av UNESCO, OECD og andre, og det er begynnende diskusjoner angående global eller jurisdiksjonell regulering av teknologien, er det et ontologisk gap mellom utviklingen av prinsipper på høyt nivå og deres inkorporering i regulering, politikk, tilnærminger til styring og forvaltning. Det er her det ikke-statlige vitenskapelige miljøet kan ha en spesiell rolle. 

Det har blitt foreslått av en rekke akademikere og politiske eksperter at International Science Council (ISC) – med sitt pluralistiske medlemskap fra samfunns- og naturvitenskap – etablerer en prosess for å produsere og vedlikeholde et kommentert rammeverk/sjekkliste over risikoer, fordeler, trusler og muligheter knyttet til raskt bevegelige digitale teknologier, inkludert – men ikke begrenset til – AI. Hensikten med sjekklisten ville være å informere alle interessenter – inkludert regjeringer, handelsforhandlere, regulatorer, sivilsamfunn og industri – om potensielle fremtidige scenarier, og ville ramme hvordan de kan vurdere mulighetene, fordelene, risikoene og andre problemer. 

Resultatene vil ikke fungere som et vurderingsorgan, men som et adaptivt og utviklende analytisk rammeverk som kan underbygge enhver vurderings- og reguleringsprosess som kan utvikles av interessenter, inkludert regjeringer og det multilaterale systemet. Ethvert analytisk rammeverk bør ideelt sett utvikles uavhengig av påstander fra myndigheter og industri, gitt deres forståelige interesser. Den må også være maksimalt pluralistisk i sine perspektiver, og dermed omfatte alle aspekter av teknologien og dens implikasjoner. 

Dette diskusjonspapiret gir skissen til et innledende rammeverk for å informere om de mange globale og nasjonale diskusjonene som finner sted relatert til AI. 

Den raske fremveksten av en teknologi med kompleksiteten og implikasjonene til AI driver mange påstander om store fordeler. Det vekker imidlertid også frykt for betydelige risikoer, fra individ til geostrategisk nivå. Mye av diskusjonen har en tendens til å foregå i de ytterste ender av spekteret av synspunkter, og en mer pragmatisk tilnærming er nødvendig. AI-teknologi vil fortsette å utvikle seg og historien viser at praktisk talt hver teknologi har både fordelaktige og skadelige bruksområder. Spørsmålet er derfor: hvordan kan vi oppnå fordelaktige resultater fra denne teknologien, samtidig som vi reduserer risikoen for skadelige konsekvenser, hvorav noen kan være eksistensielle i omfang? 

Fremtiden er alltid usikker, men det er tilstrekkelig med troverdige og ekspertstemmer angående AI og generativ AI til å oppmuntre til en relativt føre-var-tilnærming. I tillegg er det nødvendig med en systemtilnærming, fordi AI er en klasse av teknologier med bred bruk og anvendelse av flere typer brukere. Dette betyr at hele konteksten må tas i betraktning når man vurderer implikasjonene av AI for individer, sosialt liv, samfunnsliv, samfunnsliv og i global kontekst. 

I motsetning til de fleste tidligere teknologier, har digitale og relaterte teknologier svært kort tid fra utvikling til utgivelse, i stor grad drevet av interessene til produksjonsselskapene eller byråene. AI er raskt gjennomgripende; noen egenskaper kan først bli synlige etter utgivelsen, og teknologien kan ha både ondsinnede og velvillige applikasjoner. Viktige verdidimensjoner vil påvirke hvordan enhver bruk oppfattes. Videre kan det være geostrategiske interesser i spill. 

Til dags dato har reguleringen av en virtuell teknologi i stor grad blitt sett gjennom linsen av "prinsipper" og frivillig etterlevelse. I senere tid har diskusjonen imidlertid dreid seg om spørsmål om nasjonal og multilateral styring, inkludert bruk av regulatoriske og andre politiske verktøy. Påstandene som fremsettes for eller mot AI er ofte hyperbolske og – gitt teknologiens natur – vanskelig å vurdere. Det vil være utfordrende å etablere et effektivt globalt eller nasjonalt teknologireguleringssystem, og det vil være behov for flere lag med risikoinformert beslutningstaking langs kjeden, fra oppfinner til produsent, til bruker, til myndigheter og til det multilaterale systemet. 

Mens prinsipper på høyt nivå har blitt kunngjort av blant annet UNESCO, OECD og EU-kommisjonen, og ulike diskusjoner på høyt nivå er i gang angående spørsmål om potensiell regulering, er det et stort ontologisk gap mellom slike prinsipper og et styrings- eller regelverk. Hva er taksonomien av hensyn som en regulator kan trenge å vurdere? En snevert fokusert innramming ville være uklokt, gitt de brede implikasjonene av disse teknologiene. Dette potensialet har vært gjenstand for mange kommentarer, både positive og negative.

ISC er den primære globale NGO som integrerer natur- og samfunnsvitenskap. Dens globale og disiplinære rekkevidde betyr at den er godt posisjonert til å generere uavhengige og globalt relevante råd for å informere om de komplekse valgene fremover, spesielt ettersom de nåværende stemmene på denne arenaen i stor grad er fra industrien eller fra de store teknologiske maktene. Etter omfattende diskusjoner de siste månedene, inkludert vurdering av en ikke-statlig vurderingsprosess, konkluderte ISC med at dens mest nyttige bidrag ville være å produsere og opprettholde et adaptivt analytisk rammeverk som kan brukes som grunnlag for diskurs og beslutningstaking av alle interessenter, inkludert under enhver formell vurderingsprosess som dukker opp. 

Dette rammeverket vil ha form av en overordnet sjekkliste som kan brukes av både statlige og ikke-statlige institusjoner. Rammeverket identifiserer og utforsker potensialet til en teknologi som AI og dens derivater gjennom en vid linse som omfatter menneskelig og samfunnsmessig velvære, så vel som eksterne faktorer, som økonomi, politikk, miljø og sikkerhet. Noen aspekter av sjekklisten kan være mer relevante enn andre, avhengig av konteksten, men bedre beslutninger er mer sannsynlig hvis alle domener vurderes. Dette er den iboende verdien av en sjekklistetilnærming. 

Det foreslåtte rammeverket er avledet fra tidligere arbeid og tenkning, inkludert International Network for Governmental Science Advice (INGSA) sin digitale velværerapport¹ og OECD AI Classification Framework² å presentere helheten av de potensielle mulighetene, risikoene og virkningene av AI. Disse tidligere produktene var mer begrenset i sin hensikt gitt deres tid og kontekst, det er behov for et overordnet rammeverk som presenterer hele spekteret av problemstillinger både på kort og lang sikt. 

Selv om dette analytiske rammeverket er utviklet med tanke på kunstig intelligens, kan det brukes på hvilken som helst raskt voksende teknologi. Problemstillingene er grovt sett gruppert i følgende kategorier for videre undersøkelse: 

• Velvære (inkludert individers eller selvtillit, samfunn og sosialt liv, og samfunnsliv) 
• Handel og økonomi 
• Miljø 
• Geostrategisk og geopolitisk 
• Teknologisk (systemegenskaper, design og bruk) 

En liste over hensyn for hver av kategoriene ovenfor er inkludert sammen med deres respektive muligheter og konsekvenser. Noen er relevante for spesifikke tilfeller eller applikasjoner av AI, mens andre er generiske og agnostiske for plattform eller bruk. Ingen enkelt hensyn inkludert her bør behandles som en prioritet, og som sådan bør alle undersøkes. 

Dette rammeverket kan brukes på, men ikke begrenset til, følgende måter: 

• Å bygge bro mellom prinsipper og vurdering ved å etablere en validert felles taksonomi av spekteret av hensyn som kan brukes av relevante interessenter som grunnlag for å informere og forme videre tenkning, inkludert ethvert vurderingsrammeverk som kan utvikles av myndighetene. 

• Å informere konsekvensutredninger. EU AI Act krever at organisasjoner som tilbyr AI-verktøy eller tar i bruk AI i sine prosesser, skal gjennomføre en konsekvensanalyse for å identifisere risikoen ved deres initiativer og anvende en passende risikostyringstilnærming. Rammeverket som presenteres her kan brukes som grunnlag for dette. 

• For å forbedre de etiske prinsippene som trengs for å veilede og styre bruken av AI. Rammeverket kan gjøre dette ved å gi et fleksibelt grunnlag som pålitelige systemer kan utvikles på og sikre lovlig, etisk, robust og ansvarlig bruk av teknologien. Disse prinsippene kan testes mot hele spekteret av virkninger presentert i dette rammeverket. 
• For å legge til rette for en oversikt over eksisterende tiltak (dvs. regulatoriske, lovgivende, politikk) og identifisere eventuelle hull som trenger ytterligere vurdering. 

• Rammeverket er agnostisk for teknologien og bruken av den. Den kan derfor brukes på ganske forskjellige områder som syntetisk biologi. 

Tabellen nedenfor er en tidlig utforming av dimensjonene til et analytisk rammeverk. Avhengig av teknologien og bruken av den, vil noen komponenter være mer relevante enn andre. Eksemplene er gitt for å illustrere hvorfor hvert domene kan ha betydning; i sammenheng vil rammeverket kreve kontekstuelt relevant utvidelse. Det er også viktig å skille mellom plattformutvikling og de generiske problemene som kan dukke opp under spesifikke applikasjoner.  

Nøkkelen til kildene til deskriptorene

Ren tekst:
Gluckman, P. og Allen, K. 2018. Forstå velvære i sammenheng med raske digitale og tilhørende transformasjoner. INGSA. https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf 

Fet tekst:
OECD. 2022. OECDs rammeverk for klassifisering av AI-systemer. OECD Digital Economy Papers, nr. 323, OECD Publishing, Paris. https://oecd.ai/en/classification 

Kursiv tekst:
Nye beskrivelser (fra flere kilder) 

Avhengig av svaret på dette diskusjonsdokumentet, vil en ekspertarbeidsgruppe bli dannet av ISC for å videreutvikle eller endre det ovennevnte analytiske rammeverket, der interessenter kan se på en omfattende utvikling enten av plattformer eller bruksdimensjoner. Arbeidsgruppen vil være disiplinært, geografisk og demografisk mangfoldig, med ekspertise som spenner fra teknologivurdering til offentlig politikk, fra menneskelig utvikling til sosiologi og fremtids- og teknologistudier. 

For å engasjere seg i dette diskusjonspapiret, vennligst besøk Council.science/publications/framework-digital-technologies 

Mange personer har blitt konsultert i utviklingen av denne artikkelen, som ble utarbeidet av Sir Peter Gluckman, president, ISC og Hema Sridhar, tidligere sjefsforsker, Forsvarsdepartementet, og nå seniorforsker, University of Auckland, New Zealand. 

Spesielt takker vi Lord Martin Rees, tidligere president i Royal Society og medgründer av Center for the Study of Existential Risks, University of Cambridge; professor Shivaji Sondhi, professor i fysikk, University of Oxford; Professor K Vijay Raghavan, tidligere hovedvitenskapelig rådgiver for Indias regjering; Amandeep Singh Gill, FNs generalsekretærs utsending for teknologi; Dr Seán Óh Éigeartaigh, administrerende direktør, Senter for studier av eksistensielle risikoer, University of Cambridge; Amanda-June Brawner, seniorpolitisk rådgiver og Ian Wiggins, direktør for internasjonale anliggender, Royal Society UK; Dr Jerome Duberry, Dr Marie-Laure Salles, direktør, Geneva Graduate Institute; Mr Chor Pharn Lee, Center for Strategic Futures, Statsministerens kontor, Singapore; Barend Mons og Dr Simon Hodson, Datakomiteen (CoDATA); Prof Yuko Harayama, Japan; professor Rémi Quirion, president, INGSA; Dr. Claire Craig, University of Oxford og tidligere sjef for fremsyn, Government Office of Science; og prof Yoshua Bengio, FNs generalsekretærs vitenskapelige råd og ved Université de Montréal. Sjekklistetilnærmingen ble generelt godkjent, og aktualiteten til enhver handling fra ISC ble vektlagt.