Ett ramverk för att utvärdera snabbt utvecklande digitala och relaterade teknologier: AI, stora språkmodeller och mer

• Beskrivning 
• Bakgrund 
• Utveckling av ett analytiskt ramverk 
• Använder det analytiska ramverket 
• Dimensioner att tänka på när man utvärderar en ny teknik 
• En väg framåt 
• Tack

Snabbt framväxande tekniker innebär utmanande frågor när det gäller deras styrning och potentiella reglering. De politiska och offentliga debatterna om artificiell intelligens (AI) och dess användning har satt dessa frågor i akut fokus. Även om breda principer för AI har förkunnats av UNESCO, OECD och andra, och det finns begynnande diskussioner om global eller jurisdiktionell reglering av tekniken, finns det en ontologisk klyfta mellan utvecklingen av högnivåprinciper och deras införlivande i reglering, policy, tillvägagångssätt för styrning och förvaltning. Det är här det icke-statliga forskarsamhället skulle kunna ha en särskild roll. 

Det har föreslagits av ett antal akademiker och policyexperter att International Science Council (ISC) – med sitt pluralistiska medlemskap från samhälls- och naturvetenskaperna – upprättar en process för att ta fram och underhålla en kommenterad ram/checklista över risker, fördelar, hot och möjligheter förknippade med digitala tekniker som rör sig snabbt, inklusive – men inte begränsat till – AI. Syftet med checklistan skulle vara att informera alla intressenter – inklusive regeringar, handelsförhandlare, tillsynsmyndigheter, civilsamhället och industri – om potentiella framtidsscenarier, och skulle rama in hur de kan överväga möjligheter, fördelar, risker och andra frågor. 

Resultaten skulle inte fungera som ett bedömningsorgan, utan som en adaptiv och utvecklande analytisk ram som skulle kunna underbygga alla bedömnings- och regleringsprocesser som kan utvecklas av intressenter, inklusive regeringar och det multilaterala systemet. Alla analytiska ramar bör helst utvecklas oberoende av myndigheters och industrins påståenden, med tanke på deras förståeliga intressen. Det måste också vara maximalt pluralistiskt i sina perspektiv, och därmed omfatta alla aspekter av tekniken och dess implikationer. 

Detta diskussionsunderlag ger en översikt över ett första ramverk för att informera om de många globala och nationella diskussioner som äger rum relaterade till AI. 

Den snabba framväxten av en teknik med komplexiteten och implikationerna av AI driver många påståenden om stora fördelar. Men det väcker också farhågor för betydande risker, från individ till geostrategisk nivå. Mycket av diskussionen tenderar att äga rum i de yttersta ändarna av spektrumet av åsikter, och ett mer pragmatiskt förhållningssätt behövs. AI-teknik kommer att fortsätta att utvecklas och historien visar att praktiskt taget varje teknik har både fördelaktiga och skadliga användningsområden. Frågan är därför: hur kan vi uppnå fördelaktiga resultat av denna teknik, samtidigt som vi minskar risken för skadliga konsekvenser, av vilka några kan vara existentiella i omfattning? 

Framtiden är alltid osäker, men det finns tillräckligt med trovärdiga och expertröster när det gäller AI och generativ AI för att uppmuntra ett relativt försiktigt tillvägagångssätt. Dessutom behövs en systemansats, eftersom AI är en klass av teknologier med bred användning och tillämpning av flera typer av användare. Detta innebär att hela sammanhanget måste beaktas när man överväger implikationerna av AI för individer, socialt liv, samhällsliv, samhällsliv och i det globala sammanhanget. 

Till skillnad från de flesta tidigare teknologier har digitala och relaterade teknologier en mycket kort tid från utveckling till release, till stor del driven av produktionsbolagens eller byråernas intressen. AI är snabbt genomgripande; vissa egenskaper kan bli uppenbara först efter release, och tekniken kan ha både illvilliga och välvilliga tillämpningar. Viktiga värdedimensioner kommer att påverka hur all användning uppfattas. Vidare kan det finnas geostrategiska intressen på spel. 

Hittills har regleringen av en virtuell teknik till stor del setts genom linsen av "principer" och frivillig efterlevnad. På senare tid har diskussionen emellertid vänts till frågor om nationell och multilateral styrning, inklusive användningen av reglerande och andra politiska verktyg. Påståendena för eller emot AI är ofta hyperboliska och – med tanke på teknikens natur – svåra att bedöma. Att etablera ett effektivt globalt eller nationellt teknikregleringssystem kommer att vara utmanande, och flera lager av riskinformerat beslutsfattande kommer att behövas längs kedjan, från uppfinnare till producent, till användare, till myndigheter och till det multilaterala systemet. 

Medan högnivåprinciper har promulgerats av bland annat UNESCO, OECD och Europeiska kommissionen, och olika högnivådiskussioner pågår angående frågor om potentiell reglering, finns det ett stort ontologiskt gap mellan sådana principer och en styrning eller regelverk. Vilken är taxonomin för överväganden som en tillsynsmyndighet kan behöva överväga? En snävt fokuserad inramning skulle vara oklokt med tanke på de breda implikationerna av dessa teknologier. Denna potential har varit föremål för många kommentarer, både positiva och negativa.

ISC är den primära globala NGO som integrerar natur- och samhällsvetenskap. Dess globala och disciplinära räckvidd innebär att den är väl lämpad att generera oberoende och globalt relevant rådgivning för att informera om de komplexa val som väntar, särskilt eftersom de nuvarande rösterna på denna arena till stor del kommer från industrin eller från de stora tekniska makterna. Efter omfattande diskussioner under de senaste månaderna, inklusive övervägande av en icke-statlig bedömningsprocess, drog ISC slutsatsen att dess mest användbara bidrag skulle vara att ta fram och upprätthålla en adaptiv analytisk ram som kan användas som grund för diskurs och beslutsfattande av alla intressenter, inklusive under alla formell bedömningsprocesser som dyker upp. 

Detta ramverk skulle ha formen av en övergripande checklista som skulle kunna användas av både statliga och icke-statliga institutioner. Ramverket identifierar och utforskar potentialen hos en teknik som AI och dess derivat genom en vid lins som omfattar mänskligt och samhälleligt välbefinnande, såväl som externa faktorer, såsom ekonomi, politik, miljö och säkerhet. Vissa aspekter av checklistan kan vara mer relevanta än andra, beroende på sammanhanget, men bättre beslut är mer sannolikt om alla domäner beaktas. Detta är det inneboende värdet av en checklista-metod. 

Det föreslagna ramverket är härlett från tidigare arbete och tänkande, inklusive International Network for Governmental Science Advice (INGSA) digitala välbefinnanderapport¹ och OECD AI Classification Framework² att presentera helheten av de potentiella möjligheterna, riskerna och effekterna av AI. Dessa tidigare produkter var mer begränsade i sin avsikt med tanke på deras tid och sammanhang, det finns ett behov av ett övergripande ramverk som presenterar hela skalan av frågor både på kort och lång sikt. 

Även om detta analytiska ramverk utvecklats för att överväga AI, skulle det kunna tillämpas på vilken snabbt framväxande teknik som helst. Frågorna är i stort sett grupperade i följande kategorier för vidare granskning: 

• Välbefinnande (inklusive individers eller jagets, samhälle och sociala liv, och medborgerligt liv) 
• Handel och ekonomi 
• Miljö 
• Geostrategisk och geopolitisk 
• Teknologisk (systemegenskaper, design och användning) 

En lista med överväganden för var och en av ovanstående kategorier ingår tillsammans med deras respektive möjligheter och konsekvenser. Vissa är relevanta för specifika instanser eller tillämpningar av AI medan andra är generiska och agnostiska för plattform eller användning. Inget enskilt övervägande som ingår här bör behandlas som en prioritet och därför bör alla granskas. 

Detta ramverk kan användas på, men inte begränsat till, följande sätt: 

• Att överbrygga klyftan mellan principer och bedömning genom att upprätta en validerad gemensam taxonomi av de olika överväganden som kan användas av relevanta intressenter som en grund för att informera och forma vidare tänkande, inklusive alla bedömningsramverk som kan utvecklas av myndigheter. 

• Att informera om konsekvensbedömningar. EU:s AI-lag kräver att organisationer som tillhandahåller AI-verktyg eller använder AI i sina processer ska genomföra en konsekvensbedömning för att identifiera risken med sina initiativ och tillämpa en lämplig riskhanteringsmetod. Det ramverk som presenteras här skulle kunna användas som en grund för detta. 

• Att förbättra de etiska principer som behövs för att styra och styra användningen av AI. Ramverket kan göra detta genom att tillhandahålla en flexibel grund på vilken pålitliga system kan utvecklas och säkerställa en laglig, etisk, robust och ansvarsfull användning av tekniken. Dessa principer skulle kunna testas mot hela skalan av effekter som presenteras i denna ram. 
• För att underlätta en inventering av befintliga åtgärder (dvs. reglering, lagstiftning, politik) och identifiera eventuella luckor som behöver övervägas ytterligare. 

• Ramverket är agnostiskt för tekniken och dess användning. Det skulle därför kunna användas inom ganska distinkta områden som syntetisk biologi. 

Följande tabell är en tidig utformning av dimensionerna av ett analytiskt ramverk. Beroende på tekniken och dess användning kommer vissa komponenter att vara mer relevanta än andra. Exemplen tillhandahålls för att illustrera varför varje domän kan ha betydelse; i sammanhanget skulle ramverket kräva en kontextuellt relevant expansion. Det är också viktigt att skilja mellan plattformsutvecklingar och de generiska frågor som kan dyka upp under specifika applikationer.  

Nyckel till källor till deskriptorerna

Oformatterad text:
Gluckman, P. och Allen, K. 2018. Förstå välbefinnande i samband med snabba digitala och associerade transformationer. INGSA. https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf 

Fettext:
OECD. 2022. OECDs ramverk för klassificering av AI-system. OECD Digital Economy Papers, nr 323, OECD Publishing, Paris. https://oecd.ai/en/classification 

Kursiv text:
Nya beskrivningar (från flera källor) 

Beroende på svaret på detta diskussionsunderlag, skulle en expertarbetsgrupp bildas av ISC för att vidareutveckla eller ändra ovanstående analytiska ram med hjälp av vilken intressenter heltäckande kan titta på alla betydande utvecklingar, antingen av plattformar eller användningsdimensioner. Arbetsgruppen skulle vara disciplinärt, geografiskt och demografiskt mångsidig, med expertis som spänner från teknikbedömning till offentlig politik, från mänsklig utveckling till sociologi och framtids- och teknikstudier. 

För att engagera dig i detta diskussionsdokument, besök Council.science/publications/framework-digital-technologies 

Många personer har konsulterats under utvecklingen av detta dokument, som utarbetades av Sir Peter Gluckman, ordförande, ISC och Hema Sridhar, tidigare chefsforskare, försvarsministeriet, och nu seniorforskare, University of Auckland, Nya Zeeland. 

I synnerhet tackar vi Lord Martin Rees, tidigare president för Royal Society och medgrundare av Center for the Study of Existential Risks, University of Cambridge; Professor Shivaji Sondhi, professor i fysik, University of Oxford; Professor K Vijay Raghavan, tidigare främsta vetenskaplig rådgivare till Indiens regering; Amandeep Singh Gill, FN:s generalsekreterares sändebud för teknik; Dr Seán Óh Éigeartaigh, verkställande direktör, Center for the Study of Existential Risks, University of Cambridge; Amanda-June Brawner, Senior Policy Adviser och Ian Wiggins, Director of International Affairs, Royal Society UK; Dr Jerome Duberry, Dr Marie-Laure Salles, direktör, Geneva Graduate Institute; Mr Chor Pharn Lee, Center for Strategic Futures, premiärministerns kansli, Singapore; Barend Mons och Dr Simon Hodson, kommittén för data (CoDATA); Prof Yuko Harayama, Japan; Professor Rémi Quirion, president, INGSA; Dr Claire Craig, University of Oxford och tidigare chef för framsyn, Government Office of Science; och Prof Yoshua Bengio, FN:s generalsekreterares vetenskapliga rådgivande nämnd och vid Université de Montréal. Tillvägagångssättet med checklistor godkändes generellt och aktualiteten av alla åtgärder från ISC betonades.