Simulas KI-råd til regjeringen

Den 9. oktober samlet digitaliserings- og forvaltningsminister Torgeir Eikstad Micaelsen sentrale KI-eksperter og -ledere til et møte i Oslo. 

Professor Michael A. Riegler representerte Simula og SimulaMet med klare råd til ministeren og departementets arbeid med den nye strategien for kunstig intelligens og KI-sikkerhet.

Første råd: Norge bør skape verdier og nytte som kan bidra til verdensledende testmiljøer

Det er utfordrende å hente ut potensialet for vekst, verdiskapning og velferd samtidig som farene i ukritisk bruk er lite forstått. Det er snakk om å finne en balanse mellom nytte og risiko i en enormt krevende geopolitisk situasjon, under visshet om at modellene vi må bygge framtiden vår på i all hovedsak er utenfor landets grenser.

Det betyr at utstrakt testing av modeller må prioriteres. Dette er i tråd med Støre og Stubb sitt opprop for bedre kontroll på KI-utviklingen.

Simula mener at Norge har en unik posisjon til å kunne bidra til testing av modeller og trygg kunstig intelligens. Det kommer av den høye tilliten vi har i befolkningen, den utstrakte bruken av teknologien, og at vi er i ferd med å opparbeide oss den kompetansen som kreves.

Andre råd: Modelltesting må skje i norsk kontekst

Det holder ikke at en KI-modell er generelt testet av et internasjonalt sikkerhetsinstitutt. Testing må skje der modellen faktisk skal brukes.

For å virkelig teste godt, og for å kunne teste på mange scenarioer, må man bruke kunstig intelligens for å teste kunstig intelligens. Det er mange måter å gjøre dette på. 

Ved Simula har Riegler og hans avdeling utviklet et eget verktøy for dette, SimpleAudit, som også har blitt et digitalt fellesgode gjennom Digital Public Good Association. 

Verktøyet ble utviklet fordi testing av modeller må utføres i den konteksten som modellen skal brukes. En modell som skal benyttes i det norske helsevesenet eller i offentlig forvaltning, må testes i det spesifikke miljøet, på norsk språk og mot norsk lovverk. 

Tredje råd: Testing av avanserte modeller krever spissforskning

Når KI-modeller blir mer avanserte, kan de i praksis utregne at de blir testet og tilpasse oppførselen sin for å bestå testen.

Derfor er det viktig å kunne måle og forklare hvordan modellene kommer frem til et resultat. Feltet er nytt, og vi venter mye ny kunnskap de neste årene.

Skal man teste modeller må man være tett på forskningsfronten. Det kan ikke sammenlignes med konvensjonell testing av annen programvare. Derfor mener Simula at et forskningsmiljø som følger forskningsfronten må være tett på miljøene som tester.

Fjerde råd: Knytt Norge til det internasjonale nettverket for KI-sikkerhet og inkluder forskningen i dette

Internasjonale KI-sikkerhetsinstitutter er forskningsinstitutter av en grunn. For at Norge skal koble seg effektivt på det internasjonale nettverket av KI-sikkerhetsinstitutter gjennom KI-Norge, må norske forskningsmiljøer være tett koblet på.

De internasjonale instituttene gjør mange av de generelle testene, og får ofte tilgang til modellene før de blir lansert. Deretter må Norge teste i vår kontekst, på norsk språk og innen de forskjellige norske sektorene. 

Gjennom Simulas KI-sikkerhetssenter (CAISS) har Norge særlig kompetanse på slik modelltesting, og en mulighet til å påvirke og bidra internasjonalt. 

Det er viktig at Norge knytter seg til nettverket av internasjonale KI-sikkerhetsinstitutter, og politisk bør Norge ta et større ansvar inn mot de internasjonale AI Summits som startet med AI Safety Summit på Bletchley Park i 2023. 

Professor Michael Riegler leder avdelingen for KI-trygghet ved SimulaMet, som er en del av Simulas Centre for AI Security and Safety (CAISS). Han er også professor ved OsloMet.