KI som ikke ser dataene: et personvern-lyspunkt for organisasjoner med sensitive opplysninger

Mange ideelle organisasjoner sitter med et vanskelig dilemma: KI-verktøy kunne spart dere for enormt mye arbeid, men dere jobber med sensitive opplysninger – om medlemmer, givere, eller sårbare mennesker dere hjelper – som dere ikke kan sende til en hvilken som helst skytjeneste. Denne uken kom en nyhet som på sikt kan løse akkurat det: Google har sluppet et åpent verktøy kalt HEIR som gjør «privat KI» mer praktisk – kunstig intelligens som kan analysere data uten å låse dem opp.

Hva handler det om?

Teknologien kalles homomorfisk kryptering. Enkelt sagt lar den en datamaskin regne på krypterte data uten å se innholdet. Dere sender inn noe kryptert, KI-en behandler det kryptert, og dere får svaret tilbake kryptert – som bare dere kan låse opp. Tjenesten som gjør jobben, ser aldri de faktiske opplysningene. I stedet for å måtte stole på at en leverandør behandler dataene forsvarlig, blir det umulig for leverandøren å se dem.

For en sektor som er helt avhengig av tillit – og som ofte forvalter noen av de mest sensitive opplysningene som finnes – er dette en dypt relevant retning.

Vær tålmodig: dette er tidlig

Samtidig er det viktig å være ærlig: Teknologien er fortsatt treg og umoden. Googles egen demonstrasjon brukte rundt 16 sekunder på én liten analyse, og homomorfisk kryptering er generelt 100 til 1000 ganger tregere enn vanlig databehandling. Det betyr at det i dag passer for små, avgrensede oppgaver med svært sensitive data – ikke for daglig, storskala bruk. En full KI-samtale kryptert er fortsatt noen år unna.

Hva betyr det for organisasjonen din?

• Håp for de sensitive oppgavene. Har dere data dere gjerne ville brukt KI på, men lar være fordi de er for private – helseopplysninger, historier fra sårbare brukere, medlemsdata – så er det nettopp slike oppgaver denne teknologien er laget for på sikt.
• Ikke noe å gjøre i dag, men følg med. Dette er ikke et verktøy dere tar i bruk nå. Men å vite at «KI som ikke ser dataene» er på vei, gjør at dere kan planlegge langsiktig – og stille de riktige spørsmålene når leverandører begynner å tilby det.
• Fortsett med det grunnleggende. Inntil denne teknologien er moden, gjelder de vanlige reglene: del aldri sensitive personopplysninger med KI-verktøy uten databehandleravtale og gyldig grunnlag. Det henger sammen med kjørereglene for trygg KI-bruk vi har skrevet om før.

Et lyspunkt i personvern-debatten

Mye av teknologinyhetene handler om KI som ser og samler stadig mer – ansiktsskanning, sporing, søk som leser alt. Homomorfisk kryptering er den sjeldne motfortellingen: teknologi som gjør personvern til en matematisk egenskap, ikke bare et løfte. For ideell sektor, som ofte er en forsvarer av nettopp de sårbare og deres rett til privatliv, er det en utvikling verdt å heie fram – og følge nøye. Målet er en framtid der organisasjoner kan bruke kraftige verktøy og beskytte menneskene de er til for, samtidig.