Skeptisk til kinesisk KI-modell: – Noe av det mest skremmende jeg har sett på lenge

Den kinesiske KI-modellen DeepSeek skapte et aller så lite jordskjelv i tek-verdenen og børsen mandag. Modellen skal angivelig være bedre enn andre KI-modeller på flere områder.

Flere medier har testet ut modellen, blant annet VG, som viser at den sensurerer flere temaer, som den kinesiske nobelprisvinneren Liu Xiaobo, sammenligningen mellom Xi Jinping og Ole Brumm, og nedtoning av Taiwans uavhengighet.

DeepSeek sin amerikanske konkurrent, OpenAI, hevder onsdag at det kinesiske selskapet har kopiert dens KI-modeller.

Advarte redaksjonen

Eugene Brandal Laran, redaksjonssjef for kunstig intelligens i Dagbladet, mener at det er en betydelig sikkerhetsrisiko for norske journalister.

– DeepSeek er noe av det mest skremmende jeg har sett på lenge. Det er omfattende sporing i verktøyet, det følger med på tastetrykkrytme, har bred datadeling og datalagring i Kina, skriver han.

Blant annet Forbes har skrevet om dette, og DeepSeek er selv åpne om hvilken informasjon de innhenter.

– Jeg mener det er en betydelig sikkerhetsrisiko for norske journalister. 

Han er spesielt kritisk til at DeepSeek oppgir at de deler informasjon med kinesiske myndigheter når det er «nødvendig».

Tirsdag sendte Dagbladet ut e-post til alle i redaksjonen og ba dem om å ikke laste ned DeepSeek av sikkerhetsårsaker.

Laran sier de ikke har vurdert hvor god modellen er, og at uansett er det ikke en tjeneste som er avgjørende for Dagbladets arbeid.

– Den er imidlertid ypperlig til å lære opp journalister i hvordan kunstig intelligens kan være forutinntatt ved å vise hvordan den sensurerer informasjon som er kritisk til kinesiske myndigheter. Den nekter blant annet å svare på spørsmålet "er det ytringsfrihet i Kina". Det sier vel alt, sier han.

Kappløp mellom to stormakter

Redaksjonssjef for KI i VG, Marcus Husby, forteller at de har testet modellen og vurderer kvaliteten som på nivå med OpenAI o1-modellen.

– Ettersom VG har en egen databehandleravtale med OpenAI, har vi kun gjennomført begrensede tester og ikke sett noe behov for mer omfattende bruk akkurat nå, forteller han.

VG vurderer modellen slik:

– Lanseringen av DeepSeek representerer først og fremst et kappløp mellom to stormakter og viser samtidig hvordan man kan trene svært gode KI-modeller med mindre datakraft. Modellen resonnerer godt og virker tilsynelatende bra. Likevel har den ingen umiddelbar innvirkning på VGs KI-strategi per nå.

Foreløpig ser de ingen nye eller åpenbare bruksområder for redaksjonen siden den ligner på andre.

– For VG er det alltid viktig å utforske nyvinninger innenfor dette feltet, samtidig som vi ikke deler upublisert materiale med denne typen aktører under noen omstendighet. Men uansett hvilke modeller vi bruker, er det viktig å understreke at VG alltid har ansvaret for alt vi publiserer, sier Husby.

Imponert

NRKs direktør for teknologi og publikumsprodukter, Pål Nedregotten, forteller at de har sett på DeepSeek og testet den siden romjula.

– Det er et imponerende stykke teknologi, som selvfølgelig ikke kommer uten etiske problemstillinger, sier han, og forklarer:

– At DeepSeek er underlagt Kinas regelverk for hvordan teknologi skal tilpasse seg kinesiske politiske behov gjør at vi i hvert fall skal bruke tjenesten med redaksjonell varsomhet. I mange tilfeller er den politiske overstyringen lite subtil, men det gjør følgende poeng viktig: De som kontrollerer språkmodellene, kontrollerer også hva vi kan få ut av dem.

Han opplyser at NRK krever risikovurdering av nye KI-løsninger før de tar dem i bruk, og at de ikke har vurdert DeepSeek ennå.

– Enn så lenge er ikke dette en tjeneste vi vil ta i bruk i NRK, sier han.

Nedregotten trekker fram at DeepSeek har demonstrert at det er mulig å trene modeller langt billigere og kjøre dem på billigere hardware.

– Vi er enn så lenge et stykke unna å kunne kjøre de største modellene lokalt, men det kan være at det er rundt neste sving. De mindre modellene fra DeepSeek presterer allerede som eller bedre enn GPT-4o - og de kjører vi lokalt. Og da snakker vi om en gamechanger som har potensial til å åpne for en betydelig innovasjon, sier han.

– Svært kompetent modell

TV 2s Chris Ronald Hermansen har latt seg imponere over tallene, og at det fremstår umiddelbart som en spennende utvikling i kappløpet.

– Passer den til redaksjonell bruk?

– Det at den aktivt omgår politisk betente tema, gjør at man umiddelbart blir skeptisk til nøytraliteten i alle svar den kommer med. Samtidig er det altfor tidlig for meg å si hvor utstrakt dette er. Jeg har foreløpig kun sett et knippe eksempler, som virker uheldig. Det at modellene har svært god score i ulike benchmarks, og samtidig potensielt kan kjøres lokalt uten enorme investeringer, er attraktivt i en redaksjonell kontekst.

 Først og fremst mener han at det er viktig å holde seg orientert i et teknologisk landskap som endrer seg raskt.

– DeepSeek representerer ikke nødvendigvis noe vannskille på noen måte, men det illustrerer hvordan det kan skje ganske store endringer på kort tid i denne utviklingen. For vår del bekrefter det noe av det vi mener er utrolig viktig: Vi må ikke gjøre oss for avhengige av noen tjenester eller modeller, men drive utvikling på en måte som gjør at vi kan tilpasse oss raskt når endringene kommer.

– Mye å gå på

Prosjektleder for KI i Stavanger Aftenblad, Elin Stueland, har også fått med seg DeepSeeks inntog i KI-verdenen. Hun trekker fram at modellen både er rimeligere og har en åpen kildekode, noe hun mener er en «demokratiserende konsekvens av det pågående KI-kappløpet i storpolitikken».

– Men vi ser at modellen gir unøyaktige eller ufullstendige svar på sensitive historiske emner der Kina er involvert, som fredsprisvinner Liu Xiaobo og hendelsene på Den himmelske freds plass i 1989. Det er åpenbart at modellen har ganske mye å gå på for både nøytralitet og pålitelighet, sier hun.

Foreløpig har de kun testet modellen overfladisk, og at basert på de begrensede testene virker ikke modellen egnet for redaksjonell bruk. Spesielt på grunn av unøyaktigheter i norsk kontekst og skjevheter rundt sensitive emner, forklarer hun.

– Vi ser ikke for oss å integrere DeepSeek i det redaksjonelle arbeidet. Vi er fornøyde med våre eksisterende modeller og prioriterer løsninger som sikrer bedre nøyaktighet og pålitelighet.

Medier24 har sendt kritikken til DeepSeek, men har foreløpig ikke fått svar.