DeepSeek: Ändamålsenlighet och tillförlitlighet
Publiceringsdatum: 2026-03-17
Rapportnummer: FOI-R--5787--SE
Sidor: 87
Skriven på: Svenska
Forskningsområde:
- Ledningsteknologi
Nyckelord:
- ändamålsenlighet
- tillförlitlighet
- Säker-AI
- modelljämförelse
- riktvärdesmätning
Sammanfattning
I denna rapport har vi utvärderat stora AI-modeller ur ett tillförlitlighets- och ändamålsperspektiv med fokus på användning inom svensk myndighetsutövning. Syftet har varit att undersöka om det finns tecken på dold agenda, otillbörlig påverkan eller andra säkerhetsrisker i de svar som genereras av modellerna. Huvudsakligt studieobjekt har varit den kinesiska språkmodellfamiljen DeepSeek och dess olika varianter. Vår analys visar att DeepSeek-AI:s modellartefakter och tillhörande kod framstår som ändamålsenligt publicerade i linje med rådande forskningspraxis inom AI och maskininlärning, där öppen granskning, reproducerbarhet och tillgängliggörande av modellvikter är norm. Vi har inte kunnat påvisa några tekniska bakdörrar eller vilseledande funktioner utöver de så kallade "plakatsvar" som modellen tenderar att ge vid frågor rörande storpolitik, säkerhetspolitik eller kommunistpartiet i Kina. Dessa svar är ofta undvikande eller uteblir helt. Tillförlitlighetsanalysen visar att modellerna, när de faktiskt ger sakliga svar, presterar konkurrenskraftigt och är tekniskt kapabla. Samtidigt finns praktiska begränsningar, särskilt hos större resonemangsmodeller, som kan uppvisa instabilt eller ineffektivt resonemangsbeteende. Vi noterar även att förekomsten av plakatsvar kan påverka efterföljande dialog negativt. DeepSeek-familjen saknar i de släppta versionerna ett fullt utvecklat verktygs- och agentstöd, vilket innebär att säker systemintegration kräver att sådan funktionalitet byggs och innesluts lokalt under kontrollerade former. Vid integration rekommenderas tydlig kontroll av verktygssatser, begränsade nätverksanslutningar, säkrade exekveringsmiljöer och domänspecifika tester av både ändamålsenlighet och tillförlitlighet. Vi bedömer att modellerna kan användas inom myndighetsnära sammanhang under förutsättning att de genomgår lokala säkerhetsanalyser och anpassas för avsedd domän. Däremot rekommenderas inte integration mot DeepSeek:s publika webbtjänst eller mobilapplikationer i myndighetsutövning. Oavsett modellens ursprung bör varje ny modell, eller vidaretränad version, genomgå förnyad säkerhetsanalys och tillförlitlighetstestning innan driftsättning.