Hot- och sårbarhetsanalys av attacker mot AI i trådlösa kommunikationssystem

Författare:

  • Erik Axell
  • Arwid Komulainen
  • Marcus Karlsson
  • Patrik Eliardsson
  • Andreas Andersson

Publiceringsdatum: 2024-10-21

Rapportnummer: FOI-R--5646--SE

Sidor: 33

Skriven på: Svenska

Forskningsområde:

  • Ledningsteknologi

Nyckelord:

  • AML
  • AI
  • maskininlärning
  • radiokommunikation
  • störning

Sammanfattning

Införandet av AI, med tekniker baserade på maskininlärning (ML), i trådlösa kommunikationssystem ger nya möjligheter att effektivisera utnyttjandet av tillgängliga radioresurser, men riskerar också att införa nya typer av sårbarheter. För trådlösa kommunikationssystem är attacker och sårbarheter inte lika välstuderade som inom andra teknikområden, exempelvis bild- och språkbehandling. Området som studerar attacker mot ML-modeller benämns adversarial machine learning (AML). Begreppet AML brukar vanligtvis även inkludera försvar mot sådana attacker, men i denna rapport fokuserar vi på attackerna och hoten de utgör mot trådlösa kommunikationssystem. Syftet med denna rapport är att analysera vilka typer av AML-attacker mot trådlösa kommunikationssystem som utgör realistiska hot samt vilka konsekvenser dessa kan få i kommunikationssystemen. Rapporten presenterar en översiktlig beskrivning av olika egenskaper som karakteriserar AML-attacker mot trådlös kommunikation, ger exempel på sådana attacker samt diskuterar deras realiserbarhet och påverkan. Målet är att bedöma vilka AML-attacker som utgör allvarliga hot och som därför kräver utveckling av motåtgärder. En skillnad för trådlös kommunikation, jämfört med andra teknikområden, är att potentiella attacker sker fysiskt via radiogränssnittet. Detta gör att AML-attacker mot trådlösa kommunikationssystem måste ta hänsyn till de effekter som radiokanalen innebär. Radiokanalen ökar komplexiteten för attacken vilket inte är fallet för andra tillämpningar och flera studier försummar radiokanalens inverkan. AML-attacker kan även utnyttjas av kommunikationssystem för att påverka motståndare, exempelvis genom medveten falsksignalering för att försvåra ML-baserad signalspaning. Utifrån de publikationer som analyserats i denna studie går det inte att avfärda AML-attacker som ett hot inom trådlös kommunikation; det finns exempel inom flera av de undersökta områdena som vi bedömer är realiserbara. Dessvärre saknar majoriteten av arbetena realistiska kanalaspekter, många utgår från förenklade kommunikationsscenarier och saknar ofta kvalitativa jämförelser med traditionella brusstörningar. Det är därmed svårt att avgöra om AML-attacker inom trådlös kommunikation är ett allvarligt hot. Kunskapen om vilka egenskaper som krävs för att realisera AML-attacker inom trådlös kommunikation utgör dock en bra grund för framtida sårbarhetsanalyser.