Følg oss på

Søk etter tester, nyheter og anmeldelser...

Apples nye barneporno-filter går i fullstendig feil retning

Ny Apple-teknologi som skal beskytte barn, er en katastrofe for privatlivets fred.

Når og hvis du til høsten oppdaterer din iPhone, iPad, Apple Watch eller Mac til henholdsvis iOS 15, iPadOS 15, watchOS 8 eller macOS Monterey, så følger den helt nye funksjonen med. En funksjon som Apple har designet for å bekjempe barneporno og misbruk av barn. Dessverre ser det ut til at prisen for beskyttelsen av barna blir en avskjed med privatlivets fred.

Teknologien som Apple har utviklet, scanner så og si alt innholdet på Apple-enheten din for kjente barnepornobilder. Tilsvarende teknologi er for lengst blitt implementert hos tjenester som Gmail, Twitter, Facebook og Dropbox, men Apple har frem til nå avvist å ta i bruk lignende teknologi, fordi det ville undergrave end-to-end-krypteringen og beskyttelsen av brukernes data, som har vært et av Apples sentrale forretningsprinsipper.

Men som alle andre vil Apple naturligvis gjerne beskytte mindreårige mot misbruk og bekjempe utbredelsen av barneporno, og tech-giganten har derfor utviklet sin egen løsning, som ifølge Apple selv gjør det mulig å scanne etter ulovlig bildemateriale uten at det går på bekostning av brukerens sikkerhet.

Melding, Bilder og Siri

Apples initiativ består av tre separate funksjoner.

1) Bilder: Det amerikanske «National Center for Missing and Exploited Children» (NCMEC) opprettholder en database over kjerne barnepornobilder. Databasen inneholder en såkalt hashtabell, hvor hvert enkelt bilde har blitt tildelt en unik hashverdi som beregnes basert på data i det gjeldende bildet.

Annonse

All eksisterende scannings-teknologier, herunder Microsofts PhotoDNA, fungerer ved at tjenesten scanner og analyserer bilder hos alle brukere. Et bilde som er identisk med et bilde i barnepornodatabasen består jo av identiske data og vil derfor også få samme hashverdi, og blir da en «hit» i databasens hashtabell.

Hvis man sender en e-mail med et vedlagt bilde til noen med Gmail eller laster opp et bilde på Facebook, så vil bildefilen alltid bli sendt gjennom et filter som kalkulerer bildets hashverdi og sammenligner det med databasen, for å sikre at det ikke er snakk om barneporno.

Annonse

Men denne løsningen fungerer ikke hvis tjenesten bruker end-to-end-kryptering, for da er det ikke mulig å scanne innholdet. Og derfor har Apple valgt å implementere sitt scanne-system direkte på brukerens iPhone, iPad, Macbook, etc.

Hashtabellen fra NCMECs database blir med Apples neste oppgradering av sine operativsystemer simpelthen gjemt lokalt på brukerens enhet, og alle bilder som er oppbevart på enheten og/eller lastet opp til iCloud vil gå gjennom filteret.

På denne måten får ikke Apple direkte tilgang til brukerens filer, men hvert godkjent bilde tildeles en kryptert «safety voucher», og kun hvis et bestemt antall bilder (antallet er ukjent) har utløst en match i hashtabellen, og dermed blitt identifisert som barneporno, så kan Apple åpne opp for krypteringen og få tilgang til brukerens bilder.

Videre vil Apple selvfølgelig anmelde personen som er i besittelse av ulovlig bildemateriale til politiet.

Et søk med Siri etter ord som «barneporno» vil utløse en advarsel samt råd om hvor man kan søke hjelp. (Foto: Peter Gotschalk)

2) Meldinger: I tillegg til konstant overvåkning for å se etter kjent barnepornomateriale, så vil Apple også forhindre at mindreårige brukere sender eller mottar bilder med seksuelt innhold gjennom Apples end-to-end-krypterte meldings-app, iMessage.

Denne funksjonen vil i første omgang kun gjelde amerikanske brukere, men hensikten er ifølge Apple å gjøre beskyttelsen av barn mot seksuelt misbruk global.

Apple går ikke inn på detaljer om hvordan den nye funksjonen fungerer rent teknisk. Selskapet skriver bare i et white paper, at iMessage vil bli utvidet med machine learning – altså en kunstig intelligens – som opererer på brukerens enhet og analyserer alle vedlagte bildefiler for å se om de er av seksuell karakter eller ikke. Funksjonen blir kun aktivert for mindreårige brukere, da ut ifra alderen som er definert i iCloud Familiedeling.

Annonse

Igjen har ikke Apple direkte tilgang til meldinger eller bilder, men dersom et vedlagt bilde blir kategorisert som frastøtende, så vil det bli sensurert, og foreldrene til den mindreårige vil få en melding hvis barnet deres er under 13.

3) Siri: Sist, men ikke minst, vil både Siri og Apple-enhetenes innebygde søkefunksjon bli endret, slik at søk etter ord som «barneporno» vil utløse en advarsel samt råd om hvor man kan søke hjelp.

 

Formålet er godt, men Apples avjørelse er en katastrofe

Apple har åpenbart anstrengt seg for å kunne utstyre enhetene sine med et høyt nivå av beskyttelse av barn uten å gå på kompromiss av enkeltbrukerens sikkerhet.

Annonse

I motsetning til tidligere nevnte tjenester som Facebook, Google, Dropbox osv., som på ingen måte legger skjul på at de selvfølgelig har tilgang til alle dine data, har Apple alltid lagt stor vekt på at brukerens data ikke angår eller tilhører noe andre enn dem selv. Og hvert fall ikke Apple.

Og rent teknisk virker Apples løsning elegant, for selskapet får virkelig kun tilgang til dine bilder og data dersom det er treff i databasen over kjente barneporno-bilder, og i tilfeller med nakenbillder eller seksuelt eksplisitte bilder i meldinger hvor minst én deltaker er mindreårig, så er det kun barnets foreldre som får beskjed.

Men såvidt jeg har forstått er Apples nye tiltak i virkeligheten en katastrofe for privatlivets fred. Og det sier jeg ikke fordi jeg på noen måte ønsker å forhindre at barn beskyttes mot misbruk. Det sier jeg fordi Apples løsning på mange måter er et mye større inngrep enn løsningene som f.eks. Google, Facebook og Dropbox har tatt i bruk. Og dermed har Apple åpnet for en rekke muligheter for systematisk undergraving av datasikkerhet og brukerens rett til å bestemme hvem som har tilgang til deres data.

«Slippery slope»

Det avgjørende her er at Apple med den nye teknologien i praksis har satt opp en lett tilgjengelig bakdør inn i alle brukernes fysiske enheter.

Annonse

I og med at teknologien ikke bare konsentrerer seg om dataene du har valgt å sende til andre eller laste opp i skyen, men faktisk fungerer lokalt på din egen enhet, så har Apple i prinsippet skaffet seg tilgang til ALLE dine data. Alt du har liggende på mobilen, nettbrettet eller datamaskinen i hvert fall. Hvor som helst og når som helst.

Og selv om hensikten er svært god, så forhindrer det ikke et såkalt mission creep, hvor en teknologi som i første omgang blir implementert med en bestemt funksjon som alle støtter, med tiden kan bli misbrukt til andre formål.

Apples produkter selges over hele verden. Også i land som Kina, hvor Apple er under press fra den kinesiske regjeringen, og allerede har gått imot sine egne prinsipper og oppbevart følsomme kundedata fra kinesiske brukere på servere i et datasenter som er kontrollert av den kinesiske regjeringen. I tillegg til at Apple bl.a. også har fjernet VPN-apper fra App Store, fordi de kinesiske myndighetene har forlanget det.

Man trenger ikke stor fantasi for å forestille seg at teknologien som Apple nå integrerer i sine operativsystemer kan misbrukes av regjeringer, som f.eks. ønsker å lete etter brukere som har bilder av ulovlige politiske budskap på sine mobiler. Et svært realistisk scenario i f.eks. Hong Kong.

Et filter som leter etter seksuelt eksplisitte bilder av mindreårige, kan litt for enkelt justeres for å bli satt inn i jakten på homofile og transpersoner eller andre innenfor LGBT, i land hvor disse legningene og kjønnsidentitene er straffbare.

Annonse

Og så videre, og så videre.

Hvis du ikke tror på at Apple noensinne vil tillate at deres teknologi blir misbrukt, så minner jeg igjen om hvordan Apple hjelper den kinesiske regjeringen med å uttøve sensor og gir de kinesiske myndighetene tilgang til data om politisk forfulgte kinesiske borgere.

Falsk markedsføring

At Apple selvfølgelig vil fortsatte med å markedsføre sine produkter og tjenester som end-to-end-krypterte, mens selskapet samtidig har integrert et sofistikert og effektivt overvåkningssystem i alle sine produkter, gjør meg ikke akkurat mindre frustrert.

Siden Apple på hyklerisk vis forsøker å skape tillit hos sine brukere, samtidig som de gjør det stikk motsatte av hva av de har sagt, ved å undergrave voldsomt ved å implementre overvåkningsprogramvare på systemnivå i enhetene til alle brukerne. Altså, stoler du virkelig så mye på Apple at du synes det er greit at mobilen eller dataen din blir utstyrt med teknolgi som kan analysere alle bildene dine?

Annonse

Ikke engang en teknologi som er utviklet for å tjene en god sak kan rettferdiggjøre at brukernes rett ti privatliv blir undergravd.

Full tilgang til Lyd & Bilde for 49 kr

Prøv i 30 dager og få tilgang til over 6000 tester, alle nyheter, guider og anmeldelser.

Det er ingen bindingstid og du kan si opp når du selv vil. Ønsker du å bestille magasinet? Klikk her Allerede abonnent ?
forfatter

(f. 1973): Strategisjef og journalist. Peter har arbeidet for Lyd & Bilde siden 2012. Han har vært aktiv som tech-journalist for tallrike medier siden 1998, blant annet som sjefredaktør for gadgetmagasinet GEAR og som journalist for magasinene PC World og Privat Computer. Peter skriver om smartmobiler og andre bærbare enheter samt om teknologisk innovasjon, inkludert 5G, elektrisk mobilitet og smarte hjem.

1 Comment

Har du noe å tilføye?

Velkommen til Lyd & Bildes kommentarfelt. Vi vil gjerne vite hva du mener. Hold deg til temaet og vær saklig, så slipper vi å moderere innlegg. Andre spørsmål eller synspunkter rettes til redaksjon@lydogbilde.no.
  1. Thor

    09.08.21 at 17:42

    Altfor viktig kommentar til å bli skjult bak en betalingsmur!

Leave a Reply

Din e-postadresse vil ikke bli publisert. Obligatoriske felt er merket med *

 

Kontakt

Publish AS
Billingstadsletta 19 B
1396 Billingstad
Org. Nr 965 237 186
© 2021 Publish AS

Hold deg oppdatert!

Motta vårt nyhetsbrev:
© 2021 Publish AS - Lyd & Bilde arbeider etter Vær Varsom-plakatens regler for god presseskikk. Som leser har du kun rett til å benytte Innholdet på lydogbilde.no for personlige og ikke-kommersielle formål. Du kan laste ned, linke til og skrive ut Innhold fra lydogbilde.no for private og ikke-kommersielle formål, forutsatt at du henviser til kilden, respekterer eventuelle rettighetsnotiser og/eller -reservasjoner. Du kan ikke bruke Innhold, herunder (men ikke begrenset til) ikoner, for noen andre formål eller på noen andre måter enn de som er uttrykkelig tillatt. NB! Artikler som ligger utenfor plusstjenesten er ≪kjøpt fri≫ av muren av vedkommende produsent/leverandør.