Obsah
- 1 Jak oklamat jablečné algoritmy hledající dětské porno a je to pro vás nebezpečné?
- 2 Co Apple dělá s těmi, kteří najdou fotografie dětské porna?
- 3 Apple ověřuje fotografie na iPhone
- 4 Je nebezpečné kontrolovat fotky?
- 5 Apple bude kontrolovat gadgety amerických uživatelů na materiály s dětskou pornografií
Jak oklamat jablečné algoritmy hledající dětské porno a je to pro vás nebezpečné?
Co Apple dělá s těmi, kteří najdou fotografie dětské porna?
Americký onkolog byl obviněn z ukládání dětské pornografie na iCloud. Experti oficiálně potvrdili, že za takové se kvalifikuje přibližně dva tisíce fotografií a videí na účtu obviněného. Lékaře řeší orgány činné v trestním řízení, následky pro něj budou hrozné. Ale jak na něj mohli přijít? Skenování fotek na iCloud totiž začne až na podzim, a to pouze v případě, že Apple jeho spuštění neodloží na pozdější datum. Byli jsme podvedeni? Co když samotná přitažlivost neslýchané poctivosti byla jen pokusem vyhnout se skandálu?
Apple již u svých uživatelů kontroluje ukládání a používání zakázaného obsahu
Orgány činné v trestním řízení na sebe upozornil onkolog, když na sociální síť umístil jeden ze souborů s dětskou pornografií ze své sbírky. Prohlídka účtu obviněného byla provedena přísně podle zákona. Odborníci „ručně“ zkontrolovali knihovnu fotografií a videí podezřelého. Naopak, až dosud zůstal iCloud, podle Erica Friedmana, ředitele Apple pro boj proti podvodům, „největší platformou pro distribuci dětské porna“. Friedman to řekl v jednom z interních chatů společnosti Apple v roce 2020. Text tohoto chatu označený jako „pouze pro soudce“ byl zahrnut do dokumentů v případu Epic Games v. Apple.
Jak by o tom mohl Eric Friedman vědět, kdyby Apple neskenoval uživatelská data? Na to byl dotázán sám Eric Friedman. Řekl, že jeho slova byla vytržena z kontextu. Řekl to ne o iCloudu, ale o iMessage. Řekl také, že Facebook tento nepořádek zvládá lépe, protože na rozdíl od Facebooku Apple upřednostňuje ochranu soukromí dat. Fráze o „největší platformě“ byla emocionální nadsázka, docela přijatelná, když se diskutuje o pracovních problémech v úzkém kruhu.
Apple ověřuje fotografie na iPhone
V Cupertinu řekli, že už sledují uživatele, jako by se nic nestalo
Podruhé ve své 45leté historii Apple veřejně přiznal něco, co nikdy připustit nemělo. V létě 1996 společnost oznámila, že není schopna vyvinout moderní operační systém. Nebýt nestandardních, někdy dokonce ne zcela legálních opatření Steva Jobse v létě 1997, Apple by na podzim téhož roku přestal existovat. Podruhé to udělala v srpnu 2021. Otevřeně prohlašuje, že bude skenovat fotografie zveřejněné na iCloudu, aby detekoval dětskou pornografii. Jak to všechno skončí tentokrát, je otázka. Problémy už jsou. Apple bude kopat do uživatelských dat s minimálním poškozením soukromí. S extrémně nízkou pravděpodobností falešných poplachů.
Aby byl uživatel přistižen při nelegálním ukládání fotografií a videí s dětskou pornografií, musí být na jeho účtu nalezeno „asi 30“ souborů s pornografií. V tomto případě Apple postaví svého klienta před soud. Šance, že budete křivě obviněni, je jedna ku 30 bilionům. Je to porušení ústavy USA? Ten ale dlouhodobě porušuje Facebook, Microsoft a všichni ostatní poskytovatelé cloudových služeb. Nehlásí to, ale ani se to nesnaží skrývat. Apple nemohl zůstat stranou boje proti zneužívání dětí. Navíc, jak se nedávno ukázalo, v některých ohledech se již od svých zásad odchýlila. iCloud Mail skenuje e-mailové zprávy od roku 2019 na přítomnost dětské pornografie. Účty porušovatelů jsou zablokovány. iCloud Mail není místo pro tento druh diskuse. Algoritmy pro detekci dětské pornografie nejsou nové. Toto je osvědčená technologie.
Je nebezpečné kontrolovat fotky?
Vědci tvrdí, že skenování fotografií je špatný postup. Víme to i bez nich
V článku publikovaném ve Washington Post varovali dva vědci z Princetonské univerzity Apple před chybou. Docent Jonathan Mayer a postgraduální student Anunay Kulshrestha před dvěma lety vytvořili systém podobný tomu, který popisuje Apple. Systém je extrémně zranitelný, nebezpečný pro důvěrnost uživatelských dat a jejich bezpečnost. Protože je velmi snadné je znovu použít k identifikaci jakýchkoli jiných dat a přeměnit je v účinný nástroj dohledu pro autoritářské vlády. Vědci z Princetonské univerzity se navíc z vlastní zkušenosti přesvědčili, že falešné poplachy jsou v takových systémech běžné a jsou extrémně zranitelné vůči útočníkům.
Nevinní uživatelé budou trpět, Apple musí přestat. Ve skutečnosti není všechno takové. Detekční systémy na Apple a Princeton University nejsou zdaleka totožné. Systém společnosti Apple je vysoce bezpečný a plně pod kontrolou společnosti Apple. Hashe v něm jsou získány od několika organizací pro bezpečnost dětí v různých jurisdikcích. V závěrečné fázi ověřování navíc výsledky kontrolují lidé. Apple nedovolí, aby byl tento systém znovu použit pro jiné oblasti činnosti. Craig o tom nemluvil, tehdy to bylo ještě tajemství Applu, ale teď o tom ví každý: algoritmy systému detekce dětské pornografie byly využívány dva roky. Úspěšně operováno.
Apple bude kontrolovat gadgety amerických uživatelů na materiály s dětskou pornografií
To je jeden z nápadů společnosti, jak s tímto problémem bojovat. Jak bude fungovat ověřovací mechanismus společnosti Apple a jsou obavy a obvinění z odepření soukromí oprávněné?
Apple bude skenovat fotografie na iPhonech a iPadech kvůli dětské pornografii. Prozatím se to dotkne pouze amerických uživatelů. Mnozí se báli, že Apple může za pornografii považovat například záběry dětí na pláži. Ale není to tak jednoduché.
Korporace zdůrazňuje, že nebudou skenovat fotografie samy do iCloudu – vezmou si hashovací součty obrázků. Jedná se o takzvané digitální otisky prstů, které popisují fotografii pomocí algoritmu tak, aby stejné hodnoty byly získány pouze z velmi podobných fotografií. Co se týče databáze, se kterou se budou hashe porovnávat, tak ta obsahuje 200 tisíc obrázků. Jejich korporaci poskytlo Národní centrum pro pohřešované a zneužívané děti.
Pokud existuje určitý počet podezřelých fotografií, Apple tyto soubory dešifruje pro ověření specialisty. Společnost nebude moci interpretovat data, dokud účet nepřekročí hranici pro počet fotografií zneužívání dětí. Vysvětluje, jak to bude fungovat Andrey Blinov, analytik ICT-Online.ru:
— Pokud se tyto hodnoty ideálně blíží tomu, co má uživatel na nahrané fotografii, systém spustí alarm a odešle tuto informaci příslušným úřadům. Asi nikdo není chráněn před chybami. Je pravděpodobné, že zpočátku jich bude hodně. Pokud se například pokusíme nahrát fotografii do stejného Yandexu, zkuste požádat Yandex, aby našel podobnou fotografii, může to fungovat, nebo nemusí.
— Pokud od lidí neuniknou samotné fotky, jsou hashe nějak nebezpečné?
„Podle mého názoru nebudou o nic nebezpečnější než jakýkoli jiný program, jako je WhatsApp nebo aplikace YouTube, které vyžadují informace o uživatelských datech. Tyto hashe jsou digitalizovaný, kryptograficky bezpečný kód. Srovnává se s jinými digitálními kódy.
To vše by mohlo být prvním krokem ke špehování milionů gadgetů, píše Financial Times. „Apple se vzdává soukromí ve prospěch roku 1984,“ řekl deníku bezpečnostní analytik Facebooku Alec Maffet s odkazem na dystopický román George Orwella. Roman Romachev, generální ředitel zpravodajské technologické agentury R-Techno, se podělil o svůj názor na to, jak to vše ovlivní pověst společnosti:
Roman Romachev, generální ředitel zpravodajské technologické agentury R-Techno „V zemích, které mají svou vlastní nezávislou politiku, jako je Rusko a Čína, jejich pověst trochu poklesne, ale marketing dělá své. Pokud vydají další smartphone splňující kompletní požadavky uživatelů, možná na něj mnozí zapomenou. Nebo to přeskočí, spolknou a použijí dál. To znamená, že to bude mít dočasný negativní účinek, ale ne tak významný.“
Je nepravděpodobné, že se praxe ověřování fotografií brzy dostane k uživatelům Applu v jiných zemích. Jednatel advokátní kanceláře Sokolov, Trusov and Partners, Fjodor Trusov, pojednává o právních vyhlídkách:
Fedor Trusov, vedoucí partner advokátní kanceláře „Sokolov, Trusov and Partners“ „Myslím, že nyní bude probíhat výběrové řízení mezi vládou řady zemí a Apple Corporation ohledně této technologie. Buď to bude úplně zablokováno, nebo upraveno, nebo se to pokusí vzít pod kontrolu národní legislativy. Protože z pohledu 137 trestního zákoníku vidím přímo porušení. Profesionální zločinec rozhodně nebude využívat cloudové služby Apple registrované na sebe. S největší pravděpodobností prostě dostaneme nejen v Rusku, ale po celém světě nové kriminální případy, jako je případ Jurije Dmitrijeva, kdy to bude použito pod rouškou boje proti dětské pornografii, která nemá nic společného se skutečným nelegálním trhem, který je třeba bojovat.“
Apple má jiné nápady, jak bojovat proti dětské pornografii. Například aplikace Zprávy se naučí chránit děti před explicitními fotkami. Pokud takový rámeček dorazí na dětský telefon, rozpozná ho offline algoritmy a obrázek se skryje. Prohlédnout si ji bude možné až po dvou upozorněních, včetně toho, že rodiče dostanou upozornění o zhlédnutí této fotografie.