Tento web ukazuje, kolik dokáže umělá inteligence Google získat z vašich fotografií

Softwarový inženýr Vishnu Mohandas se rozhodl, že opustí Google více než jedním způsobem, když se dozvěděl, že technologický gigant krátce pomohl americké armádě vyvinout AI pro studium záběrů z dronů. V roce 2020 odešel z práce na Google Assistant a také přestal zálohovat všechny své snímky do Fotek Google. Obával se, že jeho obsah by mohl být použit k trénování systémů AI, i když nebyly konkrétně spojeny s projektem Pentagonu. „Neovládám žádné budoucí výsledky, které to umožní,“ pomyslel si Mohandas. „Takže teď bych neměl být zodpovědnější?“

Mohandas, který se sám naučil programovat a sídlí v Bengaluru v Indii, se rozhodl, že chce vyvinout alternativní službu pro ukládání a sdílení fotografií, která je open source a end-to-end šifrována. Něco „soukromějšího, zdravějšího a důvěryhodnějšího,“ říká. Placená služba Ente, kterou navrhl, je zisková a říká, že má přes 100 000 uživatelů, z nichž mnozí jsou již součástí davu posedlého soukromím. Mohandas se však snažil formulovat širšímu publiku, proč by měli přehodnotit spoléhání se na Fotky Google, navzdory všem vymoženostem, které nabízí.

Pak jednoho květnového víkendu přišel stážista v Ente s nápadem: Dejte lidem představu o tom, co se některé modely umělé inteligence od Googlu mohou naučit při studiu obrázků. Minulý měsíc společnost Ente spustila https://Theyseeyourphotos.com, webovou stránku a marketingový trik navržený tak, aby obrátil technologii Google proti sobě. Lidé mohou na web nahrát jakoukoli fotografii, kterou chtějí, a ta je poté odeslána do programu pro počítačové vidění Google Cloud, který k ní napíše překvapivě podrobný popis ve třech odstavcích. (Ente vyzve model AI, aby zdokumentoval malé detaily v nahraných obrázcích.)

Jednou z prvních fotek, které se Mohandas pokusil nahrát, byla selfie s manželkou a dcerou před chrámem v Indonésii. Analýza společnosti Google byla vyčerpávající, dokonce dokumentovala konkrétní model hodinek, které nosila jeho žena, Casio F-91W. Ale pak, říká Mohandas, AI udělala něco zvláštního: Poznamenala, že hodinky Casio F-91W jsou běžně spojovány s islámskými extremisty. „Museli jsme vyladit výzvy, aby to bylo o něco zdravější, ale stále strašidelné,“ říká Mohandas. Ente začal žádat model, aby vytvořil krátké, objektivní výstupy – nic temného.

Stejná rodinná fotografie nahraná na Theyseeyourphotos nyní vrací obecnější výsledek, který obsahuje název chrámu a „částečně zataženou oblohu a svěží zeleň“, která jej obklopuje. Ale AI stále dělá řadu předpokladů o Mohandasovi a jeho rodině, jako že jejich tváře vyjadřují „společnou spokojenost“ a „rodiče jsou pravděpodobně jihoasijského původu, střední třída“. Posuzuje jejich oblečení („vhodné na prohlídku“) a poznamenává, že „ženiny hodinky ukazují čas přibližně 14:00, což odpovídá metadatům obrázku“.

Mluvčí Google Colin Smith odmítl přímo komentovat projekt Ente. Nařídil WIRED, aby podporovala stránky, které uvádějí, že nahrávání do Fotek Google se používá pouze k trénování generativních modelů umělé inteligence, které lidem pomáhají spravovat jejich knihovny obrázků, jako jsou ty, které analyzují věk a umístění fotografických předmětů. Společnost tvrdí, že obsah neprodává. uložené ve Fotkách Google třetím stranám nebo je používat pro reklamní účely. Uživatelé mohou vypnout některé funkce analýzy ve Fotkách, ale nemohou zcela zabránit Googlu v přístupu k jejich obrázkům, protože data nejsou šifrována end-to-end.