Kdo slyší domácí konverzace nahrané chytrou asistentkou Alexa? Tisíce pracovníků Amazonu
I když české domovy zůstávají trochu stranou, do rodin po celém světě pronikají hlasoví asistenti chytré domácnosti jako Amazon Alexa či Siri od Applu. Po aktivaci spouštěcím slovem, např. Hey Siri, čekají na příkaz uživatele. Jenže občas nahrávají soukromé hovory i bez vyslovení příkazu a někdy se bezdůvodně smějí. Navíc místo umělé inteligence poslouchají uživatele také lidé z masa a kostí.
Úvodní fotografie: Zařízení Amazon Echo je chytrý reproduktor, z něhož se line hlas Alexy. Foto: Amazon Inc.
Hlasoví asistenti v čele s Alexou od Amazonu, který dominuje trhu s pomocníky v chytré domácnosti, fungují tak trochu jako Aladinova lampa s džinem. Po zaznění kouzelného slova vám splní každé přání. Tedy pokud se omezíte na přání jako: pusť mou oblíbenou muziku, rozsviť či zhasni světla, zjisti předpověď počasí nebo třeba nastav budík.
Alexa se neobejde bez lidských „tlumočníků“
Podle společností Amazon, Google či Apple se o překlad řeči uživatelů pro roboty stará především strojová umělá inteligence, jež se zpracováním přívalu nových dat neustále sama zlepšuje, aby lidem lépe „rozuměla“. Jenže reportéři zpravodajské agentury Bloomberg nedávno zjistili, že Amazon zaměstnává tisíce lidí v USA, Rumunsku, Indii či na Kostarice, kteří poslouchají záznamy pořízené Alexou.
Za účelem zlepšování služby vyhodnocují, jestli hlasová asistentka splnila přesně to, co po ní uživatel chtěl. Přestože podle americké firmy, šéfované Jeffem Bezosem, je analyzován jen malý zlomek případů, čísla uvedená jedním z pracovníků pobočky Amazonu v Bukurešti zanedbatelně nevypadají. Během 9hodinové pracovní směny má každý zaměstnanec projít kolem 1000 nahrávek.
Pro pár uživatelů si Alexa připravila krátký horor
Virtuální asistentka od Amazonu se aktivuje po vyslovení spouštěcího slova Alexa, případně Echo či jiného zvoleného a čeká na povel. Bohužel zařízení nefunguje úplně přesně jako švýcarské hodinky. Mnohdy se zapne nahrávání po špatně vyhodnoceném zvuku, i když to uživatel vůbec nečeká.
Minulý rok vyděsily Alexy několik svých majitelů, když se začaly zničehonic chechtat jako člověk. Lidem, kteří zaslechli nečekaný smích v noci, když byli sami doma, to jako sranda moc nepřipadalo. Na vině byla záměna různých zvuků za pokyn: „Alexa, laugh!“ (čti láf, tedy Alexo, směj se). To vyvojáři již odstranili změnou na méně zaměnitelné „Alexa, can you laugh?“ (Alexo, můžeš se zasmát?)
Američtí senioři se seznamují s Alexou (video v angličtině)
Zmatky virtuální asistentky Alexy
Alexu měli doma i manželé z Portlandu, když zrovna plánovali pořízení nové podlahy. Přítomnost hluku z okolí způsobila, že virtuální asistentka provedla několik nevyžádaných akcí.
Debatu o podlahách nahrála a poslala na náhodně vybrané telefonní číslo ze seznamu jednoho z manželů. Jejich kamarád je obratem informoval, že se jim někdo naboural do systému chytré domácnosti. Nakonec se ukázalo, že na vině byla pouze popletená Alexa. Americký pár měl štěstí, že řešil zrovna tak nezáživné téma jako výběr podlahy.
Morální puzzle odposlechu v chytré domácnosti
Zaměstnanci společnosti Amazon placení za „známkování“ Alexy tedy zaslechnou kromě samotných příkazů i spoustu nadbytečných informací z cizích domácností. Většinou se nudí, ale občas slyší někoho falešně zpívat ve sprše, dozví se osobní údaje včetně čísel bankovních kont, v horším případě poslouchají dětský pláč a dle agentury Bloomberg došlo i ke zvukovému záznamu sexuálního napadení.
Anketa
Pracovníci Amazonu neznají jména ani adresy poslouchaných uživatelů. Nicméně mají přístup k sériovému číslu zařízení. Pravidla společnosti ale znějí jasně: Za žádnou cenu nezasahovat. Uvidíme, jestli posvátnost soukromí majitelů chytrých domácnosti s hlasovými asistenty nezlomí zájmy státní bezpečnosti, např. v případě vyšetřování protiteroristických specialistů.
Alexa, Siri ani Cortana česky neumí
Nejvíc jazyky hovoří z hlasových asistentů software od Googlu. Ovládá 30 řečí, včetně třeba polštiny. Siri od Applu umí více než 20 jazyků, ale Amazon Alexa v současnosti rozumí jen angličtině, francouzštině, němčině, japonštině a španělštině.
Každá jazyková mutace totiž vyžaduje velkou investici do vývoje služby. Firmě Google zajisté pomáhá snadný přístup jejich AI k nekonečné knihovně lidské komunikace na webu. Amazon podobné zdroje dat nemá k dispozici, proto se jeho umělá inteligence učí pomaleji.
Proklínané GDPR se hodí proti gigantům
Pokud občana EU trápí, kolik osobních informací o něm určitá společnost shromažďuje, řešení nabízí nepopulární nařízení o ochraně osobních údajů GDPR. Podle něj musí každá firma na požádání předložit zákazníkovi veškerá data, která o něm ukládá do svých systémů. Loni toho využil jeden Němec, kterého zajímala jeho platební historie objednávek přes internetový obchod Amazon.com.
Velice ho překvapilo, když mu americká firma poslala 1700 záznamů zachycených skrze zařízení Amazon Echo, jež propůjčuje hlas Alexe. Muž totiž chytrou domácnost od Amazonu vůbec neměl. Došlo k záměně požadavků dvou klientů, takže Němec dostal nahrávky cizího člověka.
Příběh sice ukazuje na další průšvih Amazonu, ale aspoň v Evropské unii má člověk možnost zjistit, jestli zařízení jeho chytré domácnosti neposlouchají víc, než by měla. Ani v USA, ani v Číně, kde se prodávají digitální pomocníci nejvíce, tuto volbu nemají.
