Výrobce chytrého asistenta do domácnosti své potencionální i současné zákazníky stále přesvědčuje, že Alexa je skutečně zabezpečené zařízení, které funguje díky pokroku AI. Avšak umělá inteligence, jenž se stará o vyhodnocování příkazů, není dokonalá natolik, aby běžela lokálně a stále je tedy zapotřebí dotek člověka k tomu, aby vše fungovalo.

Potvrzuje to Bloomberg, který se doslova ponořil do způsobu, jakým Alexa vyhodnocuje příkazy dané člověkem. Z prověřování totiž vyplývá, že aby Amazon docílil lepší interakce s lidmi, najal si masivní počet zaměstnanců a kontraktorů, kteří dané příkazy vyhodnocují. To je pochopitelné, protože prozatím nemáme lepší způsob, jak vyhodnotit správně lidské interakce jinak, než právě jiným člověkem.
Znepokojující je spíše fakt, že Amazon ukládá nahrávky z příkazů, které posléze skupina lidí poslouchá a posléze vyhodnocuje kvalitu, popřípadě upravuje pokyny tak, aby následující dotaz byl zpracován správně systémem bez nutnosti lidského zásahu.

Vyplývá to z rozhovoru mezi jedním ze zaměstnanců připsaným na tento úkol. Jeho denní činností bylo poslouchání záznamu z domácnosti, kde naslouchal a posléze filtroval zvuky a citlivé informace, aby nebyl asistent Alexa příště aktivován bez zjevného pokynu. Cílem je totiž vylepšit vyhodnocení okolních zvuků do takové míry, aby nedocházelo ke spouštění asistenta bez vyzvání.

Amazon ke zprávě vydal prohlášení, že uživatelská data jsou velmi dobře střežena a komunikace je zašifrována tak, aby nedošlo ke zneužití. Rovněž zaměstnanci pracující na analýze nahrávek se řídí striktním kodexem, aby Amazon zaručil, že nedojde k jakémukoliv zneužití nahrávek. Nahrávky, které Amazon shromažďuje, jsou podle všeho anonymní a neobsahují celé jméno ani elektronickou adresu; nicméně přiznává, že nahrávka k posouzení obsahuje jméno a Amazon ID účet.

Zjištěné fakta nejsou dobrou zprávou pro Amazon, který tak může ztratit důvěru u zákazníků. Na druhou stranu, ani konkurence není svatá. Google i Apple využívá stejného způsobu, jak analyzovat nahrávky, avšak narozdíl od Amazonu neukládá vůbec žádné údaje, což činí uložené nahrávky zcela anonymní.