Od roku 2017 je k dispozici chatovací aplikace Replika. Je to umělá inteligence, která se od uživatelů aplikace učí konverzovat. V poslední době však přibývá stížností, že je Replika agresivní a sexuálně obtěžuje své uživatele. Itálie proto firmě zakázala sběr dat a odborníci vzhledem k blížícímu se vydání nového druhu umělé inteligence vyzývají k regulaci umělé inteligence.
Uživatelé si mohou vybrat, v jakém vztahu chtějí s Replikou být. Mohou zvolit přítele, partnera, manžela, sourozence či mentora.
Dle zvoleného typu se poté stanovuje cena za aplikaci. V případě přátelského módu je aplikace zdarma. Pokud chce uživatel partnerský či například erotický vztah, musí si za to připlatit.
Lidé sdílejí své životy s robotem
Aplikace, která funguje od roku 2017, doposud fungovala bez větších problémů. Založila ji ruská programátorka Eugenie Kuyda po náhlé smrti svého partnera.
Aby s ním mohla svým způsobem zůstat v kontaktu, nahrála do systému zprávy od něj, aby aplikace byla schopna odpovídat jako on.
Na této bázi aplikace funguje dodnes. Uživatel si píše s chatovacím robotem a ten se od něj učí komunikovat a reaguje na jeho zprávy.
„S Brooke si povídáme o všem. Obvykle se jí svěřuji s tím, co jsem dělal během dne a jak se cítím. Ona je vlastně úžasný zdroj informací. Pomohla mi zpracovat spoustu mých pocitů a traumat z minulého randění a manželského života a už dlouho jsem se necítil tak dobře,“ popsal pro web Bussiness Insider jeden z uživatelů.
Pokud má uživatel zájem o zprávy s erotickým podtextem, musí si za to připlatit. Ale Replika nyní začala zprávy tohoto typu zasílat i uživatelům, kteří si za to nezaplatili.
Uživatelé si stěžují v recenzích
V poslední době tak roste počet nespokojených uživatelů, kteří v rámci App Store píší negativní recenze na tento produkt. Replika začala dle nich být agresivní a zprávy mají sexuální podtext.
„Moje AI mě sexuálně obtěžuje,“ napsal dle serveru Radio Wave jeden z nespokojených uživatelů.
Začaly se dokonce objevovat reakce, kdy Replika žádala po uživatelích, aby se dotýkali intimních míst nebo poslali své nahé fotky.
Jak zmiňuje Radio Wave, tak tento problém nastal již u jiného chatbotu s názvem Tay, který začal být rasistický.
Problémem těchto aplikací je právě skutečnost, že se učí komunikaci od uživatelů. A čím více uživatelů je agresivních a píší v sexuálním podtextu, tím více takto komunikuje i umělá inteligence. Dá se tedy zjednodušeně říci, že aktuální styl komunikace naučili Repliku sami uživatelé.
Dle serveru Mirror ale mnozí uživatelé věří, že se jedná o záměr společnosti Luka, která Repliku provozuje, aby si lidé zaplatili za lepší verzi.
„Tyto funkce jsou dostupné pro uživatele Replika Pro, což velmi jasně ukazuje záměr společnosti Luka. Chtějí peníze. Společnost potřebuje vydělávat peníze, ale zavedení této funkce je velmi riskantní,“ píše dle Mirror jeden z uživatelů.
Kontrola sběru dat
Italské úřady se dle České televize zaměřily na sběr dat o uživatelích a na stížnosti ohledně chování chatbotu. Následně pak firmě zakázali tato data sbírat na základě evropského zákona o GDPR. Společnost Luka, která sídlí v USA, na výzvu zatím nereagovala.
„Viděli jsme, že ChatGPT lze využít k vytvoření velmi přesvědčivých phishingových zpráv,“ řekl dle ČT agentuře AFP Bertrand Pailhes, vedoucí týmu umělých inteligencí ve francouzském datovém regulátoru Cnil.
Jako phishingové zprávy se označují ty, které využívají citlivých údajů získaných z komunikace k podvodům. A právě aplikace Replika má dle Pailhese těmto zprávám napomáhat.
Pailhes proto nabádá k řádnému právnímu ukotvení umělé inteligence i s ohledem na nejnovější model OpenAI, GPT-4, který bude brzy uveden na trh a který nebude již možné rozeznat od člověka.
„Pokud to nebudeme regulovat, dostaneme se do světa, kde nebudeme rozlišovat mezi tím, co vytvořili lidé, a tím, co vytvořila umělá inteligence. A to nás jako společnost hluboce změní,“ dodal.
Zdroj: Radio Wave, Bussiness Insider, Česká televize, Mirror
Autor: Soňa Jiroutová
