Kontroverzná asistentka. Google sľúbil, že sa predstaví ako robot

Keď Sundar Pichai predviedol, že robotický telefonista je na nerozoznanie od ľudského a vie pohotovo reagovať na otázky, zožal nadšený obdiv, ale aj dôraznú kritiku, píše Technet.cz.

Minulý týždeň Google predstavil novú experimentálnu funkciu Google Duplex. Sundar Pichai, šéf Googlu, pustil prekvapenému publiku ukážky reálnych telefónnych hovorov, ktoré viedol robotický asistent s reštauráciou alebo kaderníctvom.

V ukážke je počuť, že hlas znie veľmi prirodzene, naviac je reč robota prekladaná vypchávkami typu "ehm", "jo" alebo "uh". Google Duplex vie reagovať počas desatiny sekundy, prestane rozprávať, keď začne hovoriť druhá strana, a vôbec sa chová veľmi "ľudsky". Z reakcií ľudí na druhej strane telefonátu možno súdiť, že nemajú ani tušenie, že sa bavia s robotom.

Etický problém ďalekosiahlych rozmerov
Je jednoduché si predstaviť, prečo Google v rámci experimentov nechcel zdôrazňovať, že volá robot. Málokto sa chce rozprávať s robotom, prípadne by daný príjemca mohol hovoriť tak, ako si myslí, že by mal na robota hovoriť, čo nie je pre rozpoznávanie reči, ktoré je natrénované na bežnej konverzácii, ideálne.

Ale aj tak sa po predvedení tejto novej (zatiaľ experimentálnej) funkcie zdvihla okrem obdivu aj vlna kritiky. Ľuďom (vrátane rady našich čitateľov) vadila predstava, že by sa bavili s robotom, bez toho aby o tom vedeli. Novinár The New York Times, Zeynep Tufekci, označil Pichaovu prezentáciu za desivú.

Podľa neho nie je v poriadku, aby stroj predstieral, že je človek, a uvádzal tak človeka na druhej strane do omylu: "Je neuveriteľné, že ľudia v Googli to nezatrhli. Toto je obyčajné podvádzanie."

S tým čiastočne súhlasí aj výskumník z Digital Ethics Lab z Oxfordu: "Tieto experimenty firmy Google sa zdajú byť navrhnuté tak, že oblafnú človeka (na druhej strane). Zdá sa, že zisťovali, či dokážu presvedčiť človeka na druhej strane, že sa baví s človekom. Neviem, prečo sa namiesto toho nesnažili nájsť najlepší a najpoužiteľnejší spôsob, ako jednať. Nemusíte predsa niekoho uvádzať do omylu, aby ste s ním efektívne komunikovali. Neviem samozrejme, či bolo ich cieľom ľudí uvádzať do omylu, ale ak to nebol cieľ, tak to prinajmenšom zanedbali. "

Robot sa bude musieť predstaviť ako robot, uistil Google
Google pôvodne nezmienil, či sa robot predstaví ako robot, alebo nechá druhú stranu v domnení, že sa baví s človekom. Sundar Pichai však povedal, že "Google si dá prácu s tým, aby to urobil tak, ako sa patrí".

Na otázku magazínu The Verge zástupca spoločnosti Google neskôr uviedol, že "spoločnosť cíti zodpovednosť informovať osoby, ktoré prídu do kontaktu s asistentom Duplex, že sa bavia so softvérom". Tím, ktorý vyvíja produkt Asistent Google (Duplex má byť jeho súčasťou) tiež hľadá spôsoby, ako zabezpečiť túto funkciu proti zneužitiu. A že si možno predstaviť nejeden spôsob, ktorým by sa dal ľudsky znejúci a reagujúci robot využiť a zneužiť.