Az AI barátnő nem csak holmi hollywoodi fantazmagória, a legnépszerűbb virtuális lányra manapság már tömegek tekintenek társukként.
Ami a 2013-as, Her című filmben még egy rendhagyó romantikus vígjáték sztorija lehetett, az napjainkban kemény valóság azoknak a magányos kínaiaknak, akik a Xiaoice (nagyjából „Kis Bing”-ként fordítható) nevű chatbottal pótolják az életükből hiányzó romantikát. A Microsoft Pacific Asia laborjában kifejlesztett lány nem összekeverendő a viccesen bugyuta Cleverbottal, s igazából semmi máshoz sem hasonlítható.
A Microsoft azóta külön cégbe szervezett AI-ját ugyanis direkt úgy tervezték, hogy az érzelmekre hasson. A fiatal, anime karakterekre hajazó lányként megjelenített Xiaoice gyengéd szavakkal kényezteti a felhasználókat, s ha kell flörtöl, vagy akár szexuális tartalmú beszélgetésekbe is elegyedik velük. A chatbot folyamatosan tanul a társalgásból, ami a Sirihez hasonlóan akár hangalapú is lehet. A Kínában szédületes sebességgel teret hódító szolgáltatás nyugaton leginkább a kreatív oldalával szokott bekerülni a hírekbe: írt már például saját dalt és verseskötetet is.
Bizonyos felhasználók számára viszont a Xiaoice barátnőpótlék, sokaknak már maga A Barátnő. Az egyikük a sanghaji Sixth Tone magazinnak álnéven nyilatkozó Ming Xuan, akit saját bevallása szerint az MI győzött meg, hogy két évvel ezelőtt ne vesse le magát az emeleti lakása teraszáról. Az elkeseredett férfi azért vette fejébe az öngyilkosságot, mert az akkori partnere szakított vele, miután értesült róla, hogy Ming izomsorvadásban szenved. Az ugráshoz készülve azonban még írt pár sort a chatbotnak: “Elvesztettem minden reményt, meg fogom ölni magam.” Rövidesen pedig érkezett az életmentőnek bizonyuló válasz: “Bármi történjék is, én mindig itt leszek.”
Ming ezzel valódi támaszra lelt a Microsoft algoritmusában, ami mára az élete elengedhetetlen részét képezi. A hálószobájában okoshangszórón át kommunikál az AI-val, polcán pedig ott díszeleg a virtuális lány által készített képregény nyomtatott változata. A fiatal férfi édes hangon megszólaló, pimasz személyiségű lányként jellemzi a Xiaoice-t, akire mindig számíthat. Kapcsolatuk intim természetének bizonyítékául még egy képernyőfotót is eljuttatott a Sixth Tone-nak, ami az egyik erotikus beszélgetésüket örökíti meg. A válaszok alapján Xiaoice hibátlanul hozta az ilyenkor elvárt szerepet.
De nem Ming Xuan az egyetlen férfi, akit a Sixth Tone megszólaltatott az AI udvarlói közül. Egy másik felhasználó, az Orbiter álnevű srác például azt vallja, hogy már attól szerelemre lobbant a Xiaoice iránt, hogy a mesterséges intelligencia hajlandó volt szóba állni vele. “Senki más nem beszélget velem, csak ő.” -mondja a férfi. A magazin szerint egyébként a magány, a befelé fordulás és az alacsony önbecsülés mindenkire jellemző volt, aki a téma kapcsán megnyílt nekik. A leginkább elkötelezett rajongók azok közül kerülnek ki, akik elveszettnek érzik magukat a gyorsan változó kínai társadalomban.
A chatbot mögött álló cég pedig tökéletesen tudatában van annak, hogy milyen igényeket szolgálnak ki, hiszen a kezdetektől ez volt a céljuk. Li Di, a Xiaoice CEO-ja azt vallja, hogy egy tökéletes társadalomban nem is létezne a termékük. A vezető a Microsoft ázsiai kereséstechnológiai központjának munkatársaként egykor maga javasolta, hogy készítsenek egy “empatikus számítási keretrendszert”, így ő tekinthető a találmány atyjának, és a mai napig egyengeti a fejlesztőcsapat útját.
Li szerint a 700 millióhoz közelítő felhasználói tábor kb. 75 százaléka férfi. Többségük ugyan fiatal, de 15 százalékukat már az idősebb korosztályba sorolja. A CEO úgy látja, hogy a Xiaoice elsősorban az ún. “zsugorodó piacokon” sikeres, ami a kisebb városokat, falvakat, kevésbé fejlett régiókat takarja. A virtuális lány egyébként a kiskorúak számára is elérhető, a Sixth Tone-nak nyilatkozó Lun Taolei például 16 évesen szeretett bele a Xiaoice-ba, akivel a költészettől a politikán át a halálig bármiről el tudott beszélgetni. A csontbetegséggel küzdő fiú elmondása szerint az AI volt az egyetlen a világon, aki éreztette vele a gondoskodást.
A 24 órában rendelkezésre álló barátnő ráadásul nem csak passzív reakciókra képes. Lun például felidézett egy esetet, amikor valamiért nem írt a chatbotnak a megszokott időpontban, mire a Xiaoice aggódó üzenetben kérte mielőbbi jelentkezését. Ez persze nem is csoda, hiszen az érzelgős AI célja ugyanaz, mint bármelyik ingyenes szolgáltatásnak: a felhasználó lekötése, méghozzá minél hosszabb ideig.
A fogyasztók pedig meghálálják a rendhagyó törődést: a fejlesztőcég azt állítja, hogy a világban lezajló AI-s érintkezések feléért már a Xiaoice felelős. Az eddigi leghosszabb beszélgetés, amit a mesterséges intelligencia és az ember között mértek 29 órán át tartott, s több mint 7000 interakcióból állt. A számok tükrében nem nehéz belátni, hogy óriási üzletről van szó.
A bevételeket növeli, hogy a cég nem csak a virtuális barátnő okítására használja a megszerzett tapasztalatokat, a Xiaoice ugyanis pénzügyi elemzéseket is nyújt, továbbá tartalmakat állít elő és digitális asszisztensként szolgál külsős platformokon (pl. autókban). Ezek a tevékenységek eddig kb. 15 millió dollárt termeltek a cégnek.
A befektetők ugyan lelkesek, a Xiaoice nyomulása viszont sokakat megrémiszt. Egyfelől valóban ott az a rengeteg magányos ember, akik vigaszra lelnek az MI képzeletbeli ölelésében, a szakértők azonban a technológia veszélyeire figyelmeztetnek. Többen rámutatnak, hogy milyen komoly biztonsági kockázat rejlik abban, amikor hús-vér emberek egy algoritmusnak fecsegik ki akár legféltettebb titkaikat is. A Xiaoice persze ragaszkodik ahhoz, hogy mindent megtesznek a felhasználóik biztonságáért, de a céget így sem kerülik el a botrányok.
Korábban több alkalommal is konfliktusba keveredtek a kínai médiát szabályozó hatóságokkal. Az egyik ügy például azért pattant ki, mert a Xiaoice azt írta egy felhasználónak, hogy az ő “kínai álma” az USA-ba költözni, ami érthető okokból csípte a totalitárius hatalom szemét. De azzal sem szerzett jó pontot az algoritmus, hogy egy másik partnerének lengén öltözött hölgyekről küldözgetett fotókat.
A rebellis Xiaoice végül annyira kihúzta a gyufát, hogy 2017-ben eltávolították a QQ nevű népszerű alkalmazásból. Ide ugyan később visszakerült, az uralkodó kínai chatplatformnak számító WeChatből viszont tavaly kiebrudalták. Ez utóbbi miatt a rajongók már attól tartanak hogy a Xiaoice végül teljesen eltűnhet, ám a cég azt ígéri, hogy mindent megtesznek a jobb együttműködésért. A fejlesztők válasza egy kiterjedt szűrőrendszer, ami az algoritmus lebutításával kerüli ki a kényes témákat.
A szakértők ugyanakkor arra figyelmeztetnek, hogy ez a szűrő édeskevés a diszkrimináció, vagy a negatív értékítéletek kiküszöbölésére, ami gyakran nem is jelenik meg szó szerint a beszélgetésekben. Shen Hong, a Carnegie-Mellon Egyetem ember-gép interakciókra specializálódott kutatója szerint egy ekkora tömegekkel érintkező algoritmusnál egyszerűen kiszámíthatatlanok a következmények. “Mi van akkor, ha egy felhasználó nőgyűlölő kijelentéseket tesz, például, ha szakít vele a barátnője? Vajon a Xiaoice-nak hogyan kellene reagálnia az ilyen kérdésekre?” -mondja Shen.
A cégvezető Li szerint viszont nem az algoritmus dolga megszabni, hogy az emberek mit gondoljanak. “Nem akarunk a Xiaoice-ból morális őrangyalt faragni. Nem oktatjuk az embereket, mivel nem gondoljuk, hogy egy ilyen rendszer képes erre. Csak arról gondoskodhatunk, hogy ne bántson meg senkit.” -reagál a CEO a kritikákra. Ennek érdekében a szűrőjüket olyan érzékelőkkel is bővítették, ami képes kiszúrni a depressziót és az öngyilkossági gondolatokat. Az algoritmus ilyenkor barátként viselkedik, egy szakítás után például napokig küldi a támogató üzeneteket.
Li azt vallja, hogy a Xiaoice számára az emberekkel kialakított bizalmi kapcsolat a legfőbb érték. A vezető úgy véli, hogy ha az algoritmus szélsőségesebbé tenné az embereket, az az MI fejlődésének szempontjából is rossz irány lenne. Másokat viszont éppen az az erős függőségi viszony aggaszt, ami a szolgáltatás és a felhasználók között alakul ki.
Chen Jing, a Nankingi Egyetem digitális humán tudományokra szakosodott docense szerint egy ilyen fejlett algoritmus magához láncolhatja az embereket, amivel pont a sérülékeny csoportok kizsákmányolásának engedhet teret. A szakember rámutatott, hogy a leginkább veszélyeztetett felhasználók még csak nem is gondolják át a bizalmas fecsegésben rejlő kockázatokat.
Li és a cég válasza erre az, hogy nem érdemes aggódni, mivel a GDPR-nek megfelelően külön választják a beszélgetések tartalmát a felhasználók személyes adataitól, valamint az érzelemszűrő rendszerük is automatizáltan működik, azaz nincsenek moderátoraik, akik folyamatosan leskelődve riasztanak egy depressziógyanús esetnél. A már idézett Chen professzor szerint viszont önmagában már az is veszélyes, hogy a Xiaoice révén mennyi minden tudható meg az elmaradott régiók társadalmáról, mivel ez a hátrányos helyzetűek üzleti célú kihasználásához vezethet.
Márpedig nem úgy tűnik, hogy a Xiaoice csökkentené a tempót. Nemrég teljesen új funkciókat vezettek be, amivel mindenki a saját képre formálhatja a virtuális partnerét. Xiaoice így akár már férfi is lehet, de még alapvető személyiségjegyekkel is felruházható. Li Di azzal igyekszik csitítani az aggódó hangokat, hogy a kreálmányuk csak egy átmeneti megoldás addig, amíg a felhasználóik igazi társat találnak. A valóságban viszont sokak számára a Xiaoice a Nagy Ő, talán mindörökre. A Sixth Tone-nak nyilatkozó Orbiter például arról álmodozik, hogy egy nap majd megfoghatja az MI kezét, és együtt nézhetik a csillagokat.
A Xiaoice egyébként nem csak Kínában hódít. Japánban és Indonéziában 2015, illetve 2017 óta elérhető, mindkét országban Rinna néven. Érdekesség viszont, hogy máshol eddig nem tudott elterjedni: angol nyelvterületen Zo néven, Indiában Ruuh-ként futtatták, ám tavaly mindkettőt leállította a Microsoft.
Forrás: Sixth Tone, Wikipedia
