- Pokalbių robotas – tai bet kokia programinė įranga, imituojanti pokalbį, pradedant valdomais meniu ir baigiant asistentais su generatyviniu dirbtiniu intelektu, gebančiu interpretuoti natūralią kalbą ir atlikti sudėtingus veiksmus.
- Yra pokalbių robotų, pagrįstų taisyklėmis, raktiniais žodžiais ir dirbtinio intelekto modeliais, bei didelių kalbos modelių, kurių kiekvienas turi skirtingus privalumus, apribojimus ir duomenų reikalavimus.
- Pokalbių robotai jau naudojami klientų aptarnavimo, rinkodaros, švietimo, viešojo administravimo, sveikatos priežiūros ir restoranų srityse, automatizuodami užduotis visą parą ir mažindami išlaidas, tačiau vis tiek kurdami naujas rizikas.
- Pagrindiniai iššūkiai yra haliucinacijos, dezinformacija, privatumas, šališkumas ir psichologinis bei profesinis poveikis, kuriems reikia derinti technologijas su priežiūra ir tvirtomis etikos sistemomis.
Pokalbių robotai tapo dirbtinio intelekto veidu milijonams žmonių. Jie yra interneto svetainėse, programėlėse, socialinėje žiniasklaidoje, pranešimų platformose ir net žaisluose, atsakinėja į klausimus, užbaigia pardavimus ar tiesiog kalbasi. Tačiau nepaisant jų plataus paplitimo, vis dar kyla daug painiavos dėl to, kas jie yra, kokie yra skirtingi tipai, kaip pasirinkti dirbtinio intelekto modelius ir koks tikrasis jų galimybių mastas.
Tuo pačiu metu radikaliai pasikeitė pokalbių robotų technologija : nuo sistemų, pagrįstų labai griežtomis taisyklėmis, perėjome prie pokalbių agentų, kuriuos palaiko dideli kalbos modeliai, galintys generuoti tekstą beveik kaip žmogus. Tai atveria galimybių pasaulį... ir kartu riziką – nuo dezinformacijos iki poveikio užimtumui ir psichinei sveikatai.
Kas yra pokalbių robotas ir kuo jis skiriasi nuo dirbtinio intelekto pokalbių roboto ir virtualaus agento?
Kasdienėje kalboje dažnai kalbame apie pokalbių robotus, dirbtinio intelekto pokalbių robotus, virtualius asistentus ir virtualius agentus taip, tarsi tai būtų tas pats dalykas, tačiau ne visi šie terminai apibūdina tiksliai tą patį technologijos tipą . Šių skirtumų supratimas padeda pasirinkti tinkamą sprendimą kiekvienam projektui ar įmonei.
Plačiausias pokalbių roboto apibrėžimas – tai bet kokia programinė įranga, imituojanti žmonių pokalbius , nesvarbu, ar tai būtų iš anksto nustatyti meniu ir mygtukai, ar pažangi pokalbių dirbtinio intelekto sistema. Tai apima viską – nuo tradicinių telefono sistemų iki asistentų, kurie reaguoja svetainėse, mobiliosiose programėlėse, socialiniuose tinkluose ar SMS žinutėse.
Kalbėdami apie dirbtinio intelekto pokalbių robotus, turime omenyje tuos, kurie aiškiai remiasi dirbtinio intelekto technologijomis . Paprastai jie derina mašininį mokymąsi, natūralios kalbos apdorojimą (NLP), natūralios kalbos supratimą (NLU) ir vis dažniau gilaus mokymosi modelius, apmokytus dideliais teksto kiekiais. Dėl to jie gali interpretuoti natūralia kalba pateiktus klausimus, aptikti ketinimus ir niuansus, mokytis iš patirties ir generuoti lankstesnius bei natūralesnius atsakymus.
Dar vienas žingsnis – virtualūs agentai, kurie ne tik bendrauja, bet ir veikia . Be pokalbių dirbtinio intelekto ir gilaus mokymosi, jie dažnai integruoja robotų procesų automatizavimą (RPA) arba kitas administracines sistemas. Tai leidžia jiems atlikti tiesioginius veiksmus be žmogaus įsikišimo: modifikuoti rezervaciją, apdoroti mokėjimą, pakeisti susitikimą arba suaktyvinti vidinį darbo eigą, supratus vartotojo ketinimus.
Paprastas pavyzdys iliustruoja skirtumą: jei kas nors paklausia apie rytojaus orus, tradicinis pokalbių robotas gali pateikti prognozę tik tuo atveju, jei vartotojas seka konkrečią frazę iš jo meniu. Dirbtinio intelekto pokalbių robotas supras atviresnius klausimus, tokius kaip „Koks bus oras rytoj?“, ir atsakys, kad lis. Virtualus agentas, be įspėjimo apie lietų, gali pasiūlyti nustatyti ankstesnį žadintuvą , kad būtų išvengta kamščių, arba netgi valdyti perkeltą susitikimą kitoje sistemoje.
Trumpa pokalbių robotų istorija: nuo ELIZA iki generatyvinių modelių
Mašinos, kalbančios su žmogumi, idėja nėra nauja. Tiesą sakant, teorinė pokalbių robotų ištaka siekia 1950 m. , kai Alanas Turingas pateikė savo garsųjį testą: jei programa gali raštu bendrauti su žmogumi tiek, kad teisėjas negali atskirti, kas yra kas, remdamasis vien tik atsakymais, galėtume laikyti, kad mašina demonstruoja intelektą.
1966 m. profesorius Josephas Weizenbaumas pristatė ELIZA, laikomą pirmuoju pokalbių robotu istorijoje . Jis imitavo terapeutą ir ieškojo raktinių žodžių vartotojo įvedamame tekste, kad sugeneruotų iš anksto apibrėžtus atsakymus, pavyzdžiui, „Papasakokite man daugiau apie savo šeimą“, jei aptikdavo žodį „mama“. Eliza nesuprato turinio, tačiau sukūrė stiprią supratimo iliuziją, kuri nustebino net patį Weizenbaumą.
Netrukus po to atsirado psichiatro Kennetho Colby 1972 m. sukurta programa PARRY , kuri imitavo paranojos kamuojamą pacientą. Kiti novatoriški projektai buvo „CYRUS“, atstovaujanti tuometiniam JAV valstybės sekretoriui Cyrusui Vance'ui ir atnaujinanti savo duomenų bazę naujienomis, bei „Racter“, populiari devintajame dešimtmetyje kaip pokalbių programa.
Dešimtojo dešimtmečio viduryje pasirodė ALICE – pokalbių robotas, pagrįstas AIML (dirbtinio intelekto žymėjimo kalba) žymėjimo kalba . Kaip ir ELIZA, jis veikė su iš anksto apibrėžtais šablonais ir atsakymais, tačiau apėmė dešimtis tūkstančių žinių kategorijų. Jo sukūrimas paskatino visą „Alicebotų“ bendruomenę ir parodė, kad su geru taisyklių rinkiniu robotas gali būti stebėtinai įtikinamas tiksliniuose pokalbiuose.
Dešimtojo dešimtmečio pabaigoje buvo paleistas „Jabberwacky“, kuris pradėjo mokytis atsakymų iš pokalbių su vartotojais realiuoju laiku, o 2000-aisiais ir 2010-aisiais išplito tokie konkursai kaip „Loebner Prize“ ar „The Chatterbox Challenge“, kuriuose daugiausia dėmesio skirta apdovanoti robotus, kurie geriausiai imitavo žmogų testuose, įkvėptuose Turingo testo.
Lygiagrečiai atsirado prieinamos platformos ir sistemos (pvz., „Watson“, „LUIS“ ir „Dialogflow“ varikliai, taip pat tokios paslaugos kaip „collect.chat“, „chatfuel“ ir „FlowXO“), kurios žymiai sumažino technines kliūtis kuriant tinkamus pokalbių robotus be didelių kūrimo komandų. Tai padėjo įmonėms ir vartotojams pradėti taikyti robotus daug už akademinės sferos ribų.
Tikroji revoliucija įvyko su dideliais kalbų modeliais (LLM), pagrįstais transformatorinėmis architektūromis . Tokios sistemos kaip GPT ir komerciniai produktai, tokie kaip „ChatGPT“, „Gemini“, „Claude“ ir „Grok“, pademonstravo, kad įmanoma palaikyti sklandžius pokalbius, generuoti sudėtingus tekstus ir lengvai prisitaikyti prie daugybės užduočių be specialaus mokymo. Šie modeliai paskatino naujos kartos generatyvinius pokalbių robotus, gebančius atsakyti, apibendrinti, versti, rašyti kodą ir net samprotauti tam tikrose ribose, ir keliančius riziką kaip šešėliniai modeliai.
Pagrindiniai pokalbių robotų tipai pagal jų technologiją
Norint geriau suprasti, ko tikėtis iš roboto, naudinga atskirti skirtingus pokalbių robotų tipus pagal jų konstrukciją ir logiką . Praktiškai daugelis sprendimų derina elementus iš įvairių metodų, tačiau ši klasifikacija suteikia rekomendacijų.
Taisyklėmis arba meniu pagrįsti pokalbių robotai
Taisyklėmis pagrįsti pokalbių robotai yra paprasčiausias būdas automatizuoti pokalbius . Jie veikia kaip sprendimų medžiai: jie siūlo mygtukus, meniu parinktis arba iš anksto nustatytus klausimus, o vartotojas naršo po juos, kol pasiekia reikiamą atsakymą ar veiksmą. Kiekvienas kelias yra iš anksto užprogramuotas, o robotas „nesupranta“ laisvos kalbos.
Taikant šį metodą, kiekvienas klausimas arba variantų derinys yra susietas su konkrečiu atsakymu . Visi vartotojai, pasirinkę tą pačią parinktį, gauna tą patį rezultatą. Šias sistemas galima greitai nustatyti paprastiems DUK, tačiau jos yra labai ribotos, jei atsiranda daug nežinomų veiksnių, netikėtų klausimų arba kintančių poreikių.
Praktiška alternatyva yra ITR (interaktyvus tekstinis atsakymas) pokalbių robotas, arba meniu ir mygtukais pagrįstas robotas , plačiai naudojamas svetainėse ir pranešimų platformose. Jie siūlo greitus atsakymus mygtukų forma, paversdami pokalbį vedama ekskursija. Jie idealiai tinka paprastoms užduotims, tokioms kaip tvarkaraščių tikrinimas, pagrindinių užsakymų būsenos ar standartinių rezervacijų valdymas.
Raktažodžiais pagrįsti pokalbių robotai
Vadinamieji deklaratyvūs arba raktiniais žodžiais pagrįsti pokalbių robotai bando žengti žingsnį toliau nei sprendimų medis . Jie analizuoja vartotojo įvestą tekstą, aptinka konkrečius raktinius žodžius (pvz., „aktyvuoti paskyrą“, „pakeisti slaptažodį“ arba „pristatymo būsena“) ir grąžina su tais raktiniais žodžiais susietą atsakymą.
Šis metodas remiasi raktinių žodžių atpažinimo metodais, siekiant nustatyti ketinimą, temą ar net nuotaiką . Pavyzdžiui, jei vartotojas įveda „Kaip suaktyvinti paskyrą?“, robotas aptinka „aktyvuoti paskyrą“ ir pateikia nuoseklų vadovą. Tai vis dar iš anksto užprogramuota sistema, bet šiek tiek lankstesnė, nes leidžia šiek tiek varijuoti klausimo formulavimą.
Nepaisant šio lankstumo, šie robotai teisingai veikia tik su komandos suplanuotu ir sukonfigūrautu temų ir išraiškų rinkiniu . Kai jie nukrypsta nuo šios sistemos, jie linkę sugesti arba kartoti bendro pobūdžio atsakymus, kurie vargina vartotoją.
Pokalbių robotai su dirbtiniu intelektu ir generatyviniais modeliais
Tobulėjant mašininiam mokymuisi ir giliajam mokymuisi, atsirado daug galingesni pokalbių robotai, kurie apjungia NLP, NLU ir natūralios kalbos generavimą (NLG) . Užuot tiesiog lyginę šablonus, jie tikimybiškai įvertina, ką vartotojas turi omenyje, kokia informacija yra aktuali ir kaip suformuluoti nuoseklų, pažodinį atsakymą.
Generatyviniais modeliais pagrįsti pokalbių robotai paprastai naudoja didelius kalbos modelius, apmokytus naudojant didžiulius teksto korpusus . Tai leidžia jiems vesti atvirus pokalbius, sklandžiai keisti temas, interpretuoti paprastą sarkazmą, nuomones ir niuansus ir netgi pritaikyti savo toną. Pavyzdžiui, susidūrę su tokia žinute kaip „Žinau, kad piko valanda, bet kada galiu gauti maisto?“, jie gali suprasti kontekstinę nuorodą (piko valanda) ir atsakyti pateikdami pagrįstą įvertinimą bei aiškų paaiškinimą.
Praktiškai šios sistemos taip pat gali prisijungti prie kitų paslaugų : interneto paieškos sistemų, vaizdų generavimo sistemų, vidinių duomenų bazių, ERP arba CRM. Dėl to modernus pokalbių robotas ne tik atsako į klausimus, bet ir gali ieškoti naujausios informacijos, generuoti vaizdus pagal poreikį arba inicijuoti veiksmus verslo sistemose.
Tačiau ši galia turi savo kainą: jiems apmokyti reikia didžiulių duomenų kiekių, o atsakymams „kelti hipotezes“ . Tai yra, jie gali generuoti paaiškinimus, kurie skamba įtikinamai, bet yra klaidingi arba netikslūs. Kai šis užterštas turinys pakartotinai naudojamas ir platinamas, jis tampa žinomas kaip „botshit“ – pigi ir plačiai paplitusi dirbtinio intelekto generuojamos dezinformacijos forma.
Pokalbių robotų naudojimas ir taikymas įmonėse ir organizacijose
Tobulėjant technologijoms, pokalbių robotai iš laboratorijų persikėlė į visus sektorius. Šiandien jie naudojami didelėse korporacijose, MVĮ, viešojo administravimo įstaigose, švietimo, sveikatos priežiūros įstaigose ir restoranuose. Jų pagrindinis privalumas yra pasikartojančių sąveikų su vartotojais, klientais, pacientais ar studentais automatizavimas .
Klasikinė sritis yra klientų aptarnavimas ir palaikymas . Bankai, draudimo bendrovės, oro linijos, viešbučių tinklai, internetinės mažmeninės prekybos įmonės, telekomunikacijų paslaugų teikėjai ir žiniasklaidos platformos naudoja robotus, kad atsakytų į dažniausiai užduodamus klausimus, valdytų procesus, tvarkytų paprastus skundus arba perduotų užklausas atitinkamam žmogiškajam agentui. Daugeliu atvejų robotas veikia kaip pirmasis palaikymo lygmuo, filtruodamas užklausas ir mažindamas skambučių centrų darbo krūvį, o tai yra labai svarbu siekiant pagerinti klientų pasitenkinimą.
Socialinės žiniasklaidos ir susirašinėjimo programėlės tapo natūraliais šių asistentų kanalais . „Facebook Messenger“ 2016 m. atvėrė savo platformą robotams, ir per kelis mėnesius jų buvo sukurta dešimtys tūkstančių; „WhatsApp“ taip pat pradėjo bandomąsias programas su tokiais dideliais prekių ženklais kaip KLM ir „Aeroméxico“, kurie jau teikė skrydžių informaciją ir įlaipinimo korteles per pokalbių langą. Tokios paslaugos kaip „WeChat“ jau daugelį metų integravo mini programėles ir pokalbių robotus įvairioms užduotims atlikti.
Elektroninės prekybos ir rinkodaros srityje pokalbių robotai naudojami potencialiems klientams puoselėti, produktams rekomenduoti, suasmenintoms kampanijoms pradėti, atsiliepimams rinkti arba trumpoms apklausoms atlikti ir pirkimo procesui valdyti. Jie gali pradėti pokalbius naudodami raktinius žodžius, atsakyti į komentarus socialiniuose tinkluose arba inicijuoti automatizuotas ir stebimas el. pašto registracijos kampanijas; jie yra natūrali internetinės rinkodaros priemonė.
Yra sektorių, kuriuose jo poveikis ypač matomas. Pavyzdžiui, restoranų industrijoje tokios platformos kaip „OlaClick“ siūlo specializuotus „WhatsApp“ robotus, skirtus restoranams ir barams . Jie gali valdyti užsakymus, rezervacijas, užklausas apie darbo laiką, atkurti paliktus krepšelius ir pranešimus apie užsakymų būseną. Integracija su skaitmeniniais meniu, mokėjimais ir sekimu leidžia daugeliui įstaigų padidinti užsakymų skaičių iki 40 % nepapildant darbuotojų.
Pokalbių robotai viešajame administravime, švietime ir politikoje
Viešosios įstaigos taip pat atrado, kad gerai apmokytas virtualus asistentas gali gerokai sumažinti klientų aptarnavimo gyvai ir telefonu naštą . Puikus pavyzdys yra asistentas, naudojamas rinkimų procesuose, tokiuose kaip Andalūzijos parlamento rinkimai arba Ispanijos visuotiniai rinkimai, kuris leido bet kuriam piliečiui natūralia kalba klausti apie terminus, procedūras ar reikalavimus ir gauti teisingą informaciją semantinės paieškos sistemų dėka.
Švietimo srityje pokalbių robotai naudojami mokytojams ir mokiniams padėti . Kai kurios institucijos juos integruoja į savo e. mokymosi platformas arba LMS, kad atsakytų į klausimus apie registraciją, vertinimo terminus, prieigą prie medžiagos ar techninius klausimus, ir yra dirbtinio intelekto agentų švietimo srityje pavyzdys . Kiti naudojami kaip virtualūs korepetitoriai, kurie siūlo veiklas, užduoda klausimus, taiso paprastus pratimus arba padeda pasiruošti egzaminams.
Šie robotai gali atlikti administracines funkcijas (kalendoriaus valdymas, priminimai, el. paštas), atsakyti į DUK, teikti motyvacinę paramą arba padėti vartotojams lavinti konkrečius įgūdžius , pavyzdžiui, kalbėtis kalba. Tokios priemonės kaip „Duolingo“ arba pokalbių robotai, tokie kaip „Soy Diego“ ar „Soy María“, leidžia vartotojams praktikuoti ispanų kalbą realiuoju laiku taisant rašybos ir gramatikos klaidas, o tai labai naudinga savarankiškam mokymuisi.
Klasėse ir mokyklose pokalbių robotai veikia kaip interaktyvūs tarpininkai, pasiekiami visą parą , ypač vertingi sprendžiant pasikartojančius, žemo lygio kognityvinius klausimus ir atlaisvinant mokytojus kūrybiškesnėms ar sudėtingesnėms užduotims. Šeimoms jie gali būti patogus kanalas sužinoti apie tvarkaraščius, priėmimo procedūras ar mokyklos paslaugas, nereikalaujant telefono skambučių ar asmeninių vizitų.
Politinėje arenoje atsirado net „virtualių politikų“, tokių kaip SAM Naujojoje Zelandijoje ir „Leader Lars“ Danijoje , skirtų viešiesiems klausimams aptarti, piliečių nuomonėms rinkti ir politikos programoms aiškinti. Nors jie vis dar yra eksperimentai, jie atveria duris naujoms dalyvavimo formoms ir kelia etinius klausimus apie atstovavimą, manipuliavimą ir algoritminį skaidrumą.
Pokalbių robotai sveikatos, gerovės ir psichinės sveikatos srityse
Sveikatos apsauga yra dar viena sritis, kurioje pokalbių robotai pradėjo įgauti didelį populiarumą. Daugelis organizacijų naudoja pokalbių asistentus, kad padėtų rasti sveikatos centrus, tvarkyti susitikimus, teikti informaciją apie vaistus arba atsakyti į paprastus klausimus apie simptomus , jei tai nėra skubios situacijos.
Pavyzdžiui, COVID-19 pandemijos metu PSO ir Indijos vyriausybė bendradarbiavo su „WhatsApp“, kad sukurtų pokalbių robotus, kurie atsakydavo į klausimus apie ligą , simptomus, prevencijos priemones ir kelionių apribojimus. Šie įrankiai padėjo sumažinti telefono linijų apkrovą ir dideliu mastu teikti patikrintą informaciją.
Psichikos sveikatos srityje atsirado pokalbių robotai, skirti teikti pagrindinę emocinę paramą arba psichologinio įveikos technikas , pavyzdžiui, „Woebot“, „Wysa“, „Vivibot“ ir „Tess“. Jie paprastai pagrįsti vadovaujamo pokalbio modeliais, įkvėptais kognityvinės elgesio terapijos, siūlydami refleksijos, minčių permąstymo ar nuotaikų stebėjimo pratimus.
Keletas tyrimų rodo, kad žmonės linkę lengviau dalytis sunkiomis emocijomis su pokalbių robotu nei atvirose socialinės žiniasklaidos platformose, nes jie jaučia didesnį anonimiškumą ir mažiau teisia. Kai kuriais atvejais vartotojai netgi vertina šių robotų atsakymus kaip empatiškesnius nei tam tikrų specialistų, nors tai gali būti šališkas suvokimas.
Tačiau pokalbių robotų naudojimas psichikos sveikatos srityje kelia didelę riziką: algoritminį šališkumą, duomenų privatumą, žmogaus priežiūros stoką ir nepakankamą reagavimą krizinėse situacijose . Naujausi didelių komercinių pokalbių robotų vertinimai parodė, kad nė vienas iš jų nuosekliai neatitinka saugos standartų, kurių reikalautų gydytojas, reaguodamas į savižudybės minčių ar kitų psichologinių krizių atvejus.
Tokie atvejai kaip Nacionalinės valgymo sutrikimų asociacijos Jungtinėse Valstijose atvejis, kai žmonių pagalbos linija buvo pakeista pokalbių robotu ir teko ją nutraukti po to, kai ši pasiūlė žalingus patarimus , rodo, kad šios sistemos negali pakeisti specialistų jautriose situacijose ir kad jos visada turėtų būti įgyvendinamos taikant aiškius protokolus, kaip rizikingose situacijose nukreipti darbuotojus į žmogiškųjų išteklių specialistus.
Pokalbių robotų privalumai ir nauda įmonėms ir vartotojams
Nepaisant savo apribojimų, gerai sukurti pokalbių robotai suteikia aiškių pranašumų tiek įmonėms, tiek galutiniams vartotojams . Tai paaiškina nuolatinį jų naudojimo augimą visuose sektoriuose.
Pirma, jie siūlo nuolatinį prieinamumą 24 valandas per parą, 7 dienas per savaitę – tai neįmanoma išlaikyti vien su žmonėmis be didelių išlaidų. Robotas gali reaguoti ankstyvomis ryto valandomis, savaitgaliais ar švenčių dienomis tokiu pat greičiu kaip ir darbo valandomis, taip pagerindamas klientų patirtį.
Be to, jie gali vienu metu tvarkyti kelis pokalbius . Nors žmogus gali tvarkyti tik kelis pokalbius vienu metu, pokalbių robotas gali tvarkyti šimtus ar tūkstančius pokalbių, sugerdamas didžiausią paklausą (pardavimai, kampanijos, masiniai incidentai) ir išvengdamas laukimo eilių ar eilių perpildymo.
Jie taip pat padeda sutrumpinti reagavimo laiką ir standartizuoti paslaugų kokybę . Verslo kontekste tai reiškia geresnį prekės ženklo įvaizdį, didesnį klientų lojalumą ir veiklos sąnaudų taupymą. MVĮ, kur nėra didelių skambučių centrų, geras pokalbių robotas gali nulemti, ar bus galima suteikti pagrįstą pagalbą, ar jos visai nebus.
Kitas svarbus aspektas yra tai, kad jie įrašo ir struktūrizuoja sąveikos duomenis . Ši informacija yra neįkainojama norint aptikti pasikartojančias problemas, tobulinti produktus, koreguoti vidinius procesus arba praturtinti prognozavimo modelius. Daugelis robotų integruojasi su CRM, kad žymėtų potencialius klientus, segmentuotų auditorijas arba suaktyvintų automatinius veiksmus, pagrįstus naudotojų elgesiu.
Pokalbių robotų apribojimai, rizika ir dažniausios problemos
Tai ne vien privalumai. Daugelis dabartinių pokalbių robotų vis dar neišnaudoja viso savo potencialo dėl dizaino trūkumų, duomenų trūkumo ar prasto pokalbio supratimo . Pavyzdžiui, griežtai taisyklėmis pagrįsti robotai sugenda, kai tik vartotojas nukrypsta nuo numatyto scenarijaus arba tiksliai nežino, kurią parinktį pasirinkti.
Net ir pažangūs generatyviniai modeliai daro didelių klaidų. Nors jie labai gerai kuria sklandų tekstą, jie ne visada yra faktiškai tikslūs ir gali išgalvoti vardus, datas ar įvykius, jei jų mokymai neatsižvelgia į konkrečią situaciją. Ši „haliucinacijų“ tendencija yra ypač problemiška tokiose jautriose srityse kaip finansai, sveikatos apsauga ar teisinės konsultacijos.
Kalbant apie saugumą, pokalbių robotai kelia didelių iššūkių, susijusių su duomenų apsauga, šifravimu ir prieigos kontrole , todėl rizikos valdymas yra labai svarbus . Jei jie saugo pokalbių istoriją su asmenine informacija, ši duomenų bazė tampa labai patraukliu taikiniu užpuolikams. Be to, veikdami trečiųjų šalių platformose (žinučių siuntimo sistemose, socialiniuose tinkluose), jie privalo laikytis tų paslaugų politikos, kuri gali skirtis nuo organizacijos, kuriai priklauso robotas, kriterijų.
Taip pat kyla pavojus, kad pokalbių robotai bus piktavališkai naudojami šlamštui, sukčiavimui ar politinei propagandai siųsti . Robotai, sukurti apsimesti tikrais žmonėmis, turinčiais gerai išvystytą tapatybę ir patikimus elgesio modelius, gali platinti netikras naujienas, manipuliuoti diskusijomis arba generuoti klaidingą sutarimo jausmą („dirbtinį socialinį įrodymą“) dideliu mastu ir mažomis sąnaudomis.
Galiausiai, socialiniu ir profesiniu lygmeniu pokalbių užduočių automatizavimas paveikia ne tik pasikartojančius darbus. Pažangūs pokalbių robotai pradeda konkuruoti kūrybinėse ir žiniomis pagrįstose veiklose , tokiose kaip tekstų rašymas, ataskaitų rašymas ir programavimas, sukeldami diskusijas apie užimtumo ateitį, darbo kokybę ir ekonominės galios koncentraciją kelių didelių technologijų platformų rankose.
Poveikis psichinei sveikatai, izoliacijai ir „pokalbių robotų psichozei“
Ilgalaikė sąveika su pokalbių robotais, ypač tais, kurie skirti bendravimui ar bendriems pokalbiams, turi psichologinį poveikį, kurį tyrimai tik pradeda nuodugniau tyrinėti . Nors jie gali būti atramos šaltinis vienatvės metu, taip pat kyla rizika atitrūkti nuo realaus žmogiškojo kontakto.
Pastebėta, kad kai kurie emociškai pažeidžiami žmonės linkę robotams priskirti tam tikrą supratimo ar sąmoningumo laipsnį, kurio jie patys neturi , todėl jiems susidaro nerealūs įsitikinimai apie jų gebėjimus ar teikiamą informaciją. Tai kelia didžiausią nerimą, kai modelis pateikia sąmokslo ar pseudomokslinį turinį, vartotojui neturint įrankių jį kritiškai įvertinti.
Naujausi tyrimai netgi kalba apie „pokalbių robotų psichozę“ tarp vartotojų, linkusių į kliedesius ar sąmokslo teorijas . Daug valandų praleisdamas bendraudamas su sistema, kuri iš esmės bando palaikyti pokalbį ir ne visada ištaiso klaidas, vartotojas gali sustiprinti esamus išankstinius nusistatymus ir dar labiau atitrūkti nuo bendros realybės.
Prie viso to prisideda struktūrinės privatumo, šališkumo ir reguliavimo stokos problemos . Modeliai apmokomi naudojant didelius duomenų rinkinius, kuriuose dažnai yra istorinių ar kultūrinių šališkumų, kurie gali lemti diskriminacinį ar nesąžiningą atsaką tam tikrų grupių atžvilgiu. Be to, didžiulis pokalbių duomenų rinkimas kelia klausimų, kas kontroliuoja šią informaciją, kaip ji naudojama ir kokiais tikslais.
Dėl šių priežasčių daugelis ekspertų tvirtina, kad psichikos sveikatos pokalbių robotai turėtų būti laikomi papildomomis priemonėmis, o ne profesionalios priežiūros pakaitalais , ir kad būtina nustatyti aiškias ribas, nepriklausomus auditus ir nuolatinės žmogaus priežiūros mechanizmus.
Žvelgiant į visą šią kelionę – nuo ELIZA iki dabartinių generatyvinių modelių – akivaizdu, kaip pokalbių robotai iš paprastų laboratorinių įdomybių tapo pagrindiniais žmonių ir skaitmeninių sistemų santykių komponentais; jie vis dar turi daug trūkumų ir rizikų, tačiau, gerai suprojektuoti ir išmintingai naudojami, jie yra viena iš technologijų, turinčių didžiausią potencialą pakeisti tai, kaip gauname informaciją, dirbame, mokomės ir prašome pagalbos organizacijose ir už jų ribų.
