Az ember-robot interakció humán aspektusa

Dr. habil. Kollár Csaba PhD.

Bemutatkozás

• A közgazdaságtudomány doktora (PhD.)

• A katonai műszaki tudományok
(biztonságtudomány) habilitált doktora
(Dr. habil.)
• Az Óbudai Egyetem Bánki Donát Gépész és
Biztonságtechnikai Mérnöki Kar
• Természettudományi és Alapozó Tantárgyi
Intézet tudományos főmunkatársa
• Mesterséges Intelligencia Műhely vezetője
• Biztonságtudományi Szemle
szerkesztőbizottságának tudományos titkára
Mi a mérnökök feladata?
Mit is nevezünk robotnak?
 ISO 8373:2012

A robot…
• … „Aktuátorokkal ellátott mechanizmus, melynek
kettő vagy több tengelye programozható, rendelkezik
bizonyos fokú autonómiával, saját környezetén belül
mozog annak érdekében, hogy a kívánt feladatot
elvégezze.”
Robottörténelem
 Vízóra (i.e.1400)

 Óraszerkezet
 Víz áramlásával méri az időt
 A történelem első robotszerkezete
 Arisztotelész (i. e. 322)

„Ha minden olyan eszköz, amelyik

akár önmagában, akár vezérlés
révén elvégzi a feladatot, akkor nem
lenne szükség sem a
mesteremberekre, sem a
rabszolgákra.”
 Leonardo DaVinci (1495)

 Első humanoid robot terve

 Funkciók:
 Mechanikus szerkezet
 Forgatja a karjait
 Forgatja a fejét
 A török (1769)

Kempelen Farkas sakkautomatája

 Szövőgép (1801)

 Joseph Jacquard
 Lyukkártya vezérli
 Egy évtized alatt tömeggyártás
 Teleautomaton (1898)

 Tesla
 Távvezérelt hajó
 New York-i Madison Square Garden nézői
 A közönség véleménye:
 Ez egy átverés
 Nem fog elterjedni a világban
 R.U.R. (1921)

 Karl Capek
 Robot szó megjelenése
 Kényszerített munka
 A játék végén a robotok elfoglalják
a Földet és elpusztítják
megalkotóikat
 Robotika 3 törvénye (Asimov, 1942)
Nulladik törvény:
 A robot nem árthat az emberiségnek, és nem nézheti tétlenül,
ha az emberiséget veszély fenyegeti.
Három alaptörvény
 A robotnak nem szabad kárt okoznia emberi lényben vagy
tétlenül tűrnie, hogy emberi lény bármilyen kárt szenvedjen.
 A robot engedelmeskedni tartozik az emberi lények
utasításainak, kivéve, ha ezek az utasítások az első törvény
előírásaiba ütköznének.
 A robot tartozik saját védelméről gondoskodni, amennyiben ez
nem ütközik az első és második törvény előírásaiba.
 Csillagok háborúja (1977)

 R2D2
 C3PO
 Szeszélyesek, de szerethetők
 Stanford kocsi (1979)
 Négykerekű kocsi
 Kamerával
 Székekkel telerakott
szobában
 Navigál az
akadályok között
 Saját pályáját
elemzi
 Dante (1993)

 Nyolclábú robot
 megpróbálja felfedezni az Antarktisz
Mt. Erebus vulkánját
 Az USA-ból távolról irányítják
 Veszélyes környezet kutatásának új
korszaka
 Furby (1998)

 Animoid robot
 Olcsó (30 USD)
 Angol kifejezések használata
 27 millió eladott darab 12
hónap alatt
 AIBO (1999)

 Sony fejlesztése
 Szerethető kutyakölyök
 Ára: 2000 USD
 Navigál a helyiségben
 Válaszol egyszerűbb
parancsokra
 ASIMO (2000)

 Honda Motor Company

 Humanoid
 1,3 méter magas
 Jár, fut, emberi járást utánozza
 Roomba (2002)

 iRobot
 Robotporszívó
 A legsikeresebb
házirobot
 Stanley (2005)

 Stanford Egyetem csapata

által létrehozott önjáró
gépjármű
 Megnyerte a 2005-ös
DARPA Grand Challenge-t
 Robonaut (2012)

 R2
 Közel emberi mozgástere van
 Űrhajósokra veszélyes
feladatokat hajt végre
 „a robotok elengedhetetlenek a
NASA jövője szempontjából,
mivel túl vagyunk a földi pályán”
Mi történt az elmúlt évtized(ek)ben a robotika területén?
 Ipari Szimu- Biztonság(i)
Robotizáció
Kiber-fizikai
metaverzum láció (kamerák) rendszerek

Mező- Szolgál (I)IoT

Egészség
BDA gazdaság -tatás 4.0 szenzorok
4.0
4.0

3D Tudomány Ipar Logisztika

Szak-
Mobil-
képzés
nyomtatás 4.0
4.0 4.0
4.0
technológia

Tanács- Köz-
Innováció
Felhő 4.0
adás igazgatás Hálózatok
4.0 4.0

Közösségi
AR GIS
Blokklánc MI média
VR
MR GPS
Társadalmi/társas robotok
 Sheridan-féle skála (1992)

1. a számítógép nem nyújt semmilyen segítségét, mindent az ember csinál

2. a számítógép teljes körű cselekvési alternatívákat kínál
3. a számítógép leszűkíti a cselekvést néhány választási lehetőségre
4. a számítógép egyetlen tevékenységet/műveletet végez
5. számítógép végrehajtja a műveletet, ha az ember jóváhagyja azt
6. a számítógép mielőtt a műveletet végrehajtaná, lehetőséget az embernek, hogy azt megvétózza
7. a számítógép automatikusan hajtja végre a műveletet, de erről feltétlenül tájékoztatja az embert
8. a számítógép a művelet automatikus végrehajtás után csak akkor tájékoztatja az embert, ha az
kéri
9. a számítógép a művelet automatikus végrehajtása után csak akkor tájékoztatja az embert, ha
ilyen döntést hoz
10. a számítógép maga dönt el mindent, automatikusan működik, figyelmen kívül hagyva az embert
 A robotok fajtái – pszichológiai megközelítés*
Megnevezés Emberi szükségletek Viselkedési konfig. Fizikai megjelenés
Kemény és veszélyes munka
Ipari robotok végzése Emberi viselkedés helyettesítése a Gépszerű, hangsúlyt fektetve a
Az emberi szenzomotoros szituációtól függően perifériákra
Kutatórobotok kapacitások kiterjesztése
Katonai és mentési Aktivitás életveszélyes
robotok helyzetekben
Finom, precíz motorikus Emberi érzések és érzelmek kiváltása Létező tárgyak és funkciók
Orvosi robotok műveletek az emberi testben és előhozása a cél működés közben
Megerősítés a szórakoztatáson
Rekreációs robotok keresztül
INTERAKTÍV ROBOTOK

Társadalmi/társas Emberi arckifejezések, bonyolult Antropomorf, emberszerű

robotok Kommunikáció, társalgás gesztusok társadalmi jelentések (humanoid) kinézet
alapján

Terápiás képességgel A negatív érzelmi állapotok és A társadalmi viselkedés élethű

rendelkező robotok viselkedés terápiája és modellezése Ember- vagy állatszerű kinézet
kezelése

*Libin & Libin alapján

 A társadalmi/társas robotok jellemzői

1. A társadalmi érzést felidéző1

A robotok az emberekhez hasonlóan képesek ápolni, ellátni, megérinteni az embert.
2. A társadalmi szituációba helyezhető2
A robotok a társadalmi környezetbe helyezhetőek, ahol érzékelnek, reagálnak,
megkülönböztethetőek más szereplőktől és a környezettől.
3. Társaságkedvelő3
A robotok az emberekkel közösen vesznek részt a társadalmi célok megvalósítása
érdekében. A robotok a társas megismerés modelljeit igénylik.
4. Társadalmilag intelligens4
A robotra emberszerű társadalmi intelligencia jellemző, a robotok az emberi megismerés és
a társas kompetencia modelljeit igénylik.
5. Társadalmilag interaktív5
A szociális interakció központi szerepet játszik, s messze fejlettebb a robot e tekintetben is
társaihoz képest. 1,3
Breazeal, 2,5Fong et al., 4Dautenhahn
Az ember-robot interakció az érzelmek szintjén
 A biológiai szeretet/szerelem

• A szeretet különböző idegi aktivitások eredménye*

• Három érzelmi rendszer felelős a szerelemért és a
szaporodásért
• Szexuális hajtóerő (libidó)
• Vonzerő, vonzódás
• Az az érzelem, ami hosszú távon megtartja a partnert**

• Ember és robot esetében

• Lehet megfelelő vágy egy robot iránt?
• Ha hasonló agyi tevékenységek (neurokémiai változások)
mennek végbe, mint az ember-ember kapcsolat során,
akkor elvileg igen***

*Damasio, **Fisher, ***Bartels & Zeki

 Pszichológiai szeretet/szerelem 1.

• Intimitás: a szerelem (kapcsolat) központi eleme*

• Képesek vagyunk a legféltettebb titkainkat is megosztani a másikkal
• Saját valónkból semmit nem szégyellünk
• Szoktunk taktikázni a párkapcsolatokban?
• Kivel könnyebb őszintének lenni? Baráttal, társsal, vagy idegennel, akitől nem
függünk? (terapeuta effektus)
• Weizenbaum (1966): ELIZA – a program képes legyen emberrel, vagy robottal való
kommunikációra. A gyenge mesterséges intelligencia kutatásának paródiája,
eljátszotta a terapeutát -> sokan komolyan vették.

*Sternberg & Gracek

 Pszichológiai szeretet/szerelem 2.

• Szenvedély
• Honnan tudja a robot, hogy mikor kell kezdeményezni a csókolózást, a
megölelést?
• Milyen típusú emberek lehetnek a célcsortjai a robotokkal átélt
„pszichológiailag tartalmas és mély érzelmi kapcsolatnak?”*
• Félnek kezdeményezni
• Félnek a visszautasítástól
• Erőszakos, perverz szexuális igények
• A technológia már adott ahhoz, hogy a szenvedély szexuális értelemben
beteljesedjen**

*Kahn et al, **Levy

 Pszichológiai szeretet/szerelem 3.

• Elkötelezettség: képesek vagyunk elvárások és félelmek nélkül,

szilárdan kitartani a másik mellett. Hosszú távon is el tudjuk képzelni
kapcsolatunkat, ezen kívül nem kívánunk mással kapcsolatot létesíteni
se érzelmileg, se testileg*.
• Az emberek egy része fél magát elkötelezni egy másik ember mellett** – az ő
számukra az ember-robot kapcsolat elfogadható alternatíva lehet
• Van már arra példa, hogy egy férfi megházasodott a virtuális barátnőjével***

*Kacsur, **Carter, ***Moore

 Szociálpszichológiai szeretet/szerelem

• Az ember társas lény*

• Ember és robot esetében

• Mennyi időbe telik egy robotnak egy embert megismerni/kiismerni?
• Ha a robot teljesen úgy viselkedik, ahogy az az embernek tökéletes,
akkor az élet unalmas lesz
• Azzal, hogy a robot teljesen kiismeri az embert, az ember maximálisan
sebezhetővé és manipulálhatóvá válik -> ki az igazi főnök a kapcsolatban?
• Az ember hozza a szabályokat, melyeket folyamatosan felülír a robottal
történő manipulatív interakciók során
• Ki az igazi én (self) az ember-robot kapcsolatban?
• Hogyan hat az emberre, ha a robot hirtelen, minden indok nélkül
hangulatot vált (AI hackelése)
*Aronson
 Kommunikációelméleti szeretet/szerelem

• A megannyi modell közül három:

• Szimmetria-elv
• Kapcsolat-elmélyülés elmélete
• Bizonytalanságcsökkentés elmélete
A REJTÉLYES VÖLGY (UNCANNY VALLEY)*

A rejtélyes völgy

*Mori: az emberi replikák, amik majdnem, de nem egészen olyanok mint az ember,
képesek egyes megfigyelőkben a titokzatosság és az undor érzetét kelteni.
 Szimpátia a robotok iránt 1.

• Hogyan beszélünk róla?

• „az” vagy „ő” (analógia a kedvenc állatainkkal)
• A fizikai megjelenésből eredő szimpátia
• Emberhez hasonlatos arcvonások
• Emberhez hasonlatos alkat, vagy olyan alkat, amelyik megjelenésében kedves,
állatszerű (pl.: gyerekeknek kedvenc mesehős)
• A szimpátia elnyeréséhez a robotnak lényegesen több antropomorf
tulajdonsággal kell rendelkeznie a jövőben*
• A leggyengébb pont az emberi szem antropomorfizálása a robotokban**

*Duffy, **MacDorman
 Szimpátia a robotok iránt 2.

• A nonverbális kommunikációból eredő szimpátia

• Mimika
• Az arckifejezés, a mozgás és a szociális interakciók közül az elsődleges terület a robot feje*
• Az arcmozgások sem 2002-ben**, sem most nem annyira kifinomultak, hogy a felnőtt
emberek jelentős része teljesen emberszerűnek minősítse a robot mimikáját
• Testtartás
• Nyitott/zárt, ülő/álló, stb…
• Gesztusok
• A robot kezei ki tudnak fejezni valamit? Ha igen, akkor az kongruál a verbális közléssel?
• Proxemika
• Intim tér, személyes tér, társadalmi tér, nyilvános tér – honnan tudja a robot, hogy mi a
számomra elfogadott távolság?

*Duffy, **DiSalvo et al.

 Szimpátia a robotok iránt 3.

• A verbális kommunikációból eredő szimpátia

• Hang
• A testet öltött robot hangja emberi hangra emlékeztet?
• Amit mond a robot
• Ha az emberek el tudják hinni, hogy a robotoknak igazi, tudatos gondolataik vannak,
életszerűek és emberi intelligenciával rendelkeznek, akkor akár bele is tudnak szeretni*
• Egy kísérletben a viccmesélő robot valós időben vizsgálta az emberi interakciókat (pl.:
nevetés, taps), s képes volt fenntartani közönségével az interaktív kapcsolatot**

*Choi, **Knight et al
 Szimpátia a robotok iránt 4.

• A viselkedésből eredő szimpátia

• Mivel a robotok a jelenlegi fejlettségi szintjükön még nem képesek kellő
hatékonysággal utánozni az emberi elmét, a testet, a lelket, s így magát az
embert, ezért a viselkedésből eredő szimpátia csak komoly fenntartásokkal
fogadható el.*

*Hinds-Addow
Saját kutatásunk eredményei
 Alapvetés

• A kutatás alapja Nomura, Kanda, Suzuki, Kato (2008) kutatása

• NARS (robotok iránt érzett negatív attitűdök)
• RAS (robotok iránt érzett szorongás)
• A fentiek mellett PARS (robotok iránt érzett pozitív attitűdök) vizsgálata
• Facebook ismerősök körében
• Kutatás realizálása: 2016. 11. 10-18. között
• 3 egyszerű kérdés:
• Milyen negatív gondolatokat tudsz megfogalmazni a robotokkal szemben?
• Milyen pozitív gondolatokat tudsz megfogalmazni a robotokkal kapcsolatban?
• Milyen fenntartásaid vannak a robotokkal szemben?
 Eredmények I. – NARS I.

• Az ember-robot interakció negatív oldala

• A robotok nem érdekelnek
• A robotok nem részei az életemnek
• A robotoknak a gyárakban talán helye van, de hogy én velük beszélgessek, az kizárt
• Nem szeretnék olyan helyen dolgozni, ahol a munkatársam egy robot lenne
• Díszkomfort lenne a számomra, ha robotokkal kellene beszélgetnem
• Nagyon idegesítene, ha egy robot állna velem szemben
• Nagyon mérges lennék, ha az emberek helyett robotok hoznák meg a döntéseket
• Feszélyezne, ha a többi ember jelenlétében kellene egy robottal társalognom
 Eredmények II. – NARS II.

• A robotok emberre gyakorolt negatív társas befolyása

• Félek attól, hogy eljön az idő, amikor a robotok fogják uralni a Földet
• Mi lesz velünk, ha a robotok okosabbak lesznek, mint mi? Semmi jóra nem számítok
• A robotok a médiához hasonlóan rossz hatással vannak a gyerekekre, általánosságban
az emberekre
• Egy robot soha nem lehet ember, szolgálnia kell minket
• Ha egy robottal túl sokat foglalkoznék, annak súlyos következményei lennének a
személyiségem alakulásában
• Ha egy robot „behülyül”, akkor az ember komoly veszélybe kerül
• Számomra elképzelhetetlen, hogy egy robot családtag legyen
• Lehet, hogy robot kémkedjen a családom iránt?
 Eredmények III. – NARS III.

• A robotokkal való érzelmi interakciók negatív oldala

• Nem akarom, hogy egy robot érzelmileg manipuláljon
• Szánalmas és beteges, ha egy ember beleszeret egy robotba
• Ha egy robot érzelmeket tud kifejezni, akkor sem lehet soha a barátom
• Egy gép nem tud szeretni. A szeretete csak egy program
• Hiába mond bármit is a robot és hiába próbál kedves lenni, a szeme élettelen marad
• Nem tudom elképzelni, hogy a robot bármilyen távoli jövőben is át tudja venni egy
barátnő, vagy egy édesanya szerepét
 Eredmények IV. – RAS I.

• Fenntartás a robotok kommunikációs képessége miatt

• Egy robot nem képes megérteni, hogy én mit akarok neki mondani. Az ember
mondatai nem csak igen-nem válaszok
• Az emberrel ellentétben egy robot nem képes követni a beszélgetés folyamát
• Egy robot képes kellő intelligenciával végighallgatni az embert, vagy azonnal
közbevág?
• A gép az csak gép marad, soha nem fog tudni értelmesen kommunikálni
• Egy robot lehet annyira agresszív, hogy a beszélgetésben megalázza az embert
• Miért kellene nekem egy robottal beszélgetnem?
• Miért kellene figyelnem/válaszolnom egy robot kérdésére?
• Kizárt, hogy egy robot a haveri köröm tagja legyen
 Eredmények V. – RAS II.

• Fenntartás a robotok viselkedésével kapcsolatban

• Milyen gyorsan tud egy robot reagálni?
• Milyen erős lehet egy robot?
• Kiszámítható egy robot viselkedése?
• Milyen módon lehet szabályozni a robotot, ha nem úgy viselkedik, ahogy az
elvárható tőle
• Egy robot soha nem tehet kárt egy emberben. Vagy ez már nem igaz?
 Eredmények VI. – PARS I.

• Az ember-robot interakció pozitív oldala

• Érdekelnek a robotok
• Izgalmas lehet megismerni a robotokon keresztül a mesterséges intelligenciát
• Veszek majd robotot, ha az ára a számomra elfogadható lesz
• Szerintem nagyon jó az, hogy ha egy munkahelyen a veszélyes feladatokat
robotok végzik el
• Ha a robot valamiben jobb, mint az ember, akkor abban segítse az embert
• Egy robottanár biztosan többet tud, mint egy rendes [hagyományos tanár]
 Eredmények VII. – PARS II.

• A robotok emberre gyakorolt pozitív társas befolyása

• A zárkózott emberek számára a robot jó alternatíva lehet az
emberrel szemben
• Lehet, hogy furán hangzik, de el tudnék képzelni egy
robotbarátot magamnak
• A beteg emberek ellátásában a robotoké a jövő, főleg, hogy
már nincsenek ápolónők
• Legalább kedvesen várna valaki, ha hazajönnék
• A robot biztosan megkérdezné, hogy milyen napom volt
• Ha elakadnék valamiben, a robot biztosan tudná rá a helyes
választ
 Eredmények VIII. – PARS III.

• A robotokkal való érzelmi interakciók pozitív oldala

• Ha egy robotnak mondanám el, hogy mi a bajom, biztosan őszintén
meghallgatna. Nem félnék attól, hogy átver
• Robotszex? – miért is ne!
• A robotbarátnőt úgy formálnám, hogy az ideális nőt testesítse meg
• Remélem, hogy egyszer majd lesznek olyan robotok, akik szeretni fogják az
embertársukat
• Ha az ember mellett az állat is képes szeretni, akkor a robot is képes lesz majd rá
• Láttam egy filmet, ahol még teste sem volt a robotnak, a férfi mégis
beleszeretett. A robot hangjába. Lehet, hogy beteges, de nekem tetszik.
A Mesterséges Intelligencia Műhely
tevékenysége a Bánki Karon
• Tantárgyak
• A mesterséges intelligencia a biztonságtechnikában (BSc, MSc)
• A mesterséges intelligencia a műszaki életben
• Domotika rendszerek biztonsága (PhD)
• Ember-robot interakció biztonsági aspektusa (PhD)
• A mesterséges intelligencia felhasználási lehetőségei a biztonságtechnikában (PhD)
• Mesterséges Intelligencia Műhely
• Több mint 30 tag
• Több mint 5 éves működés
• Kiemelt kutatási témáink (munkacsoportok)
• Domotika rendszerek
• Gépi látás
• Ipar 4.0/5.0
• Önvezető járművek
• Az MI technológiai és társadalomtudományi háttere
• Kiberbiztonság
Kitekintés
a jövőbe
 Összefoglalás helyett – kitekintés a jövőbe

• Amit a Sci-fi filmeken látunk, annak jelentős része megvalósul a jövőben

• Csak idő kérdése, hogy megjelenjenek a társadalmi interakció platformjain a
cyborgok
• Alapjaiban változik meg az ember és a társadalom, ha tömegesen jelennek meg
az embernél intelligensebb robotok
• Az ember-robot kapcsolat még szorosabbá válik
• Tömegesen szűnnek meg olyan állások, ahol a tevékenységek robotokkal
kiválthatóak
• A jogfilozófiában megjelenik a robotjog, a robotházasság, az ember-robot
vagyonmegosztás (fizikai és szimbolikus), a robotöröklés, a robotemlék-öröklés
problematikája

The best way to predict the future is to invent it.* *Alan Kay
Köszönöm megtisztelő figyelmeteket!