You are on page 1of 12

1.

Psychometria - dział psychologii zajmujący się teorią i opracowywaniem testów psychologicznych

2. Cechy latentne (ukryte) = zjawiska psychologiczne, których nie da się bezpośrednio określić (np. sumi-
enność) i ocenia się je za pomocą itemów odnoszących się do zachowań wskazujących (np. na sumien-
ność)
- hipotetyczne
- możliwe do wyrażenia na kontinuum

• Konsekwencje dla pomiaru cech latentnych:

- nie mogą być mierzone bezpośrednio, tylko pośrednio - na podstawie obserwowalnych wskaźników
- rzadko mają tylko jeden wskaźnik
- wszystkie wskaźniki mają pewne wspólne źródło w postaci cechy ukrytej

3. Podejścia psychometryczne
I. teoria losowego doboru próby (na większe populacje, tzw. uniwersum) - wynik obserwowalny w teście
stanowi funkcję wyniku prawdziwego i błędu pomiaru; kontrola błędu pomiaru warunkuje tutaj
wartość mierzonej cechy w kontekście generalizacji pomiaru przeprowadzonego w próbie na popu-
lację
• trzy nurty:
- klasyczny (KTT - klasyczna teoria testów) - Guliksen, 1950
- zmodyfikowana KTT - Lord i Novick, 1968
- teoria uniwersalizacji - Cronbach, 1972

1 z 12
• teoria odpowiedzi na pozycje testowe (IRT - item respons theory) - rzeczywisty wynik osoby
wykonującej test; bada to, jak odpowiedzi na kolejne pytania pozwalają na określenie rzeczywistego
wyniku osoby badanej na kontinuum cechy

4. Test - narzędzie pomiarowe lub technika służące do kwantyfikowania zachowań, cech lub dyspozycji
w celu ich zrozumienia lub przewidywania innych zachowań.
Stanowi zbiór próbek zachowań lub charakterystyk utożsamianych z badanym zjawiskiem.

• „Kryteria dobroci” testu:


- obiektywny - nieważne kto, gdzie i kiedy ocenia wyniki tego samego testu wykonanego przez tę samą
osobę, powinien otrzymać te same rezultaty
- wystandaryzowany - przeprowadzony w identycznych warunkach: instrukcja, pomoce, zasady ocenia-
nia, interpretacja wyników
- trafny - dokładność z jaką test realizuje założone cele pomiarowe
- rzetelny - dokładność pomiaru (wielkość błędu, jaką popełnia psycholog interpretując wyniki testu;
powinien być określony przedział ufności)
- znormalizowany - wyposażony w statystyczne kryteria interpretacji wyniku testowego (normy)
- wyposażony w reguły - obliczania wartości mierzonej cechy psychologicznej oraz jasno określający za-
kres i rodzaj dopuszczalnych zachowań ze strony diagnosty
* badanie testowe - osoba badana uczestniczy dobrowolnie, świadoma celu, jakim jest jej ocena
* adaptacja kulturowa - przystosowanie oryginalnego testu do nowych warunków kulturowych

• Rodzaje testów:
- standaryzowane - posiadają dokładnie sprecyzowanie zasady ich stosowania; wyposażone w normy
otrzymane w wyniku przebadania reprezentatywnej próby pochodzącej z populacji, dla której test ma
być stosowany
- niestandaryzowane - często stosowane tylko raz, np. testy wiadomości budowane przez nauczycieli na
ich własny użytek, w których dopuszcza się możliwość interakcyjnego modyfikowania sytuacji badań

LUB:

- indywidualne
- grupowe
- szybkości - czas rozwiązania jest ograniczony i z założenia nikt nie powinien go ukończyć w wyznac-
zonym czasie; różnice indywidualne są determinowane szybkością wykonania
- mocy - stwarza każdej osobie badanej szanse na podjęcie próby rozwiązania wszystkich pozycji testu;
trudność w takim teście rośnie stopniowo; rzadko ktoś dostaje max pkt
- obiektywne - posiadają starannie opracowane metody obliczania testu (może go policzyć każdy, na
bazie szablonu)
- nieobiektywne - wymaga dużej znajomości przedmiotu pomiaru, a otrzymany wynik odzwierciedla
subiektywne umiejętności psychologa
- słowne - zadania tylko z materiału werbalnego; kryterium jest sprawność językowa
- bezsłowne - wykonanie określonej czynności

2 z 12
- właściwości poznawczych - mierzące wytwory procesów poznawczych, gdzie każde zadanie ma ściśle
określoną odpowiedź prawidłową (np. testy zdolności czy uwagi)
- właściwości afektywnych - mierzące postawy, wartości, zainteresowania i inne poznawcze aspekty
osobowości; nie istnieje kategoria odpowiedzi prawidłowej; problemem jest trafność samopisu przez
osobę badaną
- zorientowane na normy - punktem odniesienia dla interpretacji wyników jest konkretna populacja
osób
- testy zorientowane na kryterium - opisują badaną jednostkę w kategoriach specyficznych umiejęt-
ności, jakie udało się jej opanować

• Pozycja testowa (item) - próbki zachowań reprezentatywnych dla danego konstruktu -> opcja do
wyboru w teście
- w testach wiedzy: udzielenie poprawnej odpowiedzi dla pozycji testowej wiąże się z wnioskowaniem o
wyższym poziomie wiedzy w danym obszarze
- w testach psychologicznych: udzielenie odpowiedzi dla pozycji testowej zgodnej z kluczem wiąże się z
wnioskowaniem o wyższym poziomie cechy

• Klucz odpowiedzi - odpowiedzi np. od 0 - nigdy do 5 - zawsze

• Wariancje:
- wariancja wspólna - wskaźniki cechy latentnej bez względu na swój charakter współdzielą część zmien-
ności, czyli wariancji
- swoista - pozostała część wariancji, niewspółdzielona z pozostałymi wskaźnikami. W jej skład
wchodzą:
-> wariancja specyficzna dla danego wskaźnika, której źródłem jest inna cecha ukryta
-> wariancja błędu - związana z błędem pomiaru i nierzetelnością narzędzia

2. Psychologiczne, metodologiczne, psychometryczne i etyczne uwarunkowania


testowania i pomiaru psychologicznego

• Etapy tworzenia testu:

3 z 12
I. Zdefin-
iowanie
mier-
zonej
właści-
wości i
jej op-
er-
acjon-
alizacja
II.

Określe-
nie formatu bodźca i formatu odpowiedzi
- ile pozycji testowych będzie miał test?
- ile czasu zajmie wypełnienie go?
- jaki typ pozycji testowych będzie zawierał? -> pozycje z narzuconym kluczem odpowiedzi (skala dy-
chotomiczna - tak/nie, prawda/fałsz; skala w formacie Likerta (0-5); skala na kontinuum) / pozycje z
nienarzuconym kluczem
- jaki zakres wyników będzie raportował?
- czy będzie to test do badań indywidualnych czy grupowych

III. Generowanie pozycji testowych


IV. Analiza językowo-treściowa pozycji (trafność treściowa) - opiera się na ocenie zespołu ekspertów,
tzw. sędziów kompetentnych, którzy odpowiadają na pytania: czy item jest operacjonalizacją mierzonej
cechy? czy item reprezentuje zachowanie ważne dla badanej cechy?

- podstawowe metody badania trafności teoretycznej testu:


-> analiza różnic międzygrupowych
-> analiza macierzy korelacji
-> analiza czynników
-> analiza struktury wewnętrznej testu
-> analiza zmian nieprzypadkowych wyników testu
-> analiza procesu rozwiązywania testu

V. Ustalenie klucza odpowiedzi


VI. Badanie pilotażowe
VII. Obliczenie wybranych wskaźników psychometrycznych
VIII. Zbudowanie ostatecznej wersji testu

3. Rzetelność pomiaru w psychologii (zgodność wewnętrzna) - stosunek wariancji wyników prawdzi-


wych do wariancji wyników otrzymanych. Rzetelny znaczy też powtarzalny, więc wyniki powinny
powtórzyć się przy innych badaniach.

4 z 12
• Rzetelność w klasycznej teorii testów (Guliksen)
Wynik otrzymany (t) nie jest idealną miarą mierzonej cechy, a funkcją faktycznego poziomu mierzonej
cechy (wynik prawdziwy - T) zniekształconą przez poziom błędu pomiaru (e)
t=T+e
e=t-T

• Metody estymacji rzetelności:


- powtarzanie testu (test-retest) - im bardziej wyniki obu testów są do siebie zbliżone, tym większa jest
rzetelność zastosowanego narzędzia
-> współczynnik stabilności bezwzględnej - badany dwukrotnie tym samym testem w pewnym odstępie
czasu -> im dłuższy czas między badaniami, tym niższa rzetelność
-> współczynnik wiarygodności testu - bez odstępu czasu

- testy równoległe - dwie wersje testu i równoważne narzędzia pomiaru składające się z podobnych
zadań; tak skonstruowane, że pomiar różnymi wersjami testu daje te same korelacje, co podwójne
badanie jedną z wersji testu
-> współczynnik równoważności międzytestowej (konsystencji) - korelacja między dwoma testami
równoległymi przeprowadzonymi bez przerwy czasowej -> pokazuje w jakim stopniu wariancja błędu za-
leży od różnic między wersjami testu i jak wpływa treść pozycji na wynik; może prowadzić do zawyżania
rzetelności, jeżeli testy są nadmiernie równoległe (nie pomieszane pozycje, tylko np. zmiana frazeologii)
-> współczynnik stabilności względnej - dwa testy równoległe przeprowadzone w odstępie czasowym ->
jest to stabilność krótko- lub długoterminowa (zależy od czasu odstępu); prowadzi do ustalenia dolnej
granicy rzetelności testu (gorzej już nie będzie)

- metoda połówek testowych (połówkowa, Spearmana-Browna) - dzielenie narzędzia na dwie połowy,


z których każda składa się z określonej puli pozycji testowych. Wyniki otrzymywanie w obu połówkach
są z sobą korelowane, a wielkość tej korelacji warunkuje poziom rzetelności testu - każda połowa
testu powinna w podobnym stopniu mierzyć poziom cechy, więc wyniki powinny być zbliżone;
prowadzi do ustalenia górnej granicy rzetelności testu (lepiej już nie będzie)
-> metoda najlepsza - losowy dobór itemów do połówek lub dobór uzależniony od poziomu trudności
pozycji
-> metoda najsłabsza - podział ze względu na treść pozycji, przez sędziów kompetentnych lub na
połówki parzyste i nieparzyste

- metoda Kudera-Richardsona (współczynniki zgodności wewnętrznej - estymacja rzetelności)


Współczynniki rzetelności (zgodności wewnętrznej)
-> alfa Cronbacha - najczęściej raportowana miara, daje dolną granicę rzetelności. Zakres: 0-1 (najwyższa
rzetelność). Alfa będzie wysoka, jeżeli wariancja całej skali jest znacząco większa niż suma wariancji
poszczególnych pozycji - wysokie kowariancje między pozycjami = spójność skali.
Alfa Cronbacha zależy od ilości pozycji w teście - im więcej, tym wyższa rzetelność (wyższa alfa)
0,60 do 0,69 - graniczny poziom rzetelności
0,70 - akceptowalny poziom rzetelności
0,71 - zadowalający poziom rzetelności
0,80 - dla diagnoz
0,90 - dla prognoz

5 z 12
-> omega McDonalda - mierzy zgodność wewnętrzną; rekomendowana w przypadku skal wielowymi-
arowych

• Moc dyskryminacyjna pozycji testowej - korelacja pozycji testowej i wyniku w całym teście
-> im wyższa korelacja pozycji i wyniku, tym silniej różnicuje (dyskryminuje) dana pozycja testowa w
kontekście badania całej cechy
-> pozycje o wysokich mocach dyskryminacyjnych (>/= 0,20) w wysokim stopniu przyczyniają się do
badania cechy, a te o niskich mocach (< 0,20) w niewielkim stopniu
-> analiza mocy dyskryminacyjnej stanowić może kryterium odsiewania pozycji najsłabszych psychome-
trycznie (najmniejsza szansa osiągnięcia satysfakcjonującej rzetelności)

4. Trafność pomiaru - stopień w jakim test mierzy zamierzoną cechę, na ile spełnia założenia pomi-
arowe. Wysoki poziom trafności = gwarancja sensowności interpretacji wyników oraz zasadność przyp-
isania im określonego znaczenia psychologicznego

• Rodzaje trafności
• Metody sędziów kompetentnych:
- jakościowe - zbieranie informacji zwrotnej od ekspertów na temat
jakości językowej i treściowej wygenerowanych itemów, np. metoda
Lawshego (trójstopniowa skala)

- ilościowe - jw, ale informacje te można wyrazić liczbowo:


-> CVR (współczynnik trafności treściowej) - minimalna wielkość
(trafność treściowa) istotna statystycznie = 0,05
wartość ujemna - mniej niż połowa sędziów
zero = dokładnie połowa
wartość dodatnia - więcej niż połowa sędziów

-> współczynnik W. Kendalla - miara zgodności pomiędzy rankingami pochodzącymi z wielu źródeł, np.
od różnych osób
W < 0,40 - niewystarczająca zgodność
0,40 < W < 0,59 - zadawalająca zgodność
0,60 < W < 0,80 - dobra zgodność
W > 0,80 - bardzo dobra zgodność

• trafność kryterialna - wskazuje stopień powiązania wyników w teście z kryterium; ocenia, czy na pod-
stawie wyników testu możemy wnioskować o przypuszczalnej pozycji badanego na kontinuum innej
cechy (tzw. kryterium), np. Czy na podstawie wyników w teście badającym postawę wobec statystyki
możemy przewidywać oceny ze statystyki?

- Kryterium w testowaniu trafności


-> Rekomendacje dla wyboru kryterium: charakter pozatekstowy (wynik nie powinien być w innym teś-
cie - jeśli jest, to kryterium samo w sobie powinno być jak najbardziej rzetelne i trafne), może być diagnozą
wypracowaną przez sędziów kompetentnych, miarą fizjologiczną
-> nietrafne kryterium - sytuacja bez wyjścia; nie da się skorygować korelacji między testem i kryterium
przez jego niską trafność
-> nierzetelne kryterium - prostszy problem, można skorygować korelację
6 z 12
• trafność teoretyczna - pokazuje związek narzędzia z konstruktem teoretycznym; określa stopień w
jakim wnioski z testu odzwierciedlają pozycję badanego na pewnym teoretycznym kontinuum (tzw.
konstrukcie)

-> Metody badania trafności teoretycznej:


- analiza różnic międzygrupowych - jeżeli test jest trafną miarą danego konstruktu, to wyniki otrzymane
przez skrajne grupy powinny się znacząco różnić, np. testy zdolności (testy „t”, analiza wariancji)
- analiza macierzy korelacji - analiza korelacji między wynikiem danego testu a wynikami w innych
testach, np. badając trafność zbieżną (wykazanie wysokiej korelacji między danym testem a innymi tes-
tami badającymi tą samą zmienną) i różnicową (wykazanie niskiej korelacji między danym testem a tes-
tami badającymi inne zmienne)
- analiza struktury czynnikowej - rozstrzygnięcie na ile oczekiwana struktura czynników testu jest
zgodna z faktyczną
- analiza zmian nieprzypadkowych wyników testu - porównanie dwukrotnego badania tym samym
testem, między które wprowadza się oddziaływanie eksperymentalne, np. zmiany rozwojowe w testach
zdolności (wyniki powinny rosnąć wraz ze wzrostem wieku w dzieciństwie i maleć w dorosłości)
- analiza procesu rozwiązywania testu (technika dekompozycji zadania Emersona) - eksperymentalne manipulowan
5.

Analizy czynnikowe (EFA i CFA)

• Jedno- vs wielowymiarowość konstruktu


- jednowymiarowość konstruktu - uprawomocnienie posługiwania się wynikiem ogólnym
(sumarycznym) w teście
-> jednowymiarowość zasadnicza - dopuszcza się istnienie zarówno głównego wymiaru, jak i wymiarów
pobocznych; zakłada, że czynnik główny dominuje
-> model czynnika wyższego rzędu (hierarchiczny, higher-order factor models) - relacje między
wskaźnikami, tj. drugiego rzędu, są zapośredniczone przez czynniki niższego, tj. pierwszego rzędu; anali-

7 z 12
zowana jest nie tylko macierz korelacji między wskaźnikami, ale także macierz korelacji między zmien-
nymi ukrytymi
-> model podwójnego czynnika (bifactor, model bezpośrednio hierarchiczny) - czynnik główny jest
definiowany przez ładunki czynnikowe wszystkich pozycji skali, a czynniki poboczne (specyficzne) są
wyodrębnione na podstawie analizy mniejszych grup pozycji; w ujęciu tym pojawia się więcej niż jedno
źródło wspólnej wariancji wpływającej na oszacowanie.

- wielowymiarowość konstruktu - uprawomocnienie posługiwania się wynikami w podskalach lub


czynnikach

• EFA (eksploracyjna analiza czynnikowa) - analiza wstępna: eksploracja wskaźników (szukanie czyn-
ników ukrytych i określanie ich optymalnej liczby). Wszystkie mierzone zmienne odnoszą się do
każdej ukrytej zmiennej. Często na dalszym etapie wymaga potwierdzenia przez CFA.

-> Założenia techniczne dla EFA:


- przynajmniej porządkowy poziom pomiaru wskaźników - raczej nie analizujemy zmiennych nominal-
nych (problem z kowariancją/korelacją)
- normalność wskaźników (itemów) - mocno uznaniowe i niemożliwe do spełnienia jeśli zmienne są
porządkowe
- odpowiednio duża próba - Nunnally: 10 razy więcej osób badanych niż wskaźników / Field: 10-15 osób
na każdą z analizowanych zmiennych / Tabachnick i Fidell: przynajmniej 300 osób / Comrey i Lee:
N=100 to próba mała, N=300 - próba wystarczająca, a N=1000 - próba znakomita -> zasada: niskie ko-
relacje między wskaźnikami - musimy zbadać dużą próbę; wysokie - mniejsza wystarczy
- korelacje między zmiennymi są różne od zera - gwarancja sensowności EFA -> metoda weryfikacji:
* test Bartletta - wyznacznik macierzy równy 1 = zmienne słabo skorelowane (macierz jednostkowa -
brak możliwości redukcji danych); p > 0,5 - warto przeprowadzać analizę czynnikową
* miara Kaisera-Meyera-Olkina (KMO) -
najlepsze wartości = 1, min. wartość do-
puszczalna = 0,5 -> niska wartość może oz-
naczać po prostu konieczność zwiększenia
próby

-> Etapy EFA:


I. Określenie optymalnej liczby czyn-
ników - metody:
- kryterium wartości własnej Kaisera ->
wyodrębnij wszystkie czynniki, których
wartość własna jest > 1,00

- analiza wykresu osypiska (metoda Cat-


tella) -> stosowane przy dużej próbie (N >
200) i klarownej strukturze czynnikowej

8 z 12
- analiza równoległa (paralel analysis) -> wyodrębnij liczbę czynników dla których wartości własne
będą >/= 95.centyl wartości własnej oczekiwanej, otrzymanej w wyniku analizy zbiorów testowych

- kryterium procenta wariancji wyjaśnionej -> wybór liczby czynników gwarantującej pewien arbi-
tralnie określony % wariancji przez zmienne; abstrahuje od wartości własnych i jego restrykcyjność
leży w gestii badacza; powinno
być odzwierciedlone w skład-
owych głównych w > 80%
- kryterium połowy -> liczba
wyodrębnionych czynników
powinna być mniejsza niż
połowa liczby wskaźników
włączanych do analizy

II. Określenie metody oblicza-


nia ładunków czynnikowych
- PCA - metoda redukcji dużej
ilości danych, niestanowiąca
modelu cechy ukrytej. Wyniki
uzyskane w ramach PCA i EFA
różnią się znacząco głównie w za-
kresie wyliczonych zasobów zmienności wspólnej i ilości wskaźników wchodzących w skład składowej/

czynnika.

III. Określenie metody rotacji ładunków czynnikowych - w sytuacji, gdy proponowane rozwiązanie
składa się z kilku czynników; jeśli rozwiązanie jest jednoczynnikowe ładunki można prezentować
również w postaci nierotowanej
- ładunek czynnikowy - stopień w jakim poszczególne wskaźniki ładują czynniki latentne. Im wyższy
ładunek czynnikowy, tym silniej wskaźnik „powiązany jest” z czynnikiem.

9 z 12
-> rotacja czynników - maksymalizacja wielkości ładunku czynnikowego na jednym z czynników, przy
minimalizacji ładunków na innych (ułatwia interpretację, stosujemy wtedy, gdy wyróżniamy więcej niż
jeden czynnik)

• CFA (konfirmacyjna analiza czynnikowa) - wielozmiennowa procedura statystyczna, dzięki której


możemy określić liczbę wymaganych czynników + to, która obserwowalna zmienna jest powiązana z
jaką zmienną latentną. Jest to narzędzie używane do potwierdzania lub odrzucania teorii pomiaru
danego konstruktu lub spektrum konstruktów.
CFA pozwala na:
- weryfikowanie teoretycznych założeń dot. bada-
nia konstruktu tworzonego narzędzia (rozumi-
anych jako element trafności teoretycznej)
- udzielenie odpowiedzi na pytanie o to, na ile
badany konstrukt traktować można jako jed-
nowymiarowy, a na ile wielowymiarowy

CFA daje możliwość sprawdzania dopasowania

bardziej różnorodnych modeli teore-


tycznych (zasadniczo jednowymi-
arowych, np. hierarchicznych), niż
EFA (ściśle jednowymiarowych lub
wielowymiarowych, gdzie czynniki
latentne są ze sobą skorelowane).

-> Etapy CFA:


I. Identyfikacja modelu - uzyskanie
unikalnego zestawu estymatorów dla
każdego z parametrów modelu,
którego wartość jest nieznana (np.
wielkości ładunków, kowariancje, itp.),
przez bazowanie na znanych infor-
macjach (macierzy wariancji-kowari-
ancji w próbie)

II. Estymacja modelu - znalezienie


zbioru wartości parametrów modelu
(np. wielkości ładunków), który
maksymalnie zreprodukuje otrzy-
maną macierz kowariancji. Efektem
finalnym jest oszacowanie
parametrów pozwalające na ocenienie
dopasowania modelu.
Wykorzystuje się do tego funkcje
dopasowania (estymatory).
<——————————————-

III. Ocena dopasowania modelu


10 z 12
- wskaźniki bezwzględnego dopasowania - ich wielość nie zależy od porównania z innymi alternaty-
wnymi modelami
- wskaźniki przyrostowe (relatywnego dopasowania) - wskazują na dopasowanie modelu w porównaniu
z modelem zerowym
- wskaźniki oszczędności modelu - miary walidacji krzyżowej, polegającej na podzieleniu próby na dwie
podgrupy: kalibracyjną i walidacyjną, w ramach których kolejno poszukuje się odpowiedniego modelu,
a następnie stara się go skonfirmować.

5. Normalizacja wyników testu psychologicznego


• Norma - definiowana przez kryteria teoretyczne, kulturowe i statystyczne
- Norma w psychometrii - typowy wynik w teście uzyskiwany w jakiejś grupie; standard ilościowy wyz-
naczany przez średnią, medianę lub inną miarę tendencji centralnej, obliczony na podstawie wyników
przedstawicieli danej populacji (próby reprezentatywnej); zakłada przeliczenie wyników surowych na
wspólną skalę, co pozwala dokonać porównań.

• wynik surowy - suma punktów w teście/średnia wyliczona z pozycji testowych


- nie zakłada układu odniesienia względem którego możemy go interpretować
- nie ma znaczenia psychologicznego
- nie porównuje wyniku danej osoby w odniesieniu do populacji
- nie pozwala oceniać wyniku konkretnej osoby na tle innych wyników
• wynik przeliczony - na steny (standard ten - od 1 do 10); przeliczenie wyniku surowego na podstawie
porównania go do normy (wyników określonej grupy)
1-4 stena - wyniki niskie (4 - „obniżony”)
5-6 stena - wyniki przeciętne
7-10 stena - wyniki wysokie

• Etapy badania normalizacyjnego:


I. Analiza rzetelności i walidacja testu - upewnienie się, że test, który chcemy wykorzystać do celów
praktycznych (np. diagnozy), jest dostatecznie rzetelny i trafny

11 z 12
II. Dobór grupy normalizacyjnej - grupy na podstawie której wyników zostaną wyliczone normy; jej
struktura powinna odzwierciedlać strukturę populacji (być reprezentatywna); najlepszy jest dobór
losowy, warstwowy lub kwotowy
- normy ogólnokrajowe - grupa odzwierciedlająca populację kraju
- normy lokalne - dla wąsko zdefiniowanej populacji
III. Podjęcie decyzji o skali przeliczonej w jakiej wyrażone będą normy (np. stanowej)
IV. Dokonanie transformacji normalizacyjnej

12 z 12

You might also like