III. Sběr dat
3.1. Jaké jsou hlavní typy výzkumných metod hodnocení?
Za účelem určení hodnoty a kvality projektu ve vztahu k vybraným kritériím a zodpovězení hodnoticích otázek musíte správně shromáždit potřebné informace. K tomuto účelu slouží výzkumné metody a nástroje. Výzkumné metody představují konkrétní způsob shromažďování informací – kvalitativní nebo kvantitativní – s využitím speciálně vyvinutých nástrojů, jako jsou scénáře rozhovorů, archy pro záznamy z pozorování nebo dotazníky. Pojďme se podívat na rozdíly mezi těmito metodami a výzkumnými nástroji.
Kvalitativní metody umožňují důkladný a flexibilní způsob shromažďování údajů, ale neumožňují posoudit rozsah studovaných jevů, protože zahrnují pouze malý počet osob ze skupin zapojených do projektu (např. vybrané příjemce). Naopak kvantitativní metody se používají v případě velkých skupin tvořených několika desítkami osob. V případě větších skupin (tvořených např. více než 400–500 osob) umožňují tyto metody zobecnit závěry vyvozené z průzkumu reprezentativního, náhodně vybraného vzorku osob na celou populaci, tj. komunitu, která je předmětem zájmu výzkumného pracovníka, včetně osob, které se dané studie přímo neúčastnily. Tato generalizace musí být provedena konkrétním způsobem, který zajistí reprezentativnost vzorku osob účastnících se studie, tj. jejich maximální podobnost s populací, ze které byly vybrány, z hlediska různých sociálně-demografických charakteristik.
Oba tyto typy metod mají určité silné a slabé stránky, proto byste v hodnotící studii měli vždy použít kvalitativní i kvantitativní metody. Tento přístup je v souladu s principem triangulace, jehož cílem je zajistit vysokou kvalitu shromážděných informací. Triangulace znamená využití různých zdrojů informací, typů shromážděných údajů a analytických technik, teorií vysvětlujících identifikované vztahy/mechanismy, i osob provádějících hodnocení (jejichž dovednosti by se měly navzájem doplňovat). V případě rozmanitosti těchto prvků umožňuje triangulace:
– komplexní poznání a pochopení studovaného objektu,
– zohlednění různých hledisek a aspektů studovaného jevu,
– doplnění a prohloubení shromážděných údajů,
– ověření shromážděných informací,
– větší objektivitu formulovaných závěrů.
3.2. Jaké výzkumné metody a nástroje jsou obvykle používány v rámci hodnocení?
Abychom vám usnadnili výběr nejvhodnější metody a nástrojů pro konkrétní hodnocení, uvádíme níže charakteristiku nejoblíbenějších metod a nástrojů:
- Kvalitativní metody,
- sekundární analýza údajů
- individuální hloubkové rozhovory (IDI)
- skupinové rozhovory „focus group“ (FGI)
- pozorování
- případové studie.
- Kvantitativní metody (průzkumy)
- průzkum provedený bez přítomnosti tazatele – průzkum v podobě vytištěného dotazníku samostatně vyplněného dotazovaným, počítačový online rozhovor/online průzkum (CAWI), centrální průzkum (simultánní průzkum všech respondentů)
- dotazníkové rozhovory prováděné s podporou tazatele – osobní rozhovory PAPI (odpovědi zaznamenávány do vytištěného dotazníku) a CAPI (odpovědi zaznamenávány do počítače) a telefonické rozhovory za pomoci počítače CATI.
- Aktivní metody / workshopy (smíšené, tj. kvalitativní a kvantitativní).
3.2.1. SEKUNDÁRNÍ ANALÝZA ÚDAJŮ
Sekundární analýza údajů a podkladů využívá existující údaje, tzn. údaje generované bez ohledu na kroky podniknuté hodnotitelem.
Existující údaje tvoří interní údaje (generované pro potřeby hodnoceného projektu) a externí údaje:
- Interní údaje jsou informace vytvořené během přípravy a realizace aktivit v rámci projektu (např. projektová žádost, scénáře školení, prezenční listiny, smlouvy, fotografie, videa a materiály o projektu zveřejněné na webových stránkách, příspěvky a odpovědi v sociálních médiích). V případě vzdělávacích projektů pro mladé lidi hledající zaměstnání to mohou být také výsledky měření kompetencí příjemců na začátku a na konci účasti na školení (testy znalostí, testy dovedností, testy postojů atd.).
- Externí údaje jsou informace, které se mohou vztahovat ke studovanému jevu, procesům nebo cílové skupině, ale byly shromážděny nezávisle na hodnoceném projektu (např. statistické údaje, úložiště dat, zprávy, články, knihy, videa a další materiály dostupné na internetu). V případě hodnocení projektů zaměstnanosti je vhodné využít informace o podobných projektech a také údaje o zaměstnanosti mladých lidí žijících v určitém městě, které mají k dispozici úřady práce, instituce sociálního pojištění, státní statistické úřady.
Analýza dokumentace je základní metodou shromažďování informací o daném projektu a poskytuje také určité znalosti o potřebách jeho příjemců a o kontextu hodnoceného projektu.
PODMÍNKY POUŽITÍ:
Veřejné instituce poskytují administrativní údaje v souladu se zásadou transparentnosti fungování veřejných institucí a účasti občanů (koncept otevřené vlády). Je však důležité posoudit spolehlivost a přesnost údajů na základě metodických informací uvedených ve zdrojové dokumentaci.
VÝHODY:
- přístupnost (zejména pokud jde o informace dostupné na internetu),
- velká rozmanitost (můžete použít jakákoli data/materiály související s prováděným hodnocením),
- nulové náklady – většina dokumentů a dat je k dispozici zdarma,
- v případě externích dat – nulový vliv hodnotitele na data.
NEVÝHODY:
- různé úrovně důvěryhodnosti údajů – musíte vzít v úvahu důvěryhodnost zdroje a kontext získání údajů (za jakých podmínek, kdo a proč je shromažďoval a analyzoval),
- omezení přístupu a používání interních informací z důvodu ochrany osobních údajů, autorských práv a vlastnických práv.
3.2.2. INDIVIDUÁLNÍ HLOUBKOVÝ ROZHOVOR (IDI)
Individuální rozhovor má formu přímého rozhovoru mezi tazatelem a respondentem, který se obvykle odehrává podle konkrétního scénáře. Rozhovor vám umožňuje získat rozsáhlé, zasvěcené a podrobné informace, poznat názory, zkušenosti, interpretace a motivy chování dotazovaného, zkoumat fakta z pohledu dotazovaného a lépe porozumět jeho názorům.
DŮLEŽITÝ TIP
Jazyk rozhovoru by měl být přizpůsoben respondentovi. V rozhovorech (zejména s mladými lidmi) používejte jednoduchý jazyk a vyhýbejte se použití odborných výrazů (např. specifické terminologie projektu), které by mohly vést k nedorozumění, nepochopení kladených otázek, popř. ke zvýšení nejistoty respondentů. |
PODMÍNKY POUŽITÍ: Individuální rozhovory by měly být vedeny v tiché místnosti, která zaručuje diskrétnost. Běžnou praxí je nahrávání rozhovorů, ale respondent nemusí vždy souhlasit – v takovém případě by si měl výzkumný pracovník během rozhovoru dělat poznámky a zkompletovat je ihned po schůzce. Doporučuje se, aby pohovor vedl externí odborník, aby se předešlo situacím, kdy se dotazovaný cítí nepříjemně, má-li vyjádřit svůj upřímný názor.
VÝHODY:
- možnost diskutovat o složitých a detailních otázkách,
- lepší porozumění úhlu pohledu dotazovaného (dostat se „do jeho kůže“),
- poznávání faktů v situačním kontextu,
- flexibilita – možnost přizpůsobit se dotazovanému a položit doplňující otázky, které nejsou součástí scénáře.
NEVÝHODY:
- neochota některých respondentů vyjádřit upřímný názor, neboť není zajištěna anonymita,
- dopad osobnostních rysů účastníků na získaná zjištění; např. je těžké získat informace od mlčenlivých, plachých nebo introvertních osob.
VÝZKUMNÝ NÁSTROJ: rozhovor se může opírat o scénář rozhovoru, který obsahuje seznam otázek nebo záležitostí, o kterých se bude hovořit. Tazatel může během rozhovoru změnit pořadí otázek nebo přidat další otázky, pokud je to nutné k lepšímu pochopení problému.
PŘÍKLAD SCÉNÁŘE INDIVIDUÁLNÍHO HLOUBKOVÉHO ROZHOVORU S PROJEKTOVÝM TÝMEM / PRACOVNÍKY PROJEKTU
I. Realizace projektu
1. Účastnil/-a jste se dříve podobných projektů? Pokud ano, jakých? V jaké roli jste se jich zúčastnil/-a?
2. Jaké jsou vaše současné povinnosti související s tímto projektem?
II. Proces realizace projektu
1. Jak probíhal náborový proces? Získal/-a jste plánovaný počet osob? setkal/-a jste se během náborového procesu s nějakými problémy? Čeho se týkaly? Přitáhl projekt zájem osob, kterým byl určen?
2. Vyjádřili lidé účastnící se projektu nějaké připomínky k jeho realizaci? Čeho se týkaly? Byly v důsledku těchto názorů provedeny nějaké změny?
3. Byl dosud návrh projektu změněn z nějakého jiného důvodu? Čeho se tyto změny týkaly? Čím byly způsobeny?
4. Potřebuje projekt další změny? Co by se mohlo zlepšit při jeho realizaci? Je třeba projekt doplnit o další prvky? Pokud ano, jaké?
5. Jsou v projektu dosaženy plánované výstupy a výsledky? Probíhá vše podle plánovaného harmonogramu a rozpočtu?
6. Vidíte nějaká rizika pro realizaci projektu / dosažení plánované úrovně výstupů a výsledků? Pokud ano, jaké? Jak jim můžete čelit?
III. Hodnocení dosavadních výsledků
1. Jaké prvky usnadnily realizaci projektu?
2. Jaké prvky bránily realizaci projektu? Co bylo důvodem těchto problémů? Jak jste se je pokusil/-a vyřešit?
3. Existují nějaké zdroje (např. lidské, časové, organizační, technické, finanční), které by usnadnily realizaci projektu? Jaké další změny by mohly napomoci realizaci projektu?
4. Jaké změny by pomohly lépe přizpůsobit projekt potřebám příjemců?
5. Uveďte silné a slabé stránky tohoto projektu.
Scénář individuálního hloubkového rozhovoru
3.2.3. SKUPINOVÝ ROZHOVOR – FOCUS GROUP (FGI)
Focus group (FGI) je skupinový rozhovor cca 6-8 lidí vedený moderátorem, který zadává skupině témata k diskusi a usměrňuje její průběh. Účastníci FGI jsou vybíráni podle konkrétních předpokladů zadaných výzkumný pracovníkem a znalosti zkoumané problematiky.
DŮLEŽITÉ
V případě mladých lidí by měla být diskuse rozdělena do kratších forem se zapojením všech účastníků, aby se nezačali příliš rychle nudit. Je vhodné použít multimediální nástroje, prvky gamifikace nebo nestandardní řešení, např. papírovou kostku s otázkami, kterou házejí samotní účastníci setkání. Je užitečné zapisovat názory skupiny na flipchart a skupinovou diskusi zaznamenat. |
PODMÍNKY POUŽITÍ: Základním předpokladem úspěchu skupinového rozhovoru je správný výběr osob s konkrétními informacemi, které jsou ochotny sdílet. Je důležité zaručit účastníkům pohodlí tak, že rozhovor se bude konat v klidné místnosti odpovídající velikosti s pohodlným sezením, vybavené velkým oválným/čtvercovým stolem a flipchartem.
VÝHODY:
- možnost dozvědět se různé úhly pohledu, s přihlédnutím k různým názorům,
- vzájemné potvrzení a doplnění informací o skutečnostech diskutovaných různými osobami,
- možnost sledovat interakci mezi účastníky,
- získání relevantních informací od několika osob v relativně krátkém čase.
NEVÝHODY:
- dynamika skupinových procesů, včetně tlaku na konsenzus/soudržnost skupiny, může vést k neochotě uvést menšinový názor, např. v případě, že skupině dominuje vůdčí typ s přirozenou autoritou,
- riziko, že se na skupinu přenesou konflikty nebo špatné mezilidské vztahy, což sníží účinnost výzkumu a spolehlivost získaných zjištění,
- organizační problém (potřeba shromáždit skupinu osob na určitém místě v určitém čase, zajistit náležitě vybavenou místnost).
NÁSTROJ VÝZKUMU: nástrojem, který moderátor používá pro tuto metodu, je scénář FGI, který zahrnuje zásady skupinové diskuse, konkrétní témata /otázky a pokyny týkající se různých forem činnosti, do nichž má moderátor zapojit účastníky.
PŘÍKLAD SCÉNÁŘE SKUPINOVÉHO ROZHOVORU NA TÉMA VZDĚLÁVACÍ POTŘEBY
I. CÍLE SKUPINOVÉHO ROZHOVORU
- Získání předběžných informací o vzdělávacích potřebách mladých lidí
- Shromáždění údajů pro účely sestavení dotazníku CATI, který bude použit ve druhé fázi výzkumu
II. CÍLOVÁ SKUPINA
Osoby odpovědné za personální management and/nebo školení v rámci organizací
III. PROGRAM SETKÁNÍ
1. ÚVOD (délka – cca 20 minut)
a) Přivítání a vysvětlení účelu setkání
(text: Dámy a pánové, jmenuji se … a rád bych vás přivítal/-a na setkání organizovaném…, jehož cílem je získat informace o vzdělávacích potřebách mladých lidí. Naše setkání je součástí projektu „XYZ“, který je financován… a realizován ve spolupráci s … Cílem projektu je…)
b) Úvod účastníků skupiny FGI
c) Informace o zaznamenávání rozhovoru, ujištění o anonymitě
(text: Naše setkání bude nahráváno formou audionahrávky, což je nutné, neboť nejsem schopen/schopna přesně zaznamenat vaše výroky. Ujišťuji vás, že nikde nebude uvedeno vaše jméno, a záznam našeho rozhovoru a jakékoli osobní údaje týkající se účastníků budou použity pouze pro výzkumné účely a nebudou poskytnuty neoprávněným osobám.)
d) diskuse o zásadách setkání
(text: v zájmu usnadnění průběhu našeho rozhovoru navrhuji dodržovat některé zásady:
- každý má právo vyjádřit svůj názor – nejsme povinni se ve svých názorech shodnout. Každý názor je pro nás důležitý a cenný – neexistují žádné správné a špatné výroky; chceme, aby vaše vyjádření byla upřímná,
- nebudeme se navzájem přerušovat – hovoří vždy jen jedna osoba. Oslovujeme především ostatní účastníky setkání, nikoli moderátora, jehož úkolem je pouze řídit a usměrňovat diskusi,
- v případě nedorozumění, prosím, věc blíže vysvětlete. Moderátor se také ujistí, že vašim výrokům správně porozuměl,
- vypneme nebo ztlumíme mobilní telefony,
- žádáme účastníky, aby se drželi tématu našeho setkání – rolí moderátora bude mimo jiné usměrnit diskusi správným směrem a omezit zbytečné odbočky tak, aby se účastníci stále drželi hlavního tématu diskuse.
2. ÚVODNÍ DISKUSE (délka – cca 60 minut)
2.1. Rozsah vzdělávacích potřeb mladých lidí (cca 30 minut)
a) Účastní se mladí lidé nějakých školení? Jaké je jejich téma / délka / forma?
b) Jaké faktory ztěžují mladým lidem účast na školení?
c) Jaké podmínky by měly být splněny, aby se mladí lidé účastnili školení? Jaké překážky mohou bránit jejich účasti na školení?
2.2. Motivace mladých lidí k účasti na školení (cca 30 minut)
a) Do jaké míry mají mladí lidé zájem o účast na školení? Existují nějaké rozdíly ve vzdělávacích potřebách související s pohlavím? Jaký je důvod těchto rozdílů? Jak můžete tyto dvě skupiny mladých lidí motivovat ke zvyšování kvalifikace?
b) Jak velký je jejich zájem o školení formou e-learningu? Účastní se mladí lidé tohoto typu školení? Pokud ano, jakého?
c) O jaký druh školení mají mladí lidé největší zájem – stacionární, smíšené, dálkové?
3. SPECIFICKÉ ZÁLEŽITOSTI (délka – cca 60 minut)
3.1. Tematické oblasti školení – prioritizace (cca 30 minut)
a) Uveďte prosím témata školení, která by mohla organizace X implementovat v rámci prezenčního / distančního / smíšeného vzdělávání: rozsah / tematické oblasti a konkrétní záležitosti (brainstorming).
b) Které z těchto školení by mělo být realizováno jako první?
3.2. Podmínky účasti na školení (cca 30 minut)
a) Kdy by se školení konalo? Budou se moci mladí lidé zúčastnit? Mělo by se stacionární školení konat ve večerních hodinách nebo o víkendu? Kde by se mohlo konat?
b) Mají mladí lidé vybavení a schopnosti nutné pro e-learning?
c) Jak dlouho může trénink na dálku trvat?
d) Co může bránit mladým lidem v účasti na distančním vzdělávání?
4. SHRNUTÍ (délka – cca 15 minut)
a) Shrnutí získaných informací – závěry.
b) Informace o tom, jak budou získaná zjištění použita.
c) Poděkování za účast.
3.2.4. POZOROVÁNÍ
Tato metoda je založena na pečlivém pozorování a poslechu zkoumaných objektů a situací (jevů, událostí). Pozorování může být participační (zúčastněné), částečně participační nebo neparticipační, v závislosti na míře zapojení výzkumného pracovníka, který může fungovat jako aktivní účastník událostí, které pozoruje, nebo jako externí, nezúčastněný pozorovatel. Pozorování lze provádět zjevným, částečně zjevným nebo skrytým způsobem, tzn. že účastníci události vědí o tom, že jsou pozorování, nebo o tom vědí pouze vybrané osoby (např. školitel a/nebo organizátor školení), nebo o tom ví pouze pozorovatel.
PODMÍNKY POUŽITÍ: pokud pozorování probíhá bez účasti pozorovatele, neměl by být v kontaktu/vztahu se pozorovanými osobami, protože to s sebou nese riziko ovlivnění průběhu pozorovaných událostí a chování.
VÝHODY:
- získání informací o dané události/procesu v jejich průběhu,
- zaznamenání skutečností, aniž by byly interpretovány účastníky (zkoumání skutečného chování, nikoli tvrzení účastníků),
- usnadnění interpretace zkoumaných událostí,
- možnost dozvědět se o jevech, které jsou obvykle skryté, nepozorovatelné, nebo o kterých se účastníci zdráhají diskutovat.
NEVÝHODY:
- možný vliv výzkumného pracovníka na průběh událostí (povědomí respondentů o tom, že jsou pozorováni, může změnit jejich chování),
- omezený dosah pozorování, je obtížné získat přístup ke všem událostem,
- riziko subjektivity (výzkumný pracovník může převzít určité stereotypy, vnímat a interpretovat události ve prospěch pozorované skupiny).
VÝZKUMNÝ NÁSTROJ: Pozorování lze provádět pomocí výzkumného nástroje, kterým je pozorovací záznamový arch. S využitím tohoto nástroje může pozorovatel zaměřit svou pozornost na vybrané záležitosti a zaznamenávat důležité informace (např. chování osob účastnících se pozorovaných událostí), které mohou být nejen kvalitativní, ale i kvantitativní (tzv. kontrolní seznam).
Záznam pozorování školení
3.2.5. PŘÍPADOVÁ STUDIE
Jedná se o hloubkovou analýzu zkoumané problematiky s využitím informací z různých zdrojů shromážděných různými metodami. Zjištění mohou být prezentována v narativní formě. Analyzovaným „případem“ může být osoba, skupina osob, konkrétní aktivity, projekt nebo skupina projektů.
Účelem použití případových studií je:
● důkladně poznat a pochopit daný jev spolu s jeho kontextem, příčinami a důsledky,
● ilustrovat konkrétní problém pomocí realistického příkladu s podrobným popisem,
● vytvářet hypotézy pro další výzkum,
● představit a analyzovat nejlepší/nejhorší postupy a ukázat, co stojí za to dělat a co by se dělat nemělo.
PODMÍNKY POUŽITÍ: Tato metoda vyžaduje čas na shromáždění a analýzu různých dat týkajících se zkoumaného jevu/objektu, jeho kontextu, procesů a mechanismů. Případové studie je nejvhodnější použít jako doplňkovou metodu k jiným výzkumným metodám.
VÝHODY:
- zdroj komplexních informací o daném tématu,
- používá různé úhly pohledu, což dodává popisu a analýze širší perspektivu,
- bere v úvahu kontext zkoumaných jevů.
NEVÝHODY:
- obvykle vyžaduje použití různých zdrojů informací, někdy obtížně přístupných,
- je pracná a časově náročná,
- poskytnutí neúplných údajů vede k nízké důvěryhodnosti popsaného případu.
3.2.6. PRŮZKUMY PROVÁDĚNÉ TAZATELI
Kvantitativní metody představují standardizovanou metodou měření. Standardizace umožňuje sběr a kalkulaci kvantitativních údajů jednotným způsobem a rovněž jejich statistickou analýzu. Standardizace zahrnuje:
- Výzkumný nástroj (dotazník) – pořadí, obsah a forma otázek kladených respondentům,
- Způsob zaznamenání odpovědí respondentů výběrem jedné možnosti (na stupnici) nebo několika možností ze souboru předem formulovaných odpovědí,
- Chování tazatelů, kteří jsou povinni řídit se během rozhovoru pokyny obsaženými v dotazníku.
Názory respondentů jsou transformovány do podoby čísel a uloženy do databáze. Poté jsou tyto informace analyzovány pomocí statistických metod.
Dotazníkové rozhovory provádějí školení tazatelé, kteří čtou respondentům otázky z dotazníku a zapisují získané odpovědi. Pro tento typ výzkumu existují následující techniky:
- Osobní rozhovor se zaznamenáváním odpovědí do vytištěného dotazníku (PAPI),
- Osobní rozhovor se zaznamenáváním odpovědí pomocí počítače (CAPI),
- Telefonický rozhovor za pomoci počítače (CATI).
3.2.6.1. Osobní rozhovory s pomocí tištěných dotazníků (PAPI) a počítačových dotazníků (CAPI)
Obě tyto techniky jsou terénní a jsou realizovány na základě přímého kontaktu respondenta s tazatelem pomocí tištěné verze dotazníku (PAPI) nebo elektronické verze zobrazené na notebooku nebo tabletu (CAPI). Tazatelé přečtou otázky obsažené v dotazníku a poté označí odpovědi poskytnuté respondentem.
PODMÍNKY POUŽITÍ: metoda vyžaduje širokou škálu témat a přímé (tváří v tvář) setkání tazatele s respondentem. Nejlepším místem pro rozhovor je místo izolované od hluku a přítomnosti třetích stran (v domácích/pracovních podmínkách zajistěte, aby přihlížející, například členové rodiny nebo kolegové, neovlivňovali odpovědi respondentů).
VÝHODY:
- blízký osobní kontakt s respondenty (možnost pozorovat neverbální signály, reagovat na nepochopení otázky nebo únavu respondenta),
- větší připravenost respondentů na delší rozhovor a těžší otázky než během CATI,
- automatické ukládání údajů během rozhovoru v případě CAPI.
NEVÝHODY:
- vyšší náklady, včetně nákladů na čas a cestu a sjednání osobního setkání s respondentem,
- chybí pocit anonymity respondenta,
- nekontrolovaný vliv tazatelů na odpovědi respondenta (tzv. „efekt tazatele“);
- v případě PAPI musí tazatel po skončení rozhovoru ručně zadat údaje z dotazníku do databáze, což je časově náročné a zvyšuje náklady a riziko chyb.
3.2.6.2. Telefonický rozhovor za pomoci počítače (CATI)
Tento typ rozhovoru se provádí telefonicky. Tazatel čte otázky zobrazené na obrazovce počítače a obdržené odpovědi označí v elektronickém dotazníku na počítači.
PODMÍNKY POUŽITÍ: zkoumání zažitých názorů a postojů s využitím otázek, které nevyžadují delší čas na rozmyšlenou vzhledem ke krátkému trvání rozhovoru (max. 10-15 minut) a specifickému způsobu předávání a přijímání informací (který neumožňuje přečíst si otázky několikrát vlastním tempem).
VÝHODY:
- kratší čas a nižší náklady na oslovení respondenta ve srovnání s osobními rozhovory (PAPI, CAPI),
- časová flexibilita (možnost přizpůsobit čas rozhovoru preferencím respondenta, zastavit rozhovor a pokračovat v něm v dobu vhodnou pro respondenta),
- snadné řízení a kontrola práce tazatelů,
- automatické ukládání (kódování) údajů během rozhovoru.
NEVÝHODY:
- možné obtíže se získáváním telefonních čísel respondentů (z důvodu chybějícího přístupu nebo ochrany osobních údajů) a v případě zaměstnavatelů žádné osobní kontakty (pouze telefonní číslo na recepci/ústředí),
- čas rozhovoru omezen na 10–15 minut (z důvodu nejisté koncentrace a krátkého trvání zájmu respondentů),
- tendence respondentů volit extrémní odpovědi nebo počáteční a koncové body na stupnici (což vyplývá ze specifického kanálu přenosu informací, který zvyšuje tzv. „prioritní efekt“ a „efekt svěžesti“).
3.2.7. SAMOSTATNĚ VYPLŇOVANÉ PRŮZKUMY
V samostatně vyplňovaných průzkumech si respondenti sami přečtou a označí odpovědi v dotazníku (bez účasti tazatele).
PODMÍNKY POUŽITÍ: tyto průzkumy lze provádět formou tištěného nebo online dotazníku (tj. jako CAWI). V případě posledně jmenovaného obdrží respondenti odkaz na webovou stránku s dotazníkem, který mohou vyplnit na počítači, tabletu nebo smartphonu. Po zodpovězení jsou data odeslána na server, kde jsou automaticky uložena v databázi.
Velmi účinnou metodou sběru kvantitativních údajů je centrální průzkum založený na tom, že dotazník vyplní osoby, které jsou současně v jedné místnosti, např. po absolvování školení, workshopu nebo konference. Je nutné zajistit, aby respondenti vyplňovali dotazníky sami (bez podpory jiných osob).
VÝHODY:
- získání informací v krátkém čase (zejména v případě centrálního průzkumu),
- nižší náklady ve srovnání s dotazníkovými rozhovory s účastí tazatelů,
- pocit anonymity osob, které vyplňují průzkum,
- není zde efekt tazatele.
NEVÝHODY:
- motivace respondentů k vyplnění dotazníku může být menší bez přítomnosti tazatele,
- nedostatečná kontrola nad procesem vyplňování dotazníku,
- riziko konzultací odpovědí s jinými lidmi.
PRAKTICKÝ TIP
Dotazník průzkumu musí:
- být krátký, snadný a vizuálně atraktivní, aby povzbudil respondenta k vyplnění,
- obsahovat nezbytná vysvětlení, která v případě jiných metod podává tazatel,
- obsahovat jasné pokyny (papírová verze) nebo algoritmy (elektronická verze) vedoucí respondenta k relevantním otázkám (na základě předchozích odpovědí jsou neadekvátní otázky filtrovány a vynechány).
|
3.2.8. AKTIVNÍ METODY SKUPINOVÉ PRÁCE / WORKSHOPY S MLADÝMI LIDMI
Níže uvádíme další aktivní metody sběru údajů (především kvalitativní), které lze využít zejména při skupinové práci s mladými lidmi; tyto metody podporují aktivní zapojení účastníků a integraci týmu, usnadňují spolupráci a umožňují rozvoj měkkých dovedností.
Aktivní metody jsou metody shromažďování informací prostřednictvím workshopů, které mohou doplnit „klasické“ výzkumné metody hodnocení. Umožní vám získat rychlou zpětnou vazbu týkající se konkrétních kroků, zjistit pocity a dojmy účastníků a jejich hodnocení a vypracovat odpovídající doporučení. Tyto metody je vhodné použít během workshopů, školení nebo konferencí, neboť mohou přispět k atraktivitě setkání, usnadnit seznamování účastníků a pomoci přizpůsobit aktivity projektu potřebám účastníků.
VÝHODY:
- rychlost – během kurzů/setkání obdržíte okamžitou zpětnou vazbu,
- neformální atmosféra,
- projektivní povaha úkolů/otázek usnadňuje formulování kritických názorů a navrhování nových řešení,
- možnost společného sběru kvalitativních a kvantitativních údajů,
- stimulující sebereflexe,
- pozitivní dopad na celkový pocit pohody účastníků (uspokojení potřeby vyjádření, přijetí, integrace).
NEVÝHODY:
- získané názory nelze generalizovat na širší komunitu (která se nezúčastnila setkání),
- nutné moderování/facilitace zkušeným školitelem/moderátorem,
- není zajištěna anonymita účastníků v případě skupinových diskusí a hlášení (ohrožení duševní pohody a vztahů ve skupině v případě osob, které jsou mimořádně citlivé a zranitelné nebo mají slabé postavení ve skupině).
Níže naleznete příklady aktivních metod implementovaných formou workshopu.
PRÁDELNÍ ŠŇŮRA
Účelem tohoto nástroje je zjistit, jaká očekávání mají beneficienti projektu. Jedná se o vizuální metodu sběru kvalitativních údajů.
Každý účastník obdrží obrázky s oblečením (např. košile, spodní prádlo, kalhoty, ponožky), které symbolizují typ jejich očekávání v souvislosti s projektem – mohou to být např. naděje, obavy, potřeby, návrhy atd. Účastníci mají dostatek času na to, aby se zamysleli a doplnili jednotlivé obrázky/oděvy. Každý z nich zapíše své nápady a „pověsí své šaty“ na provázek, který je natažený nebo pověšený ve třídě. Účastníci mohou nahlas přečíst svá očekávání a prohlédnout si „prádlo“ ostatních.
TELEGRAM
Tento nástroj umožňuje rychle shrnout část setkání (workshopu, školení) a zjistit náladu ve skupině.
Požádáte účastníky, aby se zamysleli nad určitým úsekem školení a popsali své dojmy třemi slovy s použitím pozitivního, negativního a sumativního (souhrnného) výrazu (např. intenzivní – únava – spokojenost). Každá osoba přečte svá slova, což umožní společně shrnout uskutečněné aktivity (můžete je také zapsat na lepicí papírky post-it a nalepit je na flipchart apod.).
RUCE
Účelem tohoto nástroje je zjistit názor na vybrané aspekty projektu nebo jeho části (např. školení, stáž) a shrnout průběh a účinky výuky. Osoby účastnící se workshopu dostanou list papíru, na který nakreslí svou ruku. Ke každému prstu se přiřadí jedna kategorie hodnocení, např.:
- palec – jaká byla nejsilnější/nejlepší stránka školení/projektu,
- ukazováček – o čem řeknu svým přátelům,
- prostředníček – jaký byl nejslabší/nejhorší bod školení/projektu,
- prsteníček – co bych chtěl/-a změnit (prvek, který je potřeba zlepšit),
- malíček – co jsem se naučil/-a nebo co jsem se dozvěděl/-a.
Účastníci zapíší svůj názor ke každému z prstů podle výše uvedených kategorií. Cvičení lze použít ke zjištění názorů jednotlivců a/nebo ke skupinové diskusi.
HODNOTICÍ RŮŽICE
Tato metoda se používá k získání zpětné vazby týkající se současně několika aspektů projektu/aktivity. Jedná se o vizuální metodu, která umožňuje shromažďovat kvantitativní data, tj. hodnocení různých aspektů posuzovaného objektu za pomoci společné stupnice.
Účastníci dostanou karty s nakreslenou „hodnoticí růžicí“. Kresba je inspirována větrnou růžicí, ale namísto světových stran ukazuje různé aspekty hodnoceného objektu (např. užitečnost školení, atraktivita způsobu sdělování obsahu, přiměřenost času stráveného školením). Rozdělte osy na jednotlivé úseky a přiřaďte jim zvolené hodnoty (např. stupnici 1-5, kde 1 je nejhorší hodnocení a 5 nejlepší). Požádejte účastníky, aby uvedli své hodnocení na každé ose „hodnoticí růžice“. Poté můžete hodnocení spojit a získat vizuálně atraktivní obraz všech stanovisek (konečný efekt připomíná pavoukový graf).
MLUVÍCÍ ZEĎ
Účelem této metody je shromáždit názory na hodnotu konkrétní projektové aktivity nebo celého projektu. Použití tohoto nástroje vám umožní získat kvalitativní data (určitý názor) i kvantitativní data (kolik lidí sdílí tento názor).
Pověste na zeď pět velkých archů papíru. Na každý z nich napište otázku týkající se uskutečněných aktivit, např.:
- Arch 1: Jaké nové věci jste se během školení naučili?
- Arch 2: Jak využijete znalosti získané během školení?
- Arch 3: Co se vám na školení líbilo nejvíc?
- Arch 4: Co se vám na školení líbilo nejméně?
- Arch 5: Co byste na tomto školení změnili?
Účastníci zapíší na každý arch své odpovědi; pokud je daný názor již zapsán – připíší k němu plus nebo puntík. Na konci facilitátor shrne zápisy a vybídne skupinu, aby o nich diskutovala a formulovala doporučení. Tato forma shromažďování názorů podporuje větší otevřenost, účastníci získají pocit sounáležitosti a překonají neochotu mluvit na veřejnosti.
KUFR A ODPADKOVÝ KOŠ
Pomocí této metody můžete získat souhrnný přehled školení nebo jiné aktivity uskutečněné v rámci projektu. Metoda vám umožní shromáždit informace o tom, které prvky byly pro účastníky užitečné nebo zbytečné a které jim chyběly.
Nakreslete na tabuli nebo flipchart kufr, koš na odpadky a pytel. Každý obrázek symbolizuje jednu kategorii názorů na hodnocenou aktivitu:
- Kufr: „Co si ze školení odnesu?“ (co bude pro mě užitečné, co v budoucnu využiji)
- Odpadkový koš: „Co bylo během školení zbytečné?“ (co pro mě není užitečné, co bylo navíc),
- Pytel: „Co chybělo?“ (co by mělo být při dalším školení přidáno).
Poté můžete účastníky požádat, aby své názory vyslovili nebo zapsali na lepící papírky nebo přímo do obrázků na tabuli.
PRAKTICKÉ TIPY PRO REALIZACI SKUPINOVÝCH AKTIVIT
Je vhodné, aby při těchto aktivitách seděli účastníci v kruhu, aby se všichni navzájem viděli. Chcete-li zvýšit angažovanost účastníků, můžete navrhnout, aby vždy sami určili další osobu, která bude hovořit, např. házením míče (toto řešení je možné použít, pokud ve skupině nejsou žádné diskriminované osoby). Ústní výroky je potřeba zaznamenat – to může provádět během sdílení osoba, která řídí setkání (např. na tabuli, flipchart), nebo její asistent. |
3.3. Jakým způsobem vybrat vhodné výzkumné metody?
Výzkumné metody musejí vhodně zapadat do koncepce a plánu hodnocení. Pro správnou volbu zvažte, zda jsou metody relevantní s ohledem na:
- Účel, předmět, rozsah a typ hodnocení, jakož i kritéria a hodnoticí otázky – poskytnou vám tyto metody informace nezbytné k zodpovězení hodnoticích otázek?
- Zdroje dat, na základě kterých plánujete získávat informace – bude vhodné poskytnout informace o skupinách, které se zúčastní hodnoticího výzkumu?
- Charakteristiku dotazovaných/respondentů – zohledňují metody velikost skupiny, její schopnosti percepce, komunikační schopnosti, zdravotní stav atd.?
- Okolnosti shromažďování údajů – budou v danou chvíli k dispozici všechny potřebné údaje a respondenti? Bude zvolená metoda vhodná pro dané místo sběru dat?
- Prostředky, ke kterým máte přístup? – vyžaduje metoda dostupnost kvalifikovaných nebo nezávislých výzkumných pracovníků a dalších zdrojů (organizačních, technických, finančních a časových)? Budete schopni používat tyto metody samostatně? Umožňují vaše zdroje jejich použití?
Znalost výzkumných metod (kvantitativních a kvalitativních) a souvisejících nástrojů vám pomůže při přípravě druhé části koncepce hodnocení (viz kapitola 2.4, nástroj 4), která bude doplněna o metodické otázky. Tento prvek vám umožní shromáždit informace za účelem zodpovězení hodnoticích otázek.
Nástroj 6: Tabulka shrnutí zjištění plynoucích z analýzy případových studií
3.4. Jakým způsobem navrhnout výzkumné nástroje?
Častou chybou bývá zahájit hodnocení tím, že vytvoříte výzkumné nástroje, např. dotazník pro příjemce projektu. Je třeba si uvědomit, že není možné zvolit správné výzkumné metody ani vytvořit správné hodnoticí nástroje (např. scénáře, dotazníky, pozorovací záznamové archy) izolovaně, tj. odděleně od celkové koncepce hodnocení. Začněte tedy vytvářet výzkumné nástroje teprve poté, co určíte:
-
- Předmět, rozsah a účel hodnocení,
- Hodnoticí kritéria a otázky,
- Zkoumané skupiny osob a výzkumné metody.
Bez vazby na výše uvedené prvky nebudete schopni vytvořit správné výzkumné nástroje, protože se může stát, že zařadíte otázky, které nebudou souviset s účelem výzkumu, což znemožní zodpovědět hodnoticí otázky a reagovat na hodnoticí kritéria. „Nevhodné“ nástroje obsahují zbytečné otázky, obsahují příliš mnoho nebo naopak nedostatek informací, neposkytují relevantní informace a neumožňují formulovat smysluplná doporučení.
Otázky obsažené ve výzkumných nástrojích jsou konkretizací hodnoticích otázek. Pamatujte, že tyto otázky kladou hodnotitelé sami sobě, nikoli respondentům! Tyto dva druhy otázek by neměly být zaměňovány, protože jsou formulovány tak, aby se přizpůsobily potřebám:
● Hodnotitelů / zainteresovaných stran hodnocení → hodnoticí otázky,
● Zkoumaných skupin osob (respondenti, dotazované osoby) → otázky obsažené ve výzkumných nástrojích.
Pokud si nejste jisti, zda má být konkrétní otázka položena dotazovaným/respondentům, zvažte, zda na ni budou schopni odpovědět a zda vám získané informace umožní odpovědět na hodnoticí otázky a formulovat užitečná doporučení.
JAKÝM ZPŮSOBEM KLÁST OTÁZKY
- Počet otázek zahrnutých do nástrojů by měl být přiměřený účelu a době trvání výzkumu.
- Výzkumné nástroje by měly mít transparentní strukturu s identifikovanými hlavními tématy (např. „důvody zapojení do projektu“, „posouzení různých typů podpory“, „účinky účasti v projektu“). Jednotlivá témata by měla být uspořádána do tematických skupin (např. organizační záležitosti).
- Otázky by měly být kladeny v konkrétním pořadí. Na začátek nástroje zařaďte předběžné otázky (relativně snadné). Po nich by měly následovat úvodní otázky týkající se předmětu (nikoli příliš náročné), poté hlavní otázky (klíčové pro účely výzkumu). Nejtěžší otázky by měly být zařazeny uprostřed nástroje. Na závěr položte souhrnné a závěrečné otázky.
- Otázky by měly být kladeny v logickém pořadí, které by nemělo účastníky výzkumu překvapit nebo zmást. Každá otázka by měla navazovat na předchozí otázku, nebo v případě osobního rozhovoru na předchozí prohlášení respondenta.
- Jazyk rozhovoru by měl být snadno srozumitelný: používejte co nejkratší věty a způsob vyjadřování, který je blízký účastníkům výzkumu – nepoužívejte cizí slova, odborné termíny, žargon či zkratky.
- Otázky by měly být formulovány přesně – tzn. že by neměly vyvolávat pochybnosti například o tom, k jakému časovému období se vztahují (neptejte se: „zda nedávno …“, ale: „zda v posledním týdnu/měsíci/roce …“).
- Neptejte se na několik věcí v jedné otázce (např. „Jaké jsou silné a slabé stránky projektu?“) a nepoužívejte záporně formulované otázky („Neměl/-a byste…?“, „Nedáváte raději přednost…?“). Všechny tyto chyby ztěžují porozumění otázkám a interpretaci odpovědí.
- Dotazy a navrhované odpovědi nesmějí být citlivé pro účastníky výzkumu – nesmějí vést např. ke sdílení traumatických zážitků, přiznání chování nebo přesvědčení, která jsou v rozporu se zákonem nebo morálkou. Pokud není zaručena anonymita, neptejte se na majetkové poměry, rodinné záležitosti nebo zdravotní problémy.
- Nepokládejte sugestivní otázky naznačující odpověď – žádná z možností nesmí být prezentována tak, že je v souladu se zákonem nebo morálkou, neodvolávejte se na autority, úřady či názor většiny.
PŘÍKLAD „PŘEVODU“ KRITÉRIA A HODNOTICÍ OTÁZKY NA NÁSTROJ VÝZKUMU
I. Kritérium: UŽITEČNOST
(perspektiva: hledisko příjemce; účel hodnocení: zlepšení projektových aktivit)
II. Výzkumná otázka: Do jaké míry bylo školení užitečné pro účastníky?
III. Příklady otázek ze scénáře individuálního hloubkového rozhovoru (IDI) se školitelem:
1) Které prvky školení byly nejvíce a které nejméně užitečné pro účastníky a proč?
2) Mohlo by být toto školení užitečnější pro účastníky? Co by se mělo změnit? Proč si myslíte, že díky této změně bude školení užitečnější?
IV. Příklady výzkumných otázek pro příjemce školení:
1) Uveďte prosím prvky školení, které byly pro vás nejužitečnější (možnosti: X, Y, Z)
2) Uveďte prosím prvky školení, které byly pro vás nejméně užitečné (možnosti: X, Y, Z)
3) Mohlo by být toto školení pro vás užitečnější? (možnosti: ano; ne; nevím)
- Otevřené otázky pro osoby, které odpověděly ‚ano‘ – Co by se mělo změnit na tomto školení, aby bylo užitečnější? (nechat prostor na odpověď ………..)
Rozdíly mezi kvantitativními a kvalitativními výzkumnými nástroji, struktura/stavba scénářů a dotazníků a nejčastější chyby v jejich návrhu jsou obsahem online kurzu.