An introduction to educational research methods. Введение в образовательные исследовательские методы Білім беру-зерттеу әдістеріне кіріспе



Pdf көрінісі
бет39/85
Дата06.03.2017
өлшемі32,4 Mb.
#8078
1   ...   35   36   37   38   39   40   41   42   ...   85

TRIANGULATION

This is a widely endorsed strategy for strengthening the internal validity of qualitative studies 

in social science. It is based on the principle of confirming findings through the use of multiple 

perspectives. The key aspect of the strategy is threats to the validity of the conclusions, 

caused by the particular biases of any one source, method or agent of research, and which 

will be lessened by employing a variety of type. 



Why is it necessary? 

Writers have argued that there is a need for several types of triangulation in relation to 

qualitative research, but I shall focus on three modes which can have a bearing on the type 

of research design discussed in this chapter: triangulation of sources, of methods and of 

investigators. Triangulation of different sources can mean simply the inclusion of multiple 

informants (i.e. interviewees or subjects under observation). However, by including different 

categories of informants (e.g. teachers and pupils, secondary- and primary-based informants, 

pupils of different gender or ability or from different classrooms), the converging perspectives 

will  arguably  make  the  findings  more  powerful. Triangulation  of  methods  involves  the 

use of different data-collection instruments with the same subjects. This has the merit of 

counterbalancing the threats inherent to any one method. For instance, the likelihood of 

the ‘Hawthorne  effect’  (changes  in  participants’  behaviour  during  the  course  of  a  study 

may be related only to the special social situation and social treatment received) occurring 

is arguably stronger in the case of individual interviews than in the case of questionnaires, 

particularly if the interviewer is known to the interviewee. Questionnaires, however, have 

their own and different weaknesses, such as less freedom for the interviewee to develop 

their own thoughts and a reliance on the written form of expression. Finally, triangulation of 

investigators refers to the use of more than one person in collecting or analysing the data. 

One can argue that triangulation as a research device is particularly valuable in the case of 

introspective research, though as we shall see in our examples, it is also a useful strategy in 

strengthening the credibility of observational studies.

Some  commentators  (e.g.  Silverman,  2010:  371)  argue  that  the  use  of  triangulation  is 

inappropriate in qualitative research as it contravenes the ethnographic perspective in which 

the context of each source of evidence, of each method used and of each investigator’s 

approach is of intrinsic value. Comparing results from different angles of enquiry, therefore, 

cannot be used to strengthen a common finding. However, a less extreme view would be 

that it is possible to maintain the primacy of the researcher’s main source and methods of 

research as well as of his or her own interpretation of the results, while also drawing on 

multiple sources of evidence and analysis in support of the validity of that main focus.

How can the threat be reduced in both studies? 

As an example of introspective research, John’s study would benefit from all three kinds 

of triangulation. In particular, the type of study envisaged here calls out for the need for 

triangulation of sources. By interviewing teachers and pupils, including, if possible, teachers 

from the feeder primary school, John would be able to gather together the views of a range 

of people on the issue of the effects of a KS2/3 transfer on the learning of geography based 



Reliability And Validity In Qualitative Research By Teacher Researchers

338


on triangulation of sources of information. If the conclusions relied exclusively on evidence 

from  the  pupils,  we  would  feel  less  confident  about  them,  since,  taken  alone,  the  pupil 

interview data may be skewed by the ‘Hawthorne effect’ or by a partial recall of geography 

learning in the primary school.

Despite the observational focus of Jane’s study, the internal validity of the findings would be 

strengthened in particular by the use of triangulation of methods. In order to make general 

claims about how her pupils collaborate in small-group interaction and what forms of target 

language use this generates, she needs to have some evidence that the pupils’ performance 

is not entirely dependent on the nature of the group task or on the dynamics of particular 

peer interrelations. In order to do this, Jane can usefully think about different methods of 

eliciting group target language use by asking them to engage in different types of language 

tasks over her data-collection period. These could, for instance, include role plays, debates, 

problem-solving tasks or description tasks. It would be important to include a variety of 

task types since hidden pupil preferences may be determined by the type of language 

needed in the different tasks (for instance, knowledge of particular vocabulary topics), or 

by the possibility of different kinds of interaction (e.g. argument, collaboration) appealing to 

different types of personality.

Jane’s interest in probing the reasons why her pupils perform linguistically in particular ways 

could lead to conclusions whose validity may be under threat unless she took suitable 

measures to strengthen her case. In order to offset exclusive reliance on her own explanation 

of the data, Jane could carry out individual pupil interviews as another form of methods 

triangulation in her study. This would be especially useful in investigating the reasons why 

individuals code switch at particular points in the group dialogue. Though Jane may be able 

to interpret some possible reasons by looking for patterns of switching in the transcripts, 

her  analysis  would  benefit  from  asking  some  of  the  pupils  to  come  up  with  their  own 

explanations. She might also be able to use the interviews as an opportunity to test out 

some of her own interpretations of the code-switching patterns on the pupils themselves 

to see whether they confirmed her own views. Of course, even if the pupils rejected some 

of her conclusions, this would not necessarily invalidate them, since the impulse might be 

operating at a subconscious level. However, having this discussion with the pupils in itself 

would strengthen her study by providing a thicker layering of interpreted data, and by 

demonstrating more of an awareness of the complexities of the research process.

As far as triangulation of investigators is concerned, both John and Jane would gain some 

benefit from asking a colleague to examine a sample of their data relating to a particular 

aspect of their research, in order to see if the kind of interpretations they themselves are 

making of the data are reiterated in their colleagues’ responses.



How can the threat be reduced in both studies?

As an example of introspective research, John’s study would benefit from all three kinds

of triangulation. In particular, the type of study envisaged here calls out for the need for

triangulation of sources. By interviewing teachers and pupils, including, if possible,

teachers from the feeder primary school, John would be able to gather together the

views of a range of people on the issue of the effects of KS2/3 transfer on the learning

of geography based on triangulation of sources of information. If the conclusions relied

exclusively on evidence from the pupils, we would feel less confident about them, since,



Reliability And Validity In Qualitative Research By Teacher Researchers

339


taken alone, the pupil interview data may be skewed by the ‘Hawthorne effect’ or by a

partial recall of geography learning in the primary school.

Despite the observational focus of Jane’s study, the internal validity of the findings

would be strengthened in particular by the use of triangulation of methods. In order to

make general claims about how her pupils collaborate in small-group interaction and

what forms of target language use this generates, she needs to have some evidence that

the pupils’ performance is not entirely dependent on the nature of the group task or on

the dynamics of particular peer interrelations. In order to do this, Jane can usefully think about 

different methods of eliciting group target language use by asking them to engage in different 

types of language tasks over her data-collection period. These could for instance include role 

plays, debates, problem-solving tasks or description tasks. It would be important to include 

a variety of task types since hidden pupil preferences may be determined by the type of 

language needed in the different tasks (for instance, knowledge of particular vocabulary 

topics), or by the possibility of different kinds of interaction (e.g. argument, collaboration) 

appealing to different types of personality.

Jane’s interest in probing the reasons why her pupils perform linguistically in particular ways 

could lead to conclusions whose validity may be under threat unless she took suitable 

measures to strengthen her case. In order to offset exclusive reliance on her own explanation 

of the data, Jane could carry out individual pupil interviews as another form of methods 

triangulation in her study. This would be especially useful in investigating the reasons why 

individuals code switch at particular points in the group dialogue. Though Jane may be able 

to interpret some possible reasons by looking for patterns of switching in the transcripts, 

her  analysis  would  benefit  from  asking  some  of  the  pupils  to  come  up  with  their  own 

explanations. She might also be able to use the interviews as an opportunity to test out 

some of her own interpretations of the code-switching patterns on the pupils themselves 

to see whether they confirmed her own views. Of course, even if the pupils rejected some 

of her conclusions, this would not necessarily invalidate them, since the impulse might be 

operating at a subconscious level. However, having this discussion with the pupils in itself 

would strengthen her study by providing a thicker layering of interpreted data, and by 

demonstrating more of an awareness of the complexities of the research process.

As far as triangulation of investigators is concerned, both John and Jane would gain some 

benefit from asking a colleague to examine a sample of their data relating to a particular 

aspect of their research, in order to see if the kind of interpretations they themselves are 

making of the data are reiterated in their colleagues’ responses.



LOOKING FOR NEGATIVE EVIDENCE

Why is it necessary?

This is a way of confirming one’s findings by revising hypotheses in the light of negative 

evidence in the data. Miles and Huberman (1994: 263) describe this tactic as part of a set 

of strategies for looking at ‘unpatterns’ that ‘test a conclusion about a “pattern” by saying 

what it is not like’. Other similar strategies they list are ‘checking the meaning of outliers’, 

‘using extreme cases’ and ‘following up surprises’. Perhaps more explicitly than the previous 

two strategies I have examined in this chapter, looking for negative evidence focuses on the 

link between the empirical evidence collected and the theories, hypotheses or conclusions 



Reliability And Validity In Qualitative Research By Teacher Researchers

340


which the researcher draws once the analytical process is throwing up some insights.

How can the threat be reduced in Jane’s study? 

Looking for negative evidence is one way of guarding against one’s natural tendency to be 

over-enthusiastic about a particular interpretation or pattern of findings. Qualitative research 

is not about proving a point or seeking confirmation of theories, but often the excitement 

of discovering one or more instances in the data which support a particular interpretation 

of  the  phenomenon  under  scrutiny  can  lead  the  researcher  to  fix  too  quickly  and  too 

unequivocally on a particular interpretation of the data. For instance, Jane might discover 

that pupils are more ready to use the target language if it is in a repeat situation (i.e. where 

they have already encountered a need to use the expression in a similar communicative 

situation in a previous task). Without resorting to a quantitative count of the number of 

times target language use appears in a repeat situation, which would not be a very useful 

approach in a qualitative study, Jane could also look at cases where pupils did use French in 

new communicative situations or failed to do so in repeat situations. Whether this results in 

her revising her conclusions or not, simply by demonstrating to us (and to herself) that she 

has looked at negative evidence will give us and her more confidence in the hypotheses she 

does make and the conclusions she ultimately draws.



CONCLUSION: THINKING ABOUT RELIABILITY AND VALIDITY IN RELATION 

TO YOUR OWN PROJECT

As the examples discussed in this chapter have demonstrated, these two concepts are

important issues to consider at different stages of your research design. At the back of

your mind, you should think about how your research findings and plan will look to

other practitioners in educational research. At the planning stage, think about where

the weaknesses are likely to be in data collection and analysis. How effectively do they

relate to your research questions and objectives? It is always useful to discuss your plan

with a colleague or a supervisor before you commit to it. Look for examples in the literature

to see how other people have designed similar studies. Having identified the

potential weaknesses, then you can start planning strategies such as those described

above which you can tailor to deal with the particular threats to the reliability and validity

of your research.

Remember that there is a fundamental difference between qualitative and quantitative

research: the former does not seek to reach hard factual conclusions based on some

form of measurement; its aim is to generate hypotheses and arguments, or to explore

themes supported by trustworthy evidence from the data. Be explicit (and self-critical

where relevant) about how you tried to ensure that that evidence and your analysis is

trustworthy.



Reliability And Validity In Qualitative Research By Teacher Researchers

341


Activity 7.1 How does pupils’ use of ICT in

lessons support their learning?

Imagine that you want to investigate this question in relation to the context of 

your subject teaching. Consider the following questions which you would need 

to address in the design of a qualitative study focusing on your own classroom 

experiences with one or more groups at your school.

•  What sort of pupil use of ICT would you want to examine and why?

•  Which aspects of their learning would you want to begin by looking at?

•  What sort of evidence would you want to gather relating to the pupils’ use 

of technology?

•  What other forms of data collection would you carry out?

•  List the procedures and types of information that would be needed for 

others to carry out a replication study.

•  What would be the likely threats to the internal validity of your study?

•  What strategies would you use to guard against these threats?



Key ideas

This  chapter  has  sought  to  identify  the  main  benefits  of  thinking  about  the 

reliability and  validity of  research  carried  out  by  teacher  researchers.  I  have 

argued that the two notions are important measures for use in the assessment 

of both observational and introspective qualitative research. Reliability refers 

to the degree of rigour, consistency and trustworthiness of a study. This 

measurement is traditionally conceived in relation to the agent of the research. 

If an independent researcher carried out the same study, would they arrive at 

the same findings (internal reliability)? If an independent researcher carried out 

the same research elsewhere, would they reach the same conclusions (external 

reliability)? Validity was described as the degree to which a study measures what 

it claims to measure. External validity refers to the generalizability of the findings. 

This was seen to be inappropriate in real terms within the epistemological 

framework of qualitative research. However, it can be useful if seen as a tool 

for hypothetical validation. Internal validity, on the other hand, was described 

as an important quality which focused on the connection between a study’s 

findings and the data-collection and analysis procedures used to reach them. 

Three types of strategies for checking the internal validity of qualitative



Reliability And Validity In Qualitative Research By Teacher Researchers

342


studies by teacher researchers were described and exemplified. Long-term

involvement provides the researcher with sufficient time to develop a familiarity

and understanding of the subjects, the data and research process which result 

in  a  strengthening  of  the  validity  of  the  findings. Triangulation  of  sources,  of 

methods and of investigators protect the study against threats to internal 

validity of findings due to exposure to the biases inherent in any one source, 

method or individual researcher. Looking for negative evidence is a way of 

confirming particular patterns in the findings by examining contrary evidence 

and therefore being able to say what the patterns are not like.

Reflective questions

•  Have you been scrupulously honest about the procedures and limitations 

of your study? Qualitative research is as much about the process as about 

the outcome of the research. Questions about reliability and validity are a 

good way of critically reporting on the process.

•  Have you considered the threats to reliability and validity issues before 

you start, as well as reviewing these after you have completed your data 

collection?

•  Make a list of the strategies you used to strengthen the reliability and 

validity of your study. First identify the potential threats, then talk about the 

strategies you devised to offset the threats.

•  Have you got the appropriate number of research objectives for the study? 

Be realistic within the time and resource constraints you’re working under.

Further reading

Denzin, N. and Lincoln, Y. (2011) The SAGE Handbook of Qualitative Research (4th edn).

London: Sage.

Saldana, J. (2009) The Coding Manual for Qualitative Researchers. London: sage

Silverman, D. (2010) Interpreting Qualitative Data (3rd edn). London: Sage.


Reliability And Validity In Qualitative Research By Teacher Researchers

343


Reliability And Validity In Qualitative Research By Teacher Researchers

344


Reliability And Validity In Qualitative Research By Teacher Researchers

345


ДОСТОВЕРНОСТЬ И ВАЛИДНОСТЬ 

КАЧЕСТВЕННОГО АНАЛИЗА 

УЧИТЕЛЕЙ-ИССЛЕДОВАТЕЛЕЙ

MICHAEL EVANS

ГЛАВА 7


Обзор главы

В данной главе будет рассмотрено, что является достоверностью и 

валидностью в контексте школьного качественного исследования, проводимого 

преподающими исследователями. Будут описаны и объяснены три типа 

стратегий проверки внутренней валидности качественного анализа учителей-

исследователей. Также рассмотрим, как триангуляция источников, методов и 

исследователей поможет предохранить эксперимент от угроз для внутренней 

валидности результатов. Наконец, опишем, как поиск опровергающих 

доказательств может быть использован для подтверждения определенных 

паттернов результатов за счет изучения доказательств обратного. 



Reliability And Validity In Qualitative Research By Teacher Researchers

346


Введение

Одно  из  основных  опасений,  возникающих  у  того,  кто  проводит  маломасштабный 

качественный анализ, на определенном этапе исследования, можно выразить вопросом: 

«и что дальше?». Данное исследование – лишь капля в море, так что какое значение могут 

иметь крайне индивидуальные и локализованные результаты моего опыта для кого-либо 

другого? В разных контекстах получаются совершенно разные результаты, поэтому как 

мое исследование может быть использовано другими? Отчасти это опасение является 

реакцией  на  кажущуюся  весомость  крупномасштабного  количественного  анализа, 

учитывая его доступ к большему объему и охвату информации. Чем больше предметов, 

аудиторий, школ и контекстов включено в исследование, тем, по-видимому, больше 

у исследователя оснований претендовать на общую релевантность и применимость, 

особенно если они подтверждены статистическими расчетами. В то же время, опасения, 

связанные  с  достоверностью  и  валидностью  собственного  исследования,  являются 

положительным  признаком  осознания  ограничений  педагогического  исследования. 

Квалифицированный  исследователь  отличается  от  наивного  исследователя  тем, 

что  первый  не  расположен  делать  скоропалительные  и  самонадеянные  заявления 

о  своих  результатах:  неоспоримая  уверенность,  как  правило,  редко  встречается  в 

научно-педагогических  исследованиях.  Некоторое  сомнение  важно,  как  минимум 

тем, что повышает нашу бдительность и делает нас открытыми для новых и подчас 

противоречащих доказательств. 

 

Однако для того, чтобы анализ считался исследованием, требуется определенная 



систематичность и валидация, поскольку, несмотря на мои вступительные замечания, 

цель  исследования  –  вызвать  интерес  у  широкого  круга  лиц  и  представлять  нечто 

большее,  чем  результат  личного  и  субъективного  размышления.  Авторы  Lincoln 

and  Guba  (1985)  утверждали,  что  в  контексте  «натуралистического  исследования» 

качество анализа можно измерить его «добросовестностью» и изучением методов, 

использованных как часть процесса убеждения: 

Основная проблема, связанная с добросовестностью, проста: Как исследователь может 

убедить  свою  аудиторию  (включая  себя)  в  том,  что  результаты  его  исследования 

стоят  их  внимания,  стоят  того,  чтобы  быть  принятыми  к  сведению?  Какие  можно 

привести аргументы, к каким прибегнуть критериям, какие вопросы задать, чтобы быть 

убедительным в этом отношении? (1985: 290)

Именно такая систематичность и широкая валидация предположительно и различает 

исследовательский  проект  (стремящийся  анализировать  и  толковать  полученные 

данные)  и  личный  проект  (который  лишь  описывает  данные),    «предметное 

исследование»  (case  study)  и  «наглядный  пример»  (case  story)  (Bassey,  1999:  62).  В 

этой связи в социальных науках разрабатываются две группы концепций и стратегий 

для  укрепления  валидности  и  достоверности  исследования,  которые  мы  подробно 

рассмотрим  в  контексте  школьного  исследования  в  остальной  части  данной  главы. 

Но  прежде,  чем  мы  приступим,  необходимо  понять,  что  подразумевает  термин 

«качественный анализ».



Reliability And Validity In Qualitative Research By Teacher Researchers

347



Достарыңызбен бөлісу:
1   ...   35   36   37   38   39   40   41   42   ...   85




©emirsaba.org 2024
әкімшілігінің қараңыз

    Басты бет