+ All Categories
Home > Documents > EMCP evaluation report - International Labour · PDF file5 | End‐of‐training report‐...

EMCP evaluation report - International Labour · PDF file5 | End‐of‐training report‐...

Date post: 30-Jan-2018
Category:
Upload: nguyenkhanh
View: 222 times
Download: 0 times
Share this document with a friend
35
EVALUATION MANAGER CERTIFICATION PROGRAMME WORKSHOP EVALUATION REPORT Turin, Italy July, 2013
Transcript
Page 1: EMCP evaluation report - International Labour · PDF file5 | End‐of‐training report‐ EMCP III‐PARTICIPANTS’ EVALUATION 3.1 Multiple Choice Questions In the following section

  

                                                                            

                                                                            

   

  

EVALUATION MANAGER  CERTIFICATION PROGRAMME 

 

  

WORKSHOP EVALUATION REPORT    

   

Turin, Italy  July, 2013 

   

 

Page 2: EMCP evaluation report - International Labour · PDF file5 | End‐of‐training report‐ EMCP III‐PARTICIPANTS’ EVALUATION 3.1 Multiple Choice Questions In the following section

2 | E n d ‐ o f ‐ t r a i n i n g   r e p o r t ‐   E M C P   

Index  

I‐INTRODUCTION ....................................................................................................................... 3 

II‐WORKSHOP OBJECTIVES AND CONTENT ............................................................................... 4 

Certification Programme Overall Objective ...................................................................... 4 

Workshop Main Objective ................................................................................................. 4 

III‐PARTICIPANTS’ EVALUATION ................................................................................................ 5 

3.1 Multiple Choice Questions .......................................................................................... 5 

3.2 Open questions results ................................................................................................ 8 

3.3. Daily comments on the course content: like, dislike and proposals of change ....... 11 

IV‐ CONCLUSION FROM PARTICIPANTS’ EVALUATION ........................................................... 16 

V‐ RECOMMENDATIONS FOR A FUTURE EDITION .................................................................. 17 

ANNEXES ................................................................................................................................. 18 

Annex I – Evaluation main results ................................................................................... 19 

Annex II ‐  Summary of participants’ evaluation results ................................................. 20 

Annex III ‐  Comparison with ITC‐ILO’s 2012 benchmark ................................................ 22 

Annex IV – List of Participants ......................................................................................... 23 

Annex IV Timetable ......................................................................................................... 30 

Annex V – Evaluation questionnaire ............................................................................... 31 

 

 

Page 3: EMCP evaluation report - International Labour · PDF file5 | End‐of‐training report‐ EMCP III‐PARTICIPANTS’ EVALUATION 3.1 Multiple Choice Questions In the following section

3 | E n d ‐ o f ‐ t r a i n i n g   r e p o r t ‐   E M C P   

 

 WORKSHOP EVALUATION REPORT 

Evaluation Manager Certification Programme 

I‐INTRODUCTION 

In the following report a summary of the comments made by the participants after each day is presented with a summary of the evaluation questionnaires filled‐in by the participants.  Every day, participants were asked to identify what they did like, dislike and to propose constructive changes  for  a  future  edition  of  the  workshop.  In  addition  to  that,  a  questionnaire  was distributed at the end of the training to the participants who attended the “Evaluation Manager Certification Programme (EMCP)” workshop, which was  jointly organised by EVAL and the  ITC‐ILO  from 1 to 3 July 2013 in Turin.  

 Sixteen  (16)  officers1  from  various  ILO  field  offices  and  technical  departments, who  are 

involved  in managing project evaluations, have benefited  from  the  training sessions and have completed the first part of the certification programme.  This first part consisted in the transfer of theoretical and practical knowledge  in  line with the required core competencies to become an  ILO evaluation manager.   A second phase  is  foreseen,  in which the trained participants will have  to manage  a  real project  evaluation under  EVAL’s  guidance  and  supervision.   After  the successful completion of this second phase, participants will be awarded the certification.  

 At  the end of  the workshop, all participants had  the opportunity  to express  their  level of 

satisfaction  in  writing.  16  out  of  the  16  participants  have  completed  the  ITC‐ILO  standard evaluation questionnaire built around the various aspects forming a training activity:  

                                                            1 18 participants were initially enrolled, 2 could not make the journey to Turin for personal reasons 

(Lost of a family member and Medical forced rest) 

Page 4: EMCP evaluation report - International Labour · PDF file5 | End‐of‐training report‐ EMCP III‐PARTICIPANTS’ EVALUATION 3.1 Multiple Choice Questions In the following section

4 | E n d ‐ o f ‐ t r a i n i n g   r e p o r t ‐   E M C P   

program organization 

training objectives, contents and clarity 

trainer’s performance 

interaction between participants 

related services and facilities  

usefulness  

This complete questionnaire can be found in the annex section. 

II‐WORKSHOP OBJECTIVES AND CONTENT 

 The workshop was designed by EVAL with the collaboration of the Sustainable Development 

and  Governance  Programme  of  the  ITC‐ILO  in  order  to  certify  a  maximum  of  25  individuals who have the responsibility to manage evaluations of  ILO technical cooperation projects.   

 The workshop objectives and content were the following: 

CertificationProgrammeOverallObjective

To upgrade the quality of evaluation management in the ILO and to expand the pool of qualified  candidates  that  have  volunteered  in  the  past  or  that will  volunteer  in  the future to become Evaluation Managers.  

WorkshopMainObjective

To acquire the technical and practical knowledge, tools and techniques for the core competencies of an evaluation manager in order to effectively manage evaluation of ILO technical cooperation projects. 

    

Page 5: EMCP evaluation report - International Labour · PDF file5 | End‐of‐training report‐ EMCP III‐PARTICIPANTS’ EVALUATION 3.1 Multiple Choice Questions In the following section

5 | E n d ‐ o f ‐ t r a i n i n g   r e p o r t ‐   E M C P   

 

III‐PARTICIPANTS’EVALUATION

 

3.1MultipleChoiceQuestions

In the following section the most significant comments made by participants and the results extracted from the 21 multiple choice questions are presented.  The evaluation criteria are built on a 1 to 5 scale, 1 standing for the minimum satisfaction and 5 for the maximum. The complete and detailed results are presented in a table in the annex section. 

 The overall score given to the training, based on the question 21 “are you satisfied with the 

overall quality of the training activity?” is 98% (4.88).  100% of the participants responded with the rank of 4 or 5 indicating that participants are highly‐satisfied with the workshop.  In the field of  andragogy  (adult‐education),  satisfaction  is  usually  correlated  to  usefulness,  in  that  sense through questions 19 and 20, it is deemed that participants found the workshop useful and that they are planning  to apply  the  leanings  for  the benefits of  their employer,  the  ILO.  (see  table below) 

 Usefulness of the training and global satisfaction 

 Questions and answers Average % % of answers 

between 4 ‐ 5 

Are you satisfied with the overall quality of the activity? 

4.88 98% 100% 

How likely is it that you will apply some of what you have learned? 

5.00 100% 100% 

How like is it that your institutions/employer will benefit from your participation in this activity? 

4.94 99% 100% 

   

  

Training objectives and content: questions 2 to 3. The programme objectives, content and clarity have been evaluated positively; the overall 

average for the two questions covering these aspects is 93 % (4.66). The course objectives and content  were  presented  through  the  preparatory  readings  sent  prior  to  the  workshop  and repeated on the first day through a visual of the core‐competencies for an evaluation manager in  line with  the presentation of  the workshop  timetable.     During  the workshop before each session,  the  facilitators  have  constantly  referred  to  that  visual  in  order  to  link  content with objectives. 

  

Information received before the activity Question  1  asked  if  before  participating  in  the  workshop,  participants  were  given  clear 

information to understand if the course could meet their learning needs.  The score given to this question  is  84%  (4.19).      The  whole  EMCP  has  been  firstly  advertised  through  a  flyer communicated via email in two different waves within the ILO and secondly the course content as well as  the  logistic arrangements have been communicated  through emails  to  the enrolled participants prior to the workshop in Turin. 

 

Page 6: EMCP evaluation report - International Labour · PDF file5 | End‐of‐training report‐ EMCP III‐PARTICIPANTS’ EVALUATION 3.1 Multiple Choice Questions In the following section

6 | E n d ‐ o f ‐ t r a i n i n g   r e p o r t ‐   E M C P   

Information received before the activity  

Questions and answers  Average  %  % of answers between 4 ‐ 5 

Before participating in the activity, were you clear about its objectives, contents and methods?

4.19  84%  81% 

       

  

Learning methods  The participants are satisfied with the  learning methods used to conduct the training.   The 

feedback  given  in  the written  component  of  the  feedback  as well  the  score  of  90 %  (4.50) illustrate  well  the  participants’  satisfaction  on  the  approach  and  learning methods  used  to deliver  the workshop  content.      The mix  of  presentations,  discussions  and  interactive  group works based on case studies reproducing  ILO realities were the main  learnings methods used.   The EVAL’s  facilitator had  the  leadership with  the presentations and Turin’s  facilitator's effort was focused on supervising the interactive group works. 

 The way the activity was delivered 

 

Questions and answers  Average  %  % of answers between 4 ‐ 5 

To what extent were the activity's objectives achieved? 

4.69  94%  100% 

Given the activity's objectives, how appropriate were the activity's contents? 

4.63  93%  100% 

Were the learning methods used generally appropriate? 

4.50  90%  94% 

       

  

Gender Issues The participants were asked to assess if the course adequately integrated gender issues into 

the training with the question “Have gender issues been adequately integrated in the training?” the median score given is 82% (4.13).  Gender issues were addressed in the training as a cross‐cutting  theme however  the  training was not designed  to  address  gender  issues  as  a primary component.   A deeper analysis of results shows that only 75% gave a 4‐5 to that question and that men  have  been  generally more  severe  on  the  gender question.    Compared  to  ITC‐ILO’s benchmark (3.93) the score is however good. The fact that the group of participants was equally gender‐balanced may have contributed to that good result. 

 

Number of participants  16 

Number of women  8 

Ratio of Women  50% 

   

Facilitators’ performance The facilitators’ performance score are excellent, all score given are above 90% for both, 

Craig Russon and Guillaume Mercier. This indicates that participants were highly satisfied with 

Page 7: EMCP evaluation report - International Labour · PDF file5 | End‐of‐training report‐ EMCP III‐PARTICIPANTS’ EVALUATION 3.1 Multiple Choice Questions In the following section

7 | E n d ‐ o f ‐ t r a i n i n g   r e p o r t ‐   E M C P   

their performance. The comments made through the open questions also demonstrate that high level of satisfaction (see comments under the section 3.2 on this report) 

 Craig Russon (EVAL) 

 

Questions and answers  Average  %  % of answers between 4 ‐ 5 

Overall Contribution  4.75 95% 100% Technical Skills  4.88 98% 100% Teaching Skills  4.88 98% 100% 

 Guillaume Mercier (ITC‐ILO) 

 

Questions and answers  Average  %  % of answers between 4 ‐ 5

Overall Contribution  4.81 96% 100% Technical Skills  4.88 98% 100% Teaching Skills  4.63 93% 94% 

  

Workshop environment: the group of participants, the media/material and logistical support. The participants were asked to evaluate the contribution of the other participants and the 

interaction  level among  the group;  in  response to the question “Did  the group of participants with whom you attended the activity contribute to your learning?” the average response is 98% (4.88).  This shows that group's dynamic has played a major role in contributing to the success of this workshop. 

  Regarding  the  materials  used,  the  participants  have  judged  them  as  excellent,  with 

response  to  the  question with  a  90 %  (4.50).   Hard  copies  of  the  ILO  evaluation manager's handbook, the  ILO policy guidelines of RBM evaluation and a manual with all slides and cases studies were  distributed  to  participants.    All  those  above  listed  references  as well  as many others were put together on a USB key and given to the participants in their soft version. 

 Participants  rated  the  activity  at  93  %  (4.63)  for  the  logistical  organisation.  Many 

participants have however expressed dissatisfaction about the tea breaks and the food offered at the cafeteria. Participants gave as well a high score of 96% (4.81) for the secretariat and the work done by Carmelisa Magli from the ITC‐ILO who has dealt with most of the administrative issues in collaboration with Estève Dal Gobbo from HRD.       

Page 8: EMCP evaluation report - International Labour · PDF file5 | End‐of‐training report‐ EMCP III‐PARTICIPANTS’ EVALUATION 3.1 Multiple Choice Questions In the following section

8 | E n d ‐ o f ‐ t r a i n i n g   r e p o r t ‐   E M C P   

3.2Openquestionsresults

In  the  next  section,  the main  comments  and  feedbacks  given  in writing  by  participants through the evaluation questionnaire and the daily feedbacks are presented and regrouped into five clusters of comments:  

1. The aspects of the workshop that were the least useful or that will need to be improved 2. The aspects of the workshop that were the most useful 3. Suggestions  for  the  resource  persons  to  improve  the  overall  quality  of  their 

contributions 4. Other participants’ particular comments and suggestions 5. Daily feedbacks on the workshop content 

 1. The aspects of the workshop that were the least useful or that will need to be improved 

Examples used in the exercises, most were negative or examples to be criticised. I think positive examples would also have a value to add 

General presentation a bit long 

A few small adjustments on exercises and case studies could be improved 

Session on ethics  

Reduce number of words presentations 

The combinations of presentations and exercises  

Case studies selected 

Fish bowl can be re‐designed to involve other participants too 

The module of soft skills: touched on too many subjects and necessarily superficially 

Many papers. It’s better to prioritize electronic options 

Short time for exercises 

Some examples of the exercises were not good  

Time to read the exercise was not enough 

The opening speeches  

Some of case studies  

2. The aspects of the workshop that were the most useful • All except first day presentations that could be shortened to give space to new stuff to 

be learnt • All aspects especially the checklist and exercises • Resource persons were excellent • Training material well designed and appropriate • The participants were also engaged and provided useful insights • Concise and objective • Practical  • Dynamic • Diversity of the group • Plenary exercises  • Balance between lectures and exercises  • Good basis of documentation (handbook, policy, etc) • Content/training manual/handbook • Facilitation • Practice  • Group work • Duration (3 days) • Good selection of participants  • Presentations 

Page 9: EMCP evaluation report - International Labour · PDF file5 | End‐of‐training report‐ EMCP III‐PARTICIPANTS’ EVALUATION 3.1 Multiple Choice Questions In the following section

9 | E n d ‐ o f ‐ t r a i n i n g   r e p o r t ‐   E M C P   

• Handbook and other documents • The practical examples • Content of the workshop • Dynamic presentations by the facilitators  • Networking  • Only ILO participants with knowledge of the house (no other organisations)  • Gender balance of the group • The combination of theory with exercises • The training manual was very useful • The practical exercises • The enthusiasm of the facilitators  • Group works • Most of the examples • Structure of the course • Content  • Material  • Facilitation  

3. Suggestions for the resource persons to improve the overall quality of their contributions • Only the exercises could be improved by choosing better examples/text/documents  • Change some exercise (exercises to include good practices)  • Adjust time needed for certain sessions, i.e. more time for roles, influential evaluations, 

briefing, inception report, reporting (less time for dissemination)  • Honestly both were excellent and most beyond the call of duty (most appreciated) • Craig is an amazing trainer • Both were very good! And complement each other • More time to exercises • Using some techniques to form the groups • Would  be  interesting  to  have  a  five‐day  workshop  (or  a  phase  2)  and  have  a 

comprehensive simulation of an evaluation/maybe visiting a project site  • Allow the ITCILO’s facilitator to contribute more • Don’t change...excellent work from both! • Choose better case studies • Include in other training courses recommendations and suggestions from participants    

4. The participants have also made some other particular comments and  suggestions,  listed here below: 

• More time for exercises – it was a bit rushed • Engage resource persons from the field • All good! • I would have expected more contents on methodological aspects of evaluations: Types 

of  qualitative  and  quantitative  research  techniques  that  are  out  there.  Perhaps something on which types of techniques can apply to specific types of projects. Indeed to  judge  on  the  value  of  an  evaluation  manager,  some  more  basis  on  research techniques would be useful  

• The course content  is very good but should be delivered  in 5 days considering  it   as a certification course 

• Better choice of case study (update them) • Deliver full documents of an evaluation exercise prior the training for reading • Four days would be better to cover the material 

Page 10: EMCP evaluation report - International Labour · PDF file5 | End‐of‐training report‐ EMCP III‐PARTICIPANTS’ EVALUATION 3.1 Multiple Choice Questions In the following section

10 | E n d ‐ o f ‐ t r a i n i n g   r e p o r t ‐   E M C P   

• Some of the exercises should be changed  • Extend the duration of the course to provide more time to learning • Better define target groups (programme officers and technical officials) • It would be great to include recently case studies and good examples ! 

  

Page 11: EMCP evaluation report - International Labour · PDF file5 | End‐of‐training report‐ EMCP III‐PARTICIPANTS’ EVALUATION 3.1 Multiple Choice Questions In the following section

  

3.3.Dailycommentsonthecoursecontent:like,dislikeandproposalsofchange

DAY 1  

LIKE 

   

DISLIKE 

 

CHANGE

Slides and handouts  

Time for questions and discussion 

Well organized 

Detailed information provided on several issues 

Craig! 

Many papers  First two exercises: define them better 

Open and communicative 

Overview 

Interactive, Informative and Timely  

3 days may be not enough to introduce such a large theme 

Modules 1‐3 can be done in a morning session 

Devote more time to roles and responsibilities 

Revise exercise 3 as it is confusing and unclear 

Openness and availability to answer our questions   Too many frameworks that confuses us 

Nothing to change!! 

Participatory approach and engagement of all participants   Morning session a little easy… General concepts are known, need to get into specifics practical challenges 

More practical examples 

It is providing a good introduction to the work and responsibilities of an evaluation manager 

The exercises at the end of each module are very useful 

More time to roles!! Less time to general stuff 

No change needed 

Dynamic presentation and good resources   Not enough time for exercises 

Improve explanations for exercises  

Give more time for exercises  

Keep up with timetable and finish ppt 

Great moderator / trainer  

Open discussions  

Small group size 

All ok  Put material in thumb drive 

Page 12: EMCP evaluation report - International Labour · PDF file5 | End‐of‐training report‐ EMCP III‐PARTICIPANTS’ EVALUATION 3.1 Multiple Choice Questions In the following section

12 | E n d ‐ o f ‐ t r a i n i n g   r e p o r t ‐   E M C P   

Last exercise  Not enough time spent on roles 

Too much time spent on RBM principles that should be common knowledge 

More exercises 

Last exercise was good  Too many words presentations 

Nothing to change  

Plenty of information, Dynamic straight‐forward information and Usefulness 

Nothing!  Less printing 

I would like more examples in explanation of complex topics 

The facilitator was great!! 

The instructor team has no woman and/or field evaluator 

Include more information on evaluation policies and documents  such as Evaluation policy Evaluation strategy, etc. 

Include a warm‐up exercise / introduction  

Book of material  Nothing!  Put all documents in thumb drive 

I really like the enthusiasm of the facilitator. Great job!    I won’t change anything  

Clear presentation materials, Clear presentation, Quality Discussion 

Useful activities  

Exercise of module 4, Atmosphere, Presentations (structure, timing, pace)  

The process of EVAL: RBM, HRBA, Gender: Practical knowledge through group work 

Facilitation, Flexibility  Practical exercise, Group work  I really liked the simple approach to a complex topic  Presence of EVAL’s Director 

Page 13: EMCP evaluation report - International Labour · PDF file5 | End‐of‐training report‐ EMCP III‐PARTICIPANTS’ EVALUATION 3.1 Multiple Choice Questions In the following section

13 | E n d ‐ o f ‐ t r a i n i n g   r e p o r t ‐   E M C P   

DAY 2 LIKE 

   

DISLIKE CHANGE

Exercises  

Would be important to have more time for the groups exercises 

Provide a sample of inception report 

Bring in an external collaborator (evaluator) to provide insights 

The exercises are great  Exercises going beyond the time 

Exercises need to leave more time devoted …shorter presentations? Or rather longer session! 

The  written material is very useful   Wordy presentations  The practical exercise on TORS can be improved. Not sufficient time to fully take all in 

The discussion on the time frame (module 7) too long. It is evident that it will depend on specific situations (case by case) 

Excellent facilitation  Coffee breaks: bad service.   Service at coffee breaks  

Useful information provided  Time management  Give more time to exercises and de‐briefing 

Great exercise the fish bowl .. really enjoy it    More time for exercises 

Role play  Fishbowl: making it more participative so that all participants can ask questions and join 

Good mix of lectures and exercising   The content of today’s subject and exercises should be delivered in 2 days 

Again, thanks for the enthusiasm! Great job!  Review the time used for the ppt and the exercises more realistically. You may need more than 3 days. It is important that participants understand the instructions and the purposes of the exercises 

Resource management working on plans, budgets   Better selection of case studies  

Presentations  We went late for the coffee breaks and there was no food anymore 

Exercises : different methodologies  

Comprehensive material  

Give more time for exercises  

Provide examples of good practices (TORs, etc..)  

The workshop has been dynamic and the time is passing fast  

I don’t like some answers because they don’t consider field reality 

I like the exercises  Concert better the examples during the exercises  

I really liked the stakeholder engagement exercise 

Time for discussions, questions, experience sharing 

Page 14: EMCP evaluation report - International Labour · PDF file5 | End‐of‐training report‐ EMCP III‐PARTICIPANTS’ EVALUATION 3.1 Multiple Choice Questions In the following section

14 | E n d ‐ o f ‐ t r a i n i n g   r e p o r t ‐   E M C P   

DAY 3 LIKE 

   

DISLIKE CHANGE

   

The workshop as a whole  You could had used better examples   

Exercises should include positive examples 

Real report should/could b used if text was “frozen up” by groups  

Plenary/collective  exercise to reach 

Conclusions : examples on the ethics guidelines  

Little time for the exercises  Maybe consider an extra day to give time for more in depth exercises. I felt that particularly we did not have sufficient time for the TORs exercise 

Nothing  to say but a very successful programme 

Liked the three days  

Facilitation : TOR 

Nothing  More collective/Plenary exercises 

Improved time management  

Birthday celebration of Guillaume 

Friendly facilitators 

Wordy slides   Would be great to have a one‐stop‐shop at EVAL’s website with all guidance documents and templates 

Good environment and group work 

Good “match” between resource persons 

That it is over  Some of the examples were not so good but group works were excellent 

Good content 

Excellent facilitation 

Session on ethics: not clear to me the purpose of this module 

Content very good but need two days for today’s content and more exercises  

I really liked the whole course! It was very well constructed and fantastically delivered. Congratulations and thank you for your dedication and professionalism (Andrés) 

Sometimes the discussions went into unrelated topics  

Time distribution into 5 days (realistic assignment of time for presentations, participation, exercises 

Improve exercises tools with comments from participants, provide info in pendrive at the end to add relevant additional info 

Dynamic presentations, documentations and exercises  Maybe make the programme a bit longer in order to better assimilate the content  

Time management 

Number of participants 

Send case stud before course starts or the day before as “homework” 

Distribute good examples 

It was a very useful training course! Great work   

Excellent group!  

Excellent teachers! 

Keep discussion more focused 

Change examples for exercise (skip the Tajikistan example) 

Guillaume’s Birthday  

Time Management 

Ethics module 

Explain purpose of each module  

Page 15: EMCP evaluation report - International Labour · PDF file5 | End‐of‐training report‐ EMCP III‐PARTICIPANTS’ EVALUATION 3.1 Multiple Choice Questions In the following section

15 | E n d ‐ o f ‐ t r a i n i n g   r e p o r t ‐   E M C P   

  The examples – TOR, Report , Inception reports should not be very good examples. An example that has both good/good aspects. Use examples of evaluations managed by some colleagues who are taking part in the workshop 

Better ways of forming groups that will facilitate one person to work in groups with different people 

Time: perhaps 4 days would have been better 

  Case study example  

  

Page 16: EMCP evaluation report - International Labour · PDF file5 | End‐of‐training report‐ EMCP III‐PARTICIPANTS’ EVALUATION 3.1 Multiple Choice Questions In the following section

  

    

 

IV‐CONCLUSIONFROMPARTICIPANTS’EVALUATION

 In  general  the workshop has been  highly  evaluated.   As presented  in  the  annex  section,  the results of the evaluation show that this workshop received higher score on all assessed criteria compared to the ITC‐ILO’s benchmark levels. 

It  appears  that  one  of  the  critical  success  factors  of  the  workshop  has  been  the  group  of participants itself.  The selection process and the establishment of eligibility criteria by EVAL for participants to qualify for the certification programme have resulted in the selection of  a group composed of 16 motivated, interested and high‐level ILO’s officials. 

In addition to that, as many mentioned, the fact that the workshop was delivered entirely by ILO staff and for ILO staff that it was an “in‐house” workshop has contributed to create an open and positive  learning  environment.    This  has  resulted  in  a  workshop  evaluated  as  useful  for participants individually as well as for their employers, the ILO. 

The use of mixed learning approaches has been also mentioned as an important success factor.  Both facilitators have experience  in the two main technical fields of the workshop; the field of evaluation  and  the  field  of  teaching.    The  combination  and  complementarity  have  been underlined as a favourable condition in the delivery of the workshop. 

However,  it was noted that the facilitators should try to manage the time better.   Some group works could not have been realised fully because of the time constraint.  Time management has been somehow, a major issue in the delivery of the workshop. 

The  structure  and  content  of  the workshop  organized  around  the  core‐competencies  for  an evaluation manager seems in general an excellent approach.  The need for small improvements has  already  been  identified  by  both  the  facilitators  and  participants  which  are  going  to  be addressed in the next edition of the course in particular at the level of some case studies.  It was also suggested  to adopt a carry‐through case study of an evaluation to cover the modules  for the area of core‐competencies on technical and professional skills. 

The pre‐training phase could also be improved. Information sent prior to the commencement of the  face‐to‐face  training course  could be enhanced and  shared with participants at an earlier stage from the workshop, enabling participants to better prepare themselves.   

 

Page 17: EMCP evaluation report - International Labour · PDF file5 | End‐of‐training report‐ EMCP III‐PARTICIPANTS’ EVALUATION 3.1 Multiple Choice Questions In the following section

17 | E n d ‐ o f ‐ t r a i n i n g   r e p o r t ‐   E M C P   

V‐RECOMMENDATIONSFORAFUTUREEDITION

Based on this first edition and with regards with the workshop, it is recommended: 

To  improve  the group work by preparing a carry‐though case study  (based on  the WEDGE  Project)  that  can  be  used  to  cover  the  areas  of  core‐competencies  on technical and professional skills. 

To modify the fish bowl exercise, the one used around the UNEG ethical code and to provide a ‘younger” and better evaluation report as a sample for analysis. 

To  incorporate  success  stories  about  ILO  Evaluations  management  into  the workshop as examples of good practices and as concrete illustrations to support the presentation of the theoretical aspects 

To  add  a pre‐training  survey  and  to  send  the  training material  at  least one week before the trainings for participants to arrive better prepared To continue using a strict selection process of participants, this is critical in keeping high, the certification programme credibility.  In that sense the group size should be maintained at 20 maximum and  in order to enrol a minimum position’s grade and experience should be officially established.  

The workshop has been also an opportunity to  look at EVAL’s policies and procedures from an “outsider’s” perspective.    In that sense, few proposals of change or  improvements were made during the workshop. It is therefore recommended: 

To adopt a responsibility matrix (or a workflow diagram) in order to clarify who does what  in the evaluation process.   From the appointment of the evaluation manager to the dissemination of the evaluation. 

If possible, to clarify how evaluation managers are appointed.  This process appears highly random and political, in other words it seems to be a grey area. 

For EVAL, to have a reflection about extending the responsibility of the evaluation manager to the dissemination phase of the process 

For EVAL, to reflect about recruiting consultant (evaluator) not only based on their qualifications  (CVs)  but  also  incorporating  other  selection  criteria  that  could  be presented  in a complete technical proposal (equivalent to the inception report) for important  evaluation  assignments  contracted  to  firm.    (Qualification  of  the  firm, understanding  of  the  context  and  TORs,  quality  and  relevance  of  the  proposed methodology, qualification and experience of the key staff, work plan, etc.)  

To coordinate with PARDEV in order to evaluate the possibility to merge the annual project progress report with the annual evaluation report. 

 

Page 18: EMCP evaluation report - International Labour · PDF file5 | End‐of‐training report‐ EMCP III‐PARTICIPANTS’ EVALUATION 3.1 Multiple Choice Questions In the following section

18 | E n d ‐ o f ‐ t r a i n i n g   r e p o r t ‐   E M C P   

   

      

ANNEXES

Page 19: EMCP evaluation report - International Labour · PDF file5 | End‐of‐training report‐ EMCP III‐PARTICIPANTS’ EVALUATION 3.1 Multiple Choice Questions In the following section

  

AnnexI–Evaluationmainresults

 

Page 20: EMCP evaluation report - International Labour · PDF file5 | End‐of‐training report‐ EMCP III‐PARTICIPANTS’ EVALUATION 3.1 Multiple Choice Questions In the following section

 

 

AnnexII‐Summaryofparticipants’evaluationresults

A906415 ‐ Evaluation manager certification programme 

Language: EN 

Date: 01/07/2013 to 03/07/2013 

Venue: Turin Centre 

Number of Participants: 16 

Returned Questionnaires (number and percentage): 17 ; 106.2% 

2012 

Questions  aver.  % 4 & 5  ref 

Before participating in this activity, did you have enough information to understand whether it could meet your learning needs?  4.19  81%  3.68 

To what extent were the activity's objectives achieved?   4.69  100%  4.18 

Given the activity's objectives, how appropriate were the activity's contents?  4.63  100%  4.27 

Was the balance between theory and practice appropriate?  4.19  88%    

Have gender issues been adequately integrated in the training?   4.13  75%  3.93 

Were the learning methods used generally appropriate?   4.50  94%  4.29 

How would you judge the resource persons' overall contribution? 4.81 100% 4.43

Craig Russon  ‐ RP ‐ Overall quality  4.75  100%    

RP ‐ Technical skills  4.88  100%    

RP ‐ Teaching skills  4.88  100%    

Guillaume Mercier  ‐ RP ‐ Overall quality 4.81 100%

RP ‐ Technical skills  4.88  100%    

RP ‐ Teaching skills  4.63  94%    

Did the group of participants with whom you attended the activity contribute to your learning?  4.88  100%  4.32 

Was the atmosphere within the group pleasant?  4.69  94%    

Were the materials used during the activity appropriate?   4.50  94%  4.31 

Would you say that the logistics of the activity were well organized?  4.63  94%  4.38 

Would you say that the administrative support/secretariat was efficient?  4.81  100%  4.47 

 How likely is it that you will apply some of what you have learned?  5.00  100%  4.46 

How likely is it that your institution/employer will benefit from your participation in the activity?  4.94  100%  4.46 

Are you satisfied with the overall quality of the activity?  4.88  100%  4.43 

Average 4.63 95% 4.28

Page 21: EMCP evaluation report - International Labour · PDF file5 | End‐of‐training report‐ EMCP III‐PARTICIPANTS’ EVALUATION 3.1 Multiple Choice Questions In the following section

 

 Demographic information 

Sex  freq  percent. 

Female  8  50% 

Male  8  50% 

 

   

Page 22: EMCP evaluation report - International Labour · PDF file5 | End‐of‐training report‐ EMCP III‐PARTICIPANTS’ EVALUATION 3.1 Multiple Choice Questions In the following section

 

AnnexIII‐ComparisonwithITC‐ILO’s2012benchmark

 

   

 

Page 23: EMCP evaluation report - International Labour · PDF file5 | End‐of‐training report‐ EMCP III‐PARTICIPANTS’ EVALUATION 3.1 Multiple Choice Questions In the following section

 

 

AnnexIV–ListofParticipants

SWITZERLAND**

Full Name:

Mr. Sergio Andrés IRIARTE QUEZADA 1

Institution: ILO HQ Geneva Position: Knowledge Management Officer Address: Geneva ; Tel. /

Mobile: +4122 799 7849

  Fax:   Web:

  E-mail: [email protected]

BRAZIL

Full Name:

Mr. Natanael PEREIRA LOPES NETO 2

Institution: ILO CO-Brasilia Position: Senior Programme Assistant Address: Brasilia ; BRAZILTel. /

Mobile: + 5561 2106 4611

  Fax: + 5561 3322 4352

  Web:

  E-mail: [email protected]

A906415

Evaluation manager certification programme 01/07/2013 – 03/07/2013

Page 24: EMCP evaluation report - International Labour · PDF file5 | End‐of‐training report‐ EMCP III‐PARTICIPANTS’ EVALUATION 3.1 Multiple Choice Questions In the following section

 

EGYPT

Full Name:

Ms. Nashwa BELAL 3

Institution: ILO DWT/CO-Cairo Position: Senior Programme Officer Address: Cairo; EGYPTTel. /

Mobile: +202 2 7350123 ext 030

  Fax: +202 2 7360889

  Web:

  E-mail: [email protected], [email protected]

**duty station

EGYPT

Full Name:

Mr. Luca FEDI 4

Institution: ILO DWT/CO- Cairo Position: Senior Programme and Operations Officer Address: Cairo ; EGYPTTel. /

Mobile: +20 227 350 123 ext 000

  Fax:   Web:

  

E-mail: [email protected]

ETHIOPIA

Full Name:

Ms. Makda Getachew ABEBE 5

Institution: ILO RO Addis Ababa Position: Programme Officer, Regional Programming Unit Address: Addis Ababa ; ETHIOPIATel. /

Mobile: +251 11 544 4063

  Fax: +251 11 544 5573

  Web:

  E-mail: [email protected]

Page 25: EMCP evaluation report - International Labour · PDF file5 | End‐of‐training report‐ EMCP III‐PARTICIPANTS’ EVALUATION 3.1 Multiple Choice Questions In the following section

 

HUNGARY

Full Name:

Ms. Maria BORSOS 6

Institution: ILO DWT/CO-Budapest Position: Programme Officer Address: Budapest; HUNGARYTel. /

Mobile: +36 1 30149 07

  Fax: +36 1 353 3683

  Web: www.ilo.org/budapest

  E-mail: [email protected]

INDIA

Full Name:

Mr. Thomas KRING 7

Institution: ILO DWT/CO-New Delhi Position: CTA, Manager of the subregional project ”Way out of Informality\” Address: New Delhi ; INDIATel. /

Mobile: +91 8527896394

  Fax: +91 1124602111

  Web:

  E-mail: [email protected]

HUNGARY

Full Name:

Ms. Eszter SZABO 8

Institution: ILO DWT/CO-Budapest Position: Senior Programme Assistant Address: Budapest ; HUNGARYTel. /

Mobile: +36 1 3014915

  Fax: +36 1 353 3683

  Web: www.ilo.org/budapest

  E-mail: [email protected]

Page 26: EMCP evaluation report - International Labour · PDF file5 | End‐of‐training report‐ EMCP III‐PARTICIPANTS’ EVALUATION 3.1 Multiple Choice Questions In the following section

 

CHILE

Full Name:

Mr. Andrés YUREN 9

Institution: ILO DWT/CO-Santiago Position: Senior Specialist on Employers Activities Address: Santiago ; CHILETel. /

Mobile: +562 2580 5500

  Fax: +562 2580 5580

  Web:

  E-mail: [email protected]

PERU

Full Name:

Ms. Cybele BURGA SOLIS 10

Institution: ILO RO Lima Position: Regional Monitoring and Evaluation Officer Address: PO Box: 14-124; Lima; Peru - PERUTel. /

Mobile: +511 6150373

  Fax: +511 6150400

  Web:

  E-mail: [email protected]

SOUTH AFRICA

Full Name:

Ms. Rose KARIKARI ANANG 11

Institution: ILO DWT/CO-Pretoria Position: Senior Specialist, Employers Activities Address: Pretoria ; SOUTH AFRICATel. /

Mobile: +271 28188045

  Fax: +271 28188087

  Web:

  E-mail: [email protected]

Page 27: EMCP evaluation report - International Labour · PDF file5 | End‐of‐training report‐ EMCP III‐PARTICIPANTS’ EVALUATION 3.1 Multiple Choice Questions In the following section

 

SWITZERLAND

Full Name:

Ms. Valentina FORASTIERI 12

Institution: ILO HQ Geneva Position: Senior Specialist on Health Promotion and Training/Coordinator

Health Promotion and Well-Being Training Cluster Address: Geneva ; SWITZERLANDTel. /

Mobile: +4122 7997167

  Fax:   Web: www.ilo.org/safework

  E-mail: [email protected]

SWITZERLAND

Full Name:

Ms. Maria Beatriz MELLO DA CUNHA 13

Institution: ILO HQ Geneva Position: Sectoral and Programme Issues Specialist Address: Geneva ; SWITZERLANDTel. /

Mobile: +4122 799 6562

  Fax:   Web:

  E-mail: [email protected]

SWITZERLAND

Full Name:

Mr. Oktavianto Akhirsyah PASARIBU 14

Institution: ILO HQ Geneva Position: Programme Analyst Address: Geneva ; SWITZERLANDTel. /

Mobile: +4122 799 7989

  Fax: +4122 799 8515

  Web:

  E-mail: [email protected]

Page 28: EMCP evaluation report - International Labour · PDF file5 | End‐of‐training report‐ EMCP III‐PARTICIPANTS’ EVALUATION 3.1 Multiple Choice Questions In the following section

 

THAILAND

Full Name:

Mr. Matthieu COGNAC 15

Institution: ILO RO-Bangkok Position: Youth Employment Specialist Address: Bangkok ; THAILANDTel. /

Mobile: +66 22881797

  Fax: +66

  Web:

  E-mail: [email protected]

THAILAND

Full Name:

Mr. Richard HOWARD 16

Institution: ILO DWT/CO-Bangkok Position: HIV and AIDS Specialist, Asia and the Pacific Address: Bangkok ; THAILANDTel. /

Mobile: +662 288 1765

  Fax: +662 288 3043

  Web:

  E-mail: [email protected]

Page 29: EMCP evaluation report - International Labour · PDF file5 | End‐of‐training report‐ EMCP III‐PARTICIPANTS’ EVALUATION 3.1 Multiple Choice Questions In the following section

 

SWITZERLAND **

 

Full Name:

Mr. Craig RUSSON

Institution: ILO HQ Geneva Position: Senior Evaluation Officer, EVAL Address: Geneva, SwitzerlandTel. /

Mobile: +41 22 799 7310

  Fax: www.ilo.org   Web:

  E-mail: [email protected]

ITALY

Full Name:

Mr. Guillaume MERCIER

Institution: International Training Centre of the ILO Position: Senior Programme OfficerAddress: Viale Maestri del Lavoro, 10, 10127 Turin, Italy Tel. /

Mobile: +39 011 693 6405

  Fax: +39011 693 6351

  Web: www.itcilo.org/sdg

  E-mail: [email protected]

ITALY

Full Name:

Ms. Carmelisa MAGLI

Institution: International Training Centre of the ILO Position: Programme SecretaryAddress: Viale Maestri del Lavoro, 10, 10127, Turin, Italy Tel. /

Mobile: +39011 693 6532

  Fax: +39011 693 6351

  Web: www.itcilo.org/sdg

  E-mail: [email protected]

** duty station

  

Res

ourc

e P

erso

ns

Page 30: EMCP evaluation report - International Labour · PDF file5 | End‐of‐training report‐ EMCP III‐PARTICIPANTS’ EVALUATION 3.1 Multiple Choice Questions In the following section

 

AnnexIVTimetable

    

Page 31: EMCP evaluation report - International Labour · PDF file5 | End‐of‐training report‐ EMCP III‐PARTICIPANTS’ EVALUATION 3.1 Multiple Choice Questions In the following section

 

AnnexV–Evaluationquestionnaire

 

Page 32: EMCP evaluation report - International Labour · PDF file5 | End‐of‐training report‐ EMCP III‐PARTICIPANTS’ EVALUATION 3.1 Multiple Choice Questions In the following section

Evaluation manager certification programme A906415

Turin Centre Jul 01, 2013 - Jul 03, 2013

EVALUATION FORM

Please complete the questionnaire below. This will help us to improve our activities. Please be totally frank, for we are interested in your opinion, whether it is positive or negative, and we shall take it into account in planning future activities.

This questionnaire is anonymous.

Please give only one answer to each question.

Sex

Male Female

Type of organization

Please indicate only one response. If you are involved in more than one type of organization, please select the one you are representing during this activity.

Trade Union organization

Ministries of Labour

Employer organization

Government/public institution

Intergovernmental organization

Non governmental organization

Private enterprise

Training/academic institution

International Labour Organization

UN organization

Currently Unemployed

Other

1

Page 33: EMCP evaluation report - International Labour · PDF file5 | End‐of‐training report‐ EMCP III‐PARTICIPANTS’ EVALUATION 3.1 Multiple Choice Questions In the following section

Questions on the training activity

Please give each aspect set out below a mark from 1 to 5, with 1 being the minimum and 5 the maximum. On this scale, the average is 3. If you think that a question does not apply to you, or that you do not have the information needed to answer it, please leave it blank.

1Before participating in this activity, did you have enough information to understand whether it could meet your learning needs?1=not at all; 2=not much; 3=to some extent; 4=yes; 5=yes, in detail

2 To what extent were the activity's objectives achieved? 1=not at all; 2=not really; 3=partly; 4=mostly; 5=fully

3 Given the activity's objectives, how appropriate were the activity's contents?1=totally inappropriate; 2=not appropriate; 3=partially appropriate; 4=appropriate; 5=very appropriate

4 Have gender issues been adequately integrated in the training? 1=not at all; 2=not really; 3=partly; 4=mostly; 5=fully

5 Were the learning methods used generally appropriate? 1=totally inappropriate; 2=not appropriate; 3=partially appropriate; 4=appropriate; 5=very appropriate

6 How would you judge the resource persons' overall contribution?1=truly disappointing; 2=rather unsatisfactory; 3=satisfactory; 4=good; 5=excellent

7Did the group of participants with whom you attended the activity contribute to your learning?1=not at all; 2=not really; 3=to some extent; 4=yes; 5=yes, very much so

8 Were the materials used during the activity appropriate? 1=not at all; 2=not really; 3=to some extent; 4=yes; 5=yes, very much so

9 Would you say that the logistics of the activity were well organized?1=not at all; 2=not really; 3=to some extent; 4=yes; 5=absolutely

10 Would you say that the administrative support/secretariat was efficient?1=not at all; 2=not really; 3=to some extent; 4=yes; 5=absolutely

11 How likely is it that you will apply some of what you have learned?1=very unlikely; 2=unlikely; 3=not sure; 4=likely; 5=certain

12How likely is it that your institution/employer will benefit from your participation in the activity?1=very unlikely; 2=unlikely; 3=not sure; 4=likely; 5=certain

13 Are you satisfied with the overall quality of the activity?1=not at all; 2=not really; 3=to some extent; 4=yes; 5=absolutely

14 How would you suggest the resource persons improve the overall quality of their contribution? (You may name someone in particular if you wish.)

15 Do you have any observations or suggestions?

2

1

1

1

1

1

1

1

1

1

1

1

1

1

2

2

2

2

2

2

2

2

2

2

2

2

2

3

3

3

3

3

3

3

3

3

3

3

3

3

4

4

4

4

4

4

4

4

4

4

4

4

4

5

5

5

5

5

5

5

5

5

5

5

5

5

Page 34: EMCP evaluation report - International Labour · PDF file5 | End‐of‐training report‐ EMCP III‐PARTICIPANTS’ EVALUATION 3.1 Multiple Choice Questions In the following section

Questions on the services provided by the Centre

Please indicate your level of satisfaction with the services provided by the Centre by giving each aspect a score from 1 (very poor) to 5 (excellent). For services you did not use, please leave it blank.

16 Reception - Courtesy and friendliness

17 Reception - Problem solving attitude

18 Reception - Assistance during check-in and check-out

19 Reception - Comments on this service:

20 Accommodation and Room - The comfort in your room

21 Accommodation and Room - The cleaning of your room

22 Accommodation and Room - The standard equipment in room and bathroom

23 Accommodation and Room - Laundry/ironing service

24 Accommodation and Room - Comments on this service:

25 Catering - Coffee lounge/canteen staff

26 Catering - The food for breakfast

27 Catering - The food for lunch

28 Catering - The food for supper

29 Catering - The food at weekends

30 Catering - The variety of food

31 Catering - Food and drinks provided for class coffee breaks

32 Catering - The coffee lounge

33 Catering - Comments on this service:

34 Training Room - The comfort int he training room

3

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

2

2

2

2

2

2

2

2

2

2

2

2

2

2

2

2

3

3

3

3

3

3

3

3

3

3

3

3

3

3

3

3

4

4

4

4

4

4

4

4

4

4

4

4

4

4

4

4

5

5

5

5

5

5

5

5

5

5

5

5

5

5

5

5

Page 35: EMCP evaluation report - International Labour · PDF file5 | End‐of‐training report‐ EMCP III‐PARTICIPANTS’ EVALUATION 3.1 Multiple Choice Questions In the following section

35 Training Room - The standard equipment in training and conference rooms

36Training Room - The cleanliness and appearance of training and conference rooms

37Other residential services - Organized leisure-time social activities (variety and number)

38 Other residential services - The medical service

39Other residential services - The Centre's travel unit (official travel arrangements)

40Other residential services - The "Jet Viaggi 3000" travel agency (private travel arrangements)

41 Other residential services - Comments on these services:

4

1

1

1

1

1

1

2

2

2

2

2

2

3

3

3

3

3

3

4

4

4

4

4

4

5

5

5

5

5

5


Recommended