dimensione e della valutazione risultati, analisi e miglioramento università di bologna
TRANSCRIPT
Dimensione “E” della ValutazioneDimensione “E” della Valutazione
RISULTATI, ANALISI E RISULTATI, ANALISI E MIGLIORAMENTOMIGLIORAMENTO
Università di Bologna
Università di Bologna 2
Dove ci troviamo…Dove ci troviamo…
Inteso come bagaglio di conoscenze, abilità ed esperienze possedute
dallo Studente all’inizio del processo formativo
Inteso come bagaglio di conoscenze, abilità ed
esperienze possedute dal Laureato
studente laureato
Par
ti in
tere
ssat
e
Par
ti in
tere
ssat
e
Esigenze e
Obiettivi
Sistema organizzativo
Processo formativo
Risultati, Analisi e
Miglioramento
Risorse
esigenze
soddisfazione
Università di Bologna 3
Articolazione della Articolazione della DimensioneDimensione
RISULTATIRISULTATI
ANALISI EANALISI EMIGLIORAMENTOMIGLIORAMENTO
RISULTATI, ANALISIRISULTATI, ANALISIE MIGLIORAMENTOE MIGLIORAMENTO
Università di Bologna 4
Elemento E.1Elemento E.1RisultatiRisultati
Il CdS deve individuare le informazioni e i dati, definire e attuare le modalità di raccolta e di elaborazione e presentare i risultati relativi almeno a:
- capacità di attrazione del CdS nei confronti degli studenti e delle altre PI;
- efficacia interna della formazione (monitoraggio della carriera degli studenti; opinione degli studenti sugli insegnamenti e sulle altre attività formative);
- efficacia dei servizi di contesto;- efficacia esterna della formazione (monitoraggio del
collocamento dei laureati sul mercato del lavoro; opinione dei laureati sulla formazione ricevuta e sul CdS nel suo complesso; opinione dei datori di lavoro sulla preparazione dei laureati);
al fine di poter valutare la corrispondenza dei propri risultati con gli obiettivi stabiliti.
Università di Bologna 5
CONOSCERSI E VALUTARSICONOSCERSI E VALUTARSI
?!
Università di Bologna 6
Risultati e ControlloRisultati e Controllo
L’accertamento e misura dei Risultati come
elemento di Controllo del Sistema di
Conduzione del CdSPLANPLAN
DODO
CHECKCHECK
ACTACT
Università di Bologna 7
Obiettivi del
processo
Risultati
Se coincidono va tutto bene, altrimenti occorre indagare sulle
cause dello scostamento e decidere circa le modalità di
intervento
miglioramento
riprogettazione
Confronto con gli obiettiviConfronto con gli obiettivi
Università di Bologna 8
CONFRONTARSI CON GLI ALTRICONFRONTARSI CON GLI ALTRI
!!!
Università di Bologna 9
Un risultatoUn risultato
Un Risultato dovrebbe essere rappresentato da un valorevalore derivato da una valutazione o misura quantitativa o valutazione o misura quantitativa o
qualitativaqualitativa (Una determinata quantità di laureati, di risorse per utente, etc.)
Traguardo che il CdS ha Traguardo che il CdS ha raggiunto attraverso le raggiunto attraverso le
proprie attività e i propri proprie attività e i propri processiprocessi
Università di Bologna 10
L’accertamento dei risultatiL’accertamento dei risultati• Chi:Chi:
• Cosa:Cosa:
• Perché: Perché:
• Quando: Quando:
• Come:Come:
Le funzioni di responsabilità e coordinamento del CdS
Capacità di attrazioneEfficacia interna ed esterna del CdS
Verificare l’efficacia del CdS nel suo complesso
Continuativamente, con periodicità di analisi coerente con la dinamica di variazione dei fattori di controllo
Tecniche di controllo qualitative e quantitative (mediante gli “indicatori”)
Università di Bologna 11
Un indicatore o indiceUn indicatore o indicePARAMETRO DESCRITTIVO DI UN SISTEMAPARAMETRO DESCRITTIVO DI UN SISTEMA
SOLITAMENTE COSTITUITO DA UN DATO NUMERICO VARIABILEDATO NUMERICO VARIABILE IN MODO CONTINUO O CONTINUO O DISCRETODISCRETO CHE CONSENTE DI TRARRE DELLE INDICAZIONI DI TENDENZA DI UN
FENOMENO
La misura di un dato è esprimibile in termini assoluti o relativiassoluti o relativi, sia rilevandola direttamente da misure su processi, sia ottenendola come elaborazione di queste
attraverso algoritmi e procedimenti prestabiliti
percentuale di studenti provenienti da altro CdS
percentuale di studenti che hanno conseguito il titolo con tempi più lunghi della media
indice di soddisfazione delle PI
numero di studenti iscritti
% di studenti che ha acquisito da 1 a 60 crediti
Università di Bologna 12
Un indicatore o indiceUn indicatore o indicePARAMETRO DESCRITTIVO DI UN SISTEMAPARAMETRO DESCRITTIVO DI UN SISTEMA
SOLITAMENTE COSTITUITO DA UN DATO NUMERICO VARIABILEDATO NUMERICO VARIABILE IN MODO CONTINUO O CONTINUO O DISCRETODISCRETO CHE CONSENTE DI TRARRE DELLE INDICAZIONI DI TENDENZA DI UN
FENOMENO
La misura di un dato è esprimibile in termini assoluti o relativiassoluti o relativi, sia rilevandola direttamente da misure su processi, sia ottenendola come elaborazione di queste
attraverso algoritmi e procedimenti prestabiliti
percentuale di studenti provenienti da altro CdS
percentuale di studenti che hanno conseguito il titolo con tempi più lunghi della media
indice di soddisfazione delle PI
numero di studenti iscritti
% di studenti che ha acquisito da 1 a 60 crediti
NON È SIGNIFICATIVO TANTO IL VALORE ASSOLUTO DI UN INDICATORE,
QUANTO LA SUA VARIAZIONE RELATIVA
(NEL TEMPO O IN FUNZIONE DI ALTRE GRANDEZZE O VARIABILI
INDIPENDENTI)
Università di Bologna 13
Rappresentazioni di indicatori Rappresentazioni di indicatori e indici e indici
Andamento soddisfazione studenti
6454
64
43
68 61
79
25
54
Utilità dei Compitini
Aule
Mat. Didattico
Utilità dei Ricevimenti
OrarioLaboratori
Aderenza lezioni alprogramma
Utilità delleEsercitazioni
Disponibilità docente
0
25
50
75
100
0 25 50 75 100
Importanza
Soddisfazione
Domanda 6Motivi di insoddisfazione servizio di sportello
0
2
4
6
8
10
12
14
16
file lunghe/pocopersonale
orario di aperturaristretto
chiusura del sabato altri
Diagrammi a tortaIstogrammiDiagrammi polariDiagrammi cartesiani...
Visualizza qualche esempio
Università di Bologna 14
Esempi di risultatiEsempi di risultati(CdS in Lettere)(CdS in Lettere)
• L’80% degli studenti ha superato gli esami e conseguito il numero di crediti programmato per l’attuale fase del percorso formativo nelle sessioni di febbraio e giugno-luglio. Di questi studenti il 20% ha conseguito i crediti con una valutazione compresa fra il 30 e lode e i 28 trentesimi; il 45% ha conseguito i crediti con una valutazione compresa fra i 27 e i 26 trentesimi, il 25% ha conseguito i crediti con una valutazione compresa fra i 25 e i 23 trentesimi e il 10% ha conseguito i crediti con una valutazione compresa fra i 22 e i 18 trentesimi. Il livello di apprendimento raggiunto dagli studenti è dunque mediamente discreto.
Università di Bologna 15
• I risultati effettivi inerenti il grado di attrazione del CdS su un target analogo o simile a quello delineato sarà valutabile esclusivamente con la chiusura delle iscrizioni del prossimo A.A., cioè all’inizio del secondo anno di vita del CdS stesso. I dati relativi all’andamento delle iscrizioni presso i licei e gli istituti di istruzione secondaria superiore, che rappresentano il bacino di utenza privilegiato del CdS in Lettere, nonché i risultati dell’attività di orientamento presso le scuole, delle azioni di sensibilizzazione dell’opinione pubblica attraverso i mezzi di comunicazione di massa, legittimano un’aspettativa di implementazione pari al 10-15%.
Esempi di risultatiEsempi di risultati(CdS in Lettere)(CdS in Lettere)
Università di Bologna 16
• Il tasso di successo e i tempi di percorrenza degli studenti saranno valutabili esclusivamente durante il successivo anno di corso, così come la congruenza tra la collocazione nel mondo del lavoro e la formazione ricevuta, i tempi di collocazione nel mondo del lavoro, l’opinione dei laureati sulla formazione ricevuta e l’opinione dei datori di lavoro sulla preparazione dei laureati saranno valutabili esclusivamente ad un anno o due dalla conclusione del primo ciclo triennale.
• La situazione attuale lascia prevedere un tasso di successo vicino al 70-80% del totale degli iscritti e il sostanziale rispetto dei tempi di percorrenza previsti.
Esempi di risultatiEsempi di risultati(CdS in Lettere)(CdS in Lettere)
Università di Bologna 17
RisultatiRisultatiE1. RISULTATI
Il CdS deve individuare le informazioni e i dati, definire e attuare le modalità di raccolta e di elaborazione e presentare i risultati relativi almeno a:
• capacità di attrazione del CdS nei confronti degli studenti e delle altre PI;
• efficacia interna della formazione (monitoraggio della carriera degli studenti; opinione degli studenti sugli insegnamenti e sulle altre attività formative);
• efficacia dei servizi di contesto;• efficacia esterna della
formazione (monitoraggio del collocamento dei laureati sul mercato del lavoro; opinione dei laureati sulla formazione ricevuta e sul CdS nel suo complesso; opinione dei datori di lavoro sulla preparazione dei laureati);
al fine di poter valutare la corrispondenza dei propri risultati con gli obiettivi stabiliti.
E1.1 Quali sono le informazioni e i dati individuati, le modalità di raccolta e di elaborazione e i risultati inerenti la capacità di attrazione del CdS?
a) Informazioni e dati, modalità di raccolta ed elaborazione e risultati relativa a:
- numero e tipologia di immatricolati e iscritti (e1)- capacità di attrazione nei confronti delle altre PI (e2)
E1.2 Quali sono le informazioni e i dati individuati, le modalità di raccolta e di elaborazione e i risultati inerenti l’efficacia interna del CdS?
a) Informazioni e dati, modalità di raccolta ed elaborazione e risultati relativi a:
- avanzamento nella carriera degli studenti (e1)- livelli di apprendimento raggiunti (e3)- tassi di successo e tempi di percorrenza degli studenti (e1)- opinione degli studenti su insegnamenti e altre attività
formative (e4)
E1.3 Quali sono le informazioni e i dati individuati, le modalità di raccolta e di elaborazione e i risultati inerenti l’efficacia dei servizi di contesto?
a) Informazioni e dati, modalità di raccolta ed elaborazione e risultati relativi a:
- servizio orientamento in ingresso (e5)- servizio assistenza e tutorato in itinere (e5)- servizio tirocini (e5)- servizio rapporti internazionali (e5)- servizio collocamento laureati nel mondo del lavoro (e5)
E1.4 Quali sono le informazioni e i dati individuati, le modalità di raccolta e di elaborazione ed i risultati inerenti l’efficacia esterna del CdS?
a) Informazione e dati, modalità di raccolta ed elaborazione e risultati relativi a:
- tempi di collocamento nel mondo del lavoro e congruenza tra collocamento e formazione ricevuta (e6)
- opinione dei laureati sulla formazione ricevuta e sul CdS nel suo complesso (e7)
- opinione dei datori di lavoro sulla preparazione dei laureati (e7)
Università di Bologna 18
Risultati (note)Risultati (note)
(e1) Indicare o rendere disponibili almeno i dati e gli indicatori riportati in Allegato 2 relativi, a regime, agli ultimi 3 anni accademici.Mettere inoltre in relazione tali dati con le eventuali politiche a questo riguardo (cfr. B2.2.a).
(e2) Ad esempio:• finanziamenti specifici a favore del CdS da parte di enti pubblici o privati o altre PI;• convenzioni per l’utilizzazione gratuita di personale docente o di supporto esterno;• convenzioni per l’utilizzazione gratuita di laboratori, biblioteche, …;• convenzioni per l’erogazione di tirocini e/o tesi,…;• …
Mettere inoltre in relazione tali dati con le eventuali politiche a questo riguardo (cfr., ad esempio, B2.2.d).
(e3) Indicare o rendere disponibili almeno la mediana e lo scarto quadratico medio dei voti degli esami di profitto per gli insegnamenti del CdS relativamente, a regime, agli ultimi 3 anni accademici. Mettere inoltre in relazione tali dati con le eventuali politiche a questo riguardo (cfr. B2.2.a).
(e4) Indicare o rendere disponibili: informazioni e dati raccolti; modalità (ad esempio: questionari da compilare per via informatica, questionari cartacei, interviste, …) e tempi (ad esempio: prima della fine delle lezioni, dopo gli esami di profitto, etc.) di raccolta e modalità di elaborazione; risultati, sia in termini del numero di studenti coinvolti, sia come esito dell’elaborazione delle informazioni e dei dati raccolti, possibilmente con l’ausilio di opportuni indicatori.Mettere inoltre in relazione tali dati con le eventuali politiche a questo riguardo (cfr. B2.2.a).
Università di Bologna 19
Risultati (note)Risultati (note)
(e5) Indicare o rendere disponibili: eventuali informazioni e dati raccolti e relative modalità di raccolta e di elaborazione; risultati, relativi sia al numero di studenti coinvolti nelle diverse iniziative e attività intraprese, sia all’efficacia di tali iniziative e attività, possibilmente con l’ausilio, quando del caso, di opportuni indicatori.Mettere inoltre in relazione tali dati con le eventuali politiche a questo riguardo (cfr. B2.2.f).
(e6) Indicare o rendere disponibili: informazioni e dati raccolti (in particolare: sbocchi professionali, ad esempio, a 1, 2, 3 anni dal conseguimento del titolo di studio; ruoli dei laureati; distribuzione geografica delle sedi lavorative; etc.); modalità (ad esempio: questionari, etc.) e periodicità (ad esempio: annuale, ogni due anni, etc.) di raccolta e modalità di elaborazione; risultati, sia in termini del numero di laureati coinvolti, sia come esito dell’elaborazione delle informazioni e dei dati raccolti, possibilmente con l’ausilio di opportuni indicatori.Mettere inoltre in relazione tali dati con le eventuali politiche a questo riguardo (cfr. in particolare B2.1).
(e7) Indicare o rendere disponibili: informazioni e dati raccolti; modalità (ad esempio: questionari, interviste, focus group, etc.) e periodicità (ad esempio: annuale, ogni due anni, etc.) di raccolta e modalità di elaborazione; risultati, sia in termini di laureati/datori di lavoro coinvolti, sia come esito dell’elaborazione delle informazioni e dei dati raccolti, possibilmente con l’ausilio di opportuni indicatori.Mettere inoltre in relazione tali dati con le eventuali politiche a questo riguardo (cfr. in particolare B2.1 e B3.1).
Università di Bologna 20
Articolazione della Articolazione della DimensioneDimensione
RISULTATIRISULTATI
ANALISI EANALISI EMIGLIORAMENTOMIGLIORAMENTO
RISULTATI, ANALISIRISULTATI, ANALISIE MIGLIORAMENTOE MIGLIORAMENTO
Università di Bologna 21
Elemento E.2Elemento E.2Analisi e miglioramentoAnalisi e miglioramento
Il CdS deve promuovere adeguati processi di
analisi dei risultati e di miglioramento
continuo dell’efficacia del sistema di gestione dei
processi relativi a tutte le dimensioni della
valutazione (esigenze e obiettivi, sistema
organizzativo, risorse, processo formativo, risultati
analisi e miglioramento) attraverso la ricerca
sistematica, l’individuazione e l’attuazione di
tutte le opportunità di miglioramento.Il CdS deve inoltre affrontare e risolvere i problemi che si presentano nell'erogazione della didattica e dei servizi, ricercarne le cause e prevenirne l'insorgere.
Università di Bologna 22
MiglioramentoMiglioramento
SISTEMA
SISTEMA
MIGLIORAMENTO
MIGLIORAMENTO
CONFORMITÀCONFORMITÀ
Le azioni intraprese dal CdS per accrescere Le azioni intraprese dal CdS per accrescere efficienza ed efficacia delle attività e dei efficienza ed efficacia delle attività e dei
processi a vantaggio delle PI e, in processi a vantaggio delle PI e, in particolare, del CdS stessoparticolare, del CdS stesso
Università di Bologna 23
MiglioramentoMiglioramentoApplicazione della sequenza Applicazione della sequenza
“P.D.C.A.”“P.D.C.A.”
P A D C
Plan
Do
Check
Act
pianificare
attuare quanto pianificato
valutare i risultati rispetto agli obiettivi
standardizzare o ricominciare il ciclo
Università di Bologna 24
2) Rilevazione valori
3) Analisi dati raccolti
4) Individuazione interventi di
miglioramento
1) Individuazione indicatori
Processi base per il miglioramentoProcessi base per il miglioramento
Università di Bologna 25
Individuare tutti i problemi
Individuare tutti i problemi
Scegliere un problema
Scegliere un problema
Ricercare le cause potenziali
Ricercare le cause potenziali
Individuare le cause reali
Individuare le cause reali
Cercare le soluzioni
Cercare le soluzioni
Proporre una soluzione
Proporre una soluzione
Approvare il progetto
Approvare il progetto
AttuazioneAttuazione
Verificare i risultati
Verificare i risultati
Approvare i risultati
Approvare i risultati
MiglioramentoMiglioramento
Università di Bologna 26
Problem-solvingProblem-solving
“Insieme di metodi, di tecniche e di strumenti che, utilizzati in
maniera sistematica, nelle varie fasi del processo di
miglioramento, permettono l’efficace raggiungimento degli
obiettivi, con un efficiente impiego delle risorse.”
Analisi delle difficoltà contingentiAnalisi delle difficoltà contingenti
Il CdS deve gestire le Il CdS deve gestire le difficoltà difficoltà contingenticontingenti che si possano che si possano
manifestare durante l’erogazione del manifestare durante l’erogazione del processo formativo e dei servizi di processo formativo e dei servizi di
supportosupporto
Situazioni problematiche o non desiderate
Università di Bologna 28
Esempi di difficoltà contingentiEsempi di difficoltà contingenti
Disservizi (mancata apertura della segreteria, etc.)
Equazioni di
Maxwell
PROGRAMMA
Leggi di OhmCircuiti elettriciEquazioni di MaxwellMotori elettrici………
Un programma didattico non rispettato
Università di Bologna 29
Gestione delle difficoltà contingentiGestione delle difficoltà contingenti
Identificazione
Documentazione
Riesame (valutazione)
Risoluzione (Disposizioni o
Trattamento)
Ricerca delle Cause (Azioni
Correttive)
Università di Bologna 30
Azioni correttive e preventiveAzioni correttive e preventive
garantire che condizioni avverse alla qualità quali disservizi, malfunzionamenti, carenze,
incongruenze siano PREVENUTEPREVENUTE e quelle che si sono verificate siano
prontamente IDENTIFICATE e CORRETTEIDENTIFICATE e CORRETTE (le cause che hanno generato i problemi non
si devono ripresentare)
Università di Bologna 31
Azioni correttive e preventiveAzioni correttive e preventive
Non ti soffermare solo al rimedio degli effetti (non conformità, difetti, etc.)
Prevenzione delle Prevenzione delle cause di problemi cause di problemi
potenzialipotenziali((AZIONI PREVENTIVEAZIONI PREVENTIVE))
Individuazione e Individuazione e rimozione delle cause rimozione delle cause dei problemi (dei problemi (AZIONI AZIONI
CORRETTIVECORRETTIVE))
Perché la chiave del successo sta nella...
Risolto!
Università di Bologna 32
L’importanza della prevenzione nei serviziL’importanza della prevenzione nei servizi
Controllo QualitàControllo Qualità
Clienti
Nell’industria manifatturiera…
Inizio lezioneore 15.30
Clienti insoddisfattiClienti insoddisfatti
…e invece nei servizi!!
Università di Bologna 33
Analisi e MiglioramentoAnalisi e MiglioramentoE2. ANALISI e MIGLIORAMENTO
Il CdS deve promuovere adeguati processi di analisi dei risultati e di miglioramento continuo dell’efficacia del sistema di gestione dei processi relativi a tutte le dimensioni della valutazione (esigenze e obiettivi, sistema organizzativo, risorse, processo formativo, risultati analisi e miglioramento) attraverso la ricerca sistematica, l’individuazione e l’attuazione di tutte le opportunità di miglioramento.Il CdS deve inoltre affrontare e risolvere i problemi che si presentano nell'erogazione della didattica e dei servizi, ricercarne le cause e prevenirne l'insorgere.
E2.1 I processi di analisi e di miglioramento sono efficaci?
a) Modalità di gestione dei processi di analisi e miglioramento (e8)
b) Informazioni e dati presi in esame per l’attività di miglioramento (e9)
c) Opportunità di miglioramento individuate (e10)
d) Azioni di miglioramento intraprese e loro efficacia (e11)
e) Valutazione della qualità del CdS (Requisito obbligatorio CampusONE ) (e12)
E2.2 La soluzione dei problemi contingenti e l’attuazione di azioni correttive e preventive sono efficaci?
a) Modalità di gestione delle difficoltà contingenti (e13)
b) Efficacia delle azioni correttive e preventive (e14)
Università di Bologna 34
Analisi e Miglioramento (note)Analisi e Miglioramento (note)
(e8) Descrivere sinteticamente il processo tramite il quale il CdS provvede all’analisi delle informazioni e dei dati presi in esame, al fine di ricercare e individuare tutte le opportunità di miglioramento, e all’attuazione delle azioni di miglioramento.
(e9) In particolare: esiti del controllo dell’erogazione dell’offerta didattica (cfr. D2); risultati relativi alla capacità di attrazione, all’efficacia interna, all’efficacia dei servizi di contesto e all’efficacia esterna del CdS (cfr. E1); attività di miglioramento intraprese (cfr. E.2.1); azioni correttive e preventive attuate (cfr. E.2.2).
(e10) Indicare le opportunità di miglioramento individuate durante l’ultimo anno accademico (ad esclusione di quelle individuate a seguito dell’attività di riesame, già indicate in A.3.1.c).
(e11) Indicare le azioni di miglioramento intraprese durante l’ultimo anno accademico (ad esclusione di quelle intraprese a seguito dell’attività di riesame, già indicate in A.3.1.d) e dare evidenza della loro efficacia.
(e12) Indicare se il CdS effettua la valutazione della qualità e le relative modalità (ad esempio con la metodologia dell’autovalutazione seguita dalla valutazione esterna) e periodicità (ad esempio autovalutazione annuale e valutazione esterna ogni n anni)….
(e13) Indicare in che modo vengono affrontate difficoltà contingenti (ad esempio: improvvisa o temporanea indisponibilità di un docente, improvvisa o temporanea indisponibilità di un’aula, segreteria temporaneamente non accessibile per indisponibilità degli addetti, etc.), ai fini della loro soluzione, e se e come vengono ricercate le cause che hanno provocato o possono provocare difficoltà contingenti, al fine di individuarne le opportune azioni correttive che ne evitino il ripetersi o preventive che ne evitino il verificarsi.
(e14) Indicare le azioni correttive e preventive intraprese durante l’ultimo anno accademico e dare evidenza della loro efficacia