Zum Einsatz von EvaSys für quantitative Befragungen

Evaluationsprozesse, die auf statistischen Befragungen basieren, können an der TU Ilmenau seit dem Wintersemester 2004/05 mit dem elektronischen Erfassungs- und Auswertungssystem EvaSys der Firma Electric Paper (Lüneburg) technisch und organisatorisch unterstützt werden.

EvaSys ist ein auf hoch entwickelten Datenerfassungstechniken (u.a. Einsatz eines hochwertigen Scanners) sowie Internettechnologien basierendes System mit Rollenmodell. Die Abwicklung umfangreicher Befragungen kann ohne langwierige Erfassungs- und Auswertungssaufwände und mit einem hohen Automatisierungsgrad erfolgen. Neben der Massenverarbeitung von Papierfragebögen kann EvaSys auch für Onlinebefragungen eingesetzt werden. Es besteht die Möglichkeit, jederzeit neue Fragebögen zu integrieren.

Umfragen werden personalisiert für
- den/die einzelne/n Lehrende/n,
- das jeweilige Fach/die jeweilige Lehrveranstaltung und
- die betreffende Befragungsperiode (Winter-/Sommersemester)
angelegt und nach erfolgter Datenerfassung gespeichert. Dementsprechend muss für jede Umfrage ein neuer Fragebogen mit einer speziellen Kennung zur Identifikation und Zuordnung generiert werden. Bei Online-Umfragen geschieht das durch Zugangscodes (TAN-Nummern, Losung), bei Papierfragebögen durch einen Kästchencode auf dem unteren Seitenrand.

Während bei Online-Befragungen die Daten beim Bearbeitungsvorgang sofort in der Datenbank gespeichert und somit für Auswertungen zur Verfügung stehen, werden bei Paper-Pencil-Befragungen die Daten erst nach dem Einscannen der bearbeiteten Fragebögen erzeugt.

Im Rahmen der Fach- und der Lehrveranstaltungsevaluation werden in der Regel Papierfragebögen verwendet, die zu einem der letzten Veranstaltungstermine an die Studierenden auszugeben und nach dem Ausfüllen einzusammeln sind. Für korrektes Erfassen der Fragebögen beim Scannen sollten die Lehrenden darauf achten, dass die gedruckten bzw. kopierten Fragebögen die Markierungen in den Ecken (unversehrt) enthalten und die Studierenden darauf hinweisen, dass sie

  • einen dunklen, möglichst starken Stift verwenden,
  • bei irrtümlichem Ausfüllen eines Kästchens einer Auswahlfrage das ungültige Kästchen ganz schwärzen und ein anderes ankreuzen,
  • bei handschriftlichen Texten offener Fragen nicht zu dicht am Rand der Begrenzungslinien schreiben,
  • auf keinen Fall über den Rahmen der offenen Fragen und/oder auf dem Rand des Fragebogens weiterschreiben.
 

Seit dem Wintersemester 2013/14 besteht auch die Möglichkeit, die verschiedenen Fragebögen für die Lehrveranstaltungsevaluation als Online-Befragung in EvaSys anzulegen. Dazu lesen Sie bitte die Informationen und Handlungsanweisungen unter Online-Befragungen.

 

Organisatorischer Ablauf der Lehrveranstaltungsevaluation

Vorbereitung

Die Fragebögen werden für jede Umfrage personalisiert und müssen in EvaSys als PDF (Papierfragebögen) und/oder als Link (Online-Befragung) generiert werden. Die PDF-Dateien werden den zuständigen Lehrenden per E-Mail zur Verfügung gestellt. Falls Sie Ihre Lehrveranstaltungsevaluation als Online-Befragung durchführen möchten, lesen Sie bitte die Informationen und Handlungsanweisungen unter Online-Befragungen.

Die Generierung der Fragebögen ist spätestens sechs Wochen vor Ende der Vorlesungszeit des Semesters bzw. bei Lehrveranstaltungen, die nicht über die gesamte Vorlesungszeit laufen, zwei Wochen vor dem vorgesehenen Befragungstermin bei oben genannter Ansprechpartnerin per E-Mail zu beantragen. Dazu werden folgende Informationen benötigt:

  1. Informationen zum/zur Lehrenden (Titel, Name, Vorname, E-Mail, Institut und/oder Fachgebiet)
  2. Name und Fachnummer der Lehrveranstaltung
  3. Veranstaltungstyp (Vorlesung. Übung, Seminar, ...)
  4. Studiengänge, für die die Lehrveranstaltung angeboten wird

Um den Import dieser Daten in EvaSys zu erleichtern, ist folgende Excel-Tabelle auszufüllen.


Durchführung

Den Lehrenden werden die Fragebögen als PDF-Vorlagen zur Verfügung gestellt. Sie sind in ausreichender Stückzahl (voraussichtliche Teilnehmeranzahl der Lehrveranstaltung) möglichst beidseitig (Duplex) auszudrucken.

Dabei ist darauf zu achten, dass alle Markierungen in den Ecken komplett auf den Bögen vorhanden sind. Sie dienen der Positionsbestimmung beim Scannen der Bögen und sind Voraussetzung für die korrekte Datenerkennung. Von der Qualität des Druckes hängt die Fehlerwahrscheinlichkeit beim späteren Einscannen der Fragebögen ab (guter Kontrast, keine "Dreckpunkte", Schieflauf und Verzerrungen).

Die Fragebögen sind zu einem der letzten Veranstaltungstermine an die Studierenden auszugeben, nach dem Ausfüllen einzusammeln und an Frau Dr. Hennecke ins Zentralinstitut für Bildung (ZIB), Kontorhaus (Langewiesener Str. 32) zu schicken.


Erfassung und Auswertung

Die Lehrenden erhalten eine sofortige Rückmeldung per E-Mail mit der (standardisierten) Auswertung als PDF-Datei, sobald die ausgefüllten Fragebögen im ZIB eingescannt wurden oder die Online-Umfrage geschlossen wurde.

Die ausgewerteten Papier-Fragebögen können im Anschluss auf Wunsch an die jeweiligen Lehrenden zurückgeschickt werden. Dazu genügt ein kurzer Vermerk bzw. eine E-Mail. Ansonsten werden die Papierfragebögen zu Beginn des Folgesemesters zentral im ZIB vernichtet.

Es wird empfohlen, die Ergebnisse gemeinsam mit den Studierenden in der Lehrveranstaltung auszuwerten (siehe QM-Handbuch, Kapitel 6.6, verfügbar hier)

Alternative Formen der Evaluation

Vor allem bei kleinen Studierendengruppen (bis ca. 30 Teilnehmer) bieten sich alternative Evaluationsformen zu den quantitativen, statistisch auswertbaren Erhebungen als online- oder papierbasierte Befragungen an.

Im Rahmen des Netzwerkes Qualitätssicherung an Thüringer Hochschulen entstand eine Methodensammlung qualitativer Evaluationsverfahren, die für verschiedene Teilnehmerzahlen geeignet sind.

Die Methodendokumentation "Fünf Finger, drei Ecken, eine Zielscheibe: Studentisches Feedback einmal anders" stellt eine Sammlung von Methodenblättern dar, die nach der Teilnehmerzahl, dem optimalen Zeitpunkt und dem Namen der Methode sortiert sind. Schauen Sie einmal rein und lassen Sie sich inspirieren!

Sie können hier diese Dokumentation einsehen. Dazu melden Sie sich bitte mit Ihrem Uni-Login an!

Unter Sonderfall: Lehrveranstaltungen mit geringer Teilnehmerzahl finden Sie auch eine Anleitung und Unterlagen für ein einfaches qualitatives Feedback-Verfahren, das für Regelfälle an der TU Ilmenau angepasst wurde.

Auswertung im Rahmen der freiwilligen Lehrevaluation

Sobald die ausgefüllten Fragebögen im ZIB eingescannt bzw. Online-Umfragen geschlossen wurden, steht ein standardisierter Auswertungsbericht sofort zur Verfügung und wird als PDF-Report an die entsprechenden Lehrenden per E-Mail verschickt. Die verarbeiteten Papierfragebögen können auf Wunsch per Hauspost zurückgeschickt werden. Dazu genügt ein kurzer Vermerk. Ansonsten werden die Fragebögen zu Beginn des Folgesemesters zentral im ZIB vernichtet.

Die im Rahmen der freiwilligen Lehrveranstaltungsevaluation erfassten Befragungsdaten gehören den Lehrenden und werden auch nicht ohne deren Zustimmung an Dritte weitergegeben.

Der Bericht hat in der Regel folgende Bestandteile:

  • Anschreiben
  • Indikatoren
    • Globalindikator, der sich aus den Skalen der einzelnen Fragengruppen mit Skala-Fragen des jeweiligen Fragebogens zusammensetzt
    • die einzelnen Mittelwerte der Skalen
    • eine auf den Durchschnittsmittelwert der letzten vier vorausgegangenen Semester normierte Darstellung der Indikatoren, wobei die Bewertungen
      • überdurchschnittlich über einem Normwert von 105,
      • durchschnittlich im Normwertbereich von 95 bis 105 und
      • unterdurchschnittlich unter einem Normwert von 95 sind
  • Detailauswertung aller geschlossenen Fragen
    • Skala-Fragen mit 5 Antwortoptionen und einer Enthaltung: grafische Darstellung von Histogrammen, arithmetischem Mittelwert und Standardabweichung sowie mit der numerischen Angabe von absoluten oder relativen Nennungshäufigkeiten, arithmetischem Mittelwert und Median, s, n gesamt.
    • Single-Choice-Fragen (Arbeitsaufwand) als Balkendiagramme
  • Antworten auf offene Fragen
  • Profillinien
    • Profillinie aller Skala-Fragen
    • eine auf den Durchschnittswert der letzten 4 vorausgegangenen Semester normierte Profillinie der Skala-Fragen
    • Profillinie der Indikatoren
 

Zusätzlich können bei Bedarf Kreuztabellen für Skala- und Single-Choice-Fragen dargestellt werden. Außerdem sind gefilterte Berichte und die Zusammenfassungen von Berichten sowie Profillinienvergleiche nach Absprache möglich.

Die Daten werden 2 Jahre (4 Semester) vorgehalten und dann in der Datenbank gelöscht. Auswertungen und Berichte über diesen Zeitraum können von den Lehrenden bei Frau Dr. Hennecke bestellt werden.

Online-Befragungen

Die Fragebögen für die verschiedenen Lehrveranstaltungsformate können in EvaSys sowohl in Papierform als auch als Online-Befragung genutzt werden.

Auch bei einer Online-Befragung werden die Umfragen speziell für den Lehrenden, die Lehrveranstaltung und das Semester generiert. Bei Interesse an einer Online-Befragung beachten Sie bitte die folgenden Erläuterungen zu den möglichen Verfahren.

Nachdem Sie sich für ein Verfahren entschieden haben, wenden Sie sich bitte an den EvaSys-Administrator. Er legt Ihre Online-Befragung in EvaSys an und

  • sendet Ihnen den Link und die gewünschte Anzahl von TAN zu oder
  • sendet Ihnen den Link und das Losungswort sowie einen QR-Code zu oder
  • veranlasst in EvaSys das Versenden der TAN an die jeweiligen E-Mail-Adressen.
     

EvaSys bietet zwei Online-Umfrage-Verfahren an:

  • 1. Transaktionsnummer (TAN)-basierte Online-Umfragen
  • 2. Losungsbasierte Online-Umfragen

1. TAN-basierte Online-Umfragen

Bei der Erstellung der Umfrage generiert EvaSys eine festgelegte Anzahl von TAN-Codes. Jeder Teilnehmer erhält eine eigene TAN, mit der er sich in die Onlineumfrage einloggen kann. Anhand der TAN-Codes ist die einmalige Teilnahme an einer Befragung garantiert.

Die TANs können
a. in Form von Kärtchen ausgedruckt und verteilt oder
b. per E-Mail an die Befragungsteilnehmer verschickt werden.

a. TAN-Zettel

Die TAN-Zettel werden als PDF-Dokument erzeugt, die dann an die Befragungsteilnehmer verteilt werden können. Sie beinhalten den Zugangscode, die Internetadresse sowie den Namen der Umfrage. Es kann auch ein QR-Code für mobile Geräte eingefügt werden, der sowohl die Information zur URL der Online-Umfrage als auch zur TAN beinhaltet.

Alle TAN-Dokumente, die für die Umfrage zu verteilen sind, werden per E-Mail an den/die Lehrende/n verschickt.

b. Serien-E-Mails

Die TANs werden anhand einer E-Mail-Adressenliste an die Befragungsteilnehmer versandt. Später kann über eine Erinnerungsfunktion an alle TAN-Empfänger, die noch nicht an der Umfrage teilgenommen haben, eine E-Mail versandt werden.

Die E-Mail-Adressen müssen vor dem Anlegen der Umfrage dem EvaSys-Administrator als Liste/Text-Datei zugeschickt werden. Das Versenden der Einladungs-E-Mails mit den TAN-Informationen an die Studierenden und ggf. der Erinnerungsmails sowie das Schließen der Befragung geschieht zentral über die EvaSys-Administration direkt über den EvaSys-Server. Diese Vorgänge können auch über eine Zeitsteuerung in EvaSys automatisiert veranlasst werden.

2. Losungsbasierte Online-Umfragen

Bei der losungsbasierten Online-Umfrage handelt es sich um eine Online-Umfrage, für die vorab für alle Teilnehmer ein einheitliches Kennwort festgelegt wird, das entweder über einen Zufallsgenerator erzeugt oder mit dem/der Lehrenden vereinbart wurde.
Der/die Lehrende erhält den Link und das Losungswort per Mail und kann diese Informationen als Link und/oder QR-Code an die Studierenden weitergeben.
Da anders als bei der TAN-basierten Online-Umfrage nicht jeder Teilnehmer ein eigenes Passwort (als TAN) erhält, ist dieses Verfahren vergleichsweise unsicher. Es kann nicht verhindert werden, dass ein Teilnehmer mit dem Kennwort mehrfach für eine Befragung abstimmt. Auf der anderen Seite ermöglicht das losungsbasierte Verfahren auch ohne genaue Kenntnis der Teilnehmergruppe, d. h. ohne die Möglichkeit, Teilnehmer persönlich einzuladen, eine Online-Befragung durchzuführen.
 

Vor- und Nachteile der Online-Verfahren
 TAN-basiertLosungsbasiert
Vorteile
  • Eindeutige Identifikation der Teilnehmer über die TAN sichert eine einmalige Stimmenabgabe und erlaubt Zwischenspeicherung des Bearbeitungsstandes (vorteilhaft bei langen Fragebögen )
  • TAN-Zettel: QR-Code (für mobile Geräte) auf TAN-Zettel möglich
  • Serien-E-Mails: Erinnerungsmail an Teilnehmer möglich, deren TAN noch nicht bearbeitet wurde
  • Online-Befragungen auch ohne genaue Kenntnis der Teilnehmergruppe (Anzahl, E-Mail-Adressen) möglich, es müssen nur der Link und/oder der QR-Code bekanntgegeben werden (z. B. über Folie, Merkzettel, Lernplattform, z.B. Moodle)
Nachteile
  • Teilnehmergruppe muss bekannt sein
  • TAN-Zettel: persönliche Verteilung der TAN-Zettel; Anzahl der Teilnehmer muss bekannt sein (für die Generierung der TAN's)
  • Serien-E-Mails: E-Mail-Adressen müssen zur Verfügung stehen
  • Unsicher, da ein Teilnehmer mit dem Kennwort mehrfach für eine Befragung abstimmen kann
  • Keine Zwischenspeicherung von Bearbeitungsständen möglich (keine eindeutige Z