UNISG.1

QualiAss (Phase 1)

Long Title: Qualitätsunterstützung für Prüfungen und Assessments (Phase 1)
Leading
Organization:
Universität St. Gallen
Participating
Organizations:
Universität Zürich
Other
Partners:
ETH Zürich
Fachhochschule Nordwestschweiz
Domain: ELS
Status: finished
Start Date: 01.02.2009
End Date: 31.08.2009
Project Leader: C. Meier

Eine konsequente Umsetzung des didaktischen Dreisprungs "Lernziele - methodische Umsetzung - Lernkontrolle" an den Hochschulen ist die Vision dieses Projektes. In der Praxis scheitert dieser oft an einfachen formalen Fehlern, fehlenden Kenntnissen zur Prüfungsmethodik, mangelndem Informationsfluss oder nicht vorhandenen Schnittstellen. Um dem entgegenzuwirken, entwickelt das QualiAss-Team ein qualitatives Unterstützungssystem für die Entwicklung von (schriftlichen) Prüfungen, welches Dozierenden erlaubt, Assessments optimal an ihre Lehrveranstaltungen anzupassen und alle erforderlichen Bereiche methodisch und formal korrekt zu prüfen.

Siehe auch Phase 2 und Phase 3.

Resultate

Die Machbarkeit eines Web- und Browser-basierten Unterstützungssystems für Assessments an Hochschulen wurde geprüft. Daraus resultierten:

  1. Übersicht zu bereits verfügbaren technischen Unterstützungswerkzeugen.
  2. Übersicht zu verfügbaren Handreichungen und Leitfäden zur Prüfungsgestaltung an Hochschulen.
  3. Hinweise zu der Bedarfssituation in Bezug auf ein Unterstützungsangebot und der Akzeptanz eines neuen Werkzeugs durch die Dozierenden.
  4. Ablaufschemata typischer Prozesse der Prüfungsgestaltung für die beteiligten Partnerhochschulen.
  5. Anforderungsraster, das Funktionalitäten des zu entwickelnden Unterstützungswerkzeugs zusammenfasst.
  6. Machbarkeitsanalyse der angestrebten Lösung.
  7. Mock-Up zur Illustration des Unterstützungsansatzes und einer möglichen Gestaltung der Benutzeroberfläche.

Die Resultate wurden u.a. an der Fachtagung der Gesellschaft für Medien in der Wissenschaft (GMW) im Herbst 2009 in Berlin vorgestellt (siehe auch Anhang des Abschlussberichts (pdf, 1,6MB)).

Die Klärung der jeweiligen Positionen und Anliegen der Partner im Verlauf der gemeinsamen Arbeit führten dazu, die ursprüngliche Idee, eine gemeinsame, Web-basierte, plattformunabhängige Lösung für die Unterstützung von (schriftlichen) Prüfungen anzustreben, aufzugegeben zu Gunsten der Entwicklung eines gemeinsamen Konzepts für dezentral bei den Partnern zu realisierende Unterstützungswerkzeuge, die in die jeweils vorhandene Infrastruktur integriert werden können.

Fortführung in einer Phase 2: Erstellen und Testen eines Offline-Demonstrators zur Unterstützung von Dozierenden bei der Erstellung und Überarbeitung von schriftlichen Prüfungen.

Herausforderungen

  • Die priorisierten Arbeitsgebiete und Anforderungen der beteiligten Partner an eine Lösung können nur zum Teil in Übereinstimmung gebracht werden.
  • Teilaspekte müssen ev. entsprechend den individuellen Anforderungen von den einzelnen Hochschulen angegangen werden.
  • Die Perspektiven der beteiligten drei Anspruchsgruppen Dozierende, (Prüfungs-)Administration und Service-Zentren für Hochschuldidaktik bezüglich eines Systems zur Qualitätsunterstützung bei schriftlichen Prüfungen divergieren.
  • Massnahmen zur Qualitätsunterstützung bei Prüfungen finden bisher keine genügend grosse Akzeptanz bei Dozierenden.

Kontext

Gegenwärtig werden an zahlreichen Hochschulen Projekte zur Entwicklung von Applikationen und Infrastrukturen für e-Assessment verfolgt. Im Vordergrund stehen dabei häufig angestrebte Prozessverbesserungen und Effizienzsteigerungen bei der Erfassung und Bestätigung von Sachwissen im Rahmen von Prüfungen. Daneben werden auch die organisatorischen, juristischen und infrastrukturellen Herausforderungen der Einführung von e-Assessments bearbeitet. Schliesslich gibt es vereinzelt Bestrebungen, den Einsatzbereich von e-Assessment auf die Erfassung von Sozialkompetenzen und sachbezogene Fertigkeiten auszuweiten - beispielsweise über die Entwicklung von Simulationen.

In der täglichen Praxis des Studienbetriebs zeigt sich allerdings, dass der didaktische Dreisprung "Lernziele -> methodische Umsetzung -> Lernkontrolle" trotz hierzu verfügbarer Leitfäden nicht immer so systematisch vollzogen wird, wie dies zu wünschen wäre. Darüber hinaus finden sich auch formale Mängel bei Prüfungen. Bei dezentral durchgeführten Prüfungen bleibt bislang unklar, wie es um deren Konsistenz mit Lernzielen und Freiheit von Formfehlern bestellt ist.

Ziele

Ziel dieses Vorprojekts ist die Klärung der Machbarkeit eines Web und Browser-basierten, Plattform-unabhängigen Unterstützungssystems für Prüfungen und Assessments. Dieses Unterstützungssystem soll dazu beitragen, dass zentrale Qualitätsziele in Bezug auf Prüfungen und Assessments besser erreicht werden. Zu diesen Qualitätszielen gehören insbesondere:

  • Validität;
  • formale Fehlerfreiheit von Prüfungen;
  • formale Fehlerfreiheit bei der Auswertung;
  • Information der Studierenden zu Prüfungsergebnissen vor Beginn des nächsten Semesters;
  • mehr Flexibilität und weniger organisatorischer Aufwand im Zusammenhang mit der Einsichtnahme in korrigierte Prüfungen.

Insbesondere sollen folgende Anforderungen erfüllt sein:

  • Nutzung ausschliesslich über Webbrowser möglich;
  • Anbindung an bestehende Single Sing on-Architekturen;
  • Nutzung von bereits verfügbaren Werkzeugen;
  • Neutralität der zu entwickelnden Lösung in Bezug auf die IT-Landschaft einer Hochschule (Standard-basierte Schnittstellen).

QualiAss adressiert v.a. allem frühe und späte Phasen des Prüfungsprozesses (Planung, Erstellung; Auswertung, Freigabe und Feedback), während beim Projekt SIOUX die (sichere) Erstellung, Durchführung und Auswertung von eAssessments im Vordergrund stehen. Bei QualiAss stehen zudem manuell auszuwertende Fragen (Freitext; schriftliche Prüfungen) im Vordergrund.

Back