Evaluierungskonzept


Das im Projekt entwickelte VR-Lernsystem dient nicht nur als Untersuchungsgegenstand für wissenschaftliche Fragestellungen, sondern soll auch in der beruflichen Ausbildung beim Erlernen von Lackierhandlungen unterstützend eingesetzt werden. Dementsprechend wird für die Ausbildung im Bereich der Fahrzeuglackierung eine technisch hochwertige, didaktisch fundierte und nachhaltige Lernanwendung konzipiert, mit der die wirtschaftlichen (z. B. Materialkosten), ökologischen (z. B. umweltschädliche Materialien) und sozialen (z. B. begrenzte Zeit für Anweisungen) Restriktionen im Berufsalltag überwunden werden. Damit können Übungshäufigkeiten und auch die Trainingsintensität gesteigert werden.

Um einen Transfer in die Ausbildung zu ermöglichen, ist die Entwicklung einer praxisnahen Lehr-Lern-Anwendung notwendig. Damit sie an den Bedarf orientiert und praktisch einsatzfähig ist – in Bezug auf Lernerfolg, Anwendbarkeit, Ökonomie und Transferpotenzial –, müssen in der Entwicklungsphase eine Vielzahl unterschiedlicher Faktoren detailliert betrachtet werden. So sollen dadurch einerseits mögliche Defizite frühzeitig erkannt und Optimierungspotenziale herausgearbeitet werden. Andererseits lassen sich Handlungsempfehlungen für die weitere Entwicklung ableiten.

Methodisches Vorgehen

Die Einsatzfähigkeit des Lehr- und Lernkonzepts wird im Projekt schon frühzeitig bei der Anforderungserhebung im Rahmen verschiedener Aktivitäten sichergestellt. So werden beispielsweise Bedarfe und inhaltliche Anforderungen in Form von Interviews, Verhaltensbeobachtungen und Fokusgruppen aus Fachleuten und Nutzenden im Anwendungsbetrieb, der Mercedes-Benz Ludwigsfelde GmbH, und in den Bildungszentren der Handwerkskammern gesammelt. Durch die Verwendung von agilen Methoden zur Softwareentwicklung bei der technischen Umsetzung des VR-Lernsystems können diese kontinuierlich einfließen. So liegt in einem Rhythmus von sechs Wochen ein jeweils erweiterter und lauffähiger Prototyp vor, der in einem integrierten Prozess zunächst innerhalb des Projektteams diskutiert wird.

Zusätzlich werden die Prototypen in verschiedenen Settings und Zielgruppen, z. B. in separaten Vor-Ort-Terminen, getestet oder die Informationen zum Entwicklungsfortschritt werden in Form von Videos über eine Lernplattform an die Beteiligten der Bildungszentren bereitgestellt. So stellen die Mercedes-Benz Ludwigsfelde GmbH und die weiteren Beteiligten aus dem Bildungsbereich immerzu neue Anforderungen, die gesammelt werden und sukzessive in jeweils sechswöchigen Entwicklungszyklen miteinfließen. Diese Anforderungen werden dabei hauptsächlich aus Sicht der Lehrenden gestellt.

Die Aufnahme von Anforderungen der Lernenden erfolgt mithilfe von formativen Evaluierungsphasen: In der ersten Evaluierungsphase wird der erste Prototyp in der Mercedes-Benz Ludwigsfelde GmbH getestet. Die Evaluation wird mit Auszubildenden aus allen drei Lehrjahren durchgeführt. Die gesammelten Informationen und Erkenntnisse werden für die medientechnische und -didaktische Optimierung der Lernlösung verwendet und fließen in die Beta-Version mit ein. Zusätzlich dient die Evaluierung zur weiteren Untersuchung der Forschungsfragen sowie zur Analyse der Erfolgsfaktoren.

In der zweiten Evaluierungsphase wird dann die entstehende Beta-Version von einer größeren Zielgruppe getestet. Neben den Auszubildenden der Mercedes-Benz Ludwigsfelde GmbH werden weitere Auszubildende aus den Berufsbildungszentren der Handwerkskammern an der Evaluierung teilnehmen. Auch in dieser Evaluierungsphase liegt der Fokus auf der Optimierung der Lernlösung. Zusätzlich werden aus didaktischer Sicht vor allem motivationale, (meta-)kognitive und soziale Erfolgsfaktoren sowie gewerkeübergreifende Transferpotenziale der VR-Lackierwerkstatt ermittelt. Die Ergebnisse der zweiten Evaluierungsrunde fließen in die finale Optimierung der VR-Lackierwerkstatt ein.

Projektablauf mit Fokus auf Entwicklungen und Evaluierungen
Projektablauf mit Fokus auf Entwicklungen und Evaluierungen

Evaluierungsinstrumente

Durch die agilen Entwicklungsabläufe sowie regelmäßige Review-Meetings können kontinuierlich qualitative Daten erhoben werden, die insbesondere in die Untersuchung der Rahmenbedingungen und Erfolgsfaktoren miteinfließen. Weitere qualitative und quantitative Daten für die Untersuchung der Fragestellungen in den Teilprojekten werden in den beiden geplanten formativen Evaluierungsworkshops erhoben. Diese werden in den Ausbildungsstätten der Praxispartnerin beziehungsweise in den Werkstätten der Bildungszentren ausgerichtet. So entsprechen die Austragungsorte den späteren Einsatzorten des Lernsystems und liefern weitere Erkenntnisse über zukünftige Lernszenarien. Ebenso werden in den Workshops alle drei Lehrjahre der Ausbildung zum/zur Fahrzeuglackierer/in adressiert, damit Einsatzpotenziale in allen Phasen der Ausbildung erarbeitet und diskutiert werden. Der Ablauf der Workshops ist in allen Evaluierungsrunden weitgehend gleich:

Ablauf der Evaluierung
Ablauf der Evaluierung

Nach einem Briefing erhalten die Auszubildenden die Möglichkeit, die virtuellen Trainingsszenarien mit einem VR-System zu testen. Um die Versuchsbedingungen möglichst gleich zu halten, werden die Auszubildenden von einer Testleitung und einem handlungsweisenden Leitfaden begleitet. Während bei der ersten Evaluierungsrunde noch handelsübliche Controller genutzt wurden, wird in der zweiten Runde die im 3D-Druck hergestellte Lackierpistole verwendet. In der virtuellen Testumgebung werden die Testpersonen gebeten, in VR umgesetzte Lernaufgaben aus der VR-Lackierwerkstatt zu bearbeiten. Zusätzlich sollen sie ein vereinfachtes Lernszenario bearbeiten, bei dem gezielt motorische Prozesse unter Einbezug bestimmter Hilfestellungen geübt werden sollen. Im Nachgang erhalten die Auszubildenden einen Fragebogen zur Erhebung der quantitativen Daten. Für die Untersuchung der Fragestellungen aller Teilprojekte im Projektverbund werden in der Evaluierung verschiedene Aspekte betrachtet und mittels der Fragebogenbatterie erhoben:

Mit der Erfassung von Lernergebnissen und Lernprozessen soll überprüft werden, in welchem Ausmaß die entwickelten Lernaufgaben zum Kompetenzerwerb beitragen. Dazu wurden im Vorfeld Lernziele für den Erwerb von Wissen, Fertigkeiten und Einstellungen definiert und die Erreichung dieser Ziele im Rahmen der Evaluierung überprüft. Darüber hinaus sollen weitere Aspekte innerhalb der Lernprozesse, wie Lernmotivation, Präsenzerleben sowie der wahrgenommene Workload, untersucht werden.

Die für die Lernaufgaben definierten Lerninhalte wurden auf Basis des 4C/ID-Modells aufbereitet. Dabei soll geprüft werden, inwiefern die entwickelten Lernaufgaben den Anforderungen (z. B. Handlungsorientierung) und Komponenten (z. B. Lernaufgaben) des Modells entsprechen.
Da das 4C/ID-Modell bisher vorwiegend für das Ausbilden von kognitiven Kompetenzen genutzt wurde, wird hierbei die Relevanz des Modells für die psychomotorische Berufsausbildung und dessen Eignung als didaktisches Modell in VR untersucht.

Dieser Aspekt misst zum einen die Erfüllung der funktionalen Anforderungen an die drei Module des Lernsystems, wie beispielsweise die Umsetzung eines ausreichend realistischen Farbauftrags in der VR-Anwendung oder die Möglichkeit, Lernaufgaben im Autorenwerkzeug erstellen zu können. Zum anderen wird die nutzungsfreundliche Umsetzung der Bedienoberfläche und -elemente betrachtet. Dabei liegt der Fokus auf der einfachen Bedienbarkeit des Autorenwerkzeugs und der Reflexionsanwendung. Innerhalb des virtuellen Raums werden die Interaktion mit virtuellen Objekten sowie weitere wichtige Kriterien, die ein gutes Nutzungserlebnis im virtuellen Raum fördern, abgefragt. Diese Kriterien beinhalten beispielweise die erfahrenen Emotionen, das Erleben von Flow und die Ästhetik der Anwendungen.

Ein Bestandteil der Zielgruppenanalyse ist die Ermittlung von Erfahrungen mit dem und Einstellungen zum Lernmedium. Dabei werden im Rahmen der Evaluierungen verschiedene Faktoren, die die Akzeptanz von Technologien beeinflussen, gemessen. In diesem Kontext spielt die Vorerfahrung eine entscheidende Rolle. Die erhobenen Daten fließen u. a. in das Beratungs- und Schulungskonzept für den Praxistransfer mit ein.

Weitere qualitative Daten werden innerhalb von Fokusgruppen gewonnen. Diese erarbeiten Plus- sowie Kritikpunkte mithilfe von Plakaten. Die Ergebnisse der Gruppenarbeiten werden anschließend im Plenum präsentiert und diskutiert. Darauffolgend testet eine freiwillige Person eine Aufgabe erneut, während die anderen beobachten und kommentieren. Weitere Daten liefert das VR-System in Form von Erfolgskriterien, z. B. Schichtdicke oder Winkel, die in die weitere Auswertung miteinfließen.


Transferkonzept

Im Rahmen des Projektvorhabens werden verschiedene Strategien für den Transfer der Projektergebnisse verfolgt:
Zum einen werden durch die Untersuchung der wissenschaftlichen Fragestellungen Erkenntnisse über Lehr- und Lernkonzepte sowie Einsatzmöglichkeiten von VR als Lerntechnologie in der beruflichen Aus- und Weiterbildung gewonnen. Sie werden von beiden beteiligten Universitäten auf einschlägigen erziehungswissenschaftlichen, berufsbildenden und informatischen Plattformen und Tagungen präsentiert und publiziert. Eine Auswahl an Vorträgen und Publikationen befindet sich in der Mediathek.

Zum anderen richtet sich bei der Umsetzung des Vorhabens der Fokus auf den Transfer in die Praxis der beruflichen Aus- und Weiterbildung. Dieser Bereich wird insbesondere durch die ZWH betreut. Sie analysiert die Rahmenbedingungen für den Einsatz des VR-Lernsystems und den damit verbundenen organisatorischen Herausforderungen in den Bildungsstätten und fungiert darüber hinaus bei der Konzeption und Evaluierung der VR-Lackierwerkstatt als Schnittstelle zur praktischen Umsetzung in den Ausbildungsstätten der Handwerkskammern.

Durch die agilen Entwicklungsabläufe des Lernsystems können die Bildungsverantwortlichen der Bildungsstätten früh in die Entwicklung des Lernsystems miteinbezogen werden, sodass die Anforderungen der Praxis aus unterschiedlichen Perspektiven fortwährend in den Entwicklungsprozess einfließen können. Dieses Vorgehen sowie die inhaltliche Abstimmung der VR-Lackierwerkstatt auf die Rahmenlehrpläne des Ausbildungsberufes begünstigen die spätere Einsatzfähigkeit der VR-Lernanwendung im Alltag. Darüber hinaus wird ein niederschwelliger Zugang zu den entstehenden Bildungsressourcen angestrebt: So ist zu Projektende eine Open-Source- und eine Open-Educational-Ressource-Veröffentlichung der Ergebnisse geplant. Für den Einsatz der VR-Trainingsanwendung wird ein marktübliches VR-Equipment benötigt, das auch in weiteren VR-Lernszenarien eingesetzt werden kann. Außerdem soll der Nachbau einer Lackierpistole als VR-Controller unter Verwendung von 3D-Druck in Eigenleistung oder über einen Partner-Druckdienst möglich sein.

In Zusammenarbeit mit Berufsbildungszentren werden ebenso Betriebs- und Zugangsmöglichkeiten für Auszubildende im Bereich Fahrzeuglackierung erarbeitet. In diesem Rahmen werden auch gewerkeübergreifende Transferpotenziale untersucht, insbesondere im Malerberuf. Aber auch im Tischlerhandwerk werden Lackiertechniken verwendet. Zuletzt werden Erfolgs- und Akzeptanzkriterien für den späteren Einsatz der VR-Lackierwerkstatt ermittelt. Die relevanten Ergebnisse fließen in Qualifizierungsarbeiten für die Weiterentwicklung der zukünftigen Aus- und Weiterbildung mit ein und dienen u. a. als Basis für ein Beratungs- und Schulungskonzept.

Projektbeschreibung


Das BMBF-Vorhaben verfolgt die Forschungsfrage, welchen Beitrag Technologien der „Virtual Reality” leisten können, um handlungsorientiertes Lernen in der Berufsausbildung zu ermöglichen bzw. wie diese Technologien didaktisiert werden können, um entsprechende Lernerfolge sicherzustellen.

Projekt

Technische Umsetzung


Neben den wissenschaftlichen Erkenntnissen entsteht im Projekt mit der VR-Lackierwerkstatt ein innovatives Lernsystem. Die technische Umsetzung der Anwendung erfolgt durch die agile Softwareentwicklung auf Basis einer initialen Anforderungsanalyse mit allen Projektpartnerinnen und -partner.

Technische Umsetzung

Lehr- und Lernkonzept


Im Projekt werden die Möglichkeiten und Potentiale verschiedener didaktischer Ansätze für VR-Lernanwendungen erforscht. Der aktuelle Stand des didaktischen Konzepts kann hier eingesehen werden.

Lehr- und Lernkonzept

Veranstaltungen


Abschlussworkshop: Praxistransfer von VR/AR-bezogenen Forschungsprojekten

In den vergangenen drei Jahren hat das Team des Verbundprojekts HandLeVR die VR-Lackierwerkstatt entwickelt und untersucht. Unter der Leitfrage „Wie kann der Transfer von AR/VR-Projekten in den Bildungsalltag gelingen?“ lädt das Projektteam am 15. März 2022 zum Abschlussworkshop ein. Schwerpunktthema ist der Praxistransfer von AR/VR-bezogenen Forschungsprojekten. Neben der Präsentation der Ergebnisse und zukünftigen Perspektiven aus den Teilprojekten werden weitere Akteur*innen aus dem Forschungsbereich AR/VR in der beruflichen Bildung praktische Einblicke in ihre Projekte geben.

Online-Workshop: AR/VR als Lerntechnologie – institutionelle Treiber und Hindernisse

In Vorbereitung auf den Transfer der Projektergebnisse in die Praxis lädt die ZWH e. V. am 30. Juni 2021 zu einem virtuellen Workshop zum Thema „institutionelle Treiber und Hindernisse bei der Einbindung in die berufliche Bildung“ ein. Im Zentrum des zweistündigen Workshops steht die Frage, mit welchen Befähigungs- und Unterstützungskonzepten Hindernisse und Hürden bei der Integration von AR/VR-Technologien in der beruflichen Aus- und Weiterbildung aufgelöst werden können. Die Veranstaltung richtet sich an Lehrkräfte und Bildungsverantwortliche der Handwerkskammern.

Online-Workshop: Kompetenzrahmen für den Einsatz von VR-Technologien in der beruflichen Aus- und Weiterbildung

Zur Ermittlung der für den Einsatz von VR-Lernszenarien in der beruflichen Aus- und Weiterbildung erforderlichen Kompetenzen bei Lehrenden und Lernenden führt das Projektteam von HandLeVR am 01. Dezember 2020 einen virtuellen Workshop durch.

Alle Veranstaltungen