Arbeitsschutz: Was Chatbots können und was nicht

 

Chatbots begleiten Menschen zunehmend im Alltag. Auch am Arbeitsplatz werden sie verwendet – mit und ohne betriebliche Absprache. Aber was können sie wirklich? Nur weil sie scheinbar schlüssige Antworten liefern, bedeutet das nicht, dass sie richtig liegen. Das Wissen um ihre Stärken und Schwächen ist wesentlich. 

Projekt „Chatbotguide“
Ein Chatbot ist ein Computerprogramm, mit dem der:die Nutzer:in in einem Dialogformat wie mit einem menschlichen Gegenüber interagieren kann. Die heute gängigen Versionen basieren auf großen Sprachmodellen (englisch: large language models, kurz: LLM). Sie werden mithilfe einer immensen Menge an Textdaten darauf trainiert, natürliche Sprache nachzuahmen und menschliches Gesprächsverhalten zu imitieren. 
Derzeit bestehen insbesondere bei kostenlosen, frei zugänglichen LLM-Chatbots noch viele Unklarheiten in Bezug auf Datenschutz, Datensicherheit und Daten­weiter­verarbeitung sowie urheberrechtliche Unsicherheiten. Die Nutzung von Chatbots sollte jedenfalls in dem Bewusstsein erfolgen, dass theoretisch alle Inhalte für das Training des Programms genutzt werden können. Daher sollten personenbezogene Daten, Betriebsinterna oder sonstige sensible Angaben erst gar nicht in die Systeme eingegeben werden. 
Die AUVA hat sich in Kooperation mit der deutschen BAuA im Projekt „Chatbotguide“ die Nutzungsmöglichkeiten von öffentlich kostenlos zugänglichen Chatbotversionen – wie ChatGTP, Copilot und Gemini – betreffend Sicherheit und Gesundheit bei der Arbeit angesehen. Ziel war es, Präventivfachkräften in Unternehmen und sonstigen im Arbeitsschutz tätigen Personen eine Hilfestellung für die reflektierte Nutzung solcher Systeme zu bieten. Aus den Ergebnissen wurden Empfehlungen für den Einsatz im Betrieb abgeleitet. 
Es zeigt sich, dass Chatbots im Bereich Arbeitnehmer:innenschutz eine Unterstützung sein können, jedoch nur unter der Bedingung, dass die Ergebnisse einer inhaltlichen Prüfung unterzogen werden. Das Risiko fehlender oder fehlerhafter Informationen ist aber je nach Anwendungszweck unterschiedlich gravierend.

Fazit: Brainstormen, aber mit Faktencheck
Sprachbasierte Chatbots kommen häufig zum Erkunden von Themen bzw. beim Brainstorming zum Einsatz und können neue Ideen und Perspektiven eröffnen. Ebenso können sie zur Erstellung und zur Bearbeitung von Informationen genutzt werden, wenn etwa Unterweisungsinhalte an Zielgruppen angepasst, Texte in andere Sprachen übersetzt werden oder der Chatbot ein Quiz zur Wissensüberprüfung erstellen soll. Komplexe Analysen und Faktenfragen sind ein weiteres Einsatzgebiet, das aber entsprechendes Vorwissen der Nutzer:innen erfordert, um Antworten kritisch einordnen zu können. Egal für welchen Zweck Chatbots genutzt werden, die Ergebnisse sollten unbedingt auf Richtigkeit und Vollständigkeit überprüft werden. Das ist umso wichtiger, je größer die negativen Auswirkungen sind, die durch das Befolgen von fehlerhaften Antworten entstehen können. 
Davon abgesehen ist es wichtig, im Unternehmen eine innerbetriebliche Übereinkunft über die Nutzung von Chatbots zu treffen und die Risiken, Grenzen bzw. Schwächen der LLM-Chatbots klar zu kommunizieren. Das sind zum Beispiel:

• Halluzinationen: Chatbots erfinden im Zweifelsfall ganze Sachverhalte, Gesetze und Verordnungen.
• Ausgabe von unvollständigen bzw. Falsch-Informationen: Chatbots greifen auf eine riesige Menge an (großteils unbekannten) Daten zu. Auch wenn das System mit eigenen Daten nachtrainiert wird, können fehlerhafte Antworten nicht völlig ausgeschlossen werden. Zudem können ungenaue Fragestellungen bzw. Prompts ohne Hintergrundinformationen zu Fehlinformationen führen.
• Verengung von Ergebnisräumen, eingeschränkte Perspektiven: Teilweise kann das allein aufgrund suggestiver Fragestellungen passieren.

Chatbots können unterstützen, stellen aber keinen Ersatz für Fachkompetenz dar. Sie eignen sich insbesondere zur Ideenfindung und als Kooperationspartner für Sicherheits- und Gesundheitsfragen bei der Arbeit. Die inhaltliche Überprüfung bleibt weiterhin unerlässlich.