Sicherheit und Datenschutz
Gradeo bringt KI mit einem Ansatz in die Bildung, der auf Unterstützung, Transparenz, Datenschutz und Vorsicht beruht: Das Produkt hilft Lehrenden, nützliche Vorschläge vorzubereiten, ohne die menschliche Prüfung zu ersetzen oder die finale akademische Entscheidung zu automatisieren.
Verantwortungsvolle KI und die Rolle von Gradeo
Bei Gradeo sind wir der Auffassung, dass der Einsatz künstlicher Intelligenz in Bildungszusammenhängen mehr als gute Ergebnisse erfordert: Er braucht Klarheit über die Rolle der KI, Respekt vor dem Datenschutz und ein Produktdesign, das Menschen die Kontrolle lässt. Deshalb ist Gradeo als Unterstützungswerkzeug für Lehrende konzipiert. Seine Funktion besteht darin, bei der Vorbereitung von Korrektur-, Feedback- und Betreuungsvorschlägen mit mehr Konsistenz und weniger operativem Aufwand zu helfen, ohne das professionelle Urteil der Lehrperson zu ersetzen.
Unser Nutzungsansatz
Wir entwickeln Gradeo nach einer zentralen Idee: Die KI unterstützt, die Lehrperson entscheidet, und die finale Entscheidung wird nicht automatisch innerhalb der Anwendung formalisiert. Das bedeutet, dass Gradeo nicht als autonomes Entscheidungssystem gedacht ist, sondern als Unterstützung, um einen nützlichen, überprüfbaren und kontextbezogenen Vorschlag vorzubereiten.
Was Gradeo leisten kann
Je nach Arbeitsablauf und gewählter Konfiguration kann Gradeo akademische Dokumente analysieren, Rubriken konsistenter anwenden, Punktvorschläge pro Kriterium machen, strukturiertes Feedback verfassen, unterstützende Ergebnisse oder Berichte generieren und homogenere Korrektur- und Betreuungsprozesse ermöglichen. All dies basiert auf dem Kontext, den die Lehrperson vorgibt, etwa Rubrik, Anweisungen, Referenzmaterialien, gewünschter Stil und Prozesseinstellungen.
Was Gradeo nicht macht
Gradeo soll weder das Urteil der Lehrperson ersetzen noch eigenständig eine gültige akademische Endentscheidung treffen oder die einzige Grundlage für eine Endnote sein. Im aktuellen Produktzustand endet Gradeo in einem KI-gestützten Vorschlag. Die finale Prüfung und die endgültige Nutzung des Ergebnisses müssen außerhalb der Anwendung anhand des Urteils der Lehrperson und des geltenden organisatorischen Rahmens erfolgen.
Grundsätze verantwortungsvoller Nutzung
Verantwortungsvolle KI-Nutzung in der Bildung erfordert das Bewusstsein, dass nicht alle Entscheidungen dieselben Auswirkungen haben. Je höher die akademische Relevanz einer Aktivität ist, desto wichtiger ist es, Ergebnisse mit menschlichem Urteil zu prüfen, unangemessene Automatisierung zu vermeiden, zu verstehen, dass KI-Vorschläge Fehler oder Inkonsistenzen enthalten können, und die Nutzung an die Richtlinien der Schule oder Organisation anzupassen, sofern solche bestehen. Deshalb beruht unser Ansatz auf mehreren Prinzipien: Transparenz über die Beteiligung der KI, Klarheit über die Grenzen des Systems, Vorsicht in sensiblen Kontexten und eine Stärkung der Rolle der Lehrperson als verantwortliche Instanz für die Endentscheidung.
Daten, die bei der Nutzung vorkommen können
Bei Gradeo ist Datenschutz kein Zusatz, sondern ein zentraler Bestandteil von Produktdesign und verantwortungsvoller Nutzung. Bei der Nutzung von Gradeo können Daten wie Studierendenarbeiten, Namen oder andere Kennzeichen, akademische Beobachtungen, Feedback sowie Korrektur- oder Betreuungsergebnisse vorkommen. Deshalb empfehlen wir grundsätzlich, nur notwendige Daten zu teilen, unnötige personenbezogene Informationen zu vermeiden, die Sichtbarkeit von Ergebnissen zu begrenzen und im Einklang mit den Datenschutzrichtlinien der Schule oder Organisation zu arbeiten, sofern diese bestehen.
Datenminimierung, Anonymisierung und Vorsicht
Unser Datenschutzansatz folgt einem einfachen Prinzip: Weniger Daten sind besser, solange das didaktische Ziel weiterhin erreicht werden kann. Das bedeutet, nur den wirklich nötigen Kontext einzubringen, irrelevante Dokumente oder personenbezogene Daten zu vermeiden, Anonymisierung zu nutzen, wenn der Ablauf dies erlaubt, und besondere Vorsicht walten zu lassen, wenn Minderjährige oder sensible Informationen betroffen sind.
Wer Zugang zu Informationen und Ergebnissen hat
Der Zugang zu Ergebnissen sollte auf die Lehrperson oder das für den Prozess verantwortliche Lehrteam beschränkt sein. Jede spätere Kommunikation sollte den geltenden akademischen und organisatorischen Kontext respektieren. Wir empfehlen, KI-generierte Vorschläge oder Ergebnisse nicht breit ohne vorherige Prüfung zu verbreiten, insbesondere wenn sie fälschlicherweise als Endentscheidung verstanden werden könnten oder relevante Folgen für Studierende haben.
Institutionelle Nutzung im B2B-Umfeld
Wenn Gradeo über eine Universität, Schule, Akademie oder eine andere Organisation genutzt wird, wird der Nutzungsrahmen durch die interne Richtlinie des Kunden, seine Datenschutzregeln, seine Kriterien zur Aufbewahrung und Kommunikation von Ergebnissen sowie seine Lehr- und Organisationsprozesse bestimmt. In diesem Kontext muss Gradeo in den von der Institution festgelegten Governance- und Compliance-Rahmen eingebettet werden.
Individuelle Nutzung im B2C-Umfeld
Wenn Gradeo individuell genutzt wird, trägt die nutzende Person direktere Verantwortung dafür, welche Informationen eingegeben werden, ob die Nutzung für die eigene berufliche Tätigkeit angemessen ist und wie der KI-generierte Vorschlag anschließend überprüft wird. In solchen Fällen ist besondere Vorsicht geboten, wenn Minderjährige beteiligt sind, Ergebnisse erhebliche Konsequenzen haben oder die verarbeiteten Informationen besonders sensibel sind.
Minderjährige und sensiblere Kontexte
Es gibt Situationen, die ein erhöhtes Maß an Sorgfalt erfordern, etwa bei der Nutzung mit Minderjährigen, beim Umgang mit besonders sensiblen personenbezogenen Informationen, bei Aktivitäten mit hohem akademischem Einfluss oder bei Ergebnissen, die weit geteilt werden könnten. In solchen Kontexten ist die Empfehlung eindeutig: Daten minimieren, sorgfältiger prüfen, vermeiden, dass ein KI-Vorschlag wie eine abgeschlossene Entscheidung zirkuliert, und stets den entsprechenden rechtlichen und organisatorischen Rahmen anwenden.
Transparenz und menschliche Prüfung
Vertrauen in ein KI-basiertes Bildungswerkzeug hängt davon ab, dass Nutzende verstehen, wann KI beteiligt ist, welche Art von Ergebnis sie erhalten und welche Teile des Prozesses weiterhin von menschlicher Prüfung außerhalb des Produkts abhängen. Deshalb ist Gradeo darauf ausgelegt, klar zu kommunizieren, dass die vom System erzeugten Ergebnisse als unterstützte Vorschläge und nicht als autonome Endentscheidungen zu verstehen sind.
Praktischer Bezug zur GDPR
Aus Sicht der GDPR ist unser Grundsatz klar: unnötige Daten so weit wie möglich reduzieren, eine dem Bildungszweck angemessene Nutzung fördern und dazu beitragen, dass das Produkt innerhalb verantwortungsvoller organisatorischer Rahmen genutzt werden kann. Das ersetzt nicht die Notwendigkeit, dass jede Institution, Fachperson oder jeder Kunde die eigene rechtliche Einordnung prüft, definiert aber eine klare Produkt- und Nutzungsrichtung mit Fokus auf Datenschutz, Verhältnismäßigkeit und Minimierung.
Praktischer Bezug zum EU AI Act
Der EU AI Act hat die Anforderungen an KI-Systeme in sensiblen Kontexten, einschließlich Bildung, erhöht. Gradeos praktische Antwort auf dieses regulatorische Umfeld beruht auf drei Ideen: KI sollte als Unterstützung und nicht als automatische Ersetzung der Lehrperson eingesetzt werden, Transparenz über die Rolle des Systems ist wesentlich, und Szenarien mit höherem Einfluss oder größerer Sensibilität erfordern eine vorsichtigere und kontrolliertere Nutzung. Statt KI als blinde Automatisierung darzustellen, positioniert sich Gradeo als Werkzeug, das Lehrenden mehr Konsistenz, bessere Nachvollziehbarkeit und eine stärkere Grundlage für spätere Prüfungen bietet.
Empfohlene Best Practices
Unabhängig vom Kontext empfehlen wir, Rubrik, Kontext und Anweisungen sorgfältig zu konfigurieren, nur die notwendigen Informationen einzugeben, die Ausgabe als KI-gestützten Vorschlag zu verstehen, wichtige oder sensible Fälle genauer zu prüfen und die Endentscheidung außerhalb von Gradeo gemäß dem Urteil der Lehrperson und dem geltenden Rahmen zu treffen.
Was wir nicht empfehlen
Für eine verantwortungsvolle Nutzung empfehlen wir, die Ausgabe nicht als alleinige Grundlage für eine Endnote zu behandeln, nicht mehr personenbezogene Daten als nötig hochzuladen, Ergebnisse nicht ohne Kontextprüfung zu teilen und das Werkzeug nicht außerhalb der Richtlinien deiner Organisation zu nutzen, wenn du innerhalb einer Institution arbeitest.
Anbieter und Datenverarbeitung
Wir können technologische und KI-Anbieter einsetzen, um den Dienst bereitzustellen, stets innerhalb des vertraglichen und operativen Rahmens, der jeweils gilt. Dennoch bleibt unser Produktansatz derselbe: unnötige Daten begrenzen, eine dem Bildungszweck angemessene Nutzung fördern und sicherstellen, dass der Einsatz des Werkzeugs in verantwortungsvolle Prozesse für Prüfung, Governance und Compliance eingebettet ist.