Am 2. Februar 2025 ist der EU AI Act (KI-Verordnung) in Kraft getreten – ein Meilenstein für die Regulierung von Künstlicher Intelligenz in Europa. Ziel des Gesetzes ist es, den sicheren, transparenten und verantwortungsvollen Einsatz von KI-Systemen zu gewährleisten. Für Unternehmen, die KI-Technologien entwickeln und einsetzen, ergeben sich daraus klare Vorgaben.

Doch was bedeutet das konkret? Und wo steht Noten Copilot im Kontext dieser neuen Regularien?

Das Wichtigste zum EU AI Act auf einen Blick:

Der AI Act untersagt den Einsatz von KI-Systemen, die ein „inakzeptables Risiko“ darstellen. Dazu gehören:

• Transparenzpflichten: KI-Systeme, die mit Menschen interagieren, müssen deutlich machen, dass es sich um KI handelt. Nutzerinnen und Nutzer sollen jederzeit wissen, wann sie mit einer KI arbeiten.
• Pflicht zur KI-Kompetenz (AI Literacy): Unternehmen müssen sicherstellen, dass Mitarbeitende, die KI-Systeme entwickeln oder verwenden, ausreichend geschult sind. Das umfasst das Verständnis der Funktionsweise von KI, Kenntnisse über mögliche Risiken und die sichere Implementierung von KI in den Arbeitsalltag.

KI-Anwendungen in Bereichen wie Gesundheitswesen, Justiz oder Bildung gelten teils als „Hochrisiko-Systeme“. Diese müssen strengen Anforderungen an Datensicherheit, Fairness und Nachvollziehbarkeit genügen.

Wo steht Noten Copilot im Zusammenhang mit dem EU AI Act?

Noten Copilot ist von Grund auf so entwickelt, dass es den Anforderungen des EU AI Act entspricht – nicht nur, weil es gesetzlich vorgeschrieben ist, sondern weil wir der Überzeugung sind, dass Transparenz, Fairness und Datenschutz die Basis für vertrauensvolle KI-Nutzung bilden.

1. Transparenz by Design:
   • Nutzerinnen und Nutzer von Noten Copilot wissen immer, wann und wie KI eingesetzt wird.
   • Die Bewertungsprozesse sind nachvollziehbar, und Lehrkräfte behalten stets die Kontrolle über die finalen Notenentscheidungen.
     
2. Keine Hochrisiko-KI im klassischen Sinne:
   • Da Noten Copilot keine automatisierten Entscheidungen trifft, sondern Lehrkräfte in ihrer Bewertung unterstützt, fällt es nicht in die strengen „Hochrisiko-Kategorien“ des EU AI Acts.
   • Die pädagogische Verantwortung bleibt beim Menschen – genau da, wo sie hingehört.
     
3. Datenschutz nach DSGVO-Standards:
   • Noten Copilot erfüllt bereits heute die strengen Anforderungen der Datenschutz-Grundverordnung (DSGVO).
   • Alle Daten werden sicher verarbeitet und gespeichert, ohne unnötige Sammlung personenbezogener Informationen.
     
4. Förderung von KI-Kompetenz:
   • Wir bieten Schulungen und Ressourcen für Lehrkräfte, damit sie den Einsatz von KI in der Bewertung sicher verstehen und reflektiert einsetzen können.

Der EU AI Act stellt die richtigen Fragen: Wie gestalten wir KI sicher, transparent und fair?
Für Noten Copilot ist die Antwort klar: Wir sehen Regulierung nicht als Hürde, sondern als Chance, das Vertrauen von Lehrkräften, Schulen und Eltern zu stärken.
Unsere Mission bleibt: Lehrkräfte entlasten, ohne pädagogische Verantwortung abzugeben – und das im Einklang mit den höchsten ethischen und rechtlichen Standards.