Künstliche Intelligenz ist längst im Arbeitsalltag angekommen: Bewerbungen werden vorsortiert, Kundenanfragen automatisiert beantwortet, Datenmengen in Sekunden analysiert. Doch mit den Chancen wachsen auch die Risiken für Datenschutz, Transparenz und Grundrechte. Die Europäische Union hat deshalb als erstes politisches Bündnis weltweit einen umfassenden Rechtsrahmen geschaffen: den EU AI Act.
Die Verordnung soll sicherstellen, dass KI in Europa vertrauenswürdig, fair und nachvollziehbar eingesetzt wird. Je nach Risiko, das ein KI-System für Menschen mit sich bringt, gelten unterschiedlich strenge Vorgaben, von einem kompletten Verbot einzelner Anwendungen bis hin zu Transparenzpflichten für einfache Tools. Besonders im Fokus: sogenannte Hochrisiko-KI, etwa in der Personalrekrutierung oder im Bildungsbereich. Für sie sind unter anderem Risikomanagement, Dokumentationspflichten und menschliche Aufsicht vorgeschrieben.
Neu ist auch die Regulierung sogenannter General Purpose AI (KI mit besonders breitem Einsatzspektrum). Der AI Act unterscheidet dabei zwischen zwei Begriffen:
- Ein General Purpose AI Model ist ein leistungsstarkes Basismodell, das mit großen Datenmengen trainiert wurde und für viele verschiedene Aufgaben eingesetzt werden kann – wie etwa ein Sprachmodell, das Text generiert, übersetzt oder zusammenfasst.
- Ein General Purpose AI System ist die konkrete Anwendung, die auf einem solchen Modell basiert – zum Beispiel ein Chatbot, ein Analyse-Tool oder eine Suchmaschine, die das Modell nutzt.
Diese Unterscheidung ist wichtig, weil je nach Rolle, etwa als Anbieter oder Betreiber, unterschiedliche Pflichten gelten. Unternehmen müssen künftig genau wissen, was sie einsetzen und wie es reguliert ist.
Genau hier setzen unsere Beratungen an. Wir unterstützen Sie gerne bei der rechtssicheren Umsetzung des AI Acts.
Denn eines ist klar: Wer heute KI nutzt, muss auch ihre Regeln kennen.