Ab 2. August gelten die Transparenzregeln des EU-AI-Act. Das Kanzleramt führt ein einheitliches KI-Kennzeichen für die Verwaltung ein, erstmals beim Chatbot „ida“

 

Seit Sonntag kommen die Transparenzpflichten des europäischen AI Act für bestimmte KI-Systeme zur Anwendung. Anbieter und Betreiber müssen künftig klar darüber informieren, wenn Menschen mit Künstlicher Intelligenz interagieren. Für bestimmte KI-generierte oder mit KI manipulierte Bild-, Audio-, Video- und Textinhalte gelten zusätzliche technische Kennzeichnungs- und Offenlegungspflichten. Das Bundeskanzleramt bringt dazu im Rahmen der Public-AI-Initiative ein einheitliches KI-Kennzeichnungsmodell für die Bundesverwaltung zum Einsatz – erstmals beim neuen Chatbot „ida“.

 

Pröll: „KI darf nicht im Verborgenen arbeiten“

„Wer mit KI spricht, soll das auch wissen. Künstliche Intelligenz soll den Menschen unterstützen, aber sie darf nicht im Verborgenen arbeiten“, betont Digitalisierungsstaatssekretär Alexander Pröll in einer Aussendung des Bundeskanzleramtes. Mit der Kennzeichnung schaffe man Vertrauen, „indem wir sie sichtbar machen“. So sei „auf den ersten Blick klar, wo KI eingesetzt wird und welche Rolle sie übernimmt“. Damit bringe man die europäischen Transparenzvorgaben „verständlich in die praktische Anwendung“.

 

Vier zentrale Transparenzpflichten

Artikel 50 des AI Act umfasst vier Anwendungsfälle: Bei Chatbots und anderen Systemen, die direkt mit Menschen kommunizieren, muss die KI-Interaktion klar offengelegt werden. Anbieter generativer KI-Systeme müssen künstlich erzeugte oder manipulierte Audio-, Bild-, Video- und Textinhalte technisch und maschinenlesbar markieren – etwa durch Metadaten oder Wasserzeichen. Beim Einsatz von Emotionserkennung oder biometrischer Kategorisierung sind betroffene Personen zu informieren. Und Deepfakes sowie bestimmte KI-generierte oder manipulierte Texte zu Themen von öffentlichem Interesse müssen als solche offengelegt werden.

Die Vorgaben bedeuten keine pauschale Kennzeichnung jeder KI-Unterstützung, wie das Kanzleramt betont. Entscheidend seien die konkrete Funktion des Systems, die Art der erzeugten Inhalte und die Frage, ob Menschen unmittelbar mit der KI oder ihren Ergebnissen konfrontiert seien. Zur Unterstützung hat die Europäische Kommission im Juli Leitlinien sowie einen freiwilligen Praxisleitfaden veröffentlicht. Ergänzend bietet die KI-Servicestelle der RTR-GmbH Informationen auf Deutsch an.

 

Vier Kategorien statt bloßem Hinweis

Das vom Kanzleramt entwickelte Kennzeichnungsmodell geht über den bloßen Hinweis „Hier kommt KI zum Einsatz“ hinaus. Ein Info-Button zeigt die Kennzeichnung und eine von vier Kategorien an. Diese ergibt sich aus zwei Fragen: Wie eigenständig handelt das System, und welche Auswirkungen können seine Ergebnisse für betroffene Menschen haben? Die Kennzeichnung sei „kein Güte- oder Qualitätssiegel, sondern ein Transparenzinstrument“, heißt es. In einer weiteren Ausbaustufe soll eine unabhängige Clearing- und Beratungsstelle die Ministerien und nachgeordneten Dienststellen bei der einheitlichen Anwendung unterstützen.

 

Erste Anwendung beim Chatbot „ida“

Erstmals kommt das Modell beim neuen Chatbot „ida“ zur Anwendung. Die digitale Assistenz steht in der ID-Austria-App sowie auf den Portalen oesterreich.gv.at und id-austria.gv.at zur Verfügung und beantwortet in natürlicher Sprache Fragen zur ID Austria, zu digitalen Verwaltungsservices und zu Wohnsitzangelegenheiten. Nutzer erkennen dabei von Beginn an, dass sie mit einem KI-System kommunizieren.

Künftig soll das Kennzeichnungsmodell auch für weitere KI-Anwendungen der Bundesverwaltung eingesetzt werden – mit dem Ziel eines gemeinsamen, wiedererkennbaren Transparenzstandards. „Transparenz darf kein Kleingedrucktes sein“, so Pröll abschließend. Die Kennzeichnung zeige nicht nur, dass KI eingesetzt werde, sondern erkläre auch, „wie selbstständig ein System arbeitet und welche Bedeutung seine Ergebnisse haben können“.