Responsible AI & Dokumentation

Diese Präsentation widmet sich der verantwortungsvollen Entwicklung und Dokumentation von KI-Systemen. Sie bietet einen Überblick über zentrale ethische Herausforderungen und deren Bedeutung in der Praxis. Unter Berücksichtigung aktueller Forschungsarbeiten werden Schlüsselthemen wie Werteorientierung bei Datensätzen, Bias-Erkennung sowie die Integration ethischer Normen im Entwicklungsprozess beleuchtet. Ergänzt wird dies durch Ansätze wie das "Red Teaming" von Sprachmodellen, um potenzielle Schwachstellen offenzulegen.

Ein weiterer Fokus liegt auf den Anforderungen an die Dokumentation von KI-Systemen gemäß EU AI Act, einschließlich Aspekten wie Transparenz, menschlicher Aufsicht, Cybersicherheit und Risikoanalyse. Die Präsentation veranschaulicht auch die Initiativen der Humboldt-Universität zu Berlin, darunter Leitlinien zur Nutzung generativer KI in Forschung und Lehre sowie deren Einbettung in eine breite Governance-Strategie.

Abschließend werden praktische Instrumente wie Model Cards und Data Statements vorgestellt, die die strukturierte Dokumentation von KI-Systemen fördern. Diese Ansätze bieten eine Grundlage für ethisch und technisch fundierte KI-Lösungen und unterstützen die Schaffung eines öffentlichen Transparenzstandards, wie er in Städten wie Helsinki und Amsterdam umgesetzt wird.