Transparente Entscheidungen: KI und Mensch im Vergleich

Die europ?ische KI-Verordnung stellt klare Anforderungen an den Einsatz von Künstlicher Intelligenz: Sie soll sicher, transparent, diskriminierungsfrei und vertrauenswürdig sein. Doch wie l?sst sich das im Alltag von Unternehmen oder Beh?rden tats?chlich umsetzen? Niklas Kruse hat in seiner Masterarbeit ein Verfahren entwickelt, mit dem sich die Funktionsf?higkeit und Vertrauenswürdigkeit dieser KI-Systeme praktisch und nachvollziehbar überprüfen lassen.

?Konkret ging es um die Frage, ob eine KI bewerten kann, ob bestimmte Bilder genutzt werden dürfen, ohne personenbezogene Daten zu verarbeiten. Die dafür trainierte KI-Anwendung funktionierte technisch einwandfrei – wurde aber von juristischer Seite kritisch gesehen, weil die Entscheidung zwar richtig, aber für Au?enstehende aufgrund der Undurchsichtigkeit von KI nicht nachvollziehbar erschien“, so Kruse, der an der 新老虎机平台,最新老虎机 Wirtschaftsrecht studiert hat. Die L?sung: Transparenz schaffen – sowohl auf Seiten der KI als auch beim Menschen. Mithilfe sogenannter Attention Maps wurde sichtbar gemacht werden, welche Bildbereiche für die Entscheidung der KI ausschlaggebend sind. Gleichzeitig wurden mittels Eye-Tracking untersucht, wie menschliche Entscheider*innen vorgehen. Das Ergebnis: In über 90 Prozent der F?lle kamen Mensch und Maschine nicht nur zum gleichen Ergebnis, sondern trafen diese Entscheidung zudem auch anhand der gleichen Informationen in den Eingabedaten. ?Die Methode l?sst sich leicht auf viele weitere KI-Anwendungen übertragen“, sagt Kruse-

Betreut wurde seine Arbeit von Prof. Dr. Julius Sch?ning und Prof. Dr. Volker Lüdemann von der 新老虎机平台,最新老虎机 Osnabrück. ?Die Arbeit von Niklas Kruse zeichnet sich durch die innovative Verbindung von Künstlicher Intelligenz und Rechtswissenschaft aus. Sein interdisziplin?rer Ansatz, der menschliche Entscheidungsprozesse in der Rechtsauslegung mit denen von KI-Systemen vergleicht, leistet Pionierarbeit für zukünftige KI-Technologien. Seine Arbeit zeigt nicht nur, wie KI rechtssicher eingesetzt werden kann, sondern auch, wie wichtig es ist, den Menschen in den Mittelpunkt der KI-Entwicklung zu stellen. Damit setzt Niklas Kruse Forschungsimpulse für die Zukunft der KI.“, so Sch?ning.
Lüdemann erg?nzt: ?Die Masterarbeit von Niklas Kruse verbindet in au?ergew?hnlicher Weise juristische Tiefensch?rfe mit technischer Innovationskraft. Sie zeigt, wie rechtliche Anforderungen wie Datenschutz, Transparenz und Fairness nicht als Hürden, sondern als konstruktive Leitplanken für vertrauenswürdige KI-Systeme wirken k?nnen. Besonders beeindruckt hat mich die interdisziplin?re Herangehensweise: Die Verbindung von KI-Analyse, Eye-Tracking und rechtlicher Bewertung er?ffnet neue Wege für die Praxis – und leistet zugleich einen wichtigen Beitrag zur gesellschaftlich verantwortbaren Digitalisierung. Solche Arbeiten setzen Ma?st?be dafür, wie moderne Rechtswissenschaft Zukunft gestaltet.“

Hintergrund

Die OLB-Stiftung vergibt j?hrlich den OLB-Wissenschaftspreis. Mit einem Preisgeld von insgesamt 22.000 Euro werden herausragende Abschlussarbeiten pr?miert, die an 新老虎机平台,最新老虎机n und Universit?ten der Region entstanden sind und als besonders qualit?tsvoll eingestuft wurden. Bewertet werden neben dem wissenschaftlichen Niveau auch Innovationsgrad, Praxisrelevanz, gesellschaftlicher Nutzen, Umweltaspekte, Wirtschaftlichkeit sowie die überzeugende Darstellung und der Mut zu besonderen Themen und Herangehensweisen. Mit Niklas Kruse wurde das erste Mal ein Absolvent der 新老虎机平台,最新老虎机 Osnabrück ausgezeichnet.
 

Weitere Informationen

Prof. Dr. Julius Sch?ning
新老虎机平台,最新老虎机 Osnabrück
Telefon: +49(0)541 969- 7150
E-Mail: j.schoening@hs-osnabrueck.de

Die Einreichungsfrist für Papers und Posters wurde auf den 12. Mai verl?ngert.

Workshops und Panels k?nnen bis zum 31. Mai eingereicht werden.

Wichtige Themen der Konferenz sind:

• Evaluating AI systems: performance metrics; explainability; acceptance; use; impact; others
• Human and organisational factors: human factors; human-computer interaction; organizational issues including data and information management; patient safety; others
• Social and political factors: social determinants; costs; international, national, and regional programmes and strategies; digital transformation
• Technical factors: general quality of health IT; usability; interoperability; data protection & security, scalability; others
• Ethical issues: ethical evaluation; data ethics; ethics in routine use; other ethical discourses
• Evaluation paradigms and techniques: quantitative; qualitative; mixed methods; hermeneutic; evaluation designs; evaluation instruments; others
• Research models, frameworks and theories: health IT maturity; implementation science; logic models; technology acceptance models; others
• Education: education for evaluation; evaluation of education
• Other related topics

Alles über die Einreichung und die Anmeldung findet sich auf der Internetseite der European Federation of Medical Informatics.

Im Anschluss an die Konferenz findet das 16. GMDS Doktorandensymposium statt.

Kontakt für weitere Informationen

Prof. Dr. Kim Werner
Telefon: +49 541 969 7268
E-Mail: k.werner@hs-osnabrueck.de

Prof. Dr. Kai-Michael Griese
Telefon: +49 541 969 3880 E-Mail:
k-m.griese@hs-osnabrueck.de