VitrAI Demonstrator

Die erfolgreiche Einführung von Künstlicher Intelligenz (KI) hängt stark davon ab, wie gut Entscheidungsträger sie verstehen und ihr vertrauen können. In naher Zukunft wird KI weitreichende Entscheidungen über Menschen treffen, zum Beispiel in selbstfahrenden Autos. Aber komplexe KI-Modelle sind schwer zu verstehen und stellen für Menschen eine Blackbox dar. Das Feld der Explainable Articial Intelligence zielt darauf ab, besser erklärbare Modelle zu erstellen und trotzdem eine hohe Vorhersagekraft zu erreichen, um mehr Vertrauen, realistischen Erwartungen und fairere Entscheidungen zu fördern.

VitrAI ist ein webbasierter Service mit dem Ziel, XAI-Algorithmen anhand realer Szenarien zu demonstrieren und die Leistungsfähigkeit und Verständlichkeit von XAI-Methoden durch Nicht-Spezialisten zu evaluieren.

Die Plattform besteht aus zwei Kernbereichen. Der erste ist der Demo-Abschnitt, in dem XAI-Erklärungen in drei Szenarien ausgestellt werden. Der Zweck des Demo-Bereichs ist es, eine benutzerfreundliche Einführung in die XAI zu geben, die keine Einrichtung oder Dateneingabe erfordert. 

Des weiteren gibt es einen benutzergesteuerten Bereich, in dem die Benutzer aus verschiedenen vortrainierten Machine-Learning-Modellen wählen und eigene Daten eingeben können, die  anschließend anhand von XAI-Methoden erklärt werden. 

KMU profitieren bei der Verwendung von erklärbarer KI nicht nur von den reinen Erklärungen, sondern auch durch die Einhaltung ethischer und regulatorischer Prinzipien. Bei der Personalauswahl kann XAI Situationen aufdecken, in denen ein KI-Modell etwa aufgrund von Geschlecht oder Hautfarbe entscheidet und nicht aufgrund von Qualifikationen. Weil ein wirklich gutes KI-Modell auch erklärbar sein sollte, sollten sich KMUs am besten schon vor der Einführung von KI mit XAI beschäftigen. So kann man bereits im Vorhinein die Daten und das KI-Modell so aufbereiten, dass es später auch erklärbar ist.