TrustAI: Flexible und vertrauenswürdige KI-Lösungen für Unternehmen

Derzeit verfügbare KI-Systeme eignen sich meist nur für die Lösung bestimmter Aufgaben wie beispielsweise Sprach- oder Objekterkennung. Kleine und mittelständische Unternehmen (KMUs) benötigen jedoch KI-Lösungen, die speziell auf ihre Probleme zugeschnitten sind und mit denen sie flexibel auf Marktveränderungen reagieren können. Außerdem ist oft nicht nachvollziehbar, welche Faktoren die Entscheidungen von KI-Systemen beeinflussen. Diese mangelnde Transparenz untergräbt das Vertrauen in die Technologie und steht, neben dem oft fehlenden Know-how, einem breiteren Einsatz von KI-Lösungen in KMUs im Wege. Im TrustAI Projekt stellen wir uns diesen Herausforderungen und wollen KMUs einen einfachen Zugang zu KI-Services ermöglichen. Ein KI-Plattform für verschiedene Problemstellungen Ziel des TrustAI Projektes ist es, eine leicht zugängliche Plattform für interaktiv trainierbare KI-Services aufzusetzen, die sich an unterschiedliche Problemstellungen anpassen lässt. Dafür ist es notwendig, die Bedürfnisse künftiger Benutzer*innen – neben den KMUs auch Kultur- und öffentliche Einrichtungen – der Plattform kennenzulernen. Aus diesem Grund haben wir Anforderungsanalysen durchgeführt, um KMU-spezifische Herausforderungen und Anwendungsfälle zu identifizieren. Darauf aufbauend entwickeln wir Konzepte für personalisierte, interaktiv trainierbare KI-Lösungen, deren Entscheidungen erklärbar und gut nachvollziehbar sind. Im ersten Teil des TrustAI Projekts werden wir an drei komplementären Anwendungsfällen der Digitalisierung arbeiten: 1) Landwirtschaft - Schädlings- und Erkrankungserkennung im Weinbau, 2) Gesundheit - KI-gestützte Diagnoseempfehlung in der klinischen Ganganalyse und 3) Kulturelles Erbe - visuelle Analyse historischer Manuskripte. Im weiteren Verlauf sollen die entwickelte TrustAI Plattform und die Methodiken auf weitere reale Anwendungsfälle von KMUs ausgeweitet werden. Ein innovatives KI-Lernparadigma Kernstück des TrustAI Projekts ist eine innovative Methodik, die es ermöglicht, KI-Modelle interaktiv und transparent zu trainieren. Wir gehen weg von einer starren „Artificial Intelligence“ und über zu einer kollaborativen, adaptiven und vertrauenswürdigen „Assistive Intelligence“. Normalerweise erfordern komplexe KI-Modelle große Mengen an annotierten Daten. Beim TrustAI Ansatz kann das Training jedoch auch mit wenigen annotierten Daten gestartet werden. Das KI-System identifiziert dabei komplexe Datensamples aus den nicht annotierten Daten und versucht, diese vorherzusagen. Anschließend teilt es den Benutzer*innen die Vorhersagen für diese Daten mit, inklusive einer Erklärung warum diese getroffen wurden. Die Benutzer*innen können dann die Faktoren in der Erklärung interaktiv ablehnen, bestätigen oder neue Konzepte einbringen, auf deren Grundlage das KI-System seine Entscheidung treffen soll. TrustAI geht somit über den üblichen Ansatz hinaus, KI-Modelle nur basierend auf bestehenden Datenannotationen zu trainieren, da bei unserem Ansatz Mensch und KI in einem kontinuierlichen Dialog stehen. Damit reduzieren wir die Abhängigkeit von annotierten Trainingsdaten und ermöglichen flexible Lösungen, die auf spezifische Probleme von Unternehmen abgestimmt werden können. Des Weiteren ermöglicht der interaktive Dialog zwischen KI-Modell und Benutzer*in, das Verständnis für die Aufgabenstellung schrittweise zu vertiefen und den Trainingsfortschritt des Modells permanent zu überwachen. Dies erleichtert es, systematische Fehlverhalten des Modells besser zu erkennen, sie zu minimieren und somit das Vertrauen in die KI zu stärken. Mit TrustAI wollen wir eine Plattform anbieten, die erklärbare und vertrauenswürdige KI-Modelle bereitstellt, die kein technisches Vorwissen erfordern und über einfach zu bedienende Benutzeroberflächen zugänglich sind. Anfragen von Firmen zur Nutzung unserer Trust AI Plattform sowie unserer Lernmethodik nehmen wir gerne entgegen und freuen uns darauf, gemeinsam Lösungen für spezifische und individuelle Problemstellungen auszuarbeiten. Weitere Informationen zum Projekt finden Sie auf der Projektwebseite: https://research.fhstp.ac.at/projekte/trustai-eine-plattform-fuer-interaktive-und-vertrauenswuerdige-kuenstliche-intelligenz Kontakt: matthias.zeppelzauer@fhstp.ac.at Abbildung 1. Einer der drei initialen Anwendungsfälle ist die KI-gestützte Diagnoseempfehlung in der klinischen Ganganalyse. In der klinischen Ganganalyse werden Bewegungs- und Kraftmessdaten für die Diagnose von Gangstörungen verwenden. Die KI versucht charakteristische Merkmale für bestimmte Gangstörungen in den Messsignalen zu identifizieren. Die Nutzer*in (eine klinische Expert*in) kann mithilfe der in TrustAI entwickelten interaktiv erklärbaren KI die richtigen Merkmale identifizieren und auf potenziell relevante Signalverläufe hinweisen, um dem KI-Modell das Lernen zu erleichtern sowie systematische Fehlverhalten zu vermeiden.