EAH Jena richtet Stiftungsprofessur für „Erklärbare Künstliche Intelligenz (XAI)“ ein
Der Einsatz von KI durchdringt zunehmend alle Lebensbereiche und Branchen. Mit diesem Fortschritt steigen auch die Anforderungen an die Nachvollziehbarkeit und Transparenz von KI-Entscheidungen.
„Viele Verfahren des maschinellen Lernens funktionieren wie eine Black Box. Sowohl Gesetze wie der EU AI Act als auch der Wunsch der Nutzerinnen und Nutzer, die Empfehlungen von KI besser zu verstehen, zeigen, wie wichtig es ist, KI erklärbar zu machen. Das schafft Vertrauen und Akzeptanz in der Fachwelt und in der Öffentlichkeit“, erklärt Prof. Dr. Schmalzried, Professor für Wirtschaftsinformatik und wissenschaftlicher Leiter des Zentrums für Angewandte Künstliche Intelligenz an der EAH Jena. Gemeinsam mit Prof. Dr. Michael Stepping (Fachbereich WI, E-Commerce), Dr. Christian Leiterer (Nucleus Jena) und dem Präsidenten der EAH Jena, Prof. Dr. Steffen Teichert, nahm er den Förderbescheid der Carl-Zeiss-Stiftung entgegen.
Ziel der neuen Professur ist es, mit innovativen Methoden und Werkzeugen genau diese Erklärbarkeit komplexer KI-Modelle zu verbessern, um den Einsatz dieser Technologien transparenter zu gestalten. „Das ist besonders wichtig in sicherheitskritischen Bereichen des Gesundheits- und Pflegewesens, bei ingenieurwissenschaftlichen Entwicklungen oder bei von Menschen gesteuerten Prozessen, also überall dort, wo Fehlentscheidungen schwerwiegende Folgen haben können“, sagt Prof. Dr. Michael Stepping.
Die Professur wird das Thema KI interdisziplinär in Lehre und Forschung verankern und auf ein breites Spektrum von Anwendungsfeldern ausrichten. Neben den klassischen Themen des Wirtschaftsingenieurwesens wie E-Commerce, Umwelttechnik, Betriebswirtschaft und Ingenieurswissenschaften sind auch Themen aus anderen Fachbereichen relevant und Schnittstellen zu den Fachbereichen Medizintechnik und Biotechnologie, Gesundheit und Pflege, Sozialwesen, Betriebswirtschaft und SciTec werden genutzt, um KI-basierte Lösungen für Herausforderungen in verschiedenen Disziplinen zu entwickeln.
Beispiele für Anwendungen sind die automatisierte Analyse medizinischer Bilder zur Früherkennung von Krankheiten sowie die Optimierung von Versorgungsstrukturen und die effizientere Planung von Ressourcen im Gesundheitswesen. Im Sozialbereich werden Analysen von Gruppendynamiken für gezielte Interventionen in sozialen Einrichtungen eingesetzt. Handelsströme und Konsumverhalten werden analysiert und Algorithmen entwickelt, um Marketingstrategien zu verbessern und den Online-Handel zu optimieren. Durch ein besseres Verständnis des Zustandekommens von Materialeigenschaften können neue Werkstoffe für spezielle Anwendungen entwickelt werden.
Dieser interdisziplinäre Ansatz fördert den Wissensaustausch und ermöglicht die Entwicklung innovativer Lösungen für komplexe, branchenübergreifende Herausforderungen.
Ein weiterer wichtiger Bestandteil der Professur ist die Zusammenarbeit mit der Wirtschaft. Gezielte Partnerschaften mit Unternehmen sollen die Praxisnähe der Forschung sicherstellen und den Dialog fördern. Unternehmen werden aktiv in die Lehre eingebunden und betreuen Abschlussarbeiten.
