KI-Systeme in der Medizin treffen folgenreiche Entscheidungen. Es ist wichtig zu verstehen, wie sie dabei vorgehen. In einer neuen Studie haben Farhad Nooralahzdeh (ZHAW) und Forschende der Universität Zürich, dem Universitätsspital Zürich, der ETH Zürich, der Stanford University und der Kobe University untersucht, wie sich medizinische Bild-Text-Modelle gezielt beeinflussen lassen. Bestimmte interne Merkmale können die Modellleistung konsistent verbessern, andere helfen dabei, unerwünschte oder irreführende Verhaltensweisen zu unterdrücken.
Das Ergebnis ist mehr Kontrolle, bessere Nachvollziehbarkeit und robustere KI-Systeme im klinischen Umfeld. Die Arbeit entstand im Rahmen des Projekts «3D Vision-Language Model for Radiology» gefördert durch die Swiss AI Initiative und Radical, das im 4. Projekt-Call gefördert wird.