Oder: Was hat der Besuch bei Tante Maria mit Künstlicher Intelligenz zu tun?

Machine Learning (ML) und Vertrauen – Eine Fortsetzung

Im letzten Blogpost haben wir das Thema »Erklärbarkeit von Künstlicher Intelligenz« (KI) aufgemacht, das wir in diesem Blogpost fortsetzen wollen. »AI systems should not only be the best possible. Sometimes they should say ‘I have no idea what I’m doing here, don’t trust me.’ That’s going to be really important«, so lautet ein Zitat von Herb Lin, Professor an der Stanford University. Grob übersetzt: »KI-Systeme sollten nicht nur bestmöglich funktionieren. Manchmal sollten sie auch sagen: 'Ich habe keine Ahnung, was ich hier tue, vertrau mir nicht'. Das wird wichtig werden.«