<\/p>\n\n\n\n
K\u00fcnstliche Intelligenz (KI) ist mittlerweile so gegenw\u00e4rtig, dass in Deutschland bereits \u00fcber 90%<\/a> etwas mit dem Begriff anfangen k\u00f6nnen und sich 56% der Befragten zutrauen w\u00fcrden, diesen zu erkl\u00e4ren. Erkl\u00e4rmethoden im Detail: LIME und SHAP<\/strong><\/p>\n\n\n\n Doch wie kann eine durch maschinelles Lernen trainierte KI verst\u00e4ndlich aufzeigen, wie sie zu einer Prognose gekommen ist? L\u00f6sungen bieten hier beispielsweise die LIME<\/a> – und SHAP<\/a> -Methoden. Beide k\u00f6nnen eine Vorhersage anhand ihrer relevantesten Merkmale (sogenannten Features) erkl\u00e4ren, wobei LIME dabei lokal und SHAP global agiert. Das bedeutet, dass LIME (Local Interpretable Model-agnostic Explanations;<\/em> Lokal interpretierbare, modellagnostische Erkl\u00e4rungen) auf einen ausgew\u00e4hlten Punkt angewendet wird und die relevantesten Features bestimmt, indem es diesen mit zuf\u00e4llig-kreierten Punkten im Umfeld vergleicht und damit eine Gewichtung jener Features erh\u00e4lt. \u00c4hnlich agiert SHAP (SHapley Additive exPlanations<\/em>; Shapley-Zusatz Erkl\u00e4rungen), welches wie LIME modellagnostisch ist (d.h. sich auf s\u00e4mtliche Modelle anwenden l\u00e4sst), seinen Ursprung aber in der Spieltheorie hat. Dort ermittelte sie die Relevanz einzelner Spieler:innen einer Gruppe auf eine gemeinsam erzielte Gewinnsumme, indem jene in verschiedener Besetzung miteinander verglichen wird. In der XAI bedeutet das, dass die Features einer Vorhersage in s\u00e4mtlichen Konstellationen miteinander verglichen werden, um somit eine Aussage \u00fcber die Relevanz jedes einzelnen zu treffen. Dies kann dabei lokal (auf den individuellen Ausgangspunkt) oder global (auf das komplette System) angewendet werden. SHAP trifft somit auch Aussagen \u00fcber ein bestimmtes Feature generell oder dem Modell insgesamt, wohingegen LIME nur auf den Einzelfall bezogen ist. SHAP kann die Ergebnisse au\u00dferdem durch verschiedene Graphiken (Plots) visualisieren, deren Auswahl vom Anwendungsfall abh\u00e4ngt. Nutzerzentrierte Gestaltung von Erkl\u00e4rungen<\/strong><\/p>\n\n\n\n Die Einsatzzwecke von XAI sind also so vielseitig wie die der KI selbst und sie stellt ein wichtiges Werkzeug f\u00fcr s\u00e4mtliche Nutzer:innen dar \u2013 sei es, um sich mit einem System vertraut zu machen, herauszufinden, wie es zu einem Fehler kam oder Verst\u00e4ndnis f\u00fcr die wichtigsten Features des jeweiligen Anwendungsfalls zu schaffen. Damit kann sie sogar helfen, die eigenen Arbeitsprozesse besser zu verstehen und dem Unternehmen zuvor unbemerkte negative Einflussfaktoren aufzuzeigen.<\/p>\n\n\n\n Jedoch ist es wichtig zu betonen, dass die Erkl\u00e4rungsmethoden nur dann hilfreich sind, wenn sie auch f\u00fcr die jeweilige Nutzer:innen verst\u00e4ndlich aufbereitet werden. Um die Bed\u00fcrfnisse gezielt zu adressieren, sollten Nutzer:innen fr\u00fchzeitig in den Entwicklungsprozess eingebunden werden, damit ihre individuellen Anforderungen und Pr\u00e4ferenzen ber\u00fccksichtigt werden k\u00f6nnen. So k\u00f6nnen Erkl\u00e4rungen angeboten werden, die verschiedene Detailgrade und Perspektiven abdecken \u2013 von einfachen, intuitiven Visualisierungen bis hin zu detaillierten, technischen Erl\u00e4uterungen. Jede:r kann so die f\u00fcr sich passende Erkl\u00e4rungsebene w\u00e4hlen, wodurch eine nutzerzentrierte KI-Interaktion gew\u00e4hrleistet wird. Ein Gewinn f\u00fcr alle Beteiligten!“<\/p>\n","protected":false},"excerpt":{"rendered":" K\u00fcnstliche Intelligenz (KI) ist mittlerweile so gegenw\u00e4rtig, dass in Deutschland bereits \u00fcber 90% etwas mit …<\/p>\n","protected":false},"author":21,"featured_media":6297,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[1],"tags":[],"class_list":["post-6293","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-neuigkeiten"],"acf":[],"_links":{"self":[{"href":"https:\/\/sgp-digital.de\/zuz\/wp-json\/wp\/v2\/posts\/6293","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/sgp-digital.de\/zuz\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/sgp-digital.de\/zuz\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/sgp-digital.de\/zuz\/wp-json\/wp\/v2\/users\/21"}],"replies":[{"embeddable":true,"href":"https:\/\/sgp-digital.de\/zuz\/wp-json\/wp\/v2\/comments?post=6293"}],"version-history":[{"count":3,"href":"https:\/\/sgp-digital.de\/zuz\/wp-json\/wp\/v2\/posts\/6293\/revisions"}],"predecessor-version":[{"id":6299,"href":"https:\/\/sgp-digital.de\/zuz\/wp-json\/wp\/v2\/posts\/6293\/revisions\/6299"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/sgp-digital.de\/zuz\/wp-json\/wp\/v2\/media\/6297"}],"wp:attachment":[{"href":"https:\/\/sgp-digital.de\/zuz\/wp-json\/wp\/v2\/media?parent=6293"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/sgp-digital.de\/zuz\/wp-json\/wp\/v2\/categories?post=6293"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/sgp-digital.de\/zuz\/wp-json\/wp\/v2\/tags?post=6293"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}
Doch das, was sie letztendlich tut, gleicht f\u00fcr viele noch einer Blackbox \u2013 also einem von au\u00dfen undurchsichtigem Vorgang. Um diese Blackbox aufzuschl\u00fcsseln und aufzuzeigen, wie eine KI ihre Entscheidungen trifft, kommt sogenannte XAI \u2013 eXplainable AI<\/em> (Erkl\u00e4rbare K\u00fcnstliche Intelligenz) \u2013 zum Einsatz. Diese soll Verst\u00e4ndnis schaffen, das Vertrauen in die Systeme st\u00e4rken und helfen, Fehler erkennen und korrigieren zu k\u00f6nnen. Diese ist besonders wichtig in Bereichen, in denen eine Nachverfolgbarkeit der Entscheidungen unabdingbar ist, bspw. wenn die KI Voraussagen \u00fcber zuk\u00fcnftige Handlungen eines Menschen<\/a> treffen soll.<\/p>\n\n\n\n
<\/p>\n\n\n\n
Ein Force Plot<\/a> bspw. erm\u00f6glicht einen schnellen Einblick, welche Features sich wie stark auf das Ergebnis ausgewirkt haben und besteht nur aus einem Balken, der nach links (negativer Einfluss) oder rechts (positiver Einfluss) ausschl\u00e4gt. Soll SHAP Aussagen \u00fcber das Modell selbst treffen, eignen sich mehrdimensionale Plots wie bspw. Der Beeswarm-Plot<\/a>, welcher s\u00e4mtliche Vorkommen eines Features anhand dessen positiven und negativen Einflusses wie auch dessen Gewichtung auf das System darstellt. Auch Systeme, die \u00fcber keine klar-definierten Features verf\u00fcgen, wie bspw. die OCR (Optical Character Recognition<\/em>, Optische Zeichen-Erkennung), k\u00f6nnen durch einen DeepExplainer<\/a> von SHAP profitieren, indem dieser z.B. ausgibt, warum an einer Stelle eine \u201e4\u201c und keine \u201e9\u201c ausgelesen wurde.<\/p>\n\n\n\n
![Force Plot<\/a> bspw. erm\u00f6glicht einen schnellen Einblick, welche Features sich wie stark auf das Ergebnis ausgewirkt haben und besteht nur aus einem Balken, der nach links (negativer Einfluss) oder rechts (positiver Einfluss) ausschl\u00e4gt. Soll SHAP Aussagen \u00fcber das Modell selbst treffen, eignen sich mehrdimensionale Plots wie bspw. Der](\"https:\/\/www.aidancooper.co.uk\/content\/images\/2021\/11\/force_median.png\"){kind=link}
![Beeswarm-Plot<\/a>, welcher s\u00e4mtliche Vorkommen eines Features anhand dessen positiven und negativen Einflusses wie auch dessen Gewichtung auf das System darstellt. Auch Systeme, die \u00fcber keine klar-definierten Features verf\u00fcgen, wie bspw. die OCR (Optical Character Recognition<\/em>, Optische Zeichen-Erkennung), k\u00f6nnen durch einen DeepExplainer<\/a> von SHAP profitieren, indem dieser z.B. ausgibt, warum an einer Stelle eine \u201e4\u201c und keine \u201e9\u201c ausgelesen wurde.<\/p>\n\n\n\nNutzerzentrierte Gestaltung von Erkl\u00e4rungen<\/strong><\/p>\n\n\n\nDie Einsatzzwecke von XAI sind also so vielseitig wie die der KI selbst und sie stellt ein wichtiges Werkzeug f\u00fcr s\u00e4mtliche Nutzer:innen dar \u2013 sei es, um sich mit einem System vertraut zu machen, herauszufinden, wie es zu einem Fehler kam oder Verst\u00e4ndnis f\u00fcr die wichtigsten Features des jeweiligen Anwendungsfalls zu schaffen. Damit kann sie sogar helfen, die eigenen Arbeitsprozesse besser zu verstehen und dem Unternehmen zuvor unbemerkte negative Einflussfaktoren aufzuzeigen.<\/p>\n\n\n\nJedoch ist es wichtig zu betonen, dass die Erkl\u00e4rungsmethoden nur dann hilfreich sind, wenn sie auch f\u00fcr die jeweilige Nutzer:innen verst\u00e4ndlich aufbereitet werden. Um die Bed\u00fcrfnisse gezielt zu adressieren, sollten Nutzer:innen fr\u00fchzeitig in den Entwicklungsprozess eingebunden werden, damit ihre individuellen Anforderungen und Pr\u00e4ferenzen ber\u00fccksichtigt werden k\u00f6nnen. So k\u00f6nnen Erkl\u00e4rungen angeboten werden, die verschiedene Detailgrade und Perspektiven abdecken \u2013 von einfachen, intuitiven Visualisierungen bis hin zu detaillierten, technischen Erl\u00e4uterungen. Jede:r kann so die f\u00fcr sich passende Erkl\u00e4rungsebene w\u00e4hlen, wodurch eine nutzerzentrierte KI-Interaktion gew\u00e4hrleistet wird. Ein Gewinn f\u00fcr alle Beteiligten!“<\/p>\n","protected":false},"excerpt":{"rendered":"K\u00fcnstliche Intelligenz (KI) ist mittlerweile so gegenw\u00e4rtig, dass in Deutschland bereits \u00fcber 90% etwas mit …<\/p>\n","protected":false},"author":21,"featured_media":6297,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[1],"tags":[],"class_list":["post-6293","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-neuigkeiten"],"acf":[],"_links":{"self":[{"href":"https:\/\/sgp-digital.de\/zuz\/wp-json\/wp\/v2\/posts\/6293","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/sgp-digital.de\/zuz\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/sgp-digital.de\/zuz\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/sgp-digital.de\/zuz\/wp-json\/wp\/v2\/users\/21"}],"replies":[{"embeddable":true,"href":"https:\/\/sgp-digital.de\/zuz\/wp-json\/wp\/v2\/comments?post=6293"}],"version-history":[{"count":3,"href":"https:\/\/sgp-digital.de\/zuz\/wp-json\/wp\/v2\/posts\/6293\/revisions"}],"predecessor-version":[{"id":6299,"href":"https:\/\/sgp-digital.de\/zuz\/wp-json\/wp\/v2\/posts\/6293\/revisions\/6299"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/sgp-digital.de\/zuz\/wp-json\/wp\/v2\/media\/6297"}],"wp:attachment":[{"href":"https:\/\/sgp-digital.de\/zuz\/wp-json\/wp\/v2\/media?parent=6293"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/sgp-digital.de\/zuz\/wp-json\/wp\/v2\/categories?post=6293"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/sgp-digital.de\/zuz\/wp-json\/wp\/v2\/tags?post=6293"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}](\"https:\/\/www.aidancooper.co.uk\/content\/images\/2021\/11\/beeswarm-1.png\"){kind=link}