Fragen? Antworten! Siehe auch: Alternativlos
Ich fasse mal zusammen: Also das mit dem Machine Learning ist ja voll unvertrauenswürdig und nicht nachvollziehbar, das kann man ja schlecht produktiv ausrollen. Aber warte, können wir nicht eine unvertrauenswürdige KI in einen vertrauenswürdigen, nachvollziehbaren Decision Tree reverse engineeren?
Den Schritt könnte man sogar automatisieren!
Hmm, dann ist das immer noch unvertrauenswürdig. OK, pass uff, Atze, wir setzen einfach eine Turnhalle voller Experten mit Domain Knowledge hin, die dann nur den sinnvollen, nachvollziehbaren Teil von dem Decision Tree durchlassen!1!!
Und in unserem nächsten Paper diskuitieren wir dann, wieviel mehr wir hätten schaffen können, wenn wir die Experten direkt Regel hätten schreiben lassen :-)
Ich bin mir gerade nicht sicher, ob das Paper eine Satire sein soll. Wenn ja, dann ist es jedenfalls brillant!
Our focus in this paper is on post-hoc global model interpretability for the application domain of network security problems.Das hat ein Mensch formuliert. Nicht ChatGPT. Ich kann nur sagen: Hut ab!However, the set of requirements that we impose on the DT explanations is non-standard and makes this a challenging problem [...] For one, we require that our new DT extraction method be model-agnostic; that is, applicable to any given black-box model. Second,
we also demand that the method produces high-fidelity DT explanations; that is, DTs whose expected predictive performance is similar to that of the black-box modelWait what? Diese Forderungen sind neu? Das hat man bislang nicht gefordert?!?The third requirement we impose is that the extraction method also results in low-complexity DT explanations such that selected parts of the DTs are intelligible and comprehensible (i.e., easy to understand by domain experts) and accurately describe how the black-box model makes most of its decisions.Oder, ich meine, also mal ganz unter uns jetzt, man könnte auch einfach sagen: Das mit der "KI" ist eine schlechte Idee. Wir sollten das lieber sein lassen.Das Paper geht dann mehrere Dinge durch, die sie mit Machine Learning zu erreichen versucht haben, z.B. VPN-Traffic von Nicht-VPN-Traffic unterscheiden. Das hat die "KI" daran erkannt, ob das 4. Byte in der MAC-Adresse kleiner 17 ist. Dann wollten sie Heartbleed erkennen. Die KI hat das an der Länge der Handshake-Antwort des Opfers erkannt. Das ist natürlich auch Blödsinn.