Fragen? Antworten! Siehe auch: Alternativlos
A paper submitted to this year’s International Conference on Learning Representations (ICLR) may explain why. Researchers from the University of Tübingen in Germany found that CNNs trained on ImageNet identify objects by their texture rather than shape.
Update: Ein Leser weist auf zwei Blogeinträge des Forschungsteams hin, die populärwissenschaftlich gehalten sind und auch für Fachfremde verständlich sind.
Ein anderer Leser empfiehlt dieses Github-Projekt:
wenn Du dem copy-paste-Readme folgst, kannst Du Dir ein lustiges Programm zusammenkompilieren, das zeigt, was in einem CNN passiert wenn man da ein Bild reinsteckt. Das kann man sogar in Echtzeit via Webcam fuettern.
Man kann auch "zurueckverfolgen" wo eine Aktivierung herkommt, also welche Vorgaenerneuronen am meisten zu einer bestimmten Aktivierung irgendwo im Netz oder in der Ergebnisschicht beitragen (er hat da auch ein Video, wo er das ein Bisschen erklaert).
Ich benutze das immer in einem Vortrag fuer Eltern, deren Kinder gerade Lego-Roboter bauen. Da versuche ich den Leuten klarzumachen, dass diese KI, also genauer die neuronalen Netze, einfach mathematische Maschinen sind, bei denen solange (mit riesen Datenmenegen) an den Schrauben geruettelt wird, bis sie das tun, was man will, oder es zumindest so aussieht (das stir-the-pile xkcd sagt es bestens). Dabei zeige ich auch immer gern KI-Fails wie [Huskies werden mit Woelfen verwechselt, weil in beiden Klassen Schnee im Hintergrund dominiert] oder [Man kann lernen, wie man ein Bild verzerren muss, damit ein KFC-Logo fuer ein CNN, wie ein Stopschild aussieht] - das entlarvt die vermeintlich uebermaechtige Intelligenz naemlich als einfach eine Technologie.
Gut die Zeit, wo einen die Leute (auf Konferenzen) fuer behindert erklaert haben, weil man sich mit NNs beschaeftigt hat (ich mag die Dinger halt einfach irgendwie), war jetzt nicht so cool, aber wenigstens konnte man einfach so vorsich hin prokeln. Der Hype heute ist schon nervig und ich halte es deswegen fuer wichtiger, als je zuvor, solche Technologien zu vermitteln. Wenn man den Leuten wenigstens ein grundsaetzliches Verstaendniss fuer die Technik vermittelt, kann eine bessere, weil weniger aufgeregte Debatte stattfinden. Und die muss im Falle KI sein. Im best case koennte die zu einer Debatte fuehren, wie viel Technokratisierung wir in der Gesellschaft bereit sind uns aufdruecken zu lassen.