Fragen? Antworten! Siehe auch: Alternativlos
Aber ein paar Mails sind auch von Leuten aus der KI-Forschung dabei. Die sind größtenteils unzufrieden mit meinen fiesen, inhaltlich verfälschenden Verkürzungen. So schrieb ich, dass ein Neuron 0 oder 1 rausgibt, und das stimmt nicht. Die Details sind an der Stelle aber nicht weiterführend.
Aber einen Hinweis will ich mal direkt weitergeben, weil ich das auch noch nicht wusste. Es geht darum, dass die BaFin sich um Adversarial Samples Sorgen macht, und ich schrieb: Naja, der Angreifer müsste dafür ja das Netz kennen. Dazu schreibt ein Leser:
Doch! Das ist ein wirkliches (und interessantes :-) ) Problem: Auch Adversarial-Beispiele, die durch andere Netzwerke generiert werden, die auf den gleichen Daten trainiert wurden, funktionieren teilweise! Dies liegt daran, dass das vom Netz beschriebene Mapping von einer Mannigfaltigkeit auf die Klassenverteilung zwar anders ist, die zu grunde liegende, implizit geschätzte Mannigfaltigkeit jedoch an einigen Stellen ähnlich! Natürlich kann man immer noch argumentieren, dass der Angreifer ja nicht die gleichen Daten hat, auf denen er ein Netz trainieren könnte, aber ein wirklich findiger Angreifer kommt sicher auch an den Trainingsdatensatz. Oder kann genug davon rekonstruieren, um etwas passendes trainieren zu können.Gut, am Ende wird es ein bisschen wieselig. Wenn der Angreifer an die Trainingsdaten rankommt, ist das natürlich ein reelles Szenario. Aber der Teil davor? Der war mir neu. Das wirft in der Tat ein anderes Licht auf die Sache und ich muss mein Urteil revidieren.
Update: Übrigens meinte jemand, dass was IBM unter Blockchain verkauft, auch gar nicht die Blockchain ist, sondern eine Variante des von mir skizzierten Krypto-Logs. Die Vorstellung finde ich hochgradig amüsant, muss ich sagen. Natürlich schön IBM-Style voll mit überflüssiger Hardware wie ordentlich HSMs, die sind schön teuer, und bestimmt auch Blockchain-Monitoring-Tools und so. Ist ja schließlich Enterprise bei IBM!
Mich erinnert das alles an den kalten Krieg. Wir schreiben was drauf, was gar nicht drin ist, um die Spione des Feindes zu verwirren!!1! Alles vollvirtuell bei uns. Die Chefs klopfen sich gegenseitig auf die Schulter, was für geile Blockchain- und KI-Tech sie ausgerollt haben, und am Ende ist das genau derselbe alte Kram, den sie vorher auch hatten, nur mit Hype-Benamung zum Verwirren der Russen.