Fefes Blog

Fragen? Antworten! Siehe auch: Alternativlos

Sun Mar 19 2023

• [l] Das ist möglicherweise nicht für Jeden auf Anhieb offensichtlich, daher schreib ich das hier mal explizit: Wenn du eine Software oder KI bauen kannst, die etwas erkennt, kannst du auch eine Software oder KI bauen, die dasselbe Ding imitiert.

  Spracherkennung ist das offensichtliche Beispiel, aber für Bilderkennung gilt das genau so. Bildgeneratoren wie Stable Diffusion arbeiten so, dass sie mit zufälligen Pixeln starten, und dann solange den Fehler minimieren, bis er unter einen bestimmten Schwellwert fällt. Die Funktion, die den Fehler errechnet, ist dieselbe, die bei Erkennern den Fehler berechnet.

  Es war daher schon immer eine bescheuerte Idee, Menschen anhand ihrer Sprache oder ihrer Tippeigenschaften zu authentisieren, denn wenn eine Software das erkennen kann, kann eine Software das auch nachmachen.

  Auf die harte Tour lernt diese Lektion gerade das australische Finanzamt. Aber die hätten auch einfach mal jemanden fragen können, der sich mit sowas auskennt.