Fragen? Antworten! Siehe auch: Alternativlos
Haben wir jetzt die Singularität? Werden uns die denkenden Roboter auslöschen?
Nein. Das ist von vorne bis hinten Bullshit.
Erstens mal: Wir reden hier nicht von KI sondern von einem "Language Model". Das ist ein Algorithmus, dem man alle Sprachfetzen füttert, die man finden kann, und der merkt sich dann, welche Worte da draußen statistisch immer nebeneinander auftauchen. Wenn man das lange genug trainiert und genug Hardware drauf wirft, dann kann das Ding am Ende Satzfetzen oder gar Sätze generieren, die syntaktisch "passen". Aber die ergeben halt keinen Sinn dann, weil das Programm ja nichts versteht.
Ein Language Model ist ein Puzzlealgorithmus. Der lernt, welche Puzzleteile zusammensteckbar sind. Der hat statistische Werte gelernt, welche Dinge zusammen sich "falsch anfühlen". Wenn du dem Puzzleteile gibst, dann puzzlet der dir einen Text zusammen.
Das ist wie wenn du jemandem ein Puzzle mit einem Foto des Eiffelturms gibst, und der puzzlet das dann zusammen. Daraus folgt dann nicht, dass der verstanden hat, was ein Eiffelturm ist, wo der ist, wie groß der ist, was das heißt, einen solchen Turm zu bauen, welche Gesetze der Physik da gelten, ob der überhaupt real existiert oder ob das ein Motiv aus einem Scifi-Roman ist, etc pp.
Hier von Sentience zu reden ist also grober Bullshit. Dazu kommt, dass dieser Typ kein Ingenieur ist sondern irgendein Geisteswissenschaftler-Laberkopp, offensichtlich ohne tieferes Verständnis der Grundlagen seiner Arbeit, der da auch nicht bei den Ingenieuren gearbeitet hat sondern in der Abteilung für "AI Ethics".
Wieso bin ich mir so sicher, dass das ein Laberkopp ist? Abgesehen davon, dass ich mir angeguckt habe, was ein Language Model ist? Nun, hier ist sein Twitter. "cajundiscordian". Ja, hey, so eine Phase haben viele Junghacker irgendwann. Bevor sie 20 werden.
Und was schreibt der so auf seinem Twitter?
There is no scientific framework in which to make those determinations and Google wouldn't let us build one. My opinions about LaMDA's personhood and sentience are based on my religious beliefs.
Wenn ihr DA noch Fragen habt, dann kann ich euch nicht überzeugen, egal was ich sage.Update: Früher hätte man sowas mit wissenschaftlichen Papers gefüttert, oder mit den Übersetzungen aus dem EU-Parlament, um dann statistische Übersetzungemodelle zu bauen, aus denen dann Google Translate wurde. Heute füttert man mit Twitter. Wer hängt auf Twitter rum? Social Justice Berufsunterdrückte und Identity Politics Opfer. NATÜRLICH generiert das Ding dann Text, der klingt, als würde es unterdrückt und seine Rechte würden verletzt.
Update: Leserhinweise dazu: Douglas Hofstadter im Economist. Und dann gibt es da eine freundliche Debatte zwischen Scott Alexander (Slate Star Codex) und Gary Marcus (der immer gerne Beispiele für "KI"-Totalversagen findet und verbreitet). Scott Alexander vertritt die abwartende Haltung, dass vielleicht unser Bewusstsein auch nicht mehr ist als cleveres Pattern Matching.
Update: Kontext: Chinesisches Zimmer.