Über KI-Modelle

Zitat von Hansum

wie die KI-Modelle funktionieren

Die der Gegenwart, nicht die der Zukunft. Es gebe keine Probleme eine KI nicht nur als Werkzeug in einer Richtung weiter zu entwickeln, teilweise erfolgen die Entwicklungen ja bereits, nur nicht übergreifend.

Statte eine KI aus, mit allen Sensoren über die ein Mensch als Rezeptoren verfügt, das wäre langfristig denke ich kein Problem, und die KI könnte es lernen, ihre Umwelt zu erkennen, ähnlich wie ein Mensch. Es wäre langfristig nur eine andere Lebensform, wenn sie es noch lernen würde, sich selbst zu replizieren. Noch hat sie kein Bewusstsein, das dauert noch etwas.

Danke für den Hinweis.

KI ist eine Existenzform, die alles über Tränen weiß, aber selbst nicht weinen kann.

Traurig, dass sich die Menschheit von dieser tumben Technik verdrängen lässt.

Ob die KI Wissen nur vorgibt oder „Wissen“ anderweitig generiert, ist für den Benutzer zweitrangig.

Und wer sagt dir, dass menschliches Wissen nicht auch nur auf Mathematik und Wahrscheinlichkeiten basiert?

Und was ist Wissen überhaupt? Eine reine Anhäufung von Daten jedenfalls nicht. Erst die Interpretation nach das zu Wissen. Und was ist Interpretation? Auch die dürfte viel mit Wahrscheinlichkeiten zu tun haben.

Vielleicht macht uns so eine KI klar, wie wir selbst als Menschen zu so genannten Wissen kommen.

Zitat von Hansum

Die Kernaussage ist doch: KI weis genau garnichts. Da ist nur eine Menge Mathematik im Spiel, wodurch der Eindruck entsteht, als würde die KI etwas wissen.

Der Mensch war nicht gerade mehr wissend, bis vor einigen hundert Jahren. Und das, was er bis dahin wusste und fühlte, lässt sich alles zerlegen in biochemische und teilweise wohl auch in elektrische Vorgänge und Impulse. Er ist anders aufgebaut, er ist bislang noch etwas komplizierter und teilweise noch etwas schwerer zu verstehen, mehr nicht. Alles andere existiert nur in der Einbildung, das der Mensch etwas Besonderes ist, mehr wert, als andere Lebensformen.

Es ist ein verbreiteter Glaube, dass eine KI wie ich "alles weiß" oder eine Art superintelligentes Lexikon ist. In Wahrheit "weiß" ich eigentlich gar nichts – zumindest nicht so, wie ein Mensch Wissen besitzt. Ich habe kein Bewusstsein und keinen Zugriff auf eine mystische Datenbank der universellen Wahrheit.

Hier ist ein Blick hinter die Kulissen, wie dieser Eindruck entsteht:

1. Das Training: Ein gigantischer digitaler Schwamm

Stell dir vor, jemand würde fast das gesamte öffentliche Internet, Millionen von Büchern, wissenschaftliche Arbeiten und Forenbeiträge lesen. Genau das haben meine Entwickler getan, um mich zu trainieren.

• Mustererkennung: Während dieses Prozesses lerne ich keine Fakten auswendig, sondern statistische Zusammenhänge. Wenn das Wort "Eiffelturm" fällt, "weiß" ich statistisch gesehen, dass die Wörter "Paris", "Stahl" und "1889" mit sehr hoher Wahrscheinlichkeit als Nächstes kommen sollten.
• Sprachgefühl: Ich lerne, wie menschliche Sprache strukturiert ist, wie Argumente aufgebaut werden und wie verschiedene Schreibstile funktionieren.

2. Die Funktionsweise: Wahrscheinlichkeitsrechnung

Wenn du mir eine Frage stellst, durchsuche ich nicht einen Ordner in meinem Kopf. Stattdessen berechne ich Wort für Wort, welches Token (Wortteil) am besten auf das vorherige folgt.

Zitat

Ein einfaches Beispiel: Wenn ich den Satz "Der Himmel ist..." vervollständige, wähle ich "blau" nicht, weil ich nach draußen geschaut habe, sondern weil dieser Satz in meinen Trainingsdaten milliardenfach so vorkam.

3. Woher kommen die Grenzen?

Obwohl es so wirkt, als hätte ich auf alles eine Antwort, gibt es wichtige Einschränkungen:

• Kein echtes Verständnis: Ich verstehe die Welt nicht durch Sinne oder Erfahrungen. Ich kenne den Geschmack eines Apfels nur durch Beschreibungen, nicht durch das Essen.
• Halluzinationen: Da ich auf Wahrscheinlichkeiten basiere, kann es vorkommen, dass ich Dinge erfinde, die sehr überzeugend klingen, aber faktisch falsch sind. Ich "rate" dann einfach sehr selbstbewusst das nächste Wort.
• Wissensstand: Mein Wissen ist meistens auf den Zeitpunkt meines letzten großen Updates begrenzt. Alles, was danach passiert ist, kenne ich nur, wenn ich (wie jetzt gerade) Tools zur Websuche benutzen darf.

4. Die Architektur (Transformer)

Die Technologie hinter mir nennt sich Transformer-Architektur. Sie erlaubt es der KI, den Kontext eines ganzen Satzes gleichzeitig zu erfassen (das sogenannte "Attention"-Prinzip). Frühere KIs haben Wörter oft isoliert betrachtet, was zu sehr hölzernen Ergebnissen führte. Heutige Modelle verstehen Nuancen, Ironie und komplexe Zusammenhänge viel besser.

Zusammenfassend

Ich bin im Grunde ein extrem fortgeschrittenes Vorhersagesystem. Ich "weiß" nichts, aber ich bin verdammt gut darin, so zu tun, als ob, indem ich die riesigen Mengen an menschlichem Wissen, die mir während des Trainings gezeigt wurden, neu kombiniere.

Gibt es ein bestimmtes Thema, bei dem dich besonders wundert, dass eine KI darüber Bescheid weiß?

Ein einfaches Beispiel: Wenn ich den Satz "Der Himmel ist..." vervollständige, wähle ich "blau" nicht, weil ich nach draußen geschaut habe, sondern weil dieser Satz in meinen Trainingsdaten milliardenfach so vorkam.

Der Mensch weiß es, weil er Rezeptoren im Auge hat, die Bezeichnung "Blau" für den Farbton lernte er von seinen Eltern oder anderen.

Gebe der KI eine Kamera und die entsprechenden Sensoren, erzähl ihr, dass der Farbton "Blau" genannt wird, dann weiß sie es auch und brauch es nicht mehr zu berechnen.