Mit künstlicher Intelligenz (KI) haben die meisten von uns bereits seit langem indirekten Kontakt. Das sogenannte “Machine Learning” zeigt sich z. B. für die auf unser Nutzerverhalten abgestimmten Empfehlungen auf YouTube verantwortlich. Genauso wie es die Suchergebnisse auf Google für uns ordnet. Die neue Generation von Artificial Intelligence (AI) – die Generative AI – geht allerdings wichtige Schritte weiter. Sie vermag es, neue, originäre Inhalte zu erzeugen, anstatt nur bestehende Inhalte (mit denen sie zuvor gefüttert wurde) wiederzugeben. Und schon ist das “G” in GPT geklärt: Das G steht nämlich für “Generative”.

Large Language Model – kurz LLM – eine Begriffsdefinition

Um solch ein sogenanntes “Large Language Model” (LLM) handelt es sich beispielsweise bei ChatGPT. LLMs sind eine weiterentwickelte Art von generativer KI. Sie können mit uns kommunizieren, indem sie normale menschliche Sprache verwenden. Vor allem aus diesem Grund ist ChatGPT so erfolgreich: Es hat die Sprachbarriere durchbrochen.

Dies geschieht durch die Verwendung einer neuen Architektur, der Transformer-Architektur. Und genau dafür steht das “T” in GPT. Diese Transformer-Architektur beherrscht die menschliche Sprache so fließend, dass jede oder jeder das Programm verwenden kann. Man muss kein:e KI-Expert:in oder Programmierer:in sein, um KI-Tools anwenden zu können. Genau diese Einfachheit hat gewissermaßen die KI-Revolution in Gang gesetzt.

Du hast dich noch wenig mit künstlicher Intelligenz auseinandergesetzt? Unser Beitrag AI – was genau ist das? beinhaltet viele Grundlagen zu diesem Thema.

Wie wird ein LLM nun intelligent?

Ein großes Sprachmodell ist ein künstliches neuronales Netzwerk, welches sehr viele Zahlen und Parameter inhaltlich miteinander verbindet. Ein LLM kann Milliarden oder sogar Billionen von Parametern enthalten. Somit kein Wunder, dass sie als “large” bezeichnet werden. Neuronale Netzwerke können ausschließlich mit Zahlen umgehen, jedoch kann jede Art von Inhalten – wie Texte, Bilder, Musik usw. – als Zahlen dargestellt werden.

Sprachmodelle werden mit unglaublichen Mengen an Input gefüttert, um daraus zu lernen. Die Qualität dieser Inhalte und Datenbanken spielt dabei eine entscheidende Rolle. Um wirklich nützlich zu werden, muss ein Modell auch menschliches Training durchlaufen. Dies wird als „reinforcement learning with human feedback“ bezeichnet und beinhaltet tausende Stunden, in denen Menschen den Output des Modells testen, bewerten und Feedback geben. Deshalb wird dir ein Modell wie ChatGPT z. B. keine detaillierten Antworten zum Bau einer Bombe geben. Es hätte den Bauplan zwar parat, hat aber durch das reinforcement training gelernt, dass es Menschen nicht dabei helfen soll, Verbrechen zu begehen.

Body of knowledge

Fehlt noch das “P” aus GPT.

Derzeit beschränkt sich das Wissen von LLMs auf ihre Trainingsphase bzw. auf die Daten, die zu diesem Zeitpunkt zur Verfügung standen. Alles was nach Abschluss des Trainings hinzukommt, bleibt außerhalb des “body of knowledge”. In absehbarer Zukunft wird es jedoch KI-Modelle geben, die kontinuierlich lernen. Derzeit ist dies aber nicht der Fall, alle Modelle sind pre-trained. Und für dieses pre-trained steht das “P”.

Die Grenzen von ChatGPT & Co.

Large Language Models sind sehr leistungsfähig, jedoch nicht perfekt. Sie ziehen teilweise vorzeitige oder gänzlich falsche Schlüsse. Auch kommt es vor, dass sie Inhalte erfinden, man spricht dann von “halluzinieren“. Trotzdem sind LLMs eine zukunftsweisende Entwicklung, die bereits jetzt zu großen Produktivitätssprüngen beiträgt und deren Kapazität exponentiell wachsen wird.

Um noch weitere Informationen über künstliche Intelligenz zu erhalten, lies gerne auf rcm.at weiter!

Weißt du übrigens, was besser ist, als über LLMs und KI zu lesen? Die Möglichkeiten selbst auszuprobieren und damit zu arbeiten! Viel Spaß damit!

Dies ist eine Marketingmitteilung der Raiffeisen Kapitalanlage GmbH, Mooslackengasse 12, 1190 Wien. Stand/Erstelldatum: Juni 2024

Raiffeisen Capital Management steht für Raiffeisen Kapitalanlage GmbH oder kurz Raiffeisen KAG

Bildquelle: gettyimages.at, shutterstock.com