Nach der Veröffentlichung von ChatGPT im November 2022 gewann die Community an Fahrt und es wurden zahlreiche neue Modelle vorgestellt. Ein kritischer Aspekt bei der Betrachtung dieser Modelle liegt in ihrer Transparenz und den Nutzungsrechten. Obwohl einige Modelle als Open Source gekennzeichnet sind, sind sie aufgrund ihrer Entwicklungsgrundlage nicht für kommerzielle Zwecke geeignet. Manche Modelle nutzen beispielsweise mit ChatGPT generierte Dialoge als Trainingsdaten. Dies macht die Nutzung dieser Modelle rechtlich schwierig, denn OpenAIs Nutzungsrechte gestatten die Verwendung der API zur Erzeugung von Konkurrenzprodukten nicht. Einige Modelle verwenden hingegen das geleakte Meta LLaMA, das nur für die Wissenschaft verwendet werden darf. Um die LLaMA-Ableger nutzen zu können, müssen deren Delta-Gewichte auf das originale LLaMA angewendet werden. Die Delta-Gewichte laufen hier unter der Apache-2.0-Lizenz, das darunter liegende Meta-Modell jedoch unter einer nichtkommerziellen Lizenz. Das wirft ein Schlaglicht darauf, dass es oft nicht nur eine, sondern zwei Lizenzen für ein Modell gibt: eine für den Inferenzcode (die oft etwas generöser ist) und eine weitere für die Gewichte des Modells, die (zum Beispiel bei LLaMA) oft etwas restriktiver ist und eine kommerzielle Nutzung ausschließt. Mit diesem Schachzug kann sich ein Unternehmen das Label „Open Source“ verleihen (der Code steht unter einer entsprechenden Lizenz), gleichzeitig kann aber die kommerzielle Nutzung des eigenen Know-hows verhindert werden (denn der Code nützt ohne die Modellgewichte nichts).

In jüngster Zeit sind jedoch bei wichtigen Modellen die Lizenzen (auch für die Gewichte) im Nachhinein durch permissivere ersetzt worden. Falcon ist ein solches Beispiel, das zunächst eine kommerzielle Nutzung nur gegen Lizenzgebühren zuließ, bald danach aber unter eine Apache-2.0-Lizenz gestellt wurde. Auch die Lizenz von LLaMA-2 lässt, anders als bei LLaMA, eine kommerzielle, gebührenfreie Nutzung zu – jedoch in eingeschränktem Umfang. Wenn die Anzahl der aktiven Nutzer:innen in einem Monat die Schwelle von 700 Millionen überschreitet, ist eine Nutzungsgenehmigung von Meta erforderlich.

Die kommerzielle Bereitstellung und Nutzbarkeit von Modellen als Alternativen zu ChatGPT ist für die Entwicklung neuer LLM-Applikationen erstrebenswert, das zeigt die Entstehung der Projekte, die diesen offenen Ansatz verfolgen und deshalb eigene Architekturen und bereinigte, bzw. durch Crowdsourcing gesammelte, Datensätze zum Einsatz bringen. Ein prominentes Beispiel dafür ist Dolly 2.0, für das Databricks mit eigenen Angestellten in einer massiven Crowdsourcing-Anstrengung über 15.000 Trainingsdaten generiert hat, nachdem das erste Modell Dolly 1.0 auf mit ChatGPT erzeugten Daten trainiert wurde und kommerziell nicht zulässig war. Ein weiteres Beispiel ist das Projekt RedPajama von together.ai, das das originale Meta LLaMA Dataset reproduzierte und schließlich selbst Modelle trainierte und unter permissiver Lizenz veröffentlichte.

Mittlerweile tummeln sich unzählige Modelle auf dem Markt. Anhand verschiedener Kriterien haben wir die etablierten und für Unternehmen interessanten Modelle verglichen und möchten Dir einen generellen Überblick über die Landschaft der LLMs verschaffen. Hier haben wir zwar Meta LLaMA als eines der ersten LLMs berücksichtigt, alle weiteren direkt oder indirekt davon abgeleiteten Modelle betrachten wir in unserer Übersichtstabelle jedoch nicht, da sie für den unternehmerischen Einsatz nicht infrage kommen.

Welches Modell für den Einsatz in Deinem Projekt geeignet ist, hängt stark vom Use Case ab. Hast Du unternehmenssensitive Daten, dann kann die Wahl auf ein selbst gehostetes Modell (bezogen z. B. über Hugging Face) fallen. Hast Du hingegen keine sensiblen Daten, weniger umfangreiche Prompts und möchtest schnell ins Doing kommen, dann greife direkt auf OpenAI zu. Da die direkte Einbindung von OpenAI aufgrund der Datenschutzbedenken jedoch Skepsis hervorruft, ist die Nutzung von Azure OpenAI ein Kompromiss; dieses erleichtert die Einhaltung von Compliance-Anforderungen dadurch, dass das Modell in der jeweils ausgewählten Azure-Region gehostet wird. Das Abfließen der Daten in die USA wird somit vermieden. Da Microsoft in sehr vielen Unternehmen in der DACH-Region bereits als vertrauenswürdiger, langjähriger Partner etabliert ist, fällt den Verantwortlichen die Entscheidung für eine Azure-Lösung oft wesentlich leichter als für die direkte Ansprache der OpenAI-API. Braucht Dein Use Case aber zum Beispiel einen extrem langen Kontext, um dem LLM einen mit Daten angereicherten Prompt zu übergeben, dann verwende Claude. Claude schneidet außerdem auch in der API-Verfügbarkeit und der Latenz deutlich besser ab als GPT-4, bei dem temporäre Ausfälle und langes Warten auf den Output keine Seltenheit sind. Stehen in der Anwendung hingegen ethisch korrekte Antworten und die größtmögliche Vermeidung von schädlichen Outputs im Fokus, dann könnte LLaMA-2 geeignet sein. In der Entwicklung des Chat-Modells hat Meta einige Maßnahmen wie Supervised Safety Fine Tuning, den Einsatz eines Safety Reward Models und Red Teaming zur Erzeugung besonders verantwortungsvoller Ergebnisse ergriffen.