Hamburger Verwaltung testet Large Language Model

8. Januar 2024

Von der Theorie in die Praxis: KI-Pilotprojekt „LLMoin“ soll Erkenntnisse für mittelfristige LLM-Strategie der Stadt Hamburg liefern

Menschliche Sprache verstehen und generieren: Spätestens seit Chat GPT sind große Sprachmodelle auf dem Vormarsch. Basierend auf künstlicher Intelligenz können Large Language Models (LLM) Texte rasend schnell zusammenfassen sowie bei Recherche und Texterstellung unterstützen. Mit dem Pilotprojekt „LLMoin“ erprobt nun die Hamburger Verwaltung mithilfe von 100 Tester:innen, wie sie LLM nutzen kann, welche Funktionen die Mitarbeiter:innen annehmen und wirklich brauchen sowie welche technischen und organisatorischen Voraussetzungen dafür notwendig sind.

LLMoin: Erfahrungen zur Anwendbarkeit in der Verwaltung sammeln

„Mit LLMoin kommen wir in der Schlüsseltechnologie der Large Language Models von der Theorie in die Praxis und sammeln frühzeitig wertvolle Erfahrungen zur Anwendbarkeit in der Verwaltung“, ist Christian Pfromm, Chief Digital Officer der Stadt Hamburg, überzeugt. Das Projekt soll dabei helfen, die Technologie an den tatsächlichen Bedürfnissen der Mitarbeitenden auszurichten. Bei dem integrierten Textassistenten stehen diesen vier Funktionen für verwaltungsinterne Anwendungen zur Verfügung: Zusammenfassung, Rechercheassistent, Textgenerierung und Expertenmodus. Bei Letzterem kann ähnlich wie bei Chat GPT über selbst festgelegte Prompts (Eingaben) mit dem System interagiert werden – was essenziell für das Projekt sei. Denn die Mitarbeitenden sollen generell an das sogenannte Prompting herangeführt werden.

Senatskanzlei unterstützt Hamburger Behörden mit InnoTecHH Fonds

Basis des KI-Piloten bildet das in Deutschland generierte und gehostete Sprachmodell Luminous von Aleph Alpha. Das deutsche Jungunternehmen im Bereich der künstlichen Intelligenz entwickelte die Frontend- und Datenverarbeitung speziell für Hamburg. Umgesetzt wird LLMoin mit dem InnoTecHH Fonds. Die Senatskanzlei unterstützt damit Hamburger Behörden, innovative Ideen für den Einsatz von KI und anderen neuen Technologien zu entwickeln und zu erproben. Das Amt für IT und Digitalisierung stellt dafür seit Anfang 2023 Fördermittel und Know-how zur Verfügung.
mm/sb