Kurzfassung
AI Sweden ist das schwedische nationale Zentrum für angewandte KI, mit Niederlassungen im ganzen Land und in Montreal. Es bringt mehr als 130 Partner aus dem öffentlichen und privaten Bereich sowie aus der Wissenschaft zusammen. Die schwedische Regierung finanziert gemeinsam mit ihren öffentlichen und privaten Partnern das Zentrum. Gemeinsam investieren sie in die Entwicklung von Tools und Ressourcen, die den Einsatz von KI fördern, wovon die Bürger:innen, die Gesellschaft und die globale Wettbewerbsfähigkeit von Schweden profitieren.
Die Initiative zur Entwicklung einer Prototyp-Lösung für den öffentlichen Dienst ist Teil eines innovativen Projekts, das von Vinnova finanziert wird. In der ersten Phase bis Sommer 2024 haben sich die Stadt Kungsbacka, die Gemeinde Tjörn, die Stadt Göteborg, die Region Skåne, die Region Halland und die Region Västra Götaland mit Intel, dem Hardwarepartner des Projekts, zusammengetan.
Ziel ist es, die nationale Zusammenarbeit im Bereich textbasierter KI-Aufgaben zu fördern und Voraussetzungen für gemeinsame Lösungen im öffentlichen Dienst zu schaffen. Ein Teil davon ist ein Chatbot-Prototyp, der im gesamten öffentlichen Dienst genutzt werden kann. In einer öffentlichen Gesundheitseinrichtung könnte der digitale Assistent zum Beispiel dem Personal helfen, indem er den Zeitaufwand für die Suche und das Abrufen von Informationen reduziert. Dadurch bleibt mehr Zeit für die praktische Patientenversorgung und für die persönliche Betreuung. In Zusammenarbeit mit Intel und den anderen Projektpartnern nutzt der Prototyp von AI Sweden lokale Server mit Intel® Xeon® Prozessoren und Intel® Gaudi® 2 Beschleunigern. Er basiert auf einer RAG-Architektur (Retrieval-Augmented Generation), die Informationen aus internen Dokumenten der Einrichtung abruft, um die Antworten des digitalen Assistenten genauer und hilfreicher zu machen.
Problemstellung
Schwedische Kommunen können von einem digitalen Assistenten profitieren, der öffentlichen Bediensteten dabei hilft, ihre Effizienz zu steigern und den aktuellen Arbeitskräftemangel im öffentlichen Dienst zu entschärfen. Die Arbeit von AI Sweden ermöglicht auch eine nationale Zusammenarbeit an einer gemeinsamen Lösung mit langfristigem Nutzen für Behörden.
Jonatan Permert, Stratege für KI-Transformation, AI Sweden
Um erfolgreich zu sein, muss ein generativer KI-Assistent auf Anfragen der Nutzer:innen in natürlicher Sprache spezifische und relevante Antworten liefern. Das Prototyp-System von AI Sweden basiert auf einem RAG-Ansatz (Retrieval-Augmented Generation). Dieser nutzt die internen Dokumente der Einrichtung, um die Qualität und Validität der Antworten des digitalen Assistenten zu verbessern.
Bevor die Lösung öffentliche Einrichtungen bei der gemeinsamen Ressourcennutzung unterstützen kann, müssen die Sicherheitsmaßen den lokalen und europäischen Vorschriften wie der Datenschutz-Grundverordnung (DSGVO) der EU entsprechen. Daher sind die Front- und Back-End-Technologien des digitalen Assistenten auf eine End-to-End-Verschlüsselung angewiesen.
Lösung
AI Sweden führt ein mehrstufiges, mehrjähriges Projekt zur Entwicklung eines Prototyps eines digitalen Assistenten durch, das von der schwedischen Innovationsagentur Vinnova und den Projektpartnern kofinanziert wird. Intel ist ein wichtiger Partner, um das Projekt auf Schiene zu bringen.
Die mit Blick auf die Sicherheit konzipierte Infrastruktur der Lösung wird lokal betrieben. Die Server, auf denen das Proof-of-ConceptSystem basiert, sind mit Intel® Xeon® Prozessoren und Intel® Gaudi® 2 Beschleunigern ausgestattet und bieten dem Team dadurch ein ausgezeichnetes Preis-Leistungs-Verhältnis.
„Wir brauchen leistungsstarke KI-Infrastruktur, um unsere Large Language Models (LLMs) laufen zu lassen. Ermöglicht wurde unser PrototypProjekt durch die enge Zusammenarbeit mit Intel beim Einsatz und bei der Optimierung der Intel® Gaudi® Beschleuniger. Ein gemeinsamer digitaler Assistent für den öffentlichen Dienst kann den Mitarbeitenden täglich von Nutzen sein. Wir hoffen, dass unsere Arbeit anderen Ländern, die ähnliche Herausforderungen bewältigen möchten, als Vorbild dienen kann.“ – Jonatan Permert, Stratege für KI-Transformation, Schwedisches nationales Zentrum für angewandte künstliche Intelligenz
Aufgrund strenger Compliance- und Datenschutzbestimmungen nutzt AI Sweden bestehende Verschlüsselungstechnologien, die Daten während der Speicherung und der Übertragung schützen. Eine Herausforderung bleibt jedoch, dass Daten während der Verarbeitung ungeschützt sind. Zur Lösung dieses Problems wurden Intel® Trust Domain Extensions (Intel® TDX) eingesetzt, um Daten während der Verarbeitung auf Intel® Xeon® Servern zu schützen. Auf Intel® TDX basierendes Confidential Computing bietet eine sichere und isolierte Umgebung auf einem Intel® Xeon® Prozessor. Das verhindert den unbefugten Zugriff und Änderungen an Anwendungen oder Daten, während sie auf diesem Prozessor genutzt werden.
Wenn eine Kommune zusätzliche Sicherheitsmaßnahmen fordert, lässt sich die Server-Infrastruktur entsprechend anpassen, um diese Anforderungen zu erfüllen. Dank der regelkonformen Sicherheit können selbst Administrator:innen nicht auf persönliche Gesundheitsdaten im System zugreifen. So wird der Datenschutz gemäß den europäischen, nationalen und lokalen Vorschriften gewahrt.
Die Entwicklungsunterstützung von Intel hilft AI Sweden dabei, die Hardwarefunktionen bestmöglich zu nutzen, softwarebasierte Anpassungen vorzunehmen und Vorabtests mit Evaluierungsdatensätzen durchzuführen. Dadurch wird das System so optimiert, dass es im Laufe der Zeit eine wachsende Zahl von Nutzer:innen aufnehmen kann.
Dank der Komponenten und Expertise von Intel kann der KI-Assistent-Prototyp nun Aufgaben wie das Erstellen von Dokumenten, die Verbesserung der schriftlichen Ausdrucksweise oder das Ausfüllen von Anträgen erledigen. Da Kommunen eine diverse Belegschaft unterschiedlicher Herkunft beschäftigen, und nicht alle Mitarbeitende fließend Schwedisch sprechen, kann die Lösung auch Inhalte und Anfragen in englischer Sprache verarbeiten. Die Unterstützung weiterer Sprachen ist geplant.
„In unseren ersten Tests ermöglichte generative KI den Mitarbeitenden des öffentlichen Dienstes, relevante Informationen deutlich schneller als mit einem herkömmlichen, manuellen Ansatz zu finden. Angesichts des aktuellen Mangels an qualifizierten Arbeitskräften hilft unser Prototyp eines virtuellen Assistenten den bestehenden Mitarbeitenden dabei, Zeit zu sparen, damit sie sich auf die wichtigen Aufgaben konzentrieren können.“ – Jonatan Permert
AI Sweden und die beteiligten Kommunen werden verschiedene Anwendungsfälle näher untersuchen, um das Potenzial des Systems unter Beweis zu stellen. Wenn beispielsweise Beamt:innen eine wichtige Entscheidung treffen müssen, hilft der digitale Assistent dabei, die relevantesten Hintergrundinformationen zusammenzufassen.
Ergebnisse
Der Prototyp eines digitalen Assistenten befindet sich zwar noch in der Entwicklung, aber die ersten Ergebnisse sind vielversprechend. Erste Tests und Einzelberichte deuten darauf hin, dass die Lösung ihre Ziele erreichen wird. Beamt:innen, die das System getestet haben, konnten Vorteile wie Zeitersparnis und genauere Ergebnisse bei textbezogenen Aufgaben feststellen.
Aufgrund des Arbeitskräftemangels in Schweden ist ein digitaler Assistent für das Land besonders wertvoll. Wenn zum Beispiel generative KI zeitintensive und wiederkehrende Aufgaben in staatlichen Einrichtungen übernimmt, können die Mitarbeitenden mehr Zeit für Tätigkeiten aufwenden, die menschliches Fachwissen und Interaktion erfordern.
Der digitale Assistent kann auch zur Unterstützung kleinerer öffentlicher Institutionen mit weniger Ressourcen, kleinerem Budget und weniger Fachkenntnissen eingesetzt werden. AI Sweden plant, den Testprozess in naher Zukunft auf tausend Nutzer:innen auszuweiten. Mit der Zeit könnte der digitale Assistent andere Länder dazu anregen, das Potenzial von KI in Behörden zu nutzen.
Wichtige Erkenntnisse
- Die Zusammenarbeit zwischen AI Sweden und Kommunen führte zu einem Prototyp eines digitalen Assistenten, der Beamt:innen bei wiederkehrenden Aufgaben unterstützt, damit sie sich auf die eher zwischenmenschlichen Aspekte ihrer Arbeit konzentrieren können.
- Intel® Xeon® Prozessoren und Intel® Gaudi® 2 Beschleuniger liegen der Architektur des Prototyps zugrunde und bieten die benötigte Sicherheit, Skalierbarkeit und Leistung.
- Damit RAG-Lösungen für die Nutzer:innen nützlich sind, bedarf es ein hohes Maß an Feintuning. Von Mitarbeitenden annotierte Inhalte erlauben es dem digitalen Assistenten, Anfragen mit zutreffenderen und genaueren Informationen zu beantworten.
- AI Sweden untersucht, wie sich ein Prototyp gestalten lässt, der europäische Datenschutzanforderungen wie die DSGVO und nationale schwedische Vorgaben erfüllt. Eine Kombination aus sicheren Speicherenklaven, verschlüsseltem Speicher und Intel® TDX lieferte die Basis für mehrschichtige Sicherheit.
- Die Erfahrungen von AI Sweden bei der Entwicklung und beim Testen des Prototyp-Systems können als Anregung für andere Länder dienen, die eine ähnliche Lösung implementieren möchten.