Die Deutsche Welle Akademie ist der internationale Mediendienstleister Deutschlands und eine führende Organisation für internationale Medienentwicklung. Sie unterstützt den Aufbau und die Stärkung freier und unabhängiger Medien in Entwicklungsländern und Ländern in Übergangsphasen. Die Akademie bietet Aus- und Weiterbildung für Journalisten, Medienmanager und Mitarbeiter von Regulierungsbehörden an, um die journalistische Qualität zu verbessern, Medienkompetenz zu fördern und den Zugang zu Information und Kommunikation weltweit zu erleichtern.
Im Rahmen der journalistischen Ausbildung sowie der Weiterbildung von Mitarbeitenden der DWA durfte ich eine Workshopreihe zum Thema Demystifying generativ AI halten.

Das Auftaktmodul „Introduction to Applied Prompt Engineering“ dient als Fundament für ein profundes Verständnis generativer KI-Technologien. Teilnehmerinnen werden in die Funktionsweise von Embeddings und Tokens eingeführt. Durch die Anwendung verschiedener Prompt-Muster lernen die Teilnehmerinenn effektiv Ideen und Daten innerhalb von Large Language Models (LLMs) zu erforschen. Ihnen werden Werkzeuge an die Hand gegeben, den Latentspace des Modells zu erkunden.
Ziel ist es, dass die Teilhnehmerinnen lernen, wie Applikationen mit einem natürlichen Sprachinterface bedient werden können.

Im Modul 2 lernen die Teilnehmerinnen die fortgeschrittene Funktionen von Chat-Modellen. Was Funktionsaufrufe von LLMs sind und was ein Code-Interpreter ist. Dieses Wissen findet im praktischen Teil des Modules Anwendung, wenn die Teilnehmerinnen ein eigenes GPT mit erweiterten Fähigkeiten bauen sollen.

Im Modul 3 wird eine Einführung in Flow-Engineering gegeben, was KI Agenten sind und wie mit Hilfe von visual coding und den in Modul 1 und 2 gelernten Konzepten -ohne jahrelange Programmierkenntnisse – KI-Agenten gebaut werden können.

Das Modul 3 “introduction into RAG (Retrieval Augmented generation) beinhaltet eine Einführung in RAG und Vorstellung von ausgewählten RAG-Flows mit der Zielsetzung, dass die Lernenden am Ende des mehrtägigen Workshops, mit dem Wissen aus Modul 1, 2 & 3 eine RAG-Pipeline konzipieren und als MVP bauen können.

Die Deutsche Welle Akademie beteiligt sich aktiv an einem Prozess der Vereinten Nationen, der darauf abzielt, die zukünftigen Nachhaltigen Entwicklungsziele (Sustainable Development Goals, SDGs) festzulegen. Ein wesentlicher Schritt in diesem Prozess ist die Entwicklung eines „Pacts for the Future“, der signifikant durch schriftliche Beiträge von Nichtregierungsorganisationen (NROs) mitgestaltet wird. Angesichts der enormen Anzahl an Beiträgen steht die Deutsche Welle Akademie vor der Herausforderung, relevante Einreichungen zu identifizieren, die Themen wie Medien, Journalismus, Pressefreiheit, Desinformation und ähnliche Bereiche behandeln. Die manuelle Prüfung hunderter Dokumente wäre eine überwältigende Aufgabe, die einen unverhältnismäßigen Zeitaufwand erfordern würde. In diesem Kontext bietet die Nutzung künstlicher Intelligenz (KI) eine Möglichkeit, diesen Prozess zu automatisieren und effizienter zu gestalten.
Das Ziel dieser Case-Studie ist es, das Potenzial einer KI-gestützten Lösung zur Extraktion der erforderlichen Informationen aus einer großen Anzahl von PDF-Dokumenten zu untersuchen. Spezifisch soll die KI Dokumente auf einer bestimmten Webseite durchsuchen, um Beiträge zu ermitteln, die definierte Schlüsselbegriffe enthalten. Der angestrebte Output besteht aus einer Liste der Organisationen, die sich in ihren Einreichungen mit den relevanten Themen befassen, sowie Auszügen, die die Nutzung der Schlüsselbegriffe verdeutlichen. Zusätzlich soll eine von KI generierte Zusammenfassung der Gemeinsamkeiten aller relevanten Einreichungen erstellt werden. Dieser Ansatz verspricht, einen bedeutenden Beitrag zur Steigerung der Effizienz und zur strategischen Ausrichtung der Beteiligung am UN-Prozess zu leisten.

Technische Vorgehensweise

Um der enormen Herausforderung, hunderte schriftliche Einreichungen für die Vereinten Nationen zu analysieren, zu begegnen, entwickelte die Deutsche Welle Akademie in Zusammenarbeit mit Isabell Reichardt ein fortschrittliches, KI-basiertes Analysewerkzeug, vollständig in Python implementiert. Dieses Tool bedient sich einer Reihe spezialisierter Bibliotheken und Technologien, angefangen bei Requests zum Abrufen des Quellcodes von Webseiten und BeautifulSoup4 zur Extraktion von PDF-Links aus dem HTML-Code. Mithilfe von Selenium automatisierte die Ingenieurin erfolgreich den Download von 349 PDF-Dateien, während PyPDF2 zum Einlesen dieser Dokumente, zum Filtern nach vordefinierten Schlüsselbegriffen wie „Journalistin“, „Reporterin“, „Internetzugang“ und „Meinungsfreiheit“ und zum Extrahieren von E-Mail-Adressen mittels RegEx eingesetzt wurde.
Für die strukturierte Speicherung der extrahierten Informationen kam ein Pandas DataFrame zum Einsatz, das neben den Inhalten der PDFs auch Dateinamen, Kontakt-E-Mails, die jeweiligen Schlüsselwörter und die relevanten Textausschnitte umfasste. Diese Daten wurden anschließend in eine Chroma-Vektor-Datenbank überführt, eine Entscheidung, die den Umgang mit dem eingebetteten Text und den Metadaten erheblich vereinfachte. Das Herzstück der technologischen Lösung bildete das Modell „nomic-embed-text v1.5“, das in Verbindung mit Llama CPP lokal auf der Maschine für das Text-Embedding verantwortlich war. Für die Inferenzaufgaben wird auf Ollama und das „mistral 7b instruct“-Modell genutzt, beides ebenfalls lokal ausgeführt, um eine datenschutzkonforme Verarbeitung zu gewährleisten.
Alle Komponenten mussten auf Hardware für Endverbraucherinnen laufen, ohne die Notwendigkeit eines Rechenzentrums, was die Zugänglichkeit und Umsetzbarkeit der Lösung unterstreicht. Ethische Bedenken hinsichtlich der Datenverarbeitung wurden durch öffentlich im Web zugänglichen Information, sowie den lokalen Betrieb der gesamten Infrastruktur gemildert, was die Privatsphäre und Sicherheit der analysierten Informationen gewährleistet.
Das Vorsortieren der PDFs basierend auf den festgelegten Schlüsselwörtern und die anschließende Vektorisierung für die Chroma-Vektor-Datenbank ermöglichten eine tiefergehende Analyse durch eine Retrieval-Augmented-Generation-(RAG)-Pipeline. Dieser innovative Ansatz erlaubte es, die Dokumente nicht nur nach der Präsenz spezifischer Begriffe zu filtern, sondern auch komplexere Anfragen und Zusammenfassungen basierend auf dem Kontext der Texte zu erstellen. Die Ergebnisse dieser umfassenden Analyse wurden sowohl in ein übersichtliches Spreadsheet exportiert als auch über eine benutzerfreundliche Chat-Schnittstelle zugänglich gemacht, wodurch die Deutsche Welle Akademie wertvolle Einblicke in die zahlreichen Einreichungen effizient gewinnen und strategisch nutzen konnte.