Oldenburg, Niedersachsen, Deutschland
Mitglied seit 2023
Photo

Christoph Holthaus

DIENSTLEISTUNG
Kontakt

KI Profi kontaktieren

Nur für angemeldete Unternehmen sichtbar!
Für Lesezeichen einloggen
Profil • Selbstdarstellung

Als Softwareentwickler mit insgesamt über 15 Jahren Erfahrung in der Entwicklung, einschließlich der Implementierung von Generativer Text KI in Microservices mit Docker/Kubernetes.

Der Schwerpunkt meiner bisherigen Projekte liegt dabei auf Chatbots, die auf Basis eines LLMs (Large Language Models) Fragen beantworten und Informationen bereitstellen.

Dazu wird nicht nur das im Chatbot enthaltene Welt-Wissen verwendet, sondern auch zusätzlich auf bereitgestellte Daten (z.B. aus Webseiten, PDFs, Datenbanken) zugegriffen.
Mithilfe maßgeschneiderter Prompts führt das System den Nutzer mit Rückfragen zur Eingabe aller relevanten Informationen, um die Fragen exakt beantworten zu können.

Technologisch realisiert wird das zum Beispiel durch ein LLM,  erweitert um RAG (Retrieval Augmented Generation). Dabei werden die Anfragen des Benutzers dann in einen Prompt integriert, der mit passendem zusätzlichem Context / Wissen angereichert wird. Dazu werden Texte aus beliebigen Quellen indizierte und über Embeddings in einer Vektordatenbank abgelegt. Dann wird über inhaltlich /thematische Übereinstimmung (auch Sprachübergreifend!) die am besten passenden ergänzenden Textauszüge gefunden und als (unsichtbaren) Context für das LLM im Prompt bereitgestellt.

Mein Hintergrund umfasst umfangreiche Kenntnisse im Bereich des Prompt-Engineering sowie in der Entwicklung von Docker-basierten Microservices in Python und den relevanten Python Frameworks wie Langchain und Llamaindex, sowie die APIs der marktüblichen LLM-Anbieter.

Wenn das LLM self-hosted werden soll, kan ich auch das realisieren. Ich besitze ein breites Wissen über die verfügbaren Open Source Modelle, die kommerziell eingesetzt werden können, um je nach Einsatzzweck das beste zu wählen. Je nach Einsatzzweck ist es möglich, kostengünstig – aber langsam – (z.B. für Batch-Abarbeitung) über eigene Hardware und CPUs zu arbeiten, wenn keine teuren Spezial-KI-GPUs gekauft werden sollen. Für den Live-(Chat)-Einsatz ist allerdings für ausreichende Geschwindigkeit der Einsatz von GPUs notwendig.

Durch meine Expertise sowohl in der Backend- und Cloud-, als auch der KI-Entwicklung bin ich auch in der Lage, zunächst die Konzeption zu übernehmen und Lösungen zu entwickeln und verschiedene Aspekte abzuwägen, bevor die Implementierung startet. Dabei kann ich sowohl die allgemeinen Entwicklungen der KI-Branche berücksichtigen, als auch tief in die technischen Details der Implementierung einsteigen und mich dadurch flexibel angepasst auf die Erfordernisse in einem Projekt einbringen.

 

Softwareentwicklung / MMLOps

  • Prompt Engineering / Guidance / Framing
  • Retrival Augmented Generation (RAG) mit Embeddings
  • Verwaltung der Embeddingvektoren und zugehöriger Texte in Vektordatenbanken
  • Analyse des Einsatzzwecks und die Wahl des besten Models (Preis / Leistung)
  • Realisierung in Microservices zur Integration in bestehende Systemlandschafen
  • Implementierung in Python
  • Verwendung aktueller Frameworks wie Langchain, Llamaindex und SDKs der KI Anbieter.
  • Deyploment der Dienste containerisiert via Docker / Kubernetes.

Analyse und Beratung:

  • Nutzungszenarien für Large Language Models (LLMs) aka ChatGPT-Technologie / LLM
  • Firmenwissen-Chatbot für Onboarding, Kundensupport
  • Automatische Klassifikation und Priorisierung von Daten in Pipelines
  • Automatisch Vorbereitung von Antworten zur Auswahl in der Kunden-Kommunikation
  • Kostenplanung / Hardware
Fachlicher Hintergrund
2023 - heute
AI Solutions Holthaus Softwareentwickler / AI Solutions Engineer

2012 - 2023
HR4YOU AG Softwareentwicklung & Teamleitung

KI Profi Steckbrief

Einloggen

Kostenlos neu registrieren

Passwort zurücksetzen

Job Schnellsuche