KI-Agenten lokal betreiben

Viele Unternehmen nutzen KI-Dienste wie ChatGPT, Copilot oder andere cloudbasierte Tools bereits im Arbeitsalltag häufig ohne genau zu wissen, wo hochgeladene Dokumente oder Kundendaten letztlich verarbeitet werden. Das stellt ein erhebliches Risiko im Hinblick auf DSGVO-Konformität und den Schutz von Geschäftsgeheimnissen dar. Ein KI-Agent unterscheidet sich grundlegend von einem Chat-Tool: Statt nur einmalig auf eine Anfrage zu antworten, verfolgt er ein konkretes Ziel, nimmt seine Umgebung wahr, führt eigenständig Aktionen aus und entscheidet über mehrere Schritte hinweg selbst, was als Nächstes zu tun ist. Eine Lösung bietet der lokale Betrieb solcher Agenten: Open-Source-LLMs laufen direkt auf der eigenen Hardware und werden über das offene Model Context Protocol mit praktischen Werkzeugen verbunden. Die gesamte Verarbeitung bleibt im eigenen Haus und über integrierte Freigabe-Dialoge behält das Unternehmen jederzeit volle Kontrolle über die Aktionen des Agenten. Der Workshop zeigt anhand eines konkreten Praxisbeispiels Schritt für Schritt wie ein solcher lokal gehosteter KI-Agent aufgebaut und betrieben werden kann. Die digitale Workshopreihe wird gemeinsam vom Mittelstand-Digital Zentrum Spreeland und dem EDIH pro_digital organisiert.