Green Prompting, lokale KI und Retrofit - Strategien für ressourcenbewussten KI-Einsatz

Gemeinschaftsveranstaltung mit dem Mittelstand-Digital Zentrum Zukunftskultur KI benötigt Rechenleistung, Energie und damit auch Ressourcen. Doch wie hoch ist z.B. der Stromverbrauch beim Prompten tatsächlich und wodurch lässt er sich beeinflussen? Dieser Workshop gibt einen Überblick und macht zudem anhand eines Demonstrators sichtbar, wie unterschiedlich Strom- und Tokenverbrauch und Rechenzeit beim Einsatz verschiedener lokaler Sprachmodelle ausfallen. Ein nachgerüsteter Rechner zeigt außerdem, wie vorhandene Technik sinnvoll weiter genutzt werden kann. Gemeinsam diskutieren wir verschiedene Ansätze für ressourcenbewussten KI-Einsatz.