Private ChatGPT & Prompt Engineering

SoftwerkerCast – der IT-Podcast von Techies für Techies

ChatGPT ist mittlerweile den meisten bekannt. Aber was ist ein privates ChatGPT? Und ist es überhaupt richtig privat?

Niklas Haas und Kamil Braschke geben in dieser Folge Einblicke in die Verwendung von Private ChatGPT und in Prompt Engineering. Weshalb sich Wissensmanagement besonders als Anwendungsfall für Large Language Models eignet thematisieren die beiden Experten ebenso wie die Vorteile von Microsofts Azure AI Services. Auch einige Life Hacks in Sachen Prompt Engineering verraten die beiden.

Moderation: Marco Paga

Referenzen:

Azure Open AI: https://azure.microsoft.com/en-us/products/ai-services/openai-service

Azure Cognitive Search: https://azure.microsoft.com/en-us/products/ai-services/cognitive-search/

LibreChat: https://github.com/danny-avila/LibreChat

KAPITEL:

(00:00:00) Intro Niklas & Kamil

(00:02:50) Einführung in Private ChatGPT

(00:08:45) ChatGPT Use Case: Wissensmanagement

(00:13:00) Training & Finetuning: Wirklich nötig?

(00:15:29) ChatGPT Use Case: Dokumentensuche – Gerichtsurteile

(00:23:10) Prompt Engineering

(00:29:10) Prompting Life Hacks

(00:32:25) Weitere Use Cases

(00:35:18) Indexierung & Embeddings