»LLMs for everything?« Potentiale und Probleme der Anwendung von In-Context-Learning für die Computational Literary Studies

Große Sprachmodelle, sogenannte ›Large Language Models‹ (LLMs), zeigen ab einer bestimmten Größe ›emergent abilites‹, durch die sie sich von Ihren Vorläufern unterscheiden. Zu diesen Fähigkeiten zählt insbesondere die Möglichkeit des sogenannten In-Context-Learnings (ICL), das sich von den traditionellen Formen des (selbst)überwachten Lernens unterscheidet: Anstelle ein vortrainiertes Model mithilfe von fragestellungsspezifischen Daten feinabzustimmen, arbeitet man beim ICL mit natürlichsprachlichen Eingaben – sogenannten ›Prompts‹ –, welche aus einer Beschreibung der auszuführenden Aufgabe und/oder Beispielen derselben bestehen. Im Rahmen unseres Vortrages wollen wir Potential und Probleme dieser Technik für die Computational Literary Studies (CLS) ausloten. Dafür versuchen wir die Resultate von Andrew Pipers Studie »Can we wrong?«, die sich der Rolle von Generalisierungen in den Literary Studies widmet, auf Basis von OpenAIs text-davinci-003-LLM mithilfe von ICL zu reproduzieren bzw. zu übertreffen. Ausgehend von den verhältnismäßig niedrigen Accuracy- und F1-Scores, die wir dabei erzielten, reflektieren wir die gegenwärtigen Einsatzmöglichkeiten von ICL in den CLS.