Explainable Natural Language Processing

by Anders Søgaard

This book presents a taxonomy framework and survey of methods relevant to explaining the decisions and analyzing the inner workings of Natural Language Processing (NLP) models. The book is intended to provide a snapshot of Explainable NLP, though the field continues to rapidly grow. The book is intended to be both readable by first-year M.Sc. students and interesting to an expert audience. The book opens by motivating a focus on providing a consistent taxonomy, pointing out inconsistencies and redundancies in previous taxonomies. It goes on to present (i) a taxonomy or framework for thinking about how approaches to explainable NLP relate to one another; (ii) brief surveys of each of the classes in the taxonomy, with a focus on methods that are relevant for NLP; and (iii) a discussion of the inherent limitations of some classes of methods, as well as how to best evaluate them. Finally, the book closes by providing a list of resources for further research on explainability.

Kindle Edition

Published June 1, 2022

About the author

Anders Søgaard (f. 1981, Odense) er forfatter og professor ved Datalogisk Institut på Københavns Universitet. Han er uddannet fra Forfatterskolen i 2002 og har udgivet seks skønlitterære bøger.

I 2019 udkom Landskabsdigternes klub, om hvad der sker, når vi forsøger at skubbe grænserne for, hvad der er os menneskeligt muligt – i livet og i sproget. I 2023 udkom Iliaden, der forholder sig til Homers Iliaden, som både en omskrivning, en fantasi, en landskabspoesi, en rejsefortælling, en kritik af oldtidsforskning og et forsøg på at læse sig ind på fiktive personer.

I 2024 udkom Maskinerne kommer indefra - Forstå kunstig intelligens, før den forstår dig. I den populærvidenskabelige bog, der fik fem hjerter af Politikens anmelder, skriver Søgaard om det moderne menneskes møde med kunstig intelligens, og om hvordan teknologien bag den opstod.

I Pakkeliste til fremtiden, der udkom i 2025, giver Søgaard både filosofiske værktøjer og råd til rejsen ind i en fremtid domineret af tech-industrien. Bogen er både kulturkritik, historisk analyse og en filosofisk "prepper-manual" til det mulige samfund, der venter lige om hjørnet.

Anders Søgaard betragtes som en af Danmarks førende eksperter i maskinlæring og kunstig intelligens.