Autonomie und Verantwortung von Agenten

Ende 1999 kam Oliver Bendel an die Universität St. Gallen, wo er im Jahre 2000 mit seiner Promotion begann. Ursprünglich wollte er über Lern- und Wissensportale schreiben, entschied sich dann jedoch, Chatbots und KI-Agenten mit Avataren in virtuellen Lernumgebungen im betrieblichen Kontext zu untersuchen. In seiner Dissertation „Pädagogische Agenten im Corporate E-Learning“, fertiggestellt im Jahre 2002, beschäftigte er sich u.a. mit dem Verhältnis von Autonomie und Verantwortung. Dabei griff er philosophische Debatten über die Verantwortungsfähigkeit von Computern aus den 1970er- und 1980er-Jahren auf und übertrug sie auf pädagogische Agenten. Er stellte fest, dass es problematisch ist, wenn solche Systeme autonom handeln, ohne Verantwortung für ihre Entscheidungen übernehmen zu können. Besonders sensibel erschien ihm der betriebliche Kontext, da Entscheidungen auf der Grundlage von Qualifikations-, Leistungs- und Lerndaten Auswirkungen auf die berufliche Laufbahn von Mitarbeitern haben können. Die Überlegungen nahmen damit Fragestellungen vorweg, die heute im Zusammenhang mit agentischer KI, algorithmischen Entscheidungen und menschlicher Kontrolle intensiv diskutiert werden. Bemerkenswert ist vor allem die frühe Verbindung von KI-Autonomie, institutioneller Verantwortung und konkreten Folgen für den Menschen. Die Doktorarbeit erschien in elektronischer und gedruckter Form im Jahre 2003.

Abb.: Ein pädagogischer Agent namens Harmony