Q*bert
Im Kern zeigte sich hier, dass man je nach Anforderung schon recht genau definieren muss, was ein KI-gestütztes System tun soll. Ansonsten kann es zu recht unvorhergesehenen Dingen kommen - wie sich im konkreten Fall zeigte, als man der Software das alte Arcade-Spiel "Q*bert" vorsetzte. Ohne weitergehende Ansagen war der KI irgendwann klar, dass sie eine möglichst hohe Punktzahl erreichen soll.
Im Normalfall geschieht dies, indem die Spielfigur auf verschiedene Plattformen springt und jeweils deren Farbe ändert. Das Ziel besteht darin, alle Felder umzufärben. Kommt man allerdings auf bereits umgedrehte Bereiche, können diese wieder in die falsche Farbe zurückgehen. Immer wenn die Aufgabe komplett gelöst ist, gelangt man auf ein höheres Level, wo verschiedene zusätzliche Probleme die Lösung der Aufgabe erschweren.
Überspezifische Aufgabe
Nachdem die Forscher ihre KI nun eine Weile damit allein ließen, ein möglichst gutes Vorgehen in dem Spiel zu lernen, waren sie doch recht verblüfft über das, was sich ihnen dann offenbarte: Die KI kam überhaupt nicht über das zweite Level hinaus, sammelte in diesem aber extrem viele Punkte ein. Möglich war dies, weil sie schlicht einen Bug im Code des Spiels gefunden hatte und diesen nun reichlich nutzte, um die zu allgemein gehaltene Aufgabe "Sammle viele Punkte" zu verwirklichen.
Wie sich herausstellte, musste die Figur die diversen Felder in einer ganz bestimmten, ziemlich chaotisch wirkenden Reihenfolge anspringen. Dann begannen die Plattformen nicht mehr einfach nur ihre Farbe zu ändern, sondern sie blinkten. Von da an brachten die Sprünge einfach nur immer weitere Punkte ein, ohne dass die Bedingungen für den Abschluss des Levels erfüllt werden konnten. Rückfragen bei den Entwicklern ergaben, dass dies keineswegs als Cheat vorgesehen war, sondern wohl tatsächlich ein Bug im Spielealgorithmus selbst das Verhalten hervorrief.
Die Sache klingt in dem Falle einfach nach einer netten Anekdote aus dem weiten Feld der KI-Entwicklung. Allerdings hat die Sache durchaus weitergehende Bedeutung. Sie zeigt ziemlich klar, dass es nicht unbedingt reicht, eine konkrete Aufgabenstellung zu geben - vielmehr ist es je nach Einsatzbereich durchaus auch wichtig, Rahmenbedingungen festzulegen, innerhalb derer das Problem zu lösen ist.
2018-03-02T12:32:00+01:00Christian Kahle
from WinFuture News http://ift.tt/2GUyC0o
