Brains on Silicon: Mit KI arbeiten, ohne dümmer zu werden
Dresden. Je mehr wir künstlicher Intelligenz vertrauen, desto weniger denken wir selbst nach. Vor dieser Falle hat der Journalist Gregor Schmalzried am Dienstag auf der KI-Konferenz "Brains on Silicon" gewarnt. Schmalzried ist Mitgründer und Host von „Der KI-Podcast". Sein Vortrag drehte sich um die Frage, wie man mit KI-Agenten arbeiten kann, ohne die eigenen Fähigkeiten zu verlieren.
Schmalzried verwies auf eine Microsoft-Studie, wonach das kritische Denken nachlasse, je stärker Menschen einer KI vertrauten. Die Gefahr sei nicht nur, dass die KI den Menschen überhole, sondern dass der Mensch selbst nachlasse. Wohin blindes Vertrauen führen kann, zeigte er am Fall der Beratungsfirma Deloitte. Sie hatte der australischen Regierung einen 250-seitigen Bericht geliefert, dessen Quellen sich teils als von der KI erfunden herausstellten.
Richtige Antwort, erfundene Begründung
Dass man den Ergebnissen nicht blind trauen sollte, führte Schmalzried an einem eigenen Versuch vor. Er schickte einem Chatbot ein Selfie aus einer U-Bahn-Unterführung und ließ raten, wo er sei. Die KI nannte den Ort exakt. Auf die Frage, woran sie das erkenne, lieferte sie eine ausführliche Begründung über Stahlpaneele und Asphaltfarbe. Erst auf Nachhaken gab sie zu, die Koordinaten schlicht aus den Bilddaten ausgelesen zu haben. Das Ergebnis stimmte, die erklärte Herleitung war frei erfunden.
Neue Modelle sind schwerer zu durchschauen
Erschwerend komme hinzu, dass neuere KI-Modelle für Menschen schwerer zu verstehen seien. Das machte Schmalzried an seiner eigenen Erfahrung mit den Modellen des Herstellers Anthropic fest. Das ältere Claude Opus 3 habe noch zugänglich und fast menschlich geantwortet. Das neuere Claude Opus 5 sei zwar deutlich leistungsfähiger, liefere ihm nach eigenem Eindruck aber oft knappe, schwer verständliche Antworten. Ein Grund sei, dass solche Modelle zunehmend mit Daten anderer KI trainiert würden und weniger mit menschlichem Text. Das mache sie in gewisser Weise zu fremden Systemen.
In Command statt nur in der Schleife
Sein Ausweg: mehr eigenes Denken einbringen. Als Vorbild nannte er den Mathematiker Terence Tao, der KI intensiv nutze, sich aber nie vorschreiben lasse, worüber er als Nächstes nachdenkt. Statt der KI die Richtung zu überlassen, bringe er stets eigene Gedanken ein. Für die Arbeitsteilung schlug Schmalzried vor, der KI gerade jene Aufgaben zu geben, in denen man sich selbst gut auskennt, um beurteilen zu können, was sie tut. Nur so bleibe man nicht bloß eingebunden, sondern behalte die Kontrolle. Ganz sicher sei er sich aber nicht, räumte er ein.
