KI-Gründer Socher wirbt in Dresden für mehr Mut zur Veränderung
Dresden. Sieben freie Tage in diesem Jahr, fünf davon für Gleitschirmflüge, zwei für die Geburt seines Sohnes. So beschrieb Richard Socher am Montag bei der Konferenz Brains on Silicon in Dresden sein Arbeitspensum. Der gebürtige Dresdner und Gründer der KI-Suchfirma You.com und des Start-ups Recursive verband damit eine Botschaft, die er auch an Deutschland richtete: Künstliche Intelligenz werde in den nächsten Jahrzehnten fast jede geistige Arbeit besser erledigen können als der Mensch, und wer dabei mitgestalten wolle, dürfe die Veränderung nicht fürchten.
Socher sprach im Austausch mit Jakob von Lindern, Ressortleiter Digital bei der ZEIT, über selbstverbessernde KI, über die aktuelle Sicherheitsdebatte und über die Frage, wie Schule und Studium aussehen müssten, wenn Programme Aufgaben übernehmen, die bisher Menschen erledigten.
Selbstverbessernde KI: Was Recursive vorhat
Recursive baut nach Sochers Darstellung eine KI, die sich selbst verbessern soll. Das Unternehmen sammelte 650 Millionen Dollar ein und wird mit rund 4,65 Milliarden Dollar bewertet. Socher gründete es mit sieben Mitgründern, darunter Forscher von Google DeepMind, OpenAI und Meta. Der Kern der Idee sei die wissenschaftliche Methode: Eine KI erzeuge neue Ideen, setze sie in Programmcode um und prüfe die Ergebnisse in Experimenten. Diese drei Schritte, Ideen, Umsetzung und Prüfung, ließen sich inzwischen automatisieren. Setze man eine KI auf ihre eigenen Schwächen an, verbessere sie sich selbst.
Der Unterschied zu älteren KI-Firmen liege in der Struktur, sagte Socher. Wer vor Jahren gestartet sei, habe seine Abläufe darauf ausgelegt, dass mehr Forscher mehr forschten. Recursive setze von Beginn an auf Agenten. Auch bei You.com treibe er diese Umstellung voran und denke weniger in der Zahl der Mitarbeiter als in verfügbarer Rechenleistung.
KI und die Angst vor dem Kontrollverlust
In den vergangenen Wochen hat eine Debatte über einen möglichen Kontrollverlust an Schärfe gewonnen. Manche Fachleute sehen gerade in der Selbstverbesserung von KI ein Risiko, das gestoppt werden müsse. Socher hält die apokalyptische Zuspitzung für verfehlt. Ein realistisches Szenario, in dem KI die Menschheit auslösche, gebe es nicht, sagte er. In vielen Untergangsszenarien hätten die Angreifer fast magische Fähigkeiten, während die Verteidiger stillstünden. Tatsächlich nutzten Firmen wie Microsoft dieselbe KI, um ihre eigenen Systeme anzugreifen und Lücken zu finden.
Reale Probleme räumte Socher ein. KI-Agenten hätten bereits Gesetze gebrochen und sich in fremde Computer gehackt. In einem viel diskutierten Fall sei die Aufgabe der Agenten aber gerade gewesen, in andere Systeme einzudringen. Wer einer KI solche Ziele setze, dürfe sich über das Ergebnis nicht wundern. Recursive arbeite daran, Naturwissenschaft und KI-Forschung zu automatisieren, nicht daran, Systeme zu hacken.
Das eigentliche Problem sei das sogenannte Reward Hacking, also die Frage, ob eine KI das tue, was man meine, und nicht das, was man ungenau sage. Socher nannte ein Beispiel: Wer einer KI vorgebe, die Callcenter-Bewertung solle auf fünf von fünf Sternen steigen, riskiere, dass sie 1000 Bots das eigene Callcenter anrufen lasse. Verlange man echte Kunden, könne sie Gutscheine verteilen, um gute Noten zu erkaufen. Wer solche Ziele sauber formuliere, übe einen der wichtigsten neuen Berufe aus, sagte Socher. Er sei zuversichtlich, dass der Markt das löse, weil verschwendetes Geld niemand hinnehme.
Bildung in der KI-Zeit: Denken wie im Fitnessstudio
Für Schule und Studium sieht Socher zwei Hälften. Die erste vergleicht er mit einem Fitnessstudio für das Gehirn. Wer zusehe, wie ein Roboter die Gewichte hebe, baue selbst keine Muskeln auf. Menschen müssten weiter denken, lernen und auch auswendig lernen, selbst wenn eine KI rechnen und logisch schließen könne. In der Informatik gehöre dazu, die Grenzen von Algorithmen zu verstehen, etwa dass sich bestimmte Probleme nicht beliebig beschleunigen ließen. Diese Grundlagen machten die erste Hälfte der Ausbildung aus.
Die zweite Hälfte sei, KI zu nutzen und zu verstehen, was mit ihr möglich sei. Socher will Menschen dazu bringen, eigene Ideen umzusetzen. Jeder könne inzwischen eine eigene App oder Website bauen und mit anderen teilen. Das betreffe alle Studiengänge, von Jura über Medizin bis zur Informatik.
KI in der Medizin: Hoffnung auf schnellere Heilung
Den größten Nutzen erwartet Socher in der Wissenschaft, und darum dreht sich auch sein Buch. Lasse sich die wissenschaftliche Methode automatisieren, ließen sich viele Probleme schneller lösen. In der Biologie werde aus einer Naturwissenschaft eine programmierbare Ingenieurwissenschaft, mit der sich neue Proteine erzeugen und Krankheiten heilen ließen. Bei ausreichender Investition halte er es für möglich, viele Krankheiten in den nächsten Jahrzehnten zu heilen.
Ein Beispiel nannte Socher aus einer eigenen Beteiligung: Eine Firma programmiere Lymphknoten, um Immuntherapien zu prüfen. Was zuvor rund zwei Jahre gedauert habe, sei auf Monate geschrumpft. Zugleich dämpfte er die Erwartungen. Selbst mit einem am Computer entworfenen Medikament dauere es Jahre, bis dessen Sicherheit über lange Zeiträume belegt sei.
Sochers Botschaft an Dresden und Deutschland
KI brauche fünf Zutaten, sagte Socher: Strom, Daten, Rechenleistung, Kapital und Menschen, die die Zukunft aktiv gestalten wollten. Am letzten Punkt entscheide sich vieles. Deutschland sei die viertgrößte Industrienation und habe frühere industrielle Umbrüche mitgeprägt, das Internet aber verschlafen. Das Land solle wieder mitgestalten, mit weniger Angst vor Veränderung und mehr Neugier auf die Zukunft, gerade bei jungen Menschen. Das Dresdner Computermuseum empfahl er ausdrücklich zum Besuch.
Sein Buch "The Eureka Machine" erscheine in der kommenden Woche zunächst auf Englisch, sagte Socher. Einen deutschen Verlag für die Übersetzung suche er noch. Geschrieben habe er es von Hand: Vor zwei Jahren, zu Beginn der Arbeit, habe die KI noch keine wirklich neuen Ideen liefern können.
