Der Informatiker Yoshua Bengio gilt als einer der Väter moderner künst­licher Intelligenz. 2018 erhielt er für seine Forschung an künst­lichen neuro­nalen Netzen den Turing Award, den inoffi­ziellen Informatik-Nobelpreis

Er habe sich schon lange Gedanken darüber ge­macht, dass KI sowohl guten als auch schlech­ten Zwecken dienen kann, sagt er im Ge­spräch mit der ZEIT. Nur hätten sich seine Be­denken ver­schärft. „Ich sehe genug Warn­signale, um Alarm zu schlagen.”

Bengio hat vor etwa drei Wochen einen offenen Brief unter­zeichnet, zusammen mit dem Who’s who der Tech-Branche. Darunter auch Apple-Gründer Steve Wozniak, Tesla-Chef Elon Musk und Tausende KI-Unter­nehmer und -Wissen­schaftler. Der Brief warnt vor »tief­greifen­den Risiken für die Gesell­schaft und die Mensch­heit« durch künstliche Intelligenz.

Ihre Forderung: ein Moratorium – die Entwicklung fort­schritt­licher KI solle für sechs Monate ange­halten werden. Wenn die KI-Entwickler die Pause nicht frei­willig ein­hielten, sollten Regierungen diese durchsetzen.

KI-Systeme können schon heute für Büro­arbeiter E-Mails schreiben, für Anwält­innen Prä­zedenz­fälle recherchieren, Ärzten die richtige Behand­lung empfehlen. In Zukunft könnten sie helfen, den Klima­wandel mit besseren Modellen effektiver zu bekämpfen oder mit Hilfe von Robo­tern die Pflege der alternden Gesell­schaft zu bewältigen.

Aber die Systeme könnten auch eine Gefahr für die Demo­kratie werden. Schon jetzt können mit aktueller KI Fake-News im großen Maß­stab verbreitet werden. Nutzer brachten den Chat­bot ChatGPT dazu, als eine Art Zwie­tracht­maschine wütende Repliken auf beliebige Face­book-Kommentare zu verfassen.

Der größte Internethit der letzten Märzwoche war ein Bild, auf dem Papst Franziskus in einer Daunenjacke zu sehen ist. Tatsächlich wurde das Bild künstlich erzeugt, mit der KI-Soft­ware Midjourney. Auf den ersten Blick ist es von einem Foto nicht zu unterscheiden.

Auch kursierten falsche Fotos von der Ver­haftung Donald Trumps. Rus­sische Troll­fabriken haben schon beim ameri­kanischen Wahl­kampf 2016 Falsch­infor­mationen pro­duziert. Neue KI-Systeme könnten das ein­facher und billiger machen.

Dazu kommen Unsicher­heiten über die wirt­schaft­lichen Aus­wirkungen der neuen Technik. Jens Südekum ist einer der einfluss­reichsten deutschen Öko­nomen und berät die Bundes­regierung. Über Massen­arbeits­losigkeit durch KI mache er sich keine Sorgen. »Es fallen Stellen weg, dafür werden neue geschaffen.«

Eher beunruhigt Südekum, dass künst­liche Intel­ligenz die Gesell­schaft unge­rechter machen könnte. Weil die Löhne von Men­schen mit niedriger Quali­fikation unter Druck geraten, während sie bei den Hoch­quali­fizierten eher steigen.

Könnte man die Vorteile der KI besser nutzen, wenn man sie zähmte? Die EU will für einen sicheren Umgang mit der künst­lichen Intel­ligenz sorgen. Pro­gramme mit geringem Risiko sollen gar nicht reguliert, sehr riskante Systeme hin­gegen ganz verboten werden. Das Gesetz liegt dem EU Parla­ment zur finalen Abstimmung vor.

Aktuell, so scheint es, entscheidet sich, ob die Technik wirklich im Dienste der Menschheit steht – oder aus dem Ruder läuft.

Warum schon bald Super­intel­ligenzen entstehen könnten, und wie ein 35-jähriger Branden­burger die Mensch­heit vor den Maschinen schützen soll – das lesen Sie in der aktuellen Ausgabe der ZEIT.