Der Philosoph bei Google DeepMind, der fragt: Was ist KI wirklich?
Iason Gabriel verbringt sieben Jahre bei Google damit, zu durchdenken, was künstliche Intelligenz eigentlich ist und was sie für die Gesellschaft bedeuten könnte. Mit wachsendem geschäftlichem Druck wird seine Arbeit immer schwieriger.
Kernpunkte
- Iason Gabriel ist seit 2017 bei Google tätig und gehört damit zu den am längsten beschäftigten KI-Ethikern bei einem großen Technologieunternehmen.
- Gabriel arbeitet bei Google DeepMind, der Forschungsabteilung, die einige der weltweit fortschrittlichsten KI-Systeme entwickelt.
- Kommerzieller Druck und das Wettrüsten zwischen den USA und China um KI-Vorherrschaft machen ethische Überprüfungen schwächer, nicht stärker.
- Die zentrale Frage, auf die sich seine Arbeit immer wieder konzentriert: Niemand versteht bislang vollständig, was ein großes Sprachmodell, die Technologie hinter Chatbots wie ChatGPT und Gemini, eigentlich ist.
Iason Gabriel ist ein Philosoph. Er arbeitet in einem der mächtigsten KI-Labore der Welt, und seine Aufgabe ist grundsätzlich, unbequeme Fragen zu stellen, bevor ein Produkt auf den Markt kommt, nicht danach.
Er kam 2017 zu Google, damals noch, als der Begriff „KI-Ethik" akademisch klang. Sieben Jahre später sieht alles ganz anders aus.
Gabriel sitzt bei Google DeepMind, der in London ansässigen Forschungsabteilung, die Google 2023 durch die Fusion ihrer beiden wichtigsten KI-Forschungsteams bildete. DeepMind entwickelte AlphaFold, das System, das die Struktur von nahezu jedem bekannten Protein entschlüsselte. Es arbeitet auch an Gemini, Googles Familie von großen Sprachmodellen, derselbe Typ von KI, die Konversations-Chatbots antreibt.
Was verändert ein KI-Ethiker eigentlich?
Ehrlich gesagt ist das umstritten. Gabriels Arbeit beinhaltet, Schaden vorauszusehen, bevor er eintritt: Durchzudenken, wie ein System missbraucht werden könnte, wer es verletzen könnte, welche Werte es widerspiegeln sollte. Aber Schaden vorauszusehen und Schaden zu verhindern sind zwei verschiedene Dinge.
Der Druck ist real. Regierungen in den USA und China behandeln KI als strategischen Vorteil, pumpen Milliarden in die Entwicklung und fordern Geschwindigkeit. Unternehmen sehen sich Erwartungen der Investoren und Wettbewerbsbedrohungen von Rivalen gegenüber, die alle paar Monate neue Modelle veröffentlichen. In dieser Umgebung schwimmt ein Philosoph, der sagt „warte, lass uns darüber nachdenken", gegen einen starken Strom.
Gabriel sagte The Guardian, dass eine Frage immer wieder auftaucht, egal wie weit die Technologie fortschreitet. „Es gibt dieses tiefe Geheimnis darüber, was das eigentlich ist." Niemand, auch nicht die Ingenieure, die diese Systeme bauen, versteht vollständig, warum sich große Sprachmodelle so verhalten, wie sie es tun. Sie verarbeiten enorme Mengen Text, erkennen Muster und generieren Antworten, die durchdacht oder sogar kreativ wirken können. Aber der interne Mechanismus bleibt in wichtigen Aspekten undurchsichtig.
Diese Undurchsichtigkeit ist für Ethik relevant. Wenn du nicht erklären kannst, warum ein System eine Entscheidung getroffen hat, wird es sehr schwierig, jemanden zur Rechenschaft zu ziehen, wenn etwas schiefgeht.
Für gewöhnliche Menschen ist die praktische Implikation einfach: Die KI-Tools, die du bei der Arbeit, im Gesundheitswesen oder in der Schule verwendest, werden von Unternehmen gebaut, in denen Menschen wie Gabriel um einen Platz am Tisch kämpfen. Ob sie diesen Kampf gewinnen, prägt, was diese Tools mit dir tun.
Gabriels Präsenz garantiert gute Ergebnisse nicht. Aber sein Fehlen würde sie wahrscheinlich verschlechtern. Die Frage nach sieben Jahren ist, ob Ethik als echte Bremse funktioniert oder als beruhigendes Dekor an einer Maschine, die zu schnell läuft, um zu stoppen.
