Drei KI-Pioniere streiten über offene Modelle auf der Las-Vegas-Konferenz

Wichtigste Punkte

• Geoffrey Hinton, Fei-Fei Li und Andrew Ng argumentierten auf der Ai4-Konferenz in Las Vegas alle gegen die totale Kontrolle von KI durch Unternehmen.
• Hinton sagte, dass der Kampf um offene KI-Modelle, bei denen das trainierte Modell selbst kostenlos der Öffentlichkeit zur Verfügung gestellt wird, bereits verloren ist.
• Andrew Ng warnte davor, dass chinesische offene Modelle zur dominierenden KI-Infrastruktur in Asien, Afrika und der Entwicklungswelt werden könnten.
• Fei-Fei Li lehnte die Gegenüberstellung von offen versus geschlossen als falsche Alternative ab und forderte einen differenzierten, gestuften Ansatz.
• Alle drei einigten sich darauf, dass eine Form der Regulierung notwendig ist. Hinton sagte, dass die Entscheidungen nicht allein Tech-Milliardären überlassen werden können.

Drei der einflussreichsten Namen in der Geschichte der künstlichen Intelligenz teilten sich letzte Woche eine Bühne in Las Vegas, und sie konnten sich nicht vollständig einigen. Aber in einem Punkt waren sie sich einig: Eine kleine Gruppe von mächtigen Unternehmen sollte nicht über die Entwicklung von KI oder ihre Nutzung entscheiden dürfen.

Der Veranstaltungsort war die Ai4-Konferenz, wie zunächst von TechCrunch AI berichtet. Die Redner waren Geoffrey Hinton, der 2024 den Nobelpreis für Physik für seine grundlegenden Arbeiten zur KI erhielt; Fei-Fei Li, die Stanford-Professorin und CEO von World Labs, die die Bilderkennungsforschung mitaufgebaut hat, die den heutigen KI-Boom ermöglichte; und Andrew Ng, Mitgründer von Coursera und einer der einflussreichsten Stimmen in diesem Bereich.

Worum geht es in der Debatte über offene Gewichte wirklich?

Offene KI-Modelle bedeuten, dass ein Unternehmen ein großes KI-Modell trainiert und es dann kostenlos zur Verfügung stellt, damit jeder es herunterladen, modifizieren und verwenden kann. Das ist anders als Open-Source-Software, wo man den zugrunde liegenden Code lesen und bearbeiten kann. Bei offenen Gewichten erhält man das fertige Gehirn, nicht die Bauanleitung.

Hinton zog diese Linie deutlich. „Open Source ist großartig. Man zeigt den Menschen den Code und viele Leute schauen sich die Codezeilen an und sagen: ‚Oh, da ist ein Fehler'", sagte er. „Offene Gewichte bedeuten, dass man ein großes Modell trainiert und dann die Gewichte der Öffentlichkeit gibt. Das ist ganz anders."

Seine Sorge: Sobald ein leistungsstarkes Modell kostenlos heruntergeladen werden kann, kann jeder einen Bruchteil der ursprünglichen Trainingskosten aufwenden, um es dazu zu bringen, schädliche Dinge zu tun, wie beispielsweise bei der Planung eines Cyberangriffs zu helfen.

Aber Hinton gab auch zu, dass die Debatte vorbei ist. „Dieser Kampf ist verloren", sagte er. Offene Modelle existieren, die Barriere der enormen Trainingskosten ist gefallen, und keine Ankündigung von irgendeinem Labor wird das ändern.

Warum ist das für normale Menschen wichtig?

Die praktischen Folgen sind erheblich. Ng rahmt es als geopolitischen Wettbewerb ein. Chinesische offene Modelle verbreiten sich bereits in Afrika und Asien. Wenn sie zur Standard-KI-Infrastruktur für Milliarden von Menschen werden, argumentierte er, könnten diese Modelle beeinflussen, wie ganze Bevölkerungen Ideen über Demokratie und Menschenrechte kennenlernen.

„KI ist eine enorme Quelle von Soft Power", sagte Ng und fügte hinzu, dass Lobbyarbeit und Angstmacherei in den Vereinigten Staaten es schwieriger machen, dass amerikanische Open-Source-KI in Bezug auf Kosten konkurrenzfähig bleibt.

Li wehrte sich gegen die Darstellung der ganzen Frage als binärer Kampf. Sie verglich KI mit Kernphysik: Wissenschaftliche Arbeiten werden offen veröffentlicht, Rohuran wird streng reguliert und Laborarbeit liegt irgendwo dazwischen. Vollständige Offenheit und vollständige Sperrung sind beide die falsche Antwort.

„Diese Debatte, besonders auf der umfassenden Ebene ‚wir können nur eines tolerieren', ist eine falsche Debatte", sagte sie. „Wir müssen auf eine differenzierte Ebene gelangen."

Wie geht es weiter?

Regulierung, da waren sich alle drei einig, ist unvermeidlich. Der Dissens liegt in den Details. Hinton war deutlich darüber, wer nicht im Raum sein sollte, wenn diese Regeln geschrieben werden. „Man kann es nicht Leuten wie Elon Musk und Mark Zuckerberg überlassen, zu entscheiden, wie KI funktionieren sollte", sagte er.

Für jeden, der KI-Tools bei der Arbeit, in der Schule oder zu Hause nutzt, wird das Ergebnis dieser Debatte entscheiden, welche Modelle verfügbar sind, zu welchem Preis und mit welchen Einschränkungen.