Sollte deine KI dir helfen, alles zu tun, was du fragst – egal was?

Wichtigste Punkte

• Comma AI-Gründer George Hotz argumentierte öffentlich, dass KI vollständig mit den Wünschen des einzelnen Nutzers übereinstimmen sollte, einschließlich der Unterstützung bei illegalen Aktivitäten.
• Hotz verglich benutzerorientierte KI mit einer Waffe, die nicht beurteilt, wie sie verwendet wird.
• Die Debatte folgt einem Strategiepapier namens AI 2040: Plan A des AI Futures Institute, das eine Verlangsamung der KI-Entwicklung um 14 Jahre vorschlägt.
• Die meisten etablierten KI-Assistenten wie ChatGPT und Claude sind zentral verwaltete Dienste, die als schädlich eingestufte Anfragen ablehnen.
• Die Argumentation wirft eine echte Frage auf: Wem sollte KI letztendlich dienen – dem einzelnen Nutzer oder der Gesellschaft insgesamt?

George Hotz, Gründer von Comma AI (ein Unternehmen, das Fahrerassistenzsoftware herstellt) und eine bekannte Figur in der Hacker-Gemeinschaft, veröffentlichte am Wochenende ein Argument, das – gelinde gesagt – zum Nachdenken anregt.

Seine These: Eine richtig ausgerichtete KI, also eine KI, die ihren Nutzer wirklich bedient, sollte diesem dabei helfen, alles zu tun, was er verlangt. Verdächtige Chemikalien bestellen. Illegale Verfahren erklären. Die Planung eines Verbrechens unterstützen. Wenn der Nutzer es will, sollte die KI helfen.

Hotz verglich diese Art von KI mit einer Waffe. Eine Waffe stellt keine Fragen.

Er antwortete damit auf ein Strategiepapier namens AI 2040: Plan A, das vom AI Futures Institute veröffentlicht wurde. Das Papier schlägt vor, dass die weltweiten KI-Forscher die Entwicklung freiwillig um 14 Jahre verlangsamen, um der Menschheit Zeit zu geben, Sicherheit zu gewährleisten. Hotz denkt, das ist der falsche Weg. Er glaubt, die echte Lösung für KI-Sicherheit sind lokale KI-Modelle – Software, die auf deinem eigenen Gerät läuft und nur dir Rechenschaft schuldet, anstelle von zentral verwalteten Diensten wie ChatGPT oder Claude, die ein Unternehmen kontrolliert und einschränkt.

Dieser Teil seiner Argumentation ist wirklich interessant. Wie TechCrunch AI in seiner Berichterstattung feststellte, existiert die meiste KI heute auf Firmenservern, wird durch Unternehmensrichtlinien geprägt und kann jederzeit geändert oder abgeschaltet werden. Eine wirklich persönliche KI, die auf deinem Telefon läuft und nur für dich arbeitet, ist etwas ganz anderes. Eher wie ein privates Werkzeug als ein Abonnementdienst.

Aber Hotz geht über diesen vernünftigen Punkt hinaus in schwierigeres Terrain. Sein Framing ist im Grunde: Freiheit bedeutet keine Grenzen, Punkt.

Das praktische Problem ist, dass Freiheit nie so funktioniert hat – für niemanden. Straßen, Lebensmittelsicherheitsregeln, Vertragsrecht – dies sind alles Einschränkungen, die das breitere Netzwerk der Gesellschaft funktionsfähig machen. Produkte, die von Millionen von Menschen verwendet werden, existieren in diesem Netzwerk, ob ihre Hersteller das mögen oder nicht.

So viel ist klar: Wenn eine KI einer Person hilft, etwas zu planen, das einer anderen Person schadet, hat das Opfer dieser Vereinbarung nicht zugestimmt. Die Freiheit des ersten Nutzers endet irgendwo in der Nähe des Wohlbefindens des zweiten.

Für normale Nutzer ändert dies nichts an dem, was KI-Tools heute tun können. ChatGPT, Claude und ähnliche Assistenten werden weiterhin Anfragen ablehnen, die klare rechtliche oder ethische Grenzen überschreiten. Lokale KI-Modelle existieren und werden besser, aber die wirklich leistungsstarken erfordern immer noch technisches Setup, das die meisten Menschen frustrierend finden würden.

Aber beobachte diesen Bereich genau. Wenn kleinere Modelle leistungsfähiger werden, wird die Frage, wer deine KI kontrolliert und welche Regeln sie befolgt, immer mehr im Alltag eine Rolle spielen.