Yang Zhilin: Der Mann hinter der KI Kimi K3

In den letzten zwei Wochen sprechen Wissenschaftler auf der Welt viel über Kimi K3. Es ist das neueste große Sprachmodell aus China. Die Zeitung Nature schreibt: K3 hat 2,8 Billionen Parameter und ein Kontext-Fenster bis zu 1 Million Token. Ein Token ist eine kleine Text-Einheit für die KI. K3 ist das größte Open-Weight-Modell der Welt. Das heißt: Die Parameter sind öffentlich. Forscher können sie gratis laden, ändern und benutzen. Aber die Details über das Training bleiben geheim.

Seit DeepSeek gibt es kein KI-Modell aus China mit so viel Interesse, schreibt Nature. Interne Tests zeigen: K3 kann so gut sein wie die besten Modelle aus den USA oder sogar besser. Zum Beispiel beim Programmieren und bei Tabellen. Man kann K3 auch über eine API benutzen. Eine API ist eine Schnittstelle für Programme. Das ist billiger als die geschlossenen Modelle von Google, Anthropic oder OpenAI.

Durch Kimi K3 ist auch der Gründer Yang Zhilin bekannt geworden. Er ist jetzt ein wichtiger Name im Bereich Künstliche Intelligenz.

Sehr gut unter sehr guten Leuten

Yang Zhilin ist 1992 in der Stadt Shantou in der Provinz Guangdong geboren. Er studiert Informatik an der Tsinghua-Universität. Er gehört zu den besten Studenten. Sein Lehrer ist Professor Tang Jie. Tang Jie ist Mitgründer der Firma Zhipu AI. Im Jahr 2019 macht Yang seinen Doktor an der Carnegie Mellon Universität in den USA. Seine Lehrer sind zwei berühmte KI-Forscher: Professor Ruslan Salakhutdinov und Professor William Cohen.

Professor Ruslan Salakhutdinov hat viele erfolgreiche KI-Forscher ausgebildet. Viele sind heute Gründer von KI-Firmen oder Professoren an Top-Universitäten.

Aber selbst in dieser Gruppe ist Yang Zhilin besonders, sagt Professor Ruslan Salakhutdinov zu Business Insider.

Er sagt: Yang hat vier besondere Stärken. Er kann sehr gut allein arbeiten. Er denkt kreativ. Er hat ein breites und seltenes technisches Wissen. Und er hat große Ziele und nimmt Risiken.

Professor Salakhutdinov sagt: Yang geht nach der Universität direkt ins Doktor-Programm der Carnegie Mellon. Schnell wird er ein sehr selbstständiger Forscher. Am meisten beeindruckt den Professor: Yang stellt alte Ideen infrage. Um das Jahr 2019, also drei Jahre vor ChatGPT, denkt Yang: Man muss nur groß genug bauen. Dann kann ein einziges KI-Modell viele Aufgaben machen. Man braucht nur Befehle in normaler Sprache. Man braucht nicht für jede Aufgabe ein eigenes Modell.

Salakhutdinov erinnert sich an seine Antwort an Yang: "Damals dachte ich: 'Was für eine Idee? Das wird nie funktionieren. Das klingt ein bisschen verrückt.'" Aber die Antwort von Yang vergisst er nie. Yang sagt: "'Nein, ich denke, wenn wir immer größer bauen, dann werden diese Modelle funktionieren.'"

Yang arbeitet an diesen Ideen während eines Praktikums bei Google Brain. Sein Chef dort ist Dr. Lê Viết Quốc. Yang schreibt an zwei wichtigen KI-Studien mit. Sie zeigen neue Methoden: Transformer-XL hilft dem KI-Modell, lange Texte zu lesen und zu behalten. Und XLNet soll das Sprachverstehen von KI-Systemen besser machen.

Channel News Asia schreibt: Viele Quellen sagen, Apple will Yang einstellen. Aber er entscheidet: Er geht zurück nach China und arbeitet dort.

Vor Moonshot AI arbeitet Yang an vielen großen KI-Projekten mit. Zum Beispiel an PanGu von Huawei und an Wu Dao. Wu Dao ist ein großes multimodales KI-Modell vom Institut für Künstliche Intelligenz in Peking (BAAI). Er ist auch Mitgründer von Recurrent AI. Diese Start-up-Firma benutzt KI für Verkaufsgespräche. Sie hilft Firmen, besser zu verkaufen.

Anfang 2023 gründet Yang mit Kollegen Moonshot AI. Diese Firma macht Kimi. Das Team hilft bei vielen wichtigen KI-Technologien, schreibt Business Insider. Zum Beispiel Transformer-XL, RoPE, Group Normalization, ShuffleNet, MuonClip und Mooncake.

Stark bleiben im harten Wettbewerb

Anfang letztes Jahr hat das chinesische KI-Labor DeepSeek das Modell R1 gestartet. Es ist weltweit sehr erfolgreich. Danach muss Yang Zhilin einen schweren Test bestehen. Viele Leute denken: Das ist ein Test für das Leben der Start-up-Firma Moonshot AI.

Der 34-jährige Gründer trägt oft eine Brille. Er nutzt den ersten Erfolg von Kimi nicht gut. Kimi ist der Chatbot seiner Firma. Die Financial Times schreibt: Damals hat Kimi oft Probleme mit Überlastung. Schnell sind größere Konkurrenten besser. Zur gleichen Zeit hat Yang ein Problem mit einem Investor aus einem alten Start-up-Projekt. Es gibt eine Klage. Es gibt auch Gerüchte: Er und ein Mitgründer haben in einer frühen Finanz-Runde Aktien von Moonshot verkauft. Er sagt: Das stimmt nicht. Aber Moonshot hat trotzdem viel unerwünschte Aufmerksamkeit.

Viele Leute in der chinesischen KI-Branche fragen damals: Kann Moonshot im harten und teuren Wettbewerb bleiben? Es geht um große moderne Sprachmodelle. Ein Investor kennt die Finanzen der Firma. Er sagt: Im Jahr 2024 macht Moonshot nur 2,4 Millionen US-Dollar Umsatz. Aber die Kosten für Training und für neue Forscher werden viel größer. Einige Konkurrenten wie Baichuan und 01.ai hören auf. Sie bauen keine Basis-Modelle mehr. Sie machen nur noch KI-Apps. Viele Leute denken: Yang macht das auch.

Aber Yang entscheidet anders. Er konzentriert sich wieder voll auf das Training von Modellen. Er stoppt zuerst die Werbung für den Chatbot Kimi. Er sagt auch: Die Haupt-Modelle von Moonshot werden Open-Source. Die Nutzer können sie laden und auf eigener Hardware benutzen.

Die Financial Times zitiert Yang aus einem Interview mit chinesischen Medien im Jahr 2024: "Wenn der Chef keine klaren Entscheidungen treffen kann, dann kann er nicht erfolgreich sein."

Mitte Juli startet Moonshot das Modell K3. Das neue Modell ist fast so gut wie die besten KI-Modelle aus den USA. Der Abstand ist viel kleiner. Viele Leute sprechen über den schnellen Fortschritt der chinesischen KI. Es erinnert an den "DeepSeek-Moment" vom letzten Jahr.

Viele Jahre sind die chinesischen Open-Weight-Modelle viel schwächer als die geschlossenen Top-Modelle aus den USA. Aber jetzt ist der Abstand so klein wie nie, schreibt Nature. Das sagt Aaron Snoswell. Er forscht zur Verantwortung von KI an der Queensland University of Technology.

K3 ist zu groß für einen normalen Computer. Firmen müssen viel Computer-Technik kaufen. Aber das sehr große Kontext-Gedächtnis hilft viel. K3 kann tausende Zeilen Code oder ein ganzes Buch behalten. So macht die KI weniger falsche Informationen. Sie erfindet weniger.

Bloomberg schreibt: Moonshot AI ist jetzt 35 Milliarden US-Dollar wert. Die Firma hat in einer Finanz-Runde 3,5 Milliarden US-Dollar bekommen. Das ist viel mehr als erwartet. In einer zweiten Runde kann Moonshot vielleicht 50 Milliarden US-Dollar wert sein. Viele Investoren wollen Geld in Moonshot geben, schreibt Business Insider.