🚀 MegaTTS 3 Sprachklonierung ist da Zur Erklärung: Vor einiger Zeit hat ByteDance MegaTTS 3 veröffentlicht (mit außergewöhnlichen Sprachklonierungsfähigkeiten), aber aus verschiedenen Gründen haben sie beschlossen, den WavVAE-Encoder, der für die Sprachklonierung erforderlich ist, nicht zu veröffentlichen. Kürzlich wurde ein mit MegaTTS 3 kompatibler WavVAE-Encoder von ACoderPassBy auf ModelScope veröffentlicht, mit ziemlich vielversprechenden Ergebnissen. Insgesamt sieht es ziemlich beeindruckend aus - ich bin gespannt zu sehen, dass wir endlich Sprachklonierung mit MegaTTS 3 durchführen können! (h/t an MysteryShack im StyleTTS 2 Discord für die Informationen über den WavVAE-Encoder)

Wenn ich heute einen Wunsch frei hätte, würde ich mir wünschen, dass Kimi und Qwen ihre Post-Training-Datensätze wie Nous veröffentlichen 🫣🤗 So könnten wir alle viel einfacher auf der Arbeit der anderen aufbauen!

Gab es keine Studien zu hybriden Schlüssen? Ich werde einige Tests mit einem neuen Modell durchführen, das kein nicht-schlussfolgerndes Datenset hat. Ich werde dir mitteilen, wie sich die Daten, die nur Schlussfolgerungen enthalten, auf das Modell auswirken im Vergleich zu Daten ohne Schlussfolgerungen. Wahrscheinlich werde ich in ein paar Wochen einige gute Erkenntnisse haben, wenn ich die Zeit finde.

Manifold hatte viel höhere Chancen, dass IMO Gold bis Ende 2025 eintritt.

Ich erinnere mich, als alle sagten, es sei ein Tokenizer-Problem.

Hermes 3 von @NousResearch ist der #1 Datensatz auf @huggingface Ich plane, ihn zu nutzen Schlaf nicht auf Nous Sie: - Erstellen erstaunliche Open-Source-Fine-Tunes - Haben verteilte Rechenleistung aufgebaut - Haben gut kuratierte Datensätze - Sind vollständig transparent mit Modellgewichten und Code - Posten basierte Meinungen auf X

Es ist schwer zu untertreiben, wie schwierig und wichtig eine gute Infrastruktur ist, um Dinge zu erledigen.

Mein bester Tipp: Rubriken + LLM-Richter - Jeden Punkt im Ground-Truth-Beweis atomisieren und mit der Modellausgabe vergleichen. Mein Tipp, wie sie das skalierbar gemacht haben - denn zuvor war es nicht möglich, Menschen mussten sie akribisch erstellen, ist, dass sie sehr gute Rubriken für jedes spezifische Problem oder dessen Antwort trainiert oder etwas gemacht haben.

Bevor wir eine Coding-IDE für KI starten, damit wir einfach gute Daten erhalten.

Ich werde morgen beim ICML @ESFoMo Workshop TorchTitan präsentieren: eine native PyTorch-Plattform zum Trainieren von Basis-Modellen! Kommt vorbei und sagt Hallo!