Qwen heeft zojuist een 480B coderingsmodel uitgebracht & een ruimte om het uit te proberen voor webontwikkeling. Leuk! Model: Ruimte:

ARC-AGI-3 Agent Competitie (27 dagen over) $10K prijzenpot in samenwerking met @huggingface Je eerste inzending is 3 regels code verwijderd Hier zijn quick-start sjablonen van @LangChainAI @AgentOpsAI en @AnthropicAI en lessen geleerd van ontwikkelaars die ARC-AGI-3 hebben geprobeerd 🧵

Het is zo vreemd hoe de meeste mensen "AGI" algemeen als één monoliet beschouwen, alsof ze allemaal hetzelfde zullen zijn. Er gaat niet één AGI komen, of één type AGI. Er zal een oneindige variëteit aan smaken zijn.

Een lid van de gemeenschap heeft een klein Llama-model (23M parameters) getraind op 3 miljoen hoogwaardige @lichess-spellen en het vervolgens ingezet om volledig in de browser te draaien met 🤗 Transformers.js! Super gaaf! 🔥 Het heeft een geschatte ELO van ~1400... kun jij het verslaan? 👀 (draait op zowel mobiel als desktop)

Wat ontbreekt: investering in open source modellen en andere dingen om het langetermijn onderzoeksecosysteem te ondersteunen dat de VS de langetermijn thuisbasis van AI-innovatie zal maken. Iets wat ons land vandaag de dag mist, maar wat oplosbaar is.

Het beste open-source AI-model heeft zojuist een gedetailleerd rapport uitgebracht over hoe het is getraind, een zeldzame bron voor studenten aangezien geen frontier lab publiceert! De geschatte totale kosten voor de training van Kimi K2 bedragen ~$20-30M, ongeveer in lijn met de prijzen: $0,6/M in $2,5/M uit tokens. 10 hoogtepunten:

Dat zou zo zijn 🔥🔥🔥 @Alibaba_Qwen @Kimi_Moonshot

Als ik vandaag een wens mocht doen, zou ik wensen dat Kimi en Qwen hun post-training datasets vrijgeven zoals Nous dat doet 🫣🤗 We zouden veel gemakkelijker op elkaars werk kunnen voortbouwen op die manier!

Dus krijgt Qwen nu ook de frontier lab-onderscheiding?? @xeophon_ @Presidentlin

🏆 Onze @nvidia KV Cache Compressie Ranglijst is nu live! Vergelijk de meest geavanceerde compressiemethoden naast elkaar met KVPress. Zie welke technieken vooroplopen in efficiëntie en prestaties. 🥇