Ik herinner me dat ik zo onder de indruk was toen ik het transformers XL-model van Yang Zhilin als het derde model in de transformers-bibliotheek toevoegde, begin 2019. Ik ben niet verrast dat hij nu waanzinnig indrukwekkende dingen levert met Moonshot AI. Het is een lang verhaal dat ik op een dag moet vertellen, maar op een bepaalde manier was dit kleine Google-team een van de eersten die echt de kracht van het schalen van trainingsdata begreep.