"Collectivement, ces résultats montrent que le passage de 600M à 7B de paramètres augmente la précision moyenne par nucléotide de 25 % à 83 %" Les lois de mise à l'échelle s'appliquant aux modèles fondamentaux biologiques sont la meilleure chose que j'ai entendue de la journée. Cette équipe semble incroyable et l'article vaut vraiment le coup d'œil.
Prima Mente
Prima Mente17 juil., 03:13
1/ Aujourd'hui, nous annonçons Pleiades, une série de modèles fondamentaux épigénétiques (90M→7B paramètres) entraînés sur 1,9T de tokens de données de méthylation humaine et génomiques. Pleiades modélise avec précision l'épigénétique pour la prédiction de pistes génomiques, la génération et la détection de maladies neurodégénératives à partir de cfDNA, surpassant les précédentes références basées uniquement sur l'ADN.
10,79K