Til tross for kompleksiteten til LoRA-varianter, føler jeg på en måte at den eneste formelle teorien for moderne modeller som vi kommer til å få, kommer fra formalisering av LoRA (via f.eks. Fysikk-aktige uformelle argumenter tyder sterkt på dette
TuringPost
TuringPost13. juli, 20:34
13 nye typer LoRA ▪️ T-LoRA ▪️ SingLoRA ▪️ LiON-LoRA ▪️ LoRA-mikser ▪️ QR-LoRA ▪️ FreeLoRA ▪️ LoRA-utvidet generasjon (LAG) ▪️ ARD-LoRA (adaptiv rangering dynamisk LoRA) ▪️ WaRA ▪️ BayesLoRA ▪️ Dobbel LoRA-læring (DLoRAL) ▪️ Sikker beskjæring LoRA (SPLoRA) ▪️ PLoP (presis LoRA-plassering) Lagre listen! Sjekk dette ut for å finne ut hva de er og få lenkene til papirene →
4,13K