Heeft OpenAI zeer-lange-episode RL bereikt met dit experimentele model? Screenshot uit het artikel van @natolambert over "Wat komt er daarna met reinforcement learning". Nathan zegt in dit artikel - Waar huidige methoden 10K-100K tokens per antwoord genereren voor wiskunde- of codeproblemen tijdens de training, zouden de soort problemen waar mensen de volgende generatie RL-training op willen toepassen 1M-100M tokens per antwoord zijn. Dit houdt in dat meerdere inferentie-aanroepen, prompts en interacties met een omgeving binnen één episode worden verpakt waartegen het beleid wordt bijgewerkt. Misschien is deze doorbraak een combinatie van beide - zeer-lange-episode RL & het schalen van TTC naar 1M-100M tokens per antwoord!