Odcinek z Jakubem Pachockim (Chief Scientist, OpenAI) to szczera rozmowa o wyścigu do modeli, które nie tylko rozmawiają, ale samodzielnie prowadzą badania, piszą programy i odkrywają nowe twierdzenia. Rozbieramy na czynniki pierwsze przełom O1 (free reasoning), rolę reinforcement learning w uczeniu „toków myślenia”, ograniczenia danych i perspektywę modeli, które trenują jeszcze lepsze modele. Kuba mówi też o długoterminowej pamięci, robotyce, „wewnętrznym monologu” modeli, tempie zmian od GPT-2 do O1, a na koniec — o bardzo ludzkich obawach, rutynie pracy i radzie dla polskich talentów.
Komentarze
Napisz pierwszy komentarz!