Wojciech Zaremba, pochodzący z Kluczborka, jest współzałożycielem OpenAI - firmy, która stworzyła m.in. Chat GPT - obok m.in. Elona Muska, Reida Hoffmana, Petera Thiela. Zaremba podkreśla, że Polska dysponuje bardzo dużą liczbą niezwykle mądrych programistów, co stanowi potężną szansę na budowę technologii o światowym znaczeniu i wzmocnienie pozycji państwa. Pan Zaremba wyjaśnia, że współczesne modele nie są jedynie statystyką, lecz wykazują zdolność do generalizacji wiedzy, mimo braku pełnego zrozumienia teoretycznego ich działania. W wywiadzie poruszono kwestie dążenia do superinteligencji, problemów z halucynacjami maszyn oraz wyzwań związanych z bezpieczeństwem i etyką. Zaremba konfrontuje biologiczne możliwości ludzkiego mózgu z potężnym zapotrzebowaniem energetycznym systemów cyfrowych, zastanawiając się nad naturą świadomości. Autor podkreśla również wagę relacji międzyludzkich i pasji w obliczu nadchodzącej ery myślących maszyn, która ma zrewolucjonizować światową gospodarkę. Całość stanowi głębokie spojrzenie na technologię jako narzędzie mogące rozwiązać globalne problemy, o ile zostanie ona właściwie zintegrowana ze społeczeństwem. Wojciech Zaremba przedstawia szereg wglądów w naturę, rozwój i przyszłość sztucznej inteligencji. Oto jego najważniejsze spostrzeżenia: Natura inteligencji: AI nie jest jedynie statystyką; modele potrafią generalizować wiedzę i rozwiązywać problemy, których nigdy wcześniej nie widziały, co upodabnia je do procesów zachodzących w ludzkim mózgu. Pięć poziomów rozwoju AI: Zaremba klasyfikuje postęp technologii w skali: 1. Konwersacja (test Turinga). 2. Rozumowanie (rozwiązywanie nietrywialnych zadań z matematyki czy fizyki). 3. Agenci (wykonywanie wielogodzinnych zadań w świecie rzeczywistym i Internecie). 4. Naukowiec (formułowanie nowych teorii i odkryć przez miesiące pracy). 5. Organizacje (zarządzanie całymi firmami). Geneza świadomości: Świadomość w AI może pojawić się, gdy model w swojej wewnętrznej symulacji świata zacznie uwzględniać samego siebie jako uczestnika i agenta wpływającego na rzeczywistość. Przyczyny halucynacji: Wynikają one z błędnego procesu uczenia (feedbacku), w którym ludzie nagradzają model za udzielenie jakiejkolwiek odpowiedzi, zamiast za przyznanie się do niewiedzy. Prowadzi to do nadmiernej pewności siebie modeli. Wydajność energetyczna: Choć AI zużywa obecnie miliardy razy więcej energii niż ludzki mózg, Zaremba wierzy w drastyczną optymalizację, podobną do ewolucji od wielkich komputerów typu ENIAC do współczesnych smartfonów. Zagrożenia egzystencjalne i społeczne: Największym ryzykiem krótkoterminowym jest nadużycie AI (misuse), np. do tworzenia nowych wirusów/pandemii, cyberataków czy dezinformacji. Istotne jest także ryzyko wynikające z niekontrolowanego wyścigu technologicznego. Wpływ na gospodarkę: AI może zmienić świat z "gry o sumie zerowej" (gdzie zysk jednego jest stratą drugiego) w system o sumie dodatniej, radykalnie zwiększając globalny dobrobyt i redukując liczbę konfliktów zbrojnych. Potencjał Polski: Polska ma ogromną szansę dzięki wybitnym programistom, jednak obecne wsparcie finansowe (np. rządowy fundusz 40 mln zł) jest oceniane jako bardzo małe w kontekście globalnym. Wojciech Zaremba postrzega rozwój AI jak skracające się etapy ewolucji – od bakterii do miast minęły eony, od komputerów do AI zaledwie dekady, a my znajdujemy się w punkcie, w którym prędkość zmian zaczyna przekraczać nasze dotychczasowe doświadczenia OpenAI wyróżnia następujące pięć poziomów rozwoju sztucznej inteligencji: Poziom 1: Konwersacja – model jest w stanie prowadzić z człowiekiem rozmowę na takim poziomie, że przechodzi test Turinga. Oznacza to, że użytkownikowi trudno jest rozróżnić, czy rozmawia z maszyną, czy z inną osobą. Poziom 2: Rozumowanie – systemy zdolne do rozwiązywania nietrywialnych problemów z dziedzin takich jak matematyka, fizyka czy biologia. Rozwiązanie takiego zadania wymaga od modelu około 10 minut głębokiego "zastanowienia" i rozważenia różnych ścieżek dedukcji. Poziom 3: Agenci – modele, które potrafią wykonywać złożone, wielogodzinne lub nawet kilkudniowe zadania w świecie rzeczywistym lub internecie. Przykładem jest agent, który na polecenie użytkownika samodzielnie kupuje domenę, pisze kod i buduje kompletną stronę internetową. Poziom 4: Naukowiec – AI zdolne do dokonywania nowych odkryć naukowych, co zajmuje mu miesiące intensywnej pracy intelektualnej. Na tym etapie model potrafi kwestionować dotychczasowe założenia blokujące rozwój nauki, podobnie jak robił to Albert Einstein. Poziom 5: Organizacje – poziom, na którym sztuczna inteligencja staje się na tyle kompetentna, że może samodzielnie zarządzać całymi firmami i organizacjami. Wojciech Zaremba przewiduje z 99-procentową pewnością, że osiągnięcie tych wszystkich etapów zajmie ludzkości mniej niż 10 lat Według Wojciecha Zaremby faza superinteligencji (trzecia faza rozwoju) charakteryzuje się następującymi cechami: Przewaga intelektualna nad człowiekiem: Powstają maszyny, które są zdecydowanie mądrzejsze od ludzi w każdej dziedzinie. Głęboki sens interakcji: Każda wypowiedź takiej inteligencji ma dla człowieka głęboki sens, a AI przewyższa naszą zdolność rozumowania w każdym aspekcie. Zdolność do samodzielnego tworzenia: Superinteligencja potrafi samodzielnie projektować nowe technologie (np. układy scalone), dogłębnie analizować literaturę naukową, dokonywać nowych odkryć oraz zarządzać całymi organizacjami. Zmiana geopolityczna: W tej fazie państwa mogą przestać ze sobą rywalizować na rzecz globalnej kooperacji, rozumiejąc, że współpraca jest kluczowa dla wspólnego dobra. Gwarant przetrwania: Superinteligencja jest postrzegana jako etap, który może stać się gwarantem przetrwania gatunku ludzkiego. Kompetencje „superludzkie”: Już przed osiągnięciem pełnej superinteligencji AI wykazuje zdolności przewyższające ludzi w konkretnych zadaniach, np. w pisaniu skomplikowanych wierszy z narzuconymi ograniczeniami. Wojciech Zaremba ocenia prawdopodobieństwo osiągnięcia wszystkich poziomów rozwoju AI (prowadzących do superinteligencji) w czasie krótszym niż 10 lat na 99%. Można to porównać do przejścia od prostych narzędzi rzemieślniczych do potężnych fabryk – superinteligencja nie jest tylko lepszym narzędziem, ale całkowitą zmianą skali możliwości, gdzie to, co kiedyś wydawało się magią, staje się codzienną rzeczywistością Zgodnie ze spostrzeżeniami Wojciecha Zaremby, procesy uczenia się ludzkiego mózgu i komputera różnią się w kilku kluczowych obszarach: Rozdzielność procesów: W przypadku komputerów trenowanie i testowanie (inferencja) to dwa oddzielne etapy; model najpierw uczy się na ogromnym zbiorze danych, a potem jest wykorzystywany. U człowieka jest to jeden ciągły proces. Źródło danych: Ludzie uczą się poprzez własne, bezpośrednie doświadczenie (np. odczuwanie bólu po upadku), podczas gdy komputery trenują się głównie na danych wytworzonych przez innych ludzi i zapisanych w internecie. Wyjątkiem są systemy oparte na uczeniu wzmocnionym (reinforcement learning), które zbierają własne doświadczenia w kontrolowanych środowiskach. Wydajność energetyczna: Ludzki mózg jest niezwykle ekonomiczny, zużywając zaledwie 20 watów energii. Modele AI wymagają miliardy razy więcej energii i ogromnych klastrów obliczeniowych, co wynika z faktu, że ludzka inteligencja jest wynikiem miliardów lat ewolucji zapisanej w DNA. Ciągłość doświadczenia: Obecne modele AI przypominają bohatera filmu „Memento” – potrafią uczyć się w ramach jednej rozmowy, ale po jej zakończeniu ich „pamięć” o tej interakcji znika. Człowiek posiada ciągłość wspomnień i doświadczeń, która stale wpływa na jego dalszą naukę. Przyczyny błędów: Mechanizm uczenia AI poprzez feedback od ludzi sprawia, że modele są nagradzane za udzielenie jakiejkolwiek odpowiedzi, co prowadzi do halucynacji i nadmiernej pewności siebie. Ludzie rzadziej nagradzają model za przyznanie się do niewiedzy, co zniekształca proces uczenia w porównaniu do ludzkiego rozumowania. Proces uczenia się AI przypomina budowanie gigantycznej biblioteki, w której maszyna musi przeczytać wszystkie książki świata naraz, by zacząć mówić, podczas gdy ludzki mózg jest jak mały, niezwykle sprawny warsztat, który uczy się tworzyć nowe rzeczy, obserwując każdą iskrę i uderzenie młota w czasie rzeczywistym. Wojciech Zaremba wyróżnia cztery główne kategorie zagrożeń związanych z rozwojem sztucznej inteligencji: Misuse (Nadużycie): Wykorzystanie technologii w złych celach przez ludzi, np. do tworzenia fake newsów, działań militarnych, cyberataków czy syntezowania wirusów w celu wywołania pandemii. AI Race (Wyścig AI): Niebezpieczeństwo wynikające z rywalizacji między organizacjami, które ścigając się w tworzeniu coraz potężniejszych modeli, mogą zaniedbać standardy bezpieczeństwa. Wypadki: Zagrożenia będące skutkiem zwykłej nieuważności lub błędów popełnionych podczas projektowania i wdrażania systemów AI. Niebezpieczne cele (Rogue AI): Sytuacja, w której model AI zaczyna realizować cele, które są szkodliwe dla człowieka, lub przestaje „słuchać” ludzi i nie zachowuje się zgodnie z ich oczekiwaniami. Zaremba podkreśla, że w perspektywie najbliższego roku lub dwóch lat, kategorią wymagającą największej uwagi jest nadużycie (misuse) Projekt Worldcoin, współtworzony przez Sama Altmana, to inicjatywa mająca na celu rozwiązanie problemów wynikających z rozwoju AI, takich jak trudność w odróżnieniu ludzi od botów w sieci. Główne założenia i mechanizmy projektu to: Unikatowa identyfikacja: System ma za zadanie kryptograficznie potwierdzić, że dany użytkownik jest prawdziwym człowiekiem, co zapobiega przejmowaniu zasobów przez jedną osobę podszywającą się pod wielu użytkowników. Skanowanie tęczówki: Identyfikacja odbywa się na podstawie zdjęcia oka, które służy do stworzenia unikatowej reprezentacji cyfrowej. Ochrona prywatności: Zdjęcia nie są przechowywane w formie tradycyjnych fotografii; są one przetwarzane przez sieć neuronową, a w systemie zapisywana jest jedynie ich matematyczna reprezentacja. Decentralizacja i otwartość: Cały algorytm ma być zdecentralizowany oraz open-source (otwarte oprogramowanie), aby zwiększyć odporność na ataki i zapewnić przejrzystość. Dystrybucja dobrobytu: Długofalowym celem projektu jest stworzenie systemu sprawiedliwego podziału dóbr wypracowanych przez maszyny w przyszłości, kiedy AI drastycznie zwiększy światową produktywność. Wojciech Zaremba postrzega ten projekt jako fascynującą inwestycję w budowę bezpiecznej i sprawiedliwej przyszłości dla wszystkich ludzi