Mentionsy

Techstorie - rozmowy o technologiach
11.02.2025 17:00

111# Tańsza, sprytniejsza i na rękę partii. Jak Chińczycy wytrenowali AI?

DeepSeek pojawił się na Zachodzie znienacka i od razu zachwiał systemem. Odkąd w styczniu doprowadził do poważnych zawirowań na giełdzie, mediom udało się wyjaśnić wiele półprawd i przeinaczeń na temat tego modelu AI. Ale i tak, żeby zrozumieć fenomen DeepSeeka, trzeba zajrzeć za kurtynę oddzielającą Chiny od reszty świata. A dzieje się tam całkiem dużo - przede wszystkim trwa walka 200 modeli (językowych). Chiny zapowiadają kolejne, gigantyczne inwestycje w sektor AI. A i same innowacje zastosowane w DeepSeeku pokazują, że Chińczycy nie powiedzieli jeszcze ostatniego słowa. Dlatego w tym odcinku podcastu "Techstorie" zaglądamy głęboko pod maskę DeepSeeka, sprawdzamy, w którym kierunku będzie rozwijać się chińska AI i czy wciąż musi być dobrym komunistą. GOŚCIE ODCINKA: Alicja Bachulska, starsza analityczka ds. Polityki – Azja i Chiny, Europejska Rada Spraw Zagranicznych - Maciej Rudziński, badacz AI i specjalista od neurokognitywistyki, - Jakub Jakóbowski, specjalista ds. Chin i wiceszef Ośrodka Studiów Wschodnich. NA SKRÓTY: 03:30 Wojna setek modeli 22:09 DeepSeek - prawdy i mity 34:45 Czy DeepSeek jest lepszy niż inne modele? 57:35 Sześć tygrysów AI 1:06:00 Marksistowska AI 1:22:02 Wojna kulturowa ŹRÓDŁA: O chińskich inwestycjach w AI https://finance.yahoo.com/news/chinas-ai-industry-could-see-093000369.html O głównych konkurentach AI https://time.com/7210521/deepseek-chinese-ai-models/ Uwagi Anthropica o DeepSeeku https://darioamodei.com/on-deepseek-and-export-controls POWIĄZANE ODCINKI: 108# O ograniczeniach USA w eksporcie chipów 45# O podstawach budowy AI w Chinach 46# i 47# O kulisach przejęcia Techlandu przez Tencent

Szukaj w treści odcinka

Znaleziono 114 wyników dla "AI"

Przede wszystkim przyniósł trzęsienie ziemi w świecie AI.

Giełda poleciała na łeb na szyję w ciągu doby z kapitalizacji królowej AI, czyli NVIDII wyparowało PKB Szwecji, ale teraz jak kurz już opadł, czas zajrzeć za wielki chiński firewall, no i sprawdzić jak naprawdę wyglądają ich postępy w AI, czy OpenAI może zacząć się bać, no i czy specjalistom od AI trzeba płacić miliony dolarów rocznie.

Maciej Rudziński, badacz AI i specjalista od neurokognitypistyki.

Jak będziecie chcieli go sobie opuścić, to można, ale uważamy, że trochę byłoby szkoda, bo ta wiedza dotycząca trenowania modeli AI to nie jest tylko wiedza dotycząca Chin, tylko rzeczywiście całego tego środowiska związanego z rzuczną inteligencją, więc na pewno też wam się przyda na przyszłość.

No dobra, tak jak już poszedł spoiler, o czym dzisiaj będzie, to przejdźmy tutaj do meritum, bo w meritum w dalszym ciągu jest Dipsik, czyli model AI, firmy o takiej samej nazwie, która pod koniec stycznia wywołała panikę przede wszystkim w Stanach Zjednoczonych.

Dlatego zacznijmy od kilku cyfr, które pokażą nam, gdzie Chiny są dzisiaj, tak mniej więcej oczywiście z rozwojem AI, a są całkiem zaawansowane.

Tak, masz rację, są całkiem zaawansowane, bo z ostatnich większych roków koniecznie trzeba przypomnieć, że w marcu rok temu premier Chin Li Qiang ogłosił nową inicjatywę AI+, której celem jest takie bardzo głębokie zintegrowanie sztucznej inteligencji z realną gospodarką kraju.

Myślę, że żeby o podejściu Chin do AI powiedzieć, to trzeba trochę wyjść poza ten schajpowany obecny stadium rozwoju AI, bo Chińczycy się tym zainteresowali w trochę innym kontekście.

w 2017 roku pierwsze takie duże dokumenty dotyczące rozwoju AI i wtedy jeszcze ja mam wrażenie, że to był trochę inny AI, tak jak i świat rozumiał, bo to było uczenie maszynowe, rozpoznawanie twarzy, rozpoznawanie mowy, takie mniej rozwinięte formy ewolucyjne, tak to nazwijmy.

Zaczął w przemówieniach o tym mówić, że AI to jest przyszłość i trzeba ją wdrażać.

Faktycznie start ratu GPT także w Chinach mocno zintensyfikował pracę nad AI, o czym zresztą mówiłyśmy Państwu w odcinku numer 45.

Jednocześnie Chiny ogłosiły, że powołują fundusz inwestycyjny dla AI z kapitałem początkowym wynoszącym 60 miliardów yuanów, czyli trochę ponad 8 miliardów dolarów.

czyli właśnie AI, komputery kwantowe, baterie, jakieś tam zaawansowane materiały i tak dalej.

On osobiście i partia cała, bo idzie za nim, uważa, że postęp technologiczny w tych właśnie obszarach, w tym AI, jest czymś, co w ogóle jest takim panaceum na wszystkie problemy Chin.

Wpływy na świecie, oczywiście jak będziemy przewodzić w AI, to będziemy mieli dalej wpływy.

Trochę przypadkiem to wyszło, niezależnie od deepseeka, ale było też na Twitterze hype o to, że tam Bank of China zrobi jakąś linię kredytową na bodajże 150 miliardów dolarów dla AI.

To jest fragment większego procesu, że banki, fundusze VC, jakieś tam państwowe fundusze inwestycyjne, fundusze, które wspierają badania podstawowe, jak one czytają, że na trzecim plenum Xi Jinping powiedział, że AI jest najważniejsze, bo to jest new productive forces,

I proszę się nie śmiać, ale Tencent naprawdę bardzo interesująco wybrał nazwę dla tego swojego flagowego produktu AI, bo union to jest takie starożytne pojęcie z filozofii i praktyki medytacyjnej teoizmu i oznacza pierwotny chaos lub pierwotne serce wszechświata.

Tyle, że to są głównie właściwie tylko i wyłącznie użytkownicy w Chinach, więc on ma problem, żeby naprawdę stać się taką międzynarodową konkurencją dla OpenAI, które ma 300 milionów użytkowników tyle, że tygodniowo.

No i tam już robi trochę zamieszania, bo jest porównywany z Sorą chociażby od OpenAI, jeżeli chodzi o możliwości właśnie generacji wideo.

Tylko, że to o niczym nie świadczy, bo chiński rynek jest też na tyle chłonny, że te usługi spokojnie znajdowały setki milionów użytkowników, a jeżeli chodzi o rozwój AI, to tak naprawdę ważniejsze są inne parametry.

Ale i tak ta cała masa prac nad AI i to, że od blisko dekady ta technologia jest w czołówce partyjnych inicjatyw, wszystko to przekłada się na sukcesy, choćby takie jak liczba publikacji naukowych w oku AI czy też liczba patentów.

Co do publikacji, to można dyskutować, czy one są wszystkie tak bardzo innowacyjne, ale w patentach to przewaga Chin jest bardzo widoczna, bo od 2014 do 2023 roku w Chinach przyznano ponad 38 tysięcy patentów związanych z AI.

A co więcej, pod koniec 2023 roku liczba efektywnych patentów wynalazczych związanych z AI, czyli takich, które... Są wdrażane.

Tak z grubsza wygląda obecnie rynek chińskiej AI.

Przewracam oczami, bo ja naprawdę, jak sobie przypominam ten zryw z pierwszego, drugiego dnia po publikacji Dipsika, z tymi sześcioma minionami powtarzanymi przez kolejnych, kolejnych, kolejnych ekspertów, nie tylko media, to mam taki, naprawdę trzeba było wysoki poziom naiwności prezentować, żeby uwierzyć w taką bajkę, bo to jest po prostu, no, to jest niemożliwe.

Co więcej, Dipsyk pokazał, że te najbardziej zaawansowane, czyli myślące modele AI można tworzyć faktycznie znacznie łatwiej.

No a na reakcję OpenAI nie trzeba było długo czekać.

Sam Altman przyznał, że ten model DeepSeek R1 robi wrażenie, ale równocześnie zapowiedział kontratak i OpenAI szybko wypuścił chat GPT-Gov, czyli taką wersję chatbota dostosowaną do potrzeb amerykańskich agencji rządowych.

Co więcej, OpenAI oskarżył DeepSeek o to, że Chińczycy ukradli ich bazy danych do trenowania swojego modelu.

Natomiast, jak zwraca uwagę Maciej Rudziński, zasadniczo to dzisiaj każdy model AI ma w sobie kawałeczek czatu GPT.

No dobra, to odnosząc się do tego, co powiedziałaś, przede wszystkim oczywiście prawdą jest to, że jest zakaz eksportu czipów AI do Chin.

Nvidia, ale generalnie wszyscy amerykańscy producenci mogli eksportować do Chin wyłącznie te gorsze, wolniejsze chipsety AI i zresztą...

Natomiast jest też analiza takiego serwisu poświęconego naszym dwóm ulubionym działkom, czyli AI i półprzewodnikom.

No dobrze, a wszystko to nas sprowadza do ostatniej, wciąż nie do końca jasnej kwestii, czyli czy DeepSeek jest faktycznie lepszy niż inne modele AI?

Przedstawiciele wielkich amerykańskich firm AI twierdzą, że no absolutnie nie.

A inne modele AI są pod tym względem ocenzurowane.

Zatem kwestia jest taka, że prezesi czy to Antropic, czy Open AI, czy Mistrala, czy dowolnych innych zachodnich firm są żywo zainteresowani tym, żeby chińskie AI nie wchodziły im w paradę.

Natomiast R1 to jest odpowiednik modelu OpenAI, który się nazywa O1 i jest modelem tak zwanym ReasonR, czyli modelem głęboko myślącym.

Wchodzimy na takie AI 102.

Tylko, że to wciąż za mało, by mógł działać agent w rodzaju czata GPT, do tego potrzebny jest właśnie post-training.

To jest metoda opracowana przez OpenAI, w której ludzie już nie zadają pytań i odpowiedzi, zamiast tego odpowiedzi modelu są oceniane przez ludzi.

I zasadniczo to dzisiaj jest standard w branży AI.

Czyli tradycyjnie post-training był długi i kosztowny i głównie dlatego wymagał ogromnych nakładów ludzkiej pracy.

tych specjalistów, którzy tworzą AI, wynagradzać milionami dolarów rocznie.

No tak, więc starcie to finałowe starcie, w którym Koreańczyk Lee Sedol grał właśnie z AI DeepMindu, która nazywała się AlphaGo.

w takim poziomie zainteresowania społecznego.

I to był tak duży wstrząs, że Kai-Fu Lee, czyli jeden z najbardziej rozpoznawalnych chińskich takich myślicieli związanych z AI, ale także biznesmen, inwestor, nazwał tą przegraną człowieka z maszyną efektem sputnika.

Idziemy w to AI, inwestujemy, idziemy na grubo.

Bo OpenAI nauczył swój model takiego specjalizowania się we wszystkim.

No i ten model GPT w efekcie, czat GPT od OpenAI jest takim Leonardo da Vinci, czyli takim super ekspertem, który zna się na wszystkim.

Natomiast Chińczycy przeskoczyli wszystkich innych, wydaje się, bo nie wiemy, co oczywiście siedzi w środku OpenAI, gdzie też są podejrzenia, że oni mają model wieloekspertowy, ale wydaje się, że znaleźli technikę, która pozwala im mieć tych ekspertów więcej.

I to chyba tak naprawdę bardzo mocno ubodło, szczególnie takie firmy jak OpenAI, no bo może być problemem na przyszłość, jeżeli chodzi o sprzedawanie bajek.

Czyli wiemy już, że Chiny mają duże ambicje w dziedzinie AI.

Otóż wyłącznie w pierwszej połowie 2024 roku w Chinach powstało jakieś 237 tysięcy firm zajmujących się generatywną AI, czyli niemal ćwierć miliona w sześć miesięcy.

W sierpniu rok temu w Chinach działało łącznie 1,67 miliona spółek działających w branży AI.

I znowu, na pewno to nie jest tak, że wszystkie faktycznie działają, na pewno nie wszystkie przetrwają, ale widać, że boom na AI jest, jest powszechny.

Sześć Tygrysów AI.

Tymi tygrysami są Stefan, Zifu, Minimax, Moonshot, 01.ai oraz BaiChuan.

No i one są naprawdę powszechnie uznawane za liderów chińskiego sektora AI.

Bo przez byłego wiceprezesa Microsoftu, Jianga Daishyana.

I opracował już 11 podstawowych modeli AI obejmujących język, grafikę, wideo, dźwięk oraz tzw.

A jak Państwo pamiętają, w przypadku modeli AI im model większy, tym lepszy.

Kolejny tygrys to Zipfu, który został założony przez badaczy z prestiżowego uniwersytetu Tsinghua w pekińskiej dzielnicy Haidian.

Ta firma rozwija modele bazowe oraz oparte na nich produkty AI takie jak ChatGLM, taki model konwersacyjny oraz Ying, generator wideo przypominający ponownie Soro od OpenAI.

Jest jedną z największych chińskich firm AI, a według doniesień prasowych planuje wejść na giełdę.

Tego roku, 25, administracja jeszcze Bidena zaostrzyła przepisy eksportowe, umieszczając ponad 20 chińskich podmiotów, w tym 10 spółek należących właśnie do ZIF-u AI, na liście podmiotów objętych restrykcjami.

I tu się pojawia bardzo ciekawy wątek, czyli wątek Uniwersytetu Tsinghua, który wyrósł z takiego bardzo silnego, wręcz przodującego do czasu debiutu DeepSeek, ośrodka startupów zajmujących się AI.

To jest kwestia dyskutowana w Chinach samych, czy to nie jest brain drain, ale z Tsinghua bardzo dużo ludzi jednak jeździło do Stanów, niektórzy tam zostawali, niektórzy wracali potem i zakładali te swoje startupy, ale nie chcę tutaj stawiać, że to Tsinghua jest dobre dlatego, że naukowcy jeżdżą do Stanów i że to w Stanach się wszystko tworzy, oni to przywożą, to nie do końca tak, oni sami przecież mają ogromny wkład w ten globalny jakby obiekt.

wiedzy dotyczących AI, ale moim zdaniem sam fakt, że jakby dofinansowany, z dobrymi kadrami, a jednocześnie jest jeden z najlepiej znetworkowanych na świecie, to wszystko sprawiło, że to się rozwijało.

Pieniądze na AI można dowolnie dodrukować.

O pieniądzach już dzisiaj mówiłyśmy, ale Kuba zasygnalizował tu kolejny ważny element chińskiego wielkiego marszu po AI.

To jest firma założona przez Jana Junjie, czyli eksperta AI.

Toki zyskał dużą rozpoznawalność także poza Chinami, bo pod koniec października ubiegłego roku był czwartą najchętniej pobieraną aplikacją AI w Stanach Zjednoczonych.

I rok temu Toki miał więcej pobrań niż jego główny konkurent, czyli karakter AI.

Piąty tygrys, Bai Chuan, skoncentrował się na chińskim rynku i wyspecjalizował się w pracach nad rozwojem modeli dla opieki medycznej oraz zdrowia.

I chyba to przekonało inwestorów, bo ta firma osiągnęła wycenę ponad 2 miliardów dolarów, co czyni ją jedną z największych chińskich firm AI.

No i wreszcie tak na deserek mamy ten 01AI czy 01AI.

To jest startup założony po cichutku dwa lata temu przez samego wspomnianego dzisiaj Kai Fuli.

Kai-Fu Lee był też dyrektorem operacyjnym w Google, w Microsoftzie, w Apple, więc ma spore doświadczenie biznesowe i zdecydował się wrócić do Chin właśnie po to, żeby założyć ten startup, który pracuje nad modelem też otwarto-źródłowej AI nazwanej Li Lightning i Li Lightning jest dostępny głównie dla programistów.

Już ona powinna zaalarmować Amerykanów, że tam się w Chinach sporo dzieje, bo podobnie jak Dipsik, ten model też był trenowany na chipach kupionych na zapas przez radnego Kai Fuli.

No właśnie i te sześć tygrysów, ostrzę sobie teraz zęby na lukratywne zachodnie rynki, ale jest coś jeszcze, o czym trzeba wiedzieć o chińskiej AI, o tej z DeepSea, o tej sześciu tygrysów i o tej setek tysięcy zupełnie małych tygrysków.

Co jest bardzo ważne, a umyka dużej części ekspertów skupionych na pracach nad AI, w takim biznesowym, technologicznym ujęciu, to to, że Chiny są państwem komunistycznym.

W tym, jak partia komunistyczna przekonuje ludzi, że to jej kontrola nad AI jest po prostu niezbędna do stworzenia dobrej, bezpiecznej i takiej niekapitalistycznej komunizmu.

I właśnie w tym kontekście mamy też myśl o tym marksistowskim AI, o marksistowskiej sztucznej inteligencji, tylko też podkreśliłabym, że to nie jest raczej mainstream chiński, to jest bardziej ciekawostka, to jest taki przykład tego, jak w tym bardzo jednak ograniczonym, cenzurowanym, kontrolowanym środowisku naukowo-intelektualnym mamy do czynienia z takimi pomysłami na to, jak przeformułować myśl marksistowską, tą bardziej tradycyjną,

Natomiast w chińskim kontekście to jest dalej przekładane na kolejne argumenty, że jeśli sztuczna inteligencja, i tutaj będę używać znowu tych marksistowskich, marksistowskiej terminologii, alienuje ludzi od tych owoców ich pracy, również umysłowej, tym samym to może przyczynić się do tego, że w długoterminowej perspektywie to AI, ta sztuczna inteligencja będzie działać na niekorzyść

Myśmy się przyzwyczaili do myślenia, że to Unia Europejska reguluje AI, no i Ameryka nie, więc my jesteśmy na straconej pozycji, a Amerykanie idą do przodu.

Ale w Chinach też się reguluje AI.

Z drugiej strony się boi tego AI, no bo to nie są śmieszne rzeczy dla partii, bo partia się naprawdę boi, że AI może rozstrzelnić tą skrupę cenzury.

I to jest ciekawe, że i na poziomie jakby zbierania danych, znaczy są konkretne procentowe kwoty nieprawomyślnej treści, która może się na poziomie pre-trainingu pojawić.

Natomiast w 23 roku ja mam wrażenie, że to jest efekt GPT i open AI.

tego AI, które jest jakby frontem do populacji, znaczy które jest myślane jako otwarte dla ludzi coś typu czatów, takich ogólnego zastosowania, ale już nie dla wszystkich modeli, dla modeli, które miały zostać zamknięte, nie wychodzić na zewnątrz, nie być w internecie, to tam poluzowano te regulacje.

I ja mam taką hipotezę, ale nie jestem w stanie tego do końca potwierdzić, że dipsyk jest trochę dzieckiem tego, bo sam fakt, że można tego dipsyka tak łatwo zmanipulować do opowiadania od jednego momentu pokazuje, że na poziomie pre-trainingu on był puszczony wolno.

No i to jest ta prawdziwa milicja AI, której w Polsce tak bardzo bała się branża, że nadejdzie razem tam z AI aktem.

On jest w takim samym stopniu ocenzurowany, w jakim stopniu są ocenzurowane modele od OpenAI czy Anthropica.

W tej wizji AI mogłaby zapewnić takie materialne podstawy dla zwiększenia wolnego czasu dla ludzi, no i w końcu całkowitego uwolnienia się od konieczności pracy zarobkowej.

No dobra, ale oprócz tych podbudów takich bardzo technicznych oraz teoretycznych, to bardzo ciekawe są też wszystkie amerykańskie działania na polu ekspansji AI, które zadziały się w tym samym czasie co premiera Dipsika.

I przede wszystkim jest to to, że Donald Trump już w pierwszych dniach swojej prezydentury zapowiedział projekt Stargate, w ramach którego na rozwój AI w najbliższych latach OpenAI, SoftBank i Oracle mają przeznaczyć 500 miliardów dolarów.

On był porównywany do Dipsika, a ta jego partnerka była porównywana do OpenAI.

On ma wpływ, on ma ten taki swój program AI+, który też ściągnął swój sztandar, żeby to AI wdrażać w różne procesy przemysłowe, w usługi i tak dalej, i tak dalej.

W każdym razie on jakby się otacza tymi ludźmi związanymi z AI i do tego klubu

Partia się stara, żeby jednak poza tymi czterema czy sześcioma tygresami z Tsinghua było mnóstwo innych miejsc, gdzie się nad AI pracuje, które mogą eksperymentować i przede wszystkim konkurować ze sobą nawzajem.

Także w tym, jak wyglądają prace nad AI w samych Chinach.

Mamy open source'owy model AI, który, jak wiemy chyba wszyscy, nikt nie wie łącznie z twórcami, jak tam wszystko to jest okablowane wewnątrz.

Faktycznie, jak sobie tak wypowiemy na głos to, co powiedział Kuba, to chyba nie ma się co dziwić, że instalacje Dipsyka zakazują też NASA, Stan Texas, Marynarka Wojenna Stanów Zjednoczonych, a same Stany przygotowują ustawę, która ma zakazać instalacji korzystania z chińskiej AI na rządowych urządzeniach.

Tak, tylko że o ile USA się zbroją i stawiają, albo próbują przynajmniej stawiać chińskiej AI tamę, tak reszta świata jest deepseeka bardzo ciekawa.

W krajach poza USA i Europą zaczyna wchodzić na listy, prześcigną wszystkie mniejsze firmy niż OpenAI.

i Chińczycy w tej chwili trochę przypadkiem, trochę nie, trochę ze względu na to, jak OpenAI się zachowywało, przekierowali całą uwagę i zainteresowanie świata na ich model, który jest mniej ocenzurowany, bardziej otwarty, łatwiej dostępny.

szybszy w działaniu, jest lepszy pod każdym możliwym względem istotnym dla 99% populacji niż to, co robi OpenAI i ma dużo pozytywniejsze konotacje, bo w większości krajów to, że Chiny mają rządy autorytarne nie przeszkadza aż tak bardzo.

Otóż nie wiem, czy Państwo wiedzą, jak subtelny, ale znaczny wpływ na świadomość oraz nieświadomość ludzi mają rozmowy z AI.

A jak zaznacza Rudziński, decyzja o korzystaniu z tej lub innej AI będzie się przyczyniać do swego rodzaju wojny kulturowej.

Taki soft power rozsiewany na świecie za pomocą rozdawanej za darmo bardzo sprytnej i sprawnej rozumiejącej AI.

I to w tym samym czasie, gdy ze strony Stanów Zjednoczonych w imię Make America Great Again...

podcast oraz piszcie na naszego własnego maila techstorie.małpa.pl Do usłyszenia.