Mentionsy

weszły LLM-y, które podważyły w ogóle wartość kompetencji, które do tej pory mieliśmy.

były masowe layoffy, no natomiast jeżeli w tej chwili można kompetentnej osobie dać LLM-a i ona będzie umiała to wykorzystać efektywnie, no to jaki będzie efekt?

LLM jest w stanie po prostu naszuflować Ci łopatą gigantyczne ilości kodu i teraz wartość...

Twoja będzie w tym, żeby... Znowu, czy jesteś w stanie odpicować każdą linijkę z tych setek linijek, które każdej godziny LLM jest Ci w stanie dostarczyć?

Taka wysokopoziomowa wiedza architektoniczna, w jaki sposób to stosować, ale też umiejętność w jaki sposób powiedzieć LLM-owi...

No, moja teza jest taka, że w tej chwili od większości z nas będzie to wymagane, bo jeżeli ktoś, że tak powiem, nie dociągnie do tego poziomu, gdzie ta wiedza architektoniczna jest wymagana, no to jakby jaką wartość ta osoba wniesie, jeżeli senior opierdzieli z LLM-em o robotę za kilka takich osób hurtem?

będziecie w stanie określać jakość tego, co LLM dostarcza, widzieć rzeczy, które są ważne.

Znowu, LLM wygeneruje coś, co będzie relatywnie proste, być może nie będzie jakoś tam super elastyczne, być może trzeba będzie tutaj o coś zadbać, być może tutaj w kwestii performance'u coś trzeba będzie poprawić, ale nie wszystkie miejsca w systemie wymagają takiego samego poziomu jakości.

Ale czy LLM-y ogarniają go dobrze?

A LLM-y są no tam ileś rzędu wielkości tańsze ode mnie, nie?

ale to przede wszystkim LLM, drodzy Państwo, LLM jest tutaj decyzyjny.

I pomyślcie sobie tak, ciężko powiedzieć, że LLM jest mózgiem, ale też ciężko powiedzieć, że agent jest mózgiem.

I teraz, LLM przynajmniej w znacznej większości jest pozbawiony pamięci, natomiast tą zdolność, no i tutaj znowu, czy nazwiemy to rozumowaniem, myśleniem i tak dalej, to to jakby parkuje, niech filozofowie sobie tutaj debatują.

Dla mnie nie jest żadnym zaskoczeniem, że na przykład LLM-y potrafią, drodzy Państwo, zdać maturę na przykład z języka polskiego, czy potrafią na przykład rozwiązywać matematyczne zadania na poziomie doktoratu.

W każdym razie, LLM można by powiedzieć, że można by go porównać do mózgu, ale mózgu, od którego jest odcięta pamięć.

No bo zasadniczo, od czego jesteśmy charge'owani, drodzy Państwo, jak wykorzystujemy LLM-y?

I teraz tak, możemy mieć LLM-y na przykład hostowane przez vendorów typu jakieś tam Clody, Gemini, GPT i tak dalej, spoko.

Znaczy jeszcze jedno zdanie, agent loop to jest drodzy Państwo sytuacja, w której na przykład odpytujecie jakiegoś agenta i on wtedy, znaczy jakby piszecie prompta, agent montuje tą odpowiedź, przerzuca ją do LLM-a i teraz zwróćcie uwagę co się dzieje.

no i co, przykładowo w zależności od języka, jakiś async, async await, whatever, jak zbierze wszystkie odpowiedzi z tych tooli, to z powrotem daje do LLM-a pod tytułem, dobra, mordo, dostałem odpowiedzi i tutaj znowu będzie jakiś token pod tytułem, specjalne tokeny pod tytułem tool results albo tool call results w zależności od tego, jaki jest tokenizer i teraz, co teraz, szefie?

I tak na przykład działają researche, w sensie to model decyduje, a agent można powiedzieć go obsługuje od A do Z. I zwróćcie uwagę, jak LLM zaczyna gadać z agentem, w sensie gadać, w sensie jest między nimi komunikacja, to to jest taki ping-pong i...