Mentionsy
Pułapki automatyzacji. Czy AI powinna zarządzać naszymi pieniędzmi? | Digitalks #202
Pokusa automatyzacji wszystkiego - od finansów, przez planowanie podróży, po robienie zakupów - jest dziś olbrzymia. Tylko czy ludzie zawsze są zbędnym ogniwem łańcucha w systemie?
„Głęboko wierzę, że nie powinniśmy projektować tylko i wyłącznie systemów bezobsługowych” - uważa Arek Szulczyński, analityk trendów technologicznych i konsumenckich.
W nowym odcinku podcastu Digitalks mówi, jak nadmierna cyfryzacja może wykluczać niektóre grupy społeczne, dlaczego nie powinniśmy przypisywać algorytmom ludzkich cech i czy agenty AI zawsze kierują się naszym dobrem.
🤝 Partnerem odcinka jest Mastercard, który napędza podcast edukacyjny „Świat 203X. Technologia. Ludzie. Finanse”.
Szukaj w treści odcinka
Dzisiaj opowiadamy o trendach przyszłości, ale w obszarze finansów, na styku z AI, z innymi technologiami będzie naprawdę ciekawie.
Jak AI w to wchodzi?
Ja opowiadam znajomemu historię, jak ostatnio pojechałem do Francji, naiwny jak dziecko, wyposażony tylko i wyłącznie w telefon i kartę zapisaną w tym telefonie i wydawało mi się, że
Ja głęboko wierzę, że z różnych względów my powinniśmy nie projektować tylko i wyłącznie systemów bezobsługowych, czyli takich, w których ja jako człowiek mam interakcję tylko i wyłącznie z systemem, jakimś systemem komputerowym, teleinformatycznym, botem, AI-em i tak dalej, i tak dalej.
Bardzo często już wchodzą agenci AI, czyli zaraz będziesz miał dostęp przynajmniej do jakiegoś fragmentu twojego konta, bo będzie za ciebie wykonywał jakieś płatności, prawda?
Dochodzimy do momentu, w którym w tym roku Google wprowadza swoje nowe narzędzie, czyli podsumowywanie zapytań do Google, czyli AI Overview i nagle okazuje się, że zależnie od tego, czego dotyczyło nasze pytanie...
Traktujemy, że to, co powiedziało nam AI jest prawdą i faktem.
Więc tych wyzwań związanych z algorytmami i pułapek jest wiele i to się przekłada też na to, jak potencjalnie my będziemy traktować narzędzia AI w kontekście podmiotowości czy przedmiotowości w decyzjach finansowych.
Ludzie nie ufają, że algorytm dobierze dobrze, mówimy o takich rozwiązaniach typu AI agent, czyli automat, któremu zlecam, żeby zrobił zakupy w moim imieniu i on wyszukuje mi produkty, przedstawia mi te produkty, ja wybieram, on dokonuje zakupu.
Wiesz co, to jest pierwsza rzecz, która mi przyszła do głowy, kiedy oglądałem demo operatora, czyli agenta AI, kiedy oni go pokazywali w modelu takim zakupowym.
I dokładnie takie same miałem myśli, kiedy parę miesięcy później OpenAI pokazywało apps do czata GPT, czyli możliwość wykonywania pewnego rodzaju...
To chodzi o wprowadzenie pewnego rodzaju w codziennych rutynach pracy z AI, żebyśmy mieli jasność.
Ty pracujesz z AI na co dzień, ja pracuję na co dzień z AI.
personifikację AI w naszej głowie i to nadaliśmy tę cechę obiektywizmu, o których wspominałaś.
Ja na przykład robię coś takiego, zabrzmi to może durnie, ale robię to bardziej dla siebie niż dla efektywności pracy, że ja nie używam zaimków osobowych, kiedy rozmawiam z czatem GPT.
Tak, no bo jak ekspres do kawy, który można powiedzieć codziennie nam robi kawkę, nie jest naszym przyjacielem, nie rozmawiamy z nim o życiu, nie oczekujemy, że ta kawa jest w specjalistyczny sposób dla nas przygotowana i tak dalej, nie wiem, air fryer, cokolwiek, to są wszystko takie same narzędzia.
Bardzo fajny webinar oglądałem ludzi z IBM, którzy mówili o potencjalnych zagrożeniach dla AI agentów w kontekście aplikacji biurowych.
Czyli na przykład nieodporności automatów do podsumowywania mi maili i tam wydarzeń z kalendarza, czy dyskusji, które się toczą na Teamsach i tak dalej, i tak dalej.
Czyli na przykład, że ja dostaję maila, w którym...
przezroczystą czcionką o wielkości jednego piksela, której ja nie widzę, jest napisana jakąś instrukcję dla agenta AI, którą on wykona, bo potraktuje to jako po prostu polecenie dla niego.
agentom AI, to też z badań wiemy, że ludzie się tego po prostu boją i 75% twierdzi, że nigdy by nie dało agentowi AI automatycznych płatności, czyli takich odnawialnych cyklicznie, bojąc się właśnie, że utracą kontrolę nad swoimi finansami.
No właśnie, to chciałam troszeczkę dopytać, bo my mówimy o agenci AI, coś tam, coś tam, a w praktyce jak będzie działało płacenie za pośrednictwem agenta AI?
I to, co my deklarujemy, że będziemy gotowi w kontekście na przykład podmiotowości oddać agentom AI, nie oddać agentom AI, to są deklaracje.
To znaczy, wyobraźmy sobie faktycznie, że nastanie ten dzień, kiedy my dostaniemy agentów AI i ja będę mógł agentowi AI zlecić zakupy w sklepie internetowym.
w handlu już dzisiaj po prostu i nie ma nic wspólnego nawet z agentami AI.
No umówmy się, to jakiś czas temu gruchnęły takie plotki, ile taki asystent agentowy od OpenAI może kosztować.
W bardziej łagodny lub niełagodny sposób zwracają mi uwagę, że jestem naiwny, myśląc tak o przyszłości, ale no już tak mam i ja głęboko w to wierzę.
W przypadku AI słucham, czy oglądam na YouTubie Mata Wolfiego, który robi taką prasówkę ze świata AI, ale on jest bardzo nakręcony w AI, jest, mam wrażenie, często kompletnie bezkrytyczny.
Do tego wszystkiego dokładam sobie wszystkie podcasty profesora Scotta Galloway'a, którego uwielbiam, gdzie z jednej strony on czy na swoim blogu No Mercy No Malice, czy to na podcaście Prof G, gdzie z Edem też dużo rozmawiają o AI, ale w ujęciu gospodarczym czy geopolitycznym.
gdzie dwóch analityków rozmawia o tym, co się dzieje w Azji, więc mamy taką perspektywę mocno geopolityczną, a w kontekście AI wydaje mi się, że to jest wątek niezwykle ważny.
Czyli różne źródła, różne perspektywy, możliwie szeroko i możliwie najbliżej źródła, ale z drugiej strony wydaje mi się, że to jest też niezwykle ważne w kontekście tego, w którą stronę będzie się rozwijało AI i jakich kompetencji w przyszłości my ludzie będziemy potrzebować,
On występuje gościnnie, czy w Nauka to Lubię, czy ostatnio w nowej sekcji raportu o stanie świata, czyli raport o AI.
Bardzo mi się podoba to, że w raporcie o stanie świata, czy w raporcie o AI są opowiadane w końcu publicznie te wątki, które my gdzieś z Mastercardem przemycaliśmy już dwa lata temu, czyli cyberniewolnictwo i koszty tworzenia tych algorytmów.
Ostatnie odcinki
-
Filozof o technologii. AI to niebezpieczna iluz...
28.01.2026 15:01
-
Czy dzieci powinny mieć dostęp do smartfonów i ...
21.01.2026 16:00
-
2025 - rok, w którym powiedzieliśmy AI "sprawdz...
14.01.2026 15:01
-
Dzieci wychowane przez ekrany - relacje w czasa...
17.12.2025 15:06
-
Pułapki automatyzacji. Czy AI powinna zarządzać...
10.12.2025 14:57
-
Technologiczny prezentownik 2025 - gadżety, wel...
03.12.2025 15:47
-
DIGITALKS 200 - Jak rozwijać swoją inteligencję...
26.11.2025 16:26
-
DIGITALKS 199 - Jak zmienia się praca? - podsum...
19.11.2025 17:58
-
Jak wychować pierwsze pokolenie dorastające z A...
12.11.2025 15:00
-
DIGITALKS 197 - Jak pokonać brainrot? - Polecaj...
05.11.2025 15:40