Mentionsy

To jest kolejne ważne niebezpieczeństwo, noże pilnowanie AI.

Odpowiedzialność za to, co AI robi, spoczywa na nas, jako na co jakiś czas wybuchają małe afery, że ktoś napisał książkę i tam powołuje się na nieistniejące jakieś bzdury, a miała być poważna praca naukowa.

I właśnie tego typu problemy strażamy AI i ona sobie po prostu działa.

Moi drodzy, kontynuujemy serię o AI.

I tu wcale nie chodzi o hejtowanie o AI, a chodzi o to, co tak naprawdę

Potrafi się i dzieje się w firmach po wdrożeniu AI.

No bo to, jakie AI jest świetne, wspaniałe, cudowne, no to myślę, że tym jest internet zalany, tymi informacjami, cały ten hype, cała ta komunikacja.

Natomiast bardzo mało mówi się, jak potrafi AI popsuć od środka firmy, jeśli w niewłaściwy sposób korzystamy z tej technologii.

I rzeczywiście, może temat hype'u na AI jest bardzo popularny, hejtu na AI wydaje mi się, że też z drugiej strony jest sporo takich artykułów,

W tym odcinku pokażemy perspektywę naszą, to znaczy na co dzień wdrażamy AI, na co dzień audytujemy firmy, automatyzujemy różnego rodzaju procesy i taka, no to jest szczera prawda,

Tak, no znowu nie będzie to też tylko o technologii, bo na przykład pierwsza rzecz, od jakiej chciałbym zacząć, to już klasyczne stwierdzenie, że AI

Ale zanim właśnie o samym AI, to o tym, jak wpływa, i to też można uznać za pewnego rodzaju wadę, a co najmniej niebezpieczeństwo, czyli fakt, że jeżeli nie mamy poukładanych procesów w firmie, to AI nam to tylko pogorszy, bo wtedy pracownik

AI przyjmie dane, jakie dostanie i brak procesów dochalucynuje sobie trochę,

I będzie robił dużo szybciej, tylko że będzie popełniał błędy, więc pierwsza bardzo ważna, bardzo duża pułapka to jest automatyzowanie i używanie AI na podstawie po prostu błędnych założeń albo braku założeń.

Wcześniej powiedziałeś o tym, że AI może coś multiplikować.

Myślę, że takim w ogóle przykładem jest chociażby to, jak swojego czasu mnóstwo powstało różnych filmików, które były generowane poprzez AI.

Chyba nie o to chodzi, że inwestujemy ogromne pieniądze, marnujemy ogromne ilości energii, wody i tak dalej, no bo wiadomo, AI pochłania duże ilości energii, a co za tym idzie wody i tak dalej.

Tak, no to co wspomniałeś, w ogóle generowanie filmików, no to OpenAI już zamknęło projekt Sora, który miał zniszczyć Facebooka, TikToka i YouTube'a naraz, a przyniósł im parę miliardów straty tylko, ale to mała dygresja.

Masz rację, że no właśnie musimy wiedzieć co robić, musimy zrobić to z głową, musimy zacząć w ogóle AI nie używać

zbiegu na podstawie FOMO i z automatu, tylko wiedzieć, co robimy, zbudować te podstawy, na których dopiero postawimy AI.

Jeśli chcemy wdrożyć jakąś automatyzację, chcemy wdrożyć AI, no to ona musi wykonywać to w jakiś określony, powtarzalny sposób.

No więc siadamy i zaczynamy to spisywać, ponieważ AI musi wykonać dokładnie tą samą pracę, żeby odtworzyć

Co więcej, trzeba powiedzieć, że AI też pomaga te procesy budować, bo możemy wykorzystywać sztuczną inteligencję do tego, żeby zadawała nam pytania, żeby nas prowadziła, podpowiadała nam, jak spisać ten proces.

Ale rzeczywiście, AI może nas tutaj bardzo wspomóc.

Mając takie nagranie MP3 robimy sobie z użyciem AI.

No tutaj polecam model AI mieć w jakiś sposób chociaż sprontowany, żeby wiedział co ma zrobić, jak zrobić poprawne procesy, procedury, jakie opisać, jakie pytania zadać.

I to jeszcze było przed, powiedzmy, erą AI, jeśli tak można powiedzieć.

Moja praca polegała na tym, że wszystko, co robiłem, notowałem, że w tym momencie wysyłam maila do klienta w takiej sprawie, w tym momencie wystawiam fakturę i wysyłam do księgowej, w tym momencie przekazuję jakiś dokument.

Można pospisywać czynności, więc jeśli chodzi o AI, to jest dokładnie to samo, bo można zautomatyzować całe procesy, czyli właśnie od tej faktury, od wysłania, które powiedziałem, przekazania i tak dalej.

Po prostu AI może na bazie tych procesów pracować i wtedy być wykorzystywane efektywnie.

Nie jest tak ciekawy, jak hasło wdrażamy AI firm.

Jest super, AI zaczyna je automatyzować, jest radość, euforia, bo już zaczęliśmy robić fajne rzeczy, już mamy procesy, już AI działa.

No ale wiemy, to też chyba nie jest żadną tajemnicą, że AI jakkolwiek jest fascynujące, to nie jest bezbłędne, a wręcz przeciwnie, na 100% popełnia błędy.

No, że pilnowanie AI.

Odpowiedzialność za to, co AI robi, spoczywa na nas, jako na firmie, czy na poszczególnych ludziach.

Wiadomo, nie weźmie technologia odpowiedzialności za to, co, za nawet błędy, które popełni, więc musimy zdecydować też, w których momentach bardziej, w których możemy mniej pilnować AI.

I tutaj właśnie odpowiadając na pytanie, co AI w firmie może popsuć, to tego typu wpadka może być ekstremalnie kosztowna.

I teraz my oddajemy w całości AI tutaj stworzenie jakiegoś dokumentu, raportu i tak dalej i tego nie zweryfikujemy.

bardzo możliwe, może już teraz pilnują bardziej, nauczyli się tego, czego my tutaj próbujemy nauczyć bez popełniania takich błędów albo żeby ich uniknąć, no bo właśnie tak, to bardzo kusi oddanie wszystkiego AI, no bo AI robi wszystko szybko.

Natomiast błąd, jaki tutaj mogłyby AI popełnić, ta strata może być przeogromna, stąd też musi być osoba, która bierze za to odpowiedzialność.

Tutaj taki też case na konferencji, na której byliśmy o AI, był przypadek taki opisany, gdzie zbudowano narzędzie, świetne narzędzie, czas budowy tego narzędzia to było tam powiedzmy dwa dni,

Ten czas, który AI wygenerowało narzędzie, a czas, który oni teraz i do dzisiaj poprawiają i tam już były sygnały, że chyba dzisiaj lepiej opłacałoby się próbować nowe narzędzie stworzyć, że tu trzeba zrozumieć, że jeśli wypuścimy i

jak gdyby nie będzie straty z tytułu tego, że AI się pomyli tutaj, bo nie ma jakiejś tutaj realnej straty, możemy sobie na to pozwolić.

Natomiast jeśli AI dotyka newralgicznych takich obszarów właśnie jak obsługa klienta, jakieś dane wrażliwe itd., no musi być osoba i teraz to też trzeba powiedzieć wprost, ta osoba musi mieć przestrzeń na to, żeby to zweryfikować, żeby nie tylko się pod tym podpisywała,

jak to działa w praktyce, ale rzeczywiście to jest też coś, o czym szef firmy, zarząd musiał pamiętać, bo nie oszukujmy się, cały czas jest bardzo duża presja, sami ją mamy i sami czasami wywieramy, na to, że jest AI, róbmy to szybciej, róbmy to lepiej i trzeba zawsze znaleźć tu przestrzeń na to, żeby sprawdzić te efekty.

To dość często w przypadku programistów jest też widoczne, gdzie AI generuje bardzo szybko kod, ale szybciej nie znaczy lepiej.

z prawdziwego życia case'ach, gdzie AI ma wspomagać pracę zaawansowanych, wysokiej jakości specjalistów przy dość skomplikowanych problemach.

Jego użycie powodowało, że czas realizacji był o 19% dłuższy, bo programista musiał zrozumieć tak naprawdę cudzy kod, jak działa, znaleźć błędy, które były dobrze zamaskowane, bo AI halucynuje i ładnie, wiarygodnie to opisuje nie tylko po angielsku, ale również w językach programowania.

Trudno, może nie tyle trudno, ale naprawdę trzeba wziąć pod uwagę fakt, że to, że AI coś wygeneruje, to nie znaczy, że to zadanie jest zrobione i skończone.

Okej, co takiego jeszcze obserwujemy w firmach, co AI może po prostu popsuć w firmie?

AI można wdrożyć prawie wszędzie.

Jeżeli coś jest z tekstem, dźwiękiem, obrazem, no to może być zrobione AI.

Sam też mam dość specyficzne nastawienie do AI, bardzo szanuję to od strony narzędziowej, jestem pełen podziwu dla tego, jak działa pod wieloma względami, ale bardzo nie lubię, jeżeli mam kontakt z AI, który udaje człowieka.

Bardzo mnie to irytuje, kiedy próbuję coś załatwić szybko, a AI gada po swojemu.

W każdym razie tam, gdzie jest potrzeba kontaktu z klientem albo w ogóle jakaś sytuacja zahaczająca kryzysowo, powiedzmy, że ktoś dzwoni z reklamacją albo zgłasza problem, jeżeli napotyka na AI, to jego frustracja dramatycznie rośnie.

Nawet zalecamy w ogóle, że jeżeli robimy obsługę jakiegoś rodzaju, powiedzmy, maili skrzynki pocztowej,

to o ile wiele zgłoszeń takich reklamacyjnych czy po prostu tego typu można zautomatyzować, najlepiej zrobić to oczywiście cały backend, znalezienie rozwiązania, przedstawienie go pracownikowi, ale jeżeli coś wymaga eskalacji do klienta, porozmawiania z nim albo po prostu próby załagodzenia sytuacji, to wysłanie automatycznego maila czy dzwonienie agentem głosowym to jest po prostu strzał w kolano i tutaj już

Co ciekawe, z rosnącą adopcją AI spada zaufanie do AI.

AI zrobi analizy, AI przygotuje dokumenty, ale rozmowa jest z człowiekiem i to widzimy, kto jest za to odpowiedzialny.

Ślepe, automatyczne wdrażanie AI wszędzie.

Co jeszcze obserwujemy takiego w firmach, że właśnie te firmy tracą na AI?

To, jak odpowiedzi i to, co AI generuje, wygląda.

AI spowodowało tyle, że w zasadzie każdy bez jakiejkolwiek wiedzy w danej dziedzinie może stworzyć dokument, wygenerować artykuł.

Że przysłowiowy junior może wygenerować raport wyglądający jak napisany przez kogoś z 30-letnim doświadczeniem, ale to, że tak wygląda, to nie znaczy, że on jest napisany i że jest tej jakości, bo znowu AI lubi holcynować.

nie chcą brać odpowiedzialności albo nie chcą być też zaniżani do tej samej pozycji, więc znowu, zbytnie ufanie efektom AI bez kontroli przez doświadczonego, odpowiedniego, kompetentnego pracownika jest cały czas tym dużym problemem.

Zwłaszcza tutaj to pokazuje jasno, że jeśli AI generuje jakiś materiał, to do weryfikacji potrzebna jest osoba o odpowiednich kompetencjach,

Senior, który jest w stanie sprawdzić, czy AI, pomimo swojego pięknego, kwiecistego języka, jest po prostu tylko bełkotem i nie ma wartości merytorycznej, czy nie.

Tu nie wolno oszukiwać, że nagle to jest stworzone po nocach, trzy miesiące, nasz pracownik spędził tyle i tyle czasu i to pisał i oczywiście, bo my jesteśmy firmą, która nie używa żadnego AI, bo to musi być, no to oczywiście przerysowuję, śmieję się z tego, ale tu o to chodzi, że

Do tego i tak dochodzi już wkrótce aspekt prawny, bo wchodzi AI Act od sierpnia i wszystkie materiały generowane przez AI będą musiały być w odpowiedni sposób oznaczone.

Udawanie, że nie używamy AI jest bezsensowne.

Tak samo jak używanie AI non-stop do wszystkiego i ślepe wierzenie.

Paweł, czy jeszcze jest coś, o czym powinniśmy wiedzieć jako przedsiębiorcy, co jest ryzykowne z perspektywy firmy w kontekście niepilnowania AI?

Na bazie FOMO, które jest wokół tej technologii, jest tendencja taka, że wdrażamy AI i ono sobie po prostu działa, firma jest bezobsługowa, jadę na wakacje, a biznes się kręci.

Automatyzacje polegają bardzo często na tym, że to jest łączenie się z różnymi zewnętrznymi programami, z których pobierane są różne informacje, dane typu jakiś CRM, e-mail, kalendarz.

AI przyspiesza dużo i tak dalej, ale nie oszukujmy się, wdrażanie tego wymaga albo specjalistycznej wiedzy, albo nakładów, żeby zapłacić komuś z tą specjalistyczną wiedzą.

I tutaj sądzę, że AI...

Pamiętam dawne czasy, że wiele razy zdarzało się, że oferta przychodził po prostu mail z kilkoma zdaniami i to niesformatowany jako plain text.

Fascynujemy się AI, uwielbiamy tę technologię, na co dzień z niej korzystamy.

No i oczywiście zapraszam cię do kolejnych odcinków, gdzie podzielisz się wiedzą, jak wdrażać AI, jak tutaj możemy zastosować AI, żeby nasze firmy rosły szybciej i lepiej, żebyśmy więcej zarabiali.