Mentionsy

I w tych 30 sekundach, które oczywiście już dawno przekroczyłem, chciałem tylko jeszcze wspomnieć taki disclaimer.

No bo na przykład część z tych ataków na deweloperów związanych z krypto jest związane z tym, że wysyłają jakieś na przykład oferty pracy i próbują kogoś zainteresować dodatkową robotą, dodatkową pracą i tym podobne.

O klikaniu w linki z maili phishingowych.

Ja sobie jeszcze jedną rzecz przypomniałem, że to był też taki moment, gdzie sobie uświadomiłem, że miałem właśnie dużo różnych spotkań w trakcie pracy, dużo różnych ustaleń, maili i tak dalej.

Teraz pewnie generative AI bardziej niż ten, ale z drugiej strony w ogóle do sztucznej inteligencji.

I mówiliśmy tam o AI i pamiętam, że takim wstępem jakby do tej prezentacji, to w ogóle było śmiesznie, bo to były jakby wystąpienia oddalone od siebie o, nie wiem, trzy miesiące czy coś w tym stylu, natomiast gdzieś połowa prezentacji musieliśmy zmienić, no bo w AI dużo rzeczy się dzieje w trzy miesiące, no więc było dużo fajnych tam elementów do aktualizacji.

I pamiętam, że na samym początku mieliśmy takie slajdy, że to co obserwujemy to są dwa style w AI, czy podejścia do AI.

Możemy różnie o tym myśleć, ale bardzo dużo organizacji aktualnie używa AI.

Bardzo dużo deweloperów używa aktualnie AI, więc powoli bym powiedział, że trudno znaleźć deweloperów, którzy nie mają tej styczności, prawda?

Kto ma dostęp do tego AI?

Ja tylko powiem zupełnie szczerze, ponieważ jak gdyby odpytałem stronę Open Close swojego komputera firmowego, to trzy dni później czy pięć dni później napisał do mnie mój własny bezpiecznik z pytaniem czy to zainstalowała się.

Ale z tego, co różni ludzie mówią, to jednak trochę takich osób, które to zainstalowało tak w trybie YOLO w organizacjach było.

Czyli co możesz tam, nie wiem, allow listy, zaufanie do zewnętrznych programów, co można, a co nie można zainstalować w organizacji.

Jeżeli tworzyłeś kiedyś detekcję na podstawie magicznego refleksa i masz prostą regułę, takie są parametry, to jeżeli masz AI, którego prąta możesz zrobić base 64, tu zmienić język, tu poprzestawiać jakieś znaki, to te wszystkie tradycyjne elementy w ogóle mogą nam nie zadziałać.

Jest coraz więcej jakby informacji, że pojawiają się albo inaczej, pojawiają się informacje, że jakiś tam malware jest częściowo wspomagany AI-em na zasadzie, że widać jakby w kodzie, że tutaj jakiś AI maczał swoje palce, więc to jest to.

Co do takich zagrożeń, takich ataków konkretnie na jakby systemy AI-owe, to bym powiedział, że także takie rzeczy potrafimy już widzieć.

Starają się z jednej strony wykorzystać AI, starają się go też wykorzystać jako miejsce, w którym widzą, że ludzie działają.

Czy widziałem jakieś magiczne ataki z wykorzystaniem AI, które totalnie były game changerem?

No bo, no taki skill, który ma możliwość właśnie wysłania maila, czy sprawdzenia kalendarza, czy, znaczy, wysłania to jeszcze może mniej... Chociaż nie, z drugiej strony, jak dobrze, jak dobremu dyrektorowi wrzucisz, żeby wysłał dobrego maila, to uff... O, jasne, jasne.

Ale wydaje mi się, że to jest właśnie przykład tych takich bardziej nowoczesnych metod obrony, takich typowo AI-owych, że tutaj te małe już skille się pojawiają, więc musimy mieć też coś, co w AI-u przed nimi będzie nas chroniło.

Więc wydaje mi się, że coraz więcej, że tak jak redaktorzy używają AI i dzięki temu są coraz bardziej efektywni,

Chyba słuchałem właśnie, nie wiem czy jeden z pierwszych waszych rozmów to nie było, gdzie ty chyba pytałeś Piotrka, czyli jaki projekt największy stworzyłeś z AI.

Ale chyba też, bo jeszcze trochę podrążę sobie ten temat, bo delikatnie chyba mnie nie zrozumiałeś pod kątem, bo super, że przedstawiłeś tą perspektywę bezpieczników, którzy będą korzystali właśnie z takiej armii i będą mieli prawdopodobnie swoje workflow pracy z AI właśnie do tego, żeby szybciej wykrywać podatności, żeby szybciej wykrywać ewentualne zagrożenia.

Kiedy mi bezpiecznicy pozwolą zainstalować Open Claw, żeby dać mu dostęp do mojej poczty, żeby odpowiadał na durne maile od innych durnych ludzi?

Żeby nie zaczął wysyłać głupich maili albo nie zaczął wysyłać jakichś danych firmowych na zewnątrz.