Mentionsy

Natomiast okazuje się, że AI może zostać zainfekowane, czyli że można sztucznej inteligencji wstrzyknąć niebezpieczne treści.

Kto próbował do tej pory hakować AI?

I Rosja stara się tak zainfokować naszą infosferę,

Ale tutaj właśnie widzimy, że po prostu przez to, że ta sieć jest tak bardzo infekowana i tych artykułów są setki tysięcy, to dla modeli AI to staje się bardziej sensowną w jakimś sensie odpowiedzią.

No bo gdyby powiedzmy jakaś narracja o ukrainizacji Polski pojawiała się tylko na Twitterze albo w jakichś takich mało, w sensie, że w kilku jedynie,

chętniej mogą tam zostać inkorporowane strony prawdy, ponieważ znowu przez to, że jest ich tak dużo, no to one dla tych zbiorów danych, prawda, stają się znowu takie wiarygodne, to po pierwsze, ale po drugie one też wpływają na te algorytmy AI-owe w ten sposób, że no ten już nawet nauczony na jakimkolwiek zbiorze danych algorytm, kiedy szuka odpowiedzi na nasze pytanie, korzysta

A jakie były takie najczęściej promowane narracje przez operacje prawda, które w ten sposób miały zainfekować naszą sztuczną inteligencję?

W dużej mierze one dotyczyły kwestii związanych z Ukrainą, z wojną w Ukrainie, czyli to były takie narracje o tym, że chociażby ukraińskie elity są skorumpowane, uzależnione od narkotyków.

że Ukraina tak naprawdę należy do Rosji, że wojna jest w całości przegrana już w tym momencie, że rząd w Kijowie to jest rząd marionetkowy, tego typu narracje.

I pojawiło się jakieś takie zdjęcie, na którym bodajże była widoczna chusteczka biała do nosa, ale rosyjska dezinformacja wykorzystała je, żeby przedstawić, żeby pokazać, że to nie jest chusteczka do nosa, to jest biała kokaina i tutaj widzimy, jak europejscy przywódcy bawią się na całego w drodze do Kijowa.

A jak skuteczne jest w ogóle takie hakowanie AI?

i jeszcze kilka innych organizacji, to też wychodzi w moich prywatnych testach, to znaczy, kiedy pyta się modele generatywnej sztucznej inteligencji o pewne rzeczy związane właśnie, no nazwijmy to z geopolityką, albo właśnie z Rosją czy Ukrainą, to zdarza się, że ona naprawdę wykorzystuje te materiały, więc no to działa, tak, i no faktycznie też widać zdecydowany przyrost, tak, bo ta operacja zaczęła się bodajże w 2023 roku, tak, w miarę intensywnie,

ale widać, że jest wraz z rozwojem AI i z rozwojem samej operacji, widać po prostu, że tych artykułów jest coraz więcej i więcej.

To jest też możliwe, że AI wręcz poczuje się zachęcona, to jest złe słowo, ale że ona może zrozumieć, że my pytamy właśnie o te źródła i tym chętniej nam je pokazać, nawet jeśli to nie będzie naszą intencją.

Oczywiście jest też tak, że w ramach OpenAI i tak dalej działają takie zespoły, które mają właśnie tą operacją wpływu przeciwdziałać.

To nie jest tak, że w jednej trzecie jakichkolwiek pytań do AI pojawią się artykuły prawdy, no bo jak zapytamy na przykład, co mam zjeść na obiad, bo niektórzy ludzie pytają, no właśnie, czata ci pytają takie rzeczy, albo też na przykład, no nie wiem, jak wyliczyć stwierdzenie pitagorasa, to odpowiedź będzie inna

ale kiedy już zapytamy o chociażby wojnę w Ukrainie czy pokój w Ukrainie, no tu już jest bardzo wysoka szansa, że dostaniemy jakieś źródło z prawdy.

Wydaje mi się, że dzięki temu, że mamy dostęp do AI, to w jakimś sensie Rosji jest łatwiej, bo po prostu łatwiej jest jej generować te artykuły, co notabene jest tym trzecim sposobem wpływania na AI.

No bo jeśli my zadajemy AI jakieś pytania,

W sensie, żeby stworzyć tyle artykułów, to niezależnie od tego, czy piszemy je ręcznie, czy po prostu jakoś tam weryfikujemy, to muszą być osoby, które tworzą chociażby te prompty do AI, albo same to piszą, które wymyślają narrację.

Nawet przy dużym użyciu AI, zakładając, że tak jest, a tego nie jesteśmy aż tak pewni, chociaż American Sunlight Project pokazuje, że to są dowody na to, że właśnie te treści mogą być generowane także przez modele generatywne inteligencji, generatywne modele sztucznej inteligencji, ale nawet wtedy te koszty są dosyć wysokie.

Oczywiście też jest tak, że przez to, że tych artykułów jest tak dużo w różnych krajach, że mamy właśnie po francusku, po niemiecku i tak dalej, to znowu z perspektywy tych generatywnych modeli AI w jakimś sensie zwiększa wiarygodność tych treści, bo to już nie jest coś, co widzimy tylko w Polsce, tylko to jest...

narracja, na którą dowody w tym rozumieniu AI-owym mamy w wielu krajach i w wielu językach.

narzędzi AI-owych, z których korzystamy.

My, którzy chcemy w dalszym ciągu korzystać z narzędzi AI, ale chcemy też być świadomi wobec tego, co ta sztuczna inteligencja nam zwraca i co nam podpowiada.

No więc, prawda, na sensie jak głęboko zainfekowany już jest ten ekosystem mediowy, znaczy może nie mediowy, ta infosfera po prostu.

Po drugie, można też dbać o to, na jakich danych będziemy trenować naszą AI.

To znaczy, jeśli wprowadzić, bo ja teraz w swoim tekście dla pismu właśnie proponuję taką podwójną weryfikację zbiorów danych, na których trenowana jest AI.

którym jest ta AI-owa dezinformacja.

Bo kiedy TSA wchodziło w życie, to oczywiście ten temat już był, o AI się mówiło i to nie jest tak, że tego w tym akcie, w ramach tych ryzyk systemowych nie ma.

Ale wydaje się, że regulacja była tworzona, kiedy jeszcze nie zdawaliśmy sobie sprawy z tego, jak dużym ryzykiem jest ten wpływ AI na dezinformację.

Nie dalej jak dwa, trzy tygodnie temu wyszedł właśnie raport podsumowujący ostatnie działania OpenAI i właśnie te operacje wpływu, które zidentyfikowali, ale to, co oni identyfikują przede wszystkim, to są osoby, które z pomocą czata GPT

W tym sensie, że właśnie dlatego ja jestem taka niepewna, jeśli chodzi o użycie AI przez te największe operacje wpływu, bo to użycie w jakimś sensie na pewno się pojawia.

Nawet w tym sensie, że mamy pracowników, którym się nie chce samemu napisać newsa, więc korzystają z AI.

Ale jednak wydaje mi się, że ci aktorzy dezinformacji są trochę ostrożni, no bo właśnie wiedzą, że takie, że jeśli poproszą, jeśli będą masowo prosić AI o wygenerowanie im otwarcie dezinformacyjnych treści, to właśnie te zespoły badające operacje wpływu po stronie tych platform AI-owych to szybko wypatrzą, zauważą i na przykład zablokują im dostępy.

Więc trzeba stworzyć jakby jeszcze szersze i bardziej kompetentne zespoły walczące z operacjami wpływu, ale nie tylko w takim sensie, że oni po prostu patrzą na te zapytania, które my wysyłamy do AI, ale na przykład badają szerzej operację prawda i jakoś próbują uodpornić swój model na tego typu treści.