Mentionsy

Czy można „zhakować” sztuczną inteligencję… samym tekstem? Okazuje się, że tak – i nazywa się to prompt injection. W tym odcinku rozmawiam z Tomkiem, ekspertem od cyberbezpieczeństwa, który stworzył Vigil Guard – narzędzie do wykrywania i blokowania takich ataków.

Mówimy o tym, jak działają te zagrożenia, dlaczego język polski to zupełnie inna liga dla AI i co się dzieje, gdy model zaczyna ufać temu, czemu nie powinien. Bo w świecie AI bezpieczeństwo nie zaczyna się od kodu – tylko od słów.

📝 Rozdziały:

▶00:00:01 Wprowadzenie do tematu AI

▶00:00:48 Historia narzędzia Vigil Guard

▶00:02:34 Funkcje Vigil Guard

00:▶7:57 Wsparcie dla języka polskiego

▶00:11:09 Trening modelu do analizy

▶00:12:14 Tłumaczenie ataków na język polski

▶00:13:55 Kreatywność w atakach

▶00:17:42 Integracja z SÓJKA

▶00:18:50 Inne ataki na LLM

▶00:23:01 Anonimizacja danych

▶00:27:49 Lokalna instalacja Vigil Guard

▶00:35:39 Demo działania Vigil Guard

▶0:48:01 Podsumowanie i zakończenie

Odwiedź mnie również na:

☕ Postaw cyfrową kawkę: ⁠⁠⁠⁠⁠⁠https://suppi.pl/kporembinski⁠⁠⁠⁠⁠⁠

🔹 Strona: ⁠⁠⁠⁠⁠⁠https://kamilporembinski.pl/⁠⁠⁠⁠⁠⁠

🔹 LinkedIn: ⁠⁠⁠⁠⁠⁠https://www.linkedin.com/in/kamilporembinski/⁠⁠⁠⁠⁠⁠

🔹 Facebook: ⁠⁠⁠⁠⁠⁠https://www.facebook.com/kamilporembinski/⁠⁠⁠⁠⁠⁠

🔹 Instagram: ⁠https://www.instagram.com/kamilporembinski/⁠

🔹 YouTube: ⁠https://www.youtube.com/@KamilPorembinski⁠

Oraz mój podcast Spod Wody:

🤿 ⁠⁠⁠⁠⁠⁠https://spodwody.pl/⁠⁠⁠⁠⁠⁠

🤿 ⁠⁠⁠⁠⁠⁠https://www.youtube.com/c/SpodWody⁠⁠⁠⁠⁠⁠

© Wszystkie znaki handlowe należą do ich prawowitych właścicieli.

👌 Dziękuję za Waszą uwagę.