Mentionsy

Luki w Google Vertex AI, phishing przez PayPal oraz 71% wycieków danych z platformy ChatGPT.

Krytyczne podatności w Google Vertex AI umożliwiały eksfiltrację danych i przejęcie modeli uczenia maszynowego.

bezpieczeństwa chmurowego zidentyfikowali i zgłosili serię poważnych podatności w platformie Vertex AI należącej do Google Cloud, które w określonych scenariuszach pozwalały na nieautoryzowaną eskalację uprawnień oraz dostęp do wrażliwych danych treningowych.

Zespół inżynierów Google wdrożą już niezbędne poprawki w architekturze platformy, jednak administratorzy systemów są proszeni o przeprowadzenie audytu polityk dostępowych oraz weryfikację logów w systemach Security Information and Event Management pod kątem nietypowej aktywności kont usługowych powiązanych z projektami Vertex AI.

Wykorzystanie zweryfikowanych kont biznesowych PayPal do omijania systemów Secure Email Gateway.

Dzięki zastosowaniu tej techniki, wiadomości są generowane przez autentyczne serwery pocztowe PayPal, co powoduje, że przechodzą one bezbłędnie weryfikację mechanizmów Sender Policy Framework oraz Domain Based Message Authentication Reporting and Conformance, omijając większość korporacyjnych filtrów antyspamowych.

ChatGPT od OpenAI odpowiada za ponad 71% wszystkich przypadków ujawnienia danych firmowych, mimo że stanowi mniej niż połowę korporacyjnego użycia AI, wynika z nowego badania, które podkreśla rosnące wyzwania bezpieczeństwa, miarę jak generatywna sztuczna inteligencja staje się integralną częścią pracy.

Analiza Harmonic Security obejmująca 22,2 miliona zapytań do AI z 2025 roku wykazała, że zaledwie 6 aplikacji odpowiadało za 92,6% potencjalnego ujawnienia danych w przedsiębiorstwach, przy czym udział ChatGPT w ryzyku znacznie przewyższa jego 43,9% udziału w całkowitej liczbie zapytań.