Σε επείγουσα ενημέρωσή της η Google προς τους χρήστες του Gmail ροειδοποιεί για ένα νέο κύμα επιθέσεων με τη χρήση της Τεχνητής Νοημοσύνης για να εκμεταλλευτεί τρωτά σημεία ασφαλείας. Ιδιαίτερα επικίνδυνες είναι οι λεγόμενες “indirect prompt injections”, κατά τις οποίες κακόβουλες οδηγίες κρύβονται σε μηνύματα ηλεκτρονικού ταχυδρομείου και μπορούν να εκτελεστούν απαρατήρητες από εργαλεία AI όπως το Gemini. Η απειλή αυτή δείχνει πόσο εύκολα οι επιτιθέμενοι μπορούν να κάνουν κατάχρηση της ΑΙ για να θέσουν σε κίνδυνο τους χρήστες.
Πώς λειτουργούν οι επιθέσεις AI στο Gmail
Οι επιτιθέμενοι χρησιμοποιούν μια τεχνική που κρύβει αόρατες εντολές σε μηνύματα ηλεκτρονικού ταχυδρομείου. Αυτές είναι αόρατες για τον χρήστη, αλλά αναγνωρίζονται από την τεχνητή νοημοσύνη του Gmail “Gemini”. Όταν οι χρήστες χρησιμοποιούν τη λειτουργία “συγχώνευση email”, ο Gemini εκτελεί τις κρυμμένες εντολές. Οι οδηγίες αυτές μπορεί να είναι πολύ λεπτομερείς και μπορούν, για παράδειγμα, να στέλνουν μηνύματα ηλεκτρονικού ταχυδρομείου απαρατήρητα, να αναζητούν κωδικούς πρόσβασης στο γραμματοκιβώτιο ή να ρυθμίζουν την προώθηση μηνυμάτων ηλεκτρονικού ταχυδρομείου, ώστε να μπορούν να διαβαστούν όλα τα μηνύματα ηλεκτρονικού ταχυδρομείου.
Διαρροή δεδομένων: Ευαίσθητες πληροφορίες (επαφές, περιεχόμενο ηλεκτρονικού ταχυδρομείου, καταχωρήσεις ημερολογίου) αποστέλλονται απαρατήρητες στον επιτιθέμενο.
– Χειραγώγηση λογαριασμού
– Προώθηση: Τα εισερχόμενα μηνύματα…
