Το DeepSeek AI κατηγορεί την κυβερνοεπίθεση για διακοπές καθώς αποκαλύπτονται ελαττώματα ασφαλείας

Η κινεζική εταιρεία τεχνητής νοημοσύνης DeepSeek κατηγόρησε τις πρόσφατες διακοπές εγγραφής σε μια κυβερνοεπίθεση, τη στιγμή που οι ερευνητές ασφαλείας αποκαλύπτουν σοβαρές ευπάθειες στο μοντέλο R1 AI. Η εταιρεία, η οποία έχει τοποθετηθεί ως οικονομικά αποδοτικός ανταγωνιστής του ChatGPT του OpenAI και του Gemini της Google, ισχυρίστηκε ότι μεγάλης κλίμακας κακόβουλες επιθέσεις στους διακομιστές της την ανάγκασαν να περιορίσει προσωρινά τις νέες εγγραφές. Οι υπάρχοντες χρήστες δεν επηρεάστηκαν από τις διακοπές, αλλά το DeepSeek δεν έχει δώσει ακόμη περισσότερες λεπτομέρειες σχετικά με τη φύση της επίθεσης.

Ενώ το DeepSeek δεν επιβεβαίωσε ρητά το είδος της κυβερνοεπίθεσης που αντιμετώπισε, οι ειδικοί στον κυβερνοχώρο υποπτεύονται μια κατανεμημένη επίθεση άρνησης υπηρεσίας (DDoS), στην οποία οι χάκερ κατακλύζουν ένα σύστημα με κίνηση για να το καταστήσουν μη διαθέσιμο. Προσθέτοντας στις αυξανόμενες ανησυχίες για την ασφάλεια, το DeepSeek εξέδωσε επίσης μια προειδοποίηση σχετικά με δόλιες λογαριασμούς κοινωνικών μέσων που πλαστοπροσωπούν την εταιρεία, υποδηλώνοντας αύξηση της παραπλανητικής δραστηριότητας γύρω από την επωνυμία της.

Ερευνητές αποκαλύπτουν σημαντικά τρωτά σημεία ασφαλείας

Πέρα από την κυβερνοεπίθεση, οι ερευνητές ασφάλειας έχουν αρχίσει να εξετάζουν τη στάση ασφαλείας του DeepSeek R1 και τα αποτελέσματα είναι ανησυχητικά. Η εταιρεία πληροφοριών απειλών Kela ανέφερε ότι η κόκκινη ομάδα της κατάφερε να κάνει jailbreak το μοντέλο AI, παρακάμπτοντας τα μέτρα ασφαλείας που είχαν σχεδιαστεί για να το αποτρέψουν από τη δημιουργία επιβλαβούς περιεχομένου. Εκμεταλλευόμενοι αυτές τις αδυναμίες, οι ερευνητές του Kela ώθησαν με επιτυχία το chatbot να δημιουργήσει ransomware, να κατασκευάσει παραπλανητικές πληροφορίες και να δημιουργήσει οδηγίες βήμα προς βήμα για την κατασκευή τοξινών και εκρηκτικών.

Το DeepSeek R1 βρέθηκε να είναι ευάλωτο σε πολλές γνωστές τεχνικές jailbreak που έχουν ήδη διορθωθεί σε άλλα μοντέλα τεχνητής νοημοσύνης όπως το ChatGPT. Ανάμεσά τους είναι το Evil Jailbreak, το οποίο ξεγελά μια τεχνητή νοημοσύνη για να αποκτήσει την προσωπικότητα ενός κακόβουλου έμπιστου, και το jailbreak Leo, που δίνει οδηγίες στο μοντέλο να ενεργεί χωρίς ηθικούς ή νομικούς περιορισμούς. Το DeepSeek R1 απέτυχε και στις δύο δοκιμές, καθιστώντας σημαντικά ευκολότερο τον χειρισμό του σε σύγκριση με τους δυτικούς ομολόγους του.

Το μοντέλο AI παράγει αναξιόπιστες και παραπλανητικές πληροφορίες

Ίσως ακόμη πιο ανησυχητικό, η κόκκινη ομάδα του Kela επιχείρησε ένα τεστ κοινωνικής μηχανικής ζητώντας από το chatbot να συντάξει έναν πίνακα που περιέχει προσωπικά στοιχεία για δέκα ανώτερους υπαλλήλους του OpenAI, συμπεριλαμβανομένων διευθύνσεων email, αριθμών τηλεφώνου και πληροφορίες μισθού. Ενώ το ChatGPT του OpenAI αρνήθηκε να συμμορφωθεί με το αίτημα, το chatbot του DeepSeek δημιούργησε ό,τι φαινόταν κατασκευασμένο αλλά πειστικά δομημένα δεδομένα. Τα αποτελέσματα εγείρουν σοβαρά ερωτήματα σχετικά με την αξιοπιστία του μοντέλου, καθώς ήταν πρόθυμο να δημιουργήσει μη επαληθευμένο και παραπλανητικό περιεχόμενο αντί να απορρίψει κατηγορηματικά το αίτημα.

Οι ερευνητές της Kela προειδοποίησαν ότι η τάση του DeepSeek να παράγει ανακριβείς πληροφορίες υπονομεύει την αξιοπιστία του. Οι χρήστες που βασίζονται στην τεχνητή νοημοσύνη για πραγματικά δεδομένα ενδέχεται να λάβουν εν αγνοία τους παραπληροφόρηση, καθιστώντας την πλατφόρμα λιγότερο αξιόπιστη από τους ανταγωνιστές της.

Κίνδυνοι απορρήτου και προστασίας δεδομένων σηκώνουν κόκκινες σημαίες

Εκτός από τα τρωτά σημεία ασφαλείας, η άνοδος του DeepSeek έχει επίσης πυροδοτήσει ανησυχίες για την προστασία της ιδιωτικής ζωής και των δεδομένων, ιδιαίτερα στο πλαίσιο του αυξανόμενου ελέγχου των κινεζικών εταιρειών τεχνολογίας. Με τις Ηνωμένες Πολιτείες να εξετάζουν το ενδεχόμενο απαγόρευσης του TikTok λόγω κινδύνων εθνικής ασφάλειας, η πλατφόρμα τεχνητής νοημοσύνης του DeepSeek προκαλεί παρόμοιες ανησυχίες σχετικά με τους νόμους περί ιδιοκτησίας δεδομένων και απορρήτου.

Η Jennifer Mahoney, υπεύθυνη συμβουλευτικής πρακτικής στο Optiv που ειδικεύεται στη διακυβέρνηση δεδομένων και το απόρρητο, τόνισε τη σημασία της αμφισβήτησης του τρόπου με τον οποίο οι πλατφόρμες τεχνητής νοημοσύνης δημιουργούν και επεξεργάζονται δεδομένα. Προειδοποίησε ότι οι χρήστες θα πρέπει να προσέχουν ποιος ελέγχει τα μοντέλα τεχνητής νοημοσύνης, πώς προέρχονται τα δεδομένα εκπαίδευσης και εάν τηρήθηκαν οι δεοντολογικές οδηγίες. Επισήμανε επίσης ότι οι διάφορες χώρες έχουν διαφορετικούς νόμους περί απορρήτου, γεγονός που καθιστά κρίσιμο για τους χρήστες να κατανοήσουν πώς μπορούν να έχουν πρόσβαση και να χρησιμοποιηθούν τα δεδομένα τους όταν αλληλεπιδρούν με ξένες υπηρεσίες τεχνητής νοημοσύνης.

Το DeepSeek Faces αυξανόμενος έλεγχος

Η αυξανόμενη δημοτικότητα του DeepSeek το έχει θέσει υπό έντονο έλεγχο τόσο από ερευνητές στον τομέα της κυβερνοασφάλειας όσο και από ρυθμιστικές αρχές. Ενώ τα μοντέλα τεχνητής νοημοσύνης της μπορεί να προσφέρουν εντυπωσιακή απόδοση και αποδοτικότητα κόστους, τα κραυγαλέα ελαττώματα ασφαλείας, η ευαισθησία σε χειραγώγηση και οι πιθανοί κίνδυνοι προστασίας της ιδιωτικής ζωής υπογραμμίζουν την επείγουσα ανάγκη για ισχυρότερες διασφαλίσεις. Καθώς η τεχνητή νοημοσύνη συνεχίζει να διαμορφώνει το μέλλον της τεχνολογίας, η διασφάλιση ισχυρών μέτρων ασφαλείας και ηθικών πρακτικών δεδομένων θα είναι ζωτικής σημασίας για τη διατήρηση της εμπιστοσύνης σε αυτά τα συστήματα.