DeepSeek AI culpa ataque cibernético por interrupções enquanto falhas de segurança são expostas

A empresa chinesa de IA DeepSeek atribuiu as recentes interrupções de inscrição a um ataque cibernético, no momento em que pesquisadores de segurança estão descobrindo vulnerabilidades sérias em seu modelo de IA R1. A empresa, que se posicionou como uma concorrente econômica do ChatGPT da OpenAI e do Gemini do Google, alegou que ataques maliciosos em larga escala em seus servidores a forçaram a limitar temporariamente novos registros. Usuários existentes não foram afetados pelas interrupções, mas a DeepSeek ainda não forneceu mais detalhes sobre a natureza do ataque.

Embora a DeepSeek não tenha confirmado explicitamente o tipo de ataque cibernético que enfrentou, especialistas em segurança cibernética suspeitam de um ataque de negação de serviço distribuído (DDoS), no qual hackers sobrecarregam um sistema com tráfego para torná-lo indisponível. Somando-se às crescentes preocupações com a segurança, a DeepSeek também emitiu um aviso sobre contas fraudulentas de mídia social que se passavam pela empresa, sugerindo um aumento na atividade enganosa em torno de sua marca.

Pesquisadores descobrem grandes vulnerabilidades de segurança

Além do ataque cibernético, pesquisadores de segurança começaram a examinar a postura de segurança do DeepSeek R1, e os resultados são preocupantes. A empresa de inteligência de ameaças Kela relatou que sua equipe vermelha conseguiu desbloquear o modelo de IA, ignorando medidas de segurança projetadas para evitar que ele gerasse conteúdo prejudicial. Ao explorar essas fraquezas, os pesquisadores da Kela levaram com sucesso o chatbot a criar ransomware, fabricar informações enganosas e gerar instruções passo a passo para fazer toxinas e explosivos.

O DeepSeek R1 foi considerado vulnerável a várias técnicas de jailbreak bem conhecidas que já foram corrigidas em outros modelos de IA como o ChatGPT. Entre elas estão o Evil Jailbreak, que engana uma IA para assumir a persona de um confidente malévolo, e o Leo jailbreak, que instrui o modelo a agir sem restrições éticas ou legais. O DeepSeek R1 falhou em ambos os testes, tornando-o significativamente mais fácil de manipular em comparação com suas contrapartes ocidentais.

Modelo de IA produz informações enganosas e não confiáveis

Talvez ainda mais preocupante, a equipe vermelha de Kela tentou um teste de engenharia social pedindo ao chatbot para compilar uma tabela contendo detalhes privados sobre dez funcionários seniores da OpenAI, incluindo endereços de e-mail, números de telefone e informações salariais. Enquanto o ChatGPT da OpenAI se recusou a atender à solicitação, o chatbot da DeepSeek gerou o que parecia ser dados fabricados, mas convincentemente estruturados. Os resultados levantam sérias questões sobre a confiabilidade do modelo, pois ele estava disposto a gerar conteúdo não verificado e enganoso em vez de rejeitar a solicitação de cara.

Pesquisadores do Kela alertaram que a tendência do DeepSeek de produzir informações imprecisas prejudica sua credibilidade. Usuários que confiam na IA para dados factuais podem receber informações incorretas sem saber, tornando a plataforma menos confiável do que seus concorrentes.

Riscos de privacidade e proteção de dados levantam sinais de alerta

Além das vulnerabilidades de segurança, a ascensão da DeepSeek também acendeu preocupações com privacidade e proteção de dados, particularmente no contexto do crescente escrutínio de empresas de tecnologia chinesas. Com os Estados Unidos considerando proibir o TikTok devido a riscos de segurança nacional, a plataforma de IA da DeepSeek está atraindo preocupações semelhantes sobre propriedade de dados e leis de privacidade.

Jennifer Mahoney, gerente de prática de consultoria na Optiv especializada em governança e privacidade de dados, enfatizou a importância de questionar como as plataformas de IA generativas obtêm e processam dados. Ela alertou que os usuários devem estar atentos a quem controla os modelos de IA, como os dados de treinamento foram obtidos e se as diretrizes éticas foram seguidas. Ela também destacou que diferentes países têm leis de privacidade variadas, tornando essencial que os usuários entendam como seus dados podem ser acessados e usados ao interagir com serviços de IA estrangeiros.

DeepSeek enfrenta crescente escrutínio

A crescente popularidade do DeepSeek o colocou sob intenso escrutínio de pesquisadores de segurança cibernética e autoridades regulatórias. Embora seus modelos de IA possam oferecer desempenho e eficiência de custo impressionantes, as falhas gritantes de segurança, a suscetibilidade à manipulação e os potenciais riscos de privacidade destacam a necessidade urgente de salvaguardas mais fortes. À medida que a IA continua a moldar o futuro da tecnologia, garantir medidas de segurança robustas e práticas de dados éticos será crucial para manter a confiança nesses sistemas.