A próxima modela de Anthropic poderá ser um 'ponto de virada' na cibersegurança. Especialistas afirmam que também pode ser uma preocupação - CNN.

Quando a startup de inteligência artificial Mythos AI começou a usar o modelo de linguagem grande da Anthropic para desenvolver seu software de automação para empresas de navegação e defesa, o cofundador e CEO Ian Cinnamon disse que ele e sua equipe foram capazes de construir sistemas de cibersegurança mais avançados em um ano do que haviam feito em toda a sua carreira anterior.

Mas Cinnamon também disse que o modelo de linguagem grande da Anthropic, chamado Claude, poderia ser usado para desenvolver ciberataques mais sofisticados, permitindo que hackers contornem as defesas de segurança mais rapidamente do que nunca.

"Acho que a próxima versão da Anthropic será um momento divisor de águas para a cibersegurança", disse Cinnamon à CNN em uma entrevista. "Mas acho que é igualmente preocupante quanto ao que pode ser feito com ela."

O modelo de linguagem grande mais recente da Anthropic, chamado Claude 3, foi lançado em março de 2024. Mas a empresa já está trabalhando em seu próximo modelo de linguagem grande, de acordo com um memorando de funcionários vazado obtido pela The Information. O novo modelo será mais rápido que o Claude 3, disse a Anthropic aos funcionários no memorando.

A Anthropic não quis comentar sobre o memorando vazado. A empresa também não quis comentar sobre as preocupações de Cinnamon.

Empresas de IA como a Anthropic e a OpenAI treinam modelos de linguagem grande em enormes conjuntos de dados de texto da internet, incluindo livros, artigos e postagens em redes sociais. Os modelos de linguagem grande podem então ser usados para gerar texto, traduzir idiomas, escrever diferentes tipos de conteúdo criativo e responder a perguntas de forma informativa.

Os modelos de linguagem grande também podem ser usados para desenvolver sistemas de IA mais avançados, como os usados em carros autônomos e robôs. Eles também podem ser usados para desenvolver sistemas de cibersegurança mais sofisticados, como os usados para detectar e prevenir ataques cibernéticos.

Mas os modelos de linguagem grande também podem ser usados para desenvolver ciberataques mais sofisticados, como os usados para contornar as defesas de segurança. Os hackers podem usar modelos de linguagem grande para gerar e-mails de phishing mais convincentes, por exemplo, ou para desenvolver malware mais sofisticado.

Os especialistas em cibersegurança estão preocupados com o fato de que os modelos de linguagem grande podem ser usados para desenvolver ciberataques mais sofisticados, o que pode levar a um aumento no número de ataques cibernéticos bem-sucedidos.

"Os modelos de linguagem grande podem ser usados para desenvolver ciberataques mais sofisticados, o que pode levar a um aumento no número de ataques cibernéticos bem-sucedidos", disse o CEO da Mythos AI, Ian Cinnamon.

"Mas os modelos de linguagem grande também podem ser usados para desenvolver sistemas de cibersegurança mais sofisticados, o que pode ajudar a proteger contra ataques cibernéticos."

A Anthropic está ciente das preocupações sobre o uso de seus modelos de linguagem grande para desenvolver ciberataques. A empresa disse que está trabalhando para garantir que seus modelos de linguagem grande sejam usados de forma responsável.

"Estamos comprometidos em garantir que nossos modelos de linguagem grande sejam usados de forma responsável", disse a Anthropic em um comunicado. "Estamos trabalhando com especialistas em cibersegurança para desenvolver diretrizes para o uso responsável de nossos modelos de linguagem grande."